ВОЗ назвала риски использования нейросетей при постановке диагнозов

Использовать нейросети по типу ChatGPT, Bard, Bert и других в медицинских целях стоит настороженно, пишет ВОЗ. 

«Крайне важно тщательно изучить риски при использовании LLM-моделей (больших языковых моделей. — Прим. ред.) для улучшения доступа к медицинской информации в качестве инструмента поддержки принятия решений или даже для расширения диагностических возможностей в условиях ограниченных ресурсов для защиты здоровья людей и уменьшения несправедливости», — добавляют в заметке.

Проще говоря, в ВОЗ опасаются, что чат-боты могут предоставлять непроверенную или вовсе неверную информацию о здоровье, вместе с тем делясь данными о болезнях пациентов. В частности, в организации опасаются следующего:

• ИИ могут обучать на предвзятых данных, вследствие чего система может генерировать «ложную или неточную информацию, которая может принести ущерб здоровью и инклюзивности»;
• иногда нейросети генерируют ответы, кажущиеся достоверными и правдоподобными, но по факту таковыми не являющиеся;
• не все ИИ-модели обучаются защищать предоставленную им чувствительную информацию, в том числе касающуюся здоровья пользователей;
• чат-боты способны генерировать информацию в форме текста, аудио- и видеоконтента, что добавляет убедительности, но юзеры не всегда могут отличить обман от достоверных данных.

Вместе с тем в материале ВОЗ уточняется: организация «одобрительно относится к надлежащему использованию LLM-моделей». При этом, по мнению представителей ВОЗ, ИИ нуждается в «прозрачности, инклюзивности, участии общественности, контроле экспертов и тщательной оценке», прежде чем его начнут использовать еще активнее в области здравоохранения.

Наш канал в Telegram. Присоединяйтесь!

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро