Искусственный интеллект давал опасные рекомендации больным раком

 
10 770
65
27 июля 2018 в 15:21
Автор: Ян Альшевский. Фото: DistilNFO

Суперкомпьютер IBM Watson, который после ряда экспертиз получил похвалу за эффективный подбор способов лечения раковых заболеваний, все же может допускать ошибки. К такому выводу пришли медицинские эксперты, проанализировав данные о рекомендациях пациентам. Оказалось, что машина ошибается достаточно регулярно, и иногда эти ошибки могут быть фатальными для больного.

В качестве одного из примеров приводят ситуацию с 65-летним мужчиной, которому ИИ назначил препарат, способный в некоторых случаях вызвать неконтролируемое кровотечение. У пациента в диагностической карте был указан этот момент, однако искусственный интеллект к сведению информацию не принял.

Проблема, считают эксперты, в том, что инженеры-врачи, ответственные за обучение ИИ, «скормили» ему информацию о гипотетических пациентах, а не реальных случаях. В итоге некоторые специалисты, не сдерживаясь в обратной связи с IBM, называли суперкомпьютер «куском **** [фекалий]».

Несмотря на все сложности, рекомендации ИИ продолжают применять на практике, хоть врачи и не используют их без оглядки. А в IBM прекрасно осведомлены, что систему необходимо дорабатывать.

Смартфоны в каталоге Onliner.by

Наш канал в Telegram. Присоединяйтесь!

Быстрая связь с редакцией: читайте паблик-чат Onliner и пишите нам в Viber!

Автор: Ян Альшевский. Фото: DistilNFO