ИИ по рентгеновским снимкам научился определять расу человека. Ученые обеспокоены
Основываясь на рентгеновских снимках и изображениях компьютерной томографии, искусственный интеллект (ИИ) с точностью до 90% смог определить расу человека. Судя по материалу Science Alert, это «обеспокоило ученых». Исследование опубликовано в журнале Lancet Digital Health.
Сначала ИИ обучали на множестве снимков рентгенографии грудной клетки разных людей. Правда, на снимках были подписи с определением расы человека — темнокожий, белокожий, азиат. После решили провести эксперимент: алгоритму на совершенно другом наборе изображений (без каких-либо пометок о цвете кожи или волос) предложили определить, к какой расе относятся люди. ИИ справился — причем сделал это с точностью 90% без идентифицирующих признаков для всех частей тела.
Для чистоты эксперимента в следующей итерации теста исследователи убрали данные об индексе массы тела, охвате груди и других признаках, на которых алгоритм мог основываться при принятии решения. И все равно: определить расу ИИ смог.
Точного ответа, на каких основаниях алгоритм делает вывод, пока нет. Есть предположение: ИИ распознает различия меланина в коже людей, которые проявляются на снимках, но не видны невооруженным глазом. «Полученные результаты поднимают некоторые тревожные вопросы о роли ИИ в медицинской диагностике, оценке и лечении пациентов», — резюмируется в материале.
Наш канал в Telegram. Присоединяйтесь!
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
