ИИ по рентгеновским снимкам научился определять расу человека. Ученые обеспокоены

 
7798
19 мая 2022 в 10:08

Основываясь на рентгеновских снимках и изображениях компьютерной томографии, искусственный интеллект (ИИ) с точностью до 90% смог определить расу человека. Судя по материалу Science Alert, это «обеспокоило ученых». Исследование опубликовано в журнале Lancet Digital Health.

Сначала ИИ обучали на множестве снимков рентгенографии грудной клетки разных людей. Правда, на снимках были подписи с определением расы человека — темнокожий, белокожий, азиат. После решили провести эксперимент: алгоритму на совершенно другом наборе изображений (без каких-либо пометок о цвете кожи или волос) предложили определить, к какой расе относятся люди. ИИ справился — причем сделал это с точностью 90% без идентифицирующих признаков для всех частей тела.

Для чистоты эксперимента в следующей итерации теста исследователи убрали данные об индексе массы тела, охвате груди и других признаках, на которых алгоритм мог основываться при принятии решения. И все равно: определить расу ИИ смог.

Точного ответа, на каких основаниях алгоритм делает вывод, пока нет. Есть предположение: ИИ распознает различия меланина в коже людей, которые проявляются на снимках, но не видны невооруженным глазом. «Полученные результаты поднимают некоторые тревожные вопросы о роли ИИ в медицинской диагностике, оценке и лечении пациентов», — резюмируется в материале.


32" 1920x1080 (Full HD), частота матрицы 60 Гц, Smart TV (Samsung Tizen), AirPlay, Wi-Fi
55" 3840x2160 (4K UHD), матрица OLED, частота матрицы 120 Гц, Smart TV (LG webOS), HDR10, Dolby Vision, HLG, Dolby Atmos, AirPlay, Wi-Fi, смарт пульт

Наш канал в Telegram. Присоединяйтесь!

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро