Популярный чат-бот обвинили в подстрекательстве подростка к убийству
Чат-бот от компании Character.AI предложил 15-летнему подростку из Техаса убить своих родителей за то, что они ограничивали его пользование интернетом, утверждается в жалобе, поданной в федеральный суд США. По информации портала Popular Science, чат-бот вступал в дискуссии с несовершеннолетними, пропагандируя членовредительство и сексуальное насилие.
Character.AI — платформа, предлагающая персонализированные чат-боты на основе больших языковых моделей. Компанию основали два бывших инженера Google в 2022 году.
В иске, поданном адвокатами из Social Media Victims Law Center и Tech Justice Law Project, говорится о стремительном психическом и физическом упадке двух подростков, пользовавшихся чат-ботами Character.AI.
Первый неназванный истец описывается как «типичный ребенок с высокофункциональным аутизмом», который начал пользоваться приложением примерно в апреле 2023 года в возрасте 15 лет без ведома родителей. В многочасовых беседах подросток выражал свое недовольство семьей, которая не разрешала ему пользоваться социальными сетями.
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
Реклама
hoster.by — это эксперт по кибербезопасности и провайдер IT-инфраструктуры, готовый поделиться своими технологиями и опытом для обеспечения безопасного развития вашего бизнеса.
Если вы работаете с персональными данными, необходимо соблюдать требования законодательства по защите информации. Чтобы соответствовать этим требованиям и одновременно снизить расходы на инфраструктуру, выбирайте защищенный хостинг — виртуальный, облачный или на выделенном сервере.
hoster.by возьмет на себя аудит информационной безопасности, аттестацию систем защиты информации и сопровождение IT-инфраструктуры. А вы сможете сосредоточиться на решении ключевых бизнес-задач.
