Discord случайным образом блокировал юзеров. И вновь виноват ИИ
Ошибка в инструментах модерации Discord привела к некорректной блокировке аккаунтов. Об этом сообщила служба поддержки платформы: утверждается, что только за последние выходные были заблокированы 200 аккаунтов, а с мая 2026-го с этой проблемой столкнулись 8200 человек.
Утверждается, что проблема заключалась в публикациях с изображениями, на которых присутствовала квадратная сетка. Discord ошибочно помечал их как материалы, содержащие сцены сексуального насилия над детьми, даже если там была таблица Excel или инвентарь из Minecraft.
Отметим, что в Discord используют инструменты модерации контента на основе искусственного интеллекта: заведомо вредоносная информация сравнивается с той, что публикуют пользователи платформы. Служба поддержки признала, что иногда эта система ошибочно определяет безобидный контент как нарушающий правила. Поэтому до принятия каких-либо мер в отношении аккаунтов, отмеченных системой, их проверяют сотрудники компании:
— Предполагалось, что во время такой проверки будет лишь временно приостановлена загрузка контента, а не что учетная запись будет заблокирована. Однако из-за ошибки в системе происходило именно второе. Когда наши сотрудники проверяли такие аккаунты и подтверждали, что нарушения отсутствуют, та же ошибка не позволяла автоматически снять блокировку, поэтому она оставалась в силе.
Компания сообщила, что все учетные записи, которые были заблокированы по ошибке из-за ложных срабатываний, будут восстановлены.
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
