«Риск потери контроля над цивилизацией». Маск, Возняк и тысяча ученых призвали приостановить обучение ИИ-систем

Илон Маск, Стив Возняк и еще тысяча других экспертов из ИТ-индустрии призывают ввести полугодовой мораторий на обучение ИИ — об этом говорится в опубликованном открытом письме. В нем они предостерегают общество о потенциальных рисках, которые возникают при ускоренном обучении нейросетей, и задаются вопросом, нужно ли нам такое будущее. 

Письмо опубликовано некоммерческим институтом Future of Life, его подписантами выступают многие известные в ИТ-индустрии эксперты. Основная цель письма — призвать занимающиеся развитием ИИ-моделей лаборатории «поставить разработку на паузу, пока для отрасли не будут разработаны общие протоколы и стандарты безопасности, применение которых станет проверяться независимыми аудиторами».

«Мы призываем все ИИ-лаборатории немедленно приостановить как минимум на 6 месяцев обучение систем более мощных, чем GPT-4», — говорится в письме. «Необходимо спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы? Должны ли автоматизировать все рабочие места? Должны ли развивать нечеловеческие умы, которые в конечном счете могут превзойти нас численностью, перехитрить и заменить нас? Должны ли рисковать потерей контроля над нашей цивилизацией?» — задаются вопросом эксперты.

Но есть сообщения, что имена якобы добавляются в список как шутка.

Напомним: о запуске новой версии чат-бота GPT-4 в OpenAI заявили лишь несколько недель назад. Теперь он способен не только отвечать на вопросы, писать код и поддерживать беседу, но и работать с изображениями. По заявлению разработчиков, GPT-4 сдала смоделированный адвокатский экзамен настолько хорошо, что попала в 10% лучших «учащихся».

Наш канал в Telegram. Присоединяйтесь!

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро