«Риск потери контроля над цивилизацией». Маск, Возняк и тысяча ученых призвали приостановить обучение ИИ-систем

 
19 480
29 марта 2023 в 15:00
Автор: Антон Мерзляков
Автор: Антон Мерзляков
Не бейте копилочку!
Оплачивайте покупки частями без первого взноса с Minipay

Илон Маск, Стив Возняк и еще тысяча других экспертов из ИТ-индустрии призывают ввести полугодовой мораторий на обучение ИИ — об этом говорится в опубликованном открытом письме. В нем они предостерегают общество о потенциальных рисках, которые возникают при ускоренном обучении нейросетей, и задаются вопросом, нужно ли нам такое будущее. 

Письмо опубликовано некоммерческим институтом Future of Life, его подписантами выступают многие известные в ИТ-индустрии эксперты. Основная цель письма — призвать занимающиеся развитием ИИ-моделей лаборатории «поставить разработку на паузу, пока для отрасли не будут разработаны общие протоколы и стандарты безопасности, применение которых станет проверяться независимыми аудиторами».

«Мы призываем все ИИ-лаборатории немедленно приостановить как минимум на 6 месяцев обучение систем более мощных, чем GPT-4», — говорится в письме. «Необходимо спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы? Должны ли автоматизировать все рабочие места? Должны ли развивать нечеловеческие умы, которые в конечном счете могут превзойти нас численностью, перехитрить и заменить нас? Должны ли рисковать потерей контроля над нашей цивилизацией?» — задаются вопросом эксперты.

Но есть сообщения, что имена якобы добавляются в список как шутка.

Напомним: о запуске новой версии чат-бота GPT-4 в OpenAI заявили лишь несколько недель назад. Теперь он способен не только отвечать на вопросы, писать код и поддерживать беседу, но и работать с изображениями. По заявлению разработчиков, GPT-4 сдала смоделированный адвокатский экзамен настолько хорошо, что попала в 10% лучших «учащихся».


Выбор покупателей
беспроводные наушники с микрофоном, вставные, портативные, Bluetooth 5.3, 20-20000 Гц, время работы 5.5 ч, с кейсом 20 ч
Выбор покупателей
802.11ac (Wi-Fi 5), 2.4 ГГц/5 ГГц, до 1167 Mbps, 802.1X, WAN, 3xGigabit LAN, 1xUSB
Выбор покупателей
Onlíner рекомендует
умные, максимальная нагрузка: 180 кг, 9 измеряемых показателей
Выбор покупателей
Onlíner рекомендует
термогигрометр, интеграция в "умный дом": нет, питание: батарейки

Наш канал в Telegram. Присоединяйтесь!

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро