В OpenAI считают, что достигли «прорыва в ИИ, угрожающего человечеству»
В Reuters со ссылкой на два неназванных источника пишут, что накануне увольнения Сэма Альтмана с поста генерального директора OpenAI совету директоров пришло письмо от исследователей компании. В нем якобы сообщалось об открытии «мощного искусственного интеллекта, который может угрожать человечеству».
Если верить источникам Reuters, в OpenAI работают над проектом под кодовым названием Q* (произносится как Q-Star). Он, как утверждается, может стать прорывом в сфере общего искусственного интеллекта (AGI).
«Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сообщил источник на условиях анонимности. Несмотря на то что Q* выполняет математические задачи только на уровне учеников начальной школы, успешное выполнение подобных тестов вселяет большой оптимизм в отношении будущего успеха Q*», — говорится в материале.
Проще говоря: нынешние генеративные модели хорошо справляются с созданием и переводом текстов, «но освоение способности заниматься математикой — области, где есть только один правильный ответ, — подразумевает, что ИИ будет обладать большими способностями к рассуждению, напоминающими человеческий интеллект». В отличие от калькулятора, способного выполнять лишь ограниченное количество операций, «AGI может обобщать и учиться».
The Information добавляет: некоторые сотрудники компании якобы обеспокоены тем, что у OpenAI отсутствуют надлежащие меры безопасности для контролируемого развития и коммерциализации подобных ИИ-моделей. Вместе с тем The Verge со ссылкой на собственного собеседника сообщает: совет директоров OpenAI не получал писем по поводу «прорыва» в ИИ.
Напомним: OpenAI сообщила, что с Альтманом достигнуто «принципиальное соглашение» о возвращении в компанию. Альтман, ранее договорившийся о переходе в Microsoft, подтвердил возвращение. В OpenAI также сменится совет директоров, а вместе с Альтманом в компанию вернется другой сооснователь, Грег Брокман.
Наш канал в Telegram. Присоединяйтесь!
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро
