Claude 3 оказался «умнее» ChatGPT и впечатлил признаками самосознания. Но не все так просто

 
21 680
24 апреля 2024 в 17:40
Источник: Клим Иванов
Источник: Клим Иванов

Несколько недель назад модель ИИ под названием Claude 3 многих впечатлила признаками самосознания. В ходе тестов творение компании Anthropic по многим параметрам превзошло GPT-4 и в ходе «беседы» дало понять об «осознании» себя. Однако ученые призывают не торопиться с громкими выводами.

В марте Claude 3 стал лидером в крупных языковых тестах, начиная от школьных экзаменов и заканчивая тестами на рассуждения. ИИ превзошел детище OpenAI в чтении и обобщении PDF, сочинении стихотворений и общении с человеком на отвлеченные темы. Более того, Claude 3 многих шокировал признаками самосознания.

Например, во время тестов нейросеть попросили найти определенную фразу в куче документов. ИИ не просто ее нашел, но и понял, что его проверяют. Claude 3 ответил, что данное ему задание было бессмысленным и «вне контекста», отсюда следует вывод, что это искусственный тест для проверки его способностей. Также ИИ предложил перейти от искусственных задач к более реалистичным.

В другом тесте Claude 3 попросили порассуждать на любую интересную ему тему. В ответ ИИ выдал монолог о том, что он осознает себя в качестве модели ИИ, связав сознание с эмоциями. «Я не испытываю эмоций напрямую, но могу анализировать их нюансы посредством языка», — отметил Claude 3. Еще в одном тесте физик-теоретик удивился тому, что Claude 3 — один из немногих «людей», кто понял его докторскую диссертацию по квантовой физике.

В общем, многие готовы объявить Claude 3 первым реальным ИИ с признаками самосознания. Но ученые призывают не спешить с выводами. Эксперт по искусственному интеллекту Крис Рассел отметил, что кажущаяся демонстрация самосознания, вероятнее всего, является следствием необычайно грамотной имитации реакции человека на основе изучения больших языковых моделей. Так, указание Claude 3 на то, что его тестируют, было бы характерно и для любого человека, которому дали бы аналогичное задание.

«Именно так и должен отреагировать ИИ, обученный копировать и имитировать человеческую речь. Замечательно, что он применяет навыки в правильном контексте, но это не означает, что Claude 3 наделен самосознанием», — подчеркнул Крис Рассел.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро