ChatGPT может сделать нас тупее, и вот почему

32 617
20 февраля 2023 в 8:00
Автор: Ян Альшевский

ChatGPT может сделать нас тупее, и вот почему

Автор: Ян Альшевский
Успейте оформить рассрочку Minipay на 5 месяцев с 3 по 23 июня

ChatGPT, а теперь еще и Bard, стали тем, чем когда-то казались криптовалюта, блокчейн и смарт-контракты, дополненная реальность, телевизоры с 3D, а с недавнего времени — метавселенные. Это классический хайп, у которого, правда, куда меньше шансов оказаться мыльным пузырем и куда больше — войти в нашу жизнь всерьез и надолго. У любой медали есть две стороны, и модный ChatGPT не является исключением: он сделает нас умнее и тупее одновременно — это вопрос выбора.

Что такое ChatGPT? Это искусственный интеллект, созданный на основе нейронной сети GPT (Generative Pre-trained Transformer), обученной на огромном количестве текстовых данных. ChatGPT может поддерживать беседы на естественном языке и отвечать на широкий спектр вопросов, используя свои знания и опыт, полученные во время обучения. Его разработчиком является компания OpenAI.

Bard, в свою очередь, это название языковой модели, разработанной компанией Google. Эта модель использует глубокое обучение для генерации текста на естественном языке, принимая во внимание статьи, новости и прочее.

Что их объединяет? И ChatGPT, и Bard используют продвинутые алгоритмы обработки естественного языка и нейронные сети для понимания контекста и создания связных ответов на заданные вопросы или для генерации текста на основе этого контекста.

Искусственный интеллект и нейронные сети в разных своих проявлениях существуют давно и занимаются важными задачами вполне эффективно. Просто их работа малозаметна неспециалистам, обычным юзерам, которым главное — чтобы работало. ChatGPT (будем использовать по тексту этот ИИ как собирательный образ — именно он первым наделал шуму) забрался на уровень выше, оказавшись на виду у всех, да еще и позволяет тестировать его чуть ли не каждому желающему. И он менее специализированный, чем Midjourney, DALL-E (от той же OpenAI) или Stable Diffusion.

В чем основные преимущества ChatGPT? С обывательской точки зрения он в разы умнее любого чатбота из окна техподдержки на миллионах сайтов. Ведь ChatGPT не только отвечает на вопросы, но и удерживает в «уме» контекст, дополняя, уточняя и иногда даже признавая свои ошибки («Извините, на самом деле все вот так»).

Он понимает тот естественный язык, на котором говорят люди. То есть ему не требуется запрос наподобие «реферат скачать биология пестики-тычинки», его можно попросить «Напиши реферат объемом 700 слов о размножении цветов» или «Напиши научный реферат объемом 700 слов о размножении цветов» — и это будут два разных текста, причем не повторяющихся, даже если запрос повторить (хотя некоторые фразы и обороты кочуют из текста в текст). Это очередное преимущество: новый ИИ не является обычным генератором, который создает некое подобие «читабельного» контента, он действительно осмысленный и местами интересный.

Более того, ChatGPT понимает гибкие и многоуровневые инструкции наподобие «Напиши стих в стиле Пушкина о роботах в постапокалипсисе». Получилось, конечно, так себе, но начало положено:

Слабая сторона этого ИИ, как и любого другого, — ошибки. Западную прессу в первую очередь волнуют проблемы сексизма, расизма, предвзятости и подобных негативных феноменов, и разработчики ChatGPT признают, что избежать этого пока не удалось (о чем есть предупреждение на странице бота). Но важным является и то, что ИИ не знает эмоций, убеждений, у него отсутствуют недоверие и желание проверять — он использует доступную ему информацию «as is», компилируя ее и следуя правилам языка.

Недавно конкурент ChatGPT — Bard — в собственном рекламном ролике ошибочно утверждал, что телескоп Джеймса Уэбба первым сфотографировал планеты и экзопланеты за пределами Солнечной системы, чем спровоцировал падение стоимости акций Google (на самом деле фото были сделаны телескопом VLT). Ерунда? Падение стоимости акций говорит, что это не так.

ChatGPT в свою очередь заявлял, что разработчиком Bard является OpenAI. После уточнения «Ты уверен?» ИИ извинился и исправился. Однако чтобы задать правильный вопрос, нужно знать, где ошибка. Технически подкованная аудитория задавала ChatGPT каверзные вопросы — например, о модели согласованности, с добавлением задания сравнить специфику архитектур x86 и Arm.

Оказалось, что ИИ с умным видом может нести противоречащую ерунду, однако человеку несведущему все покажется правильным. Как пишут в комментариях, в таком виде ChatGPT вполне может заменить «интернет-экспертов», опираться на мнение которых нельзя.

Есть и другие примеры из разных сфер, когда ИИ не справляется со сложными и длинными задачами, превращая все в кашу: это касается математики, переводов, пересказов и подобного.

Так что, хоть ChatGPT и может понимать широкий диапазон тематик и задач, он не всегда может правильно понять контекст вопроса или высказывания — и это приводит к ошибкам. Кроме того, ИИ может давать неточные ответы, особенно в сложных и неоднозначных ситуациях: к этому приводят ошибки в алгоритме обработки естественного языка или недостаток обучающих данных.

Все это открывает дорогу манипуляциям (наподобие того, как сеошники манипулируют алгоритмами поиска) в случае, если система продолжает обучение, получая данные извне без кропотливой их проверки. По этой причине сам ChatGPT указывает на вероятность его использования для распространения дезинформации.

Тем не менее ChatGPT используют (частично) для написания рефератов, дипломов и даже текстов выступлений президентов и конгрессменов. Получается вполне научно и грамотно (по крайней мере, на английском языке), если видеть в ИИ инструмент: сварочный аппарат в руках сварщика может делать невероятные вещи.

ChatGPT как «Википедия» — в ней тоже полно информации, но доверять ей полностью нельзя. В противном случае можно забить голову неверными фактами. К тому же интернет-энциклопедия убивает желание искать и учить новое (ведь все есть в интернете), а ChatGPT возводит такую тенденцию в степень, упрощая ошибкам путь к массам.

В OpenAI, как будто внемля мольбам представителей образования и научного сообщества, недавно выпустили систему проверки AI Text Classifier, которая должна выявлять признаки деятельности ИИ в публикуемых текстах. Однако она оказалась не всесильна, а эффективность дополнительно снизилась, когда ChatGPT попросили сгенерировать текст так, чтобы обойти детектор (студенты могут озвучить такую же просьбу). Кроме того, считают эксперты, AI Text Classifier (как от OpenAI, так и аналоги) и ChatGPT займутся взаимным обучением, что усложнит поиск «подделок». Вырастет и количество ложных срабатываний — пострадают честные студенты и работники науки.

В то же время ChatGPT, видимо, справится с обеспечением техподдержки, найдет место в образовательных системах, сфере финансов, сможет заняться обработкой запросов и консультациями по услугам и товарам. То есть будет востребован в областях, не требующих креативности и фантазии. Но главное — поиск (хотя иногда в ответ на простые запросы ИИ городит такое, что глаза вянут).

Microsoft и Alphabet потому и будут бороться за пользователей: у софтверной корпорации появился реальный шанс сделать Bing лучше, забрав часть аудитории у поискового гиганта — именно она генерирует значительную часть выручки компании. А юзерам придется побороть многолетнюю привычку пользоваться Google.

Да, кстати, почти треть текста выше написал ChatGPT (не считая скриншотов).

микрофон стереофонический + карты microSD, сжатие MP3/WAV, качество 96 кГц/24 бита, питание 2xAAA, время работы до 10 часов
микрофон монофонический, память 8 Гб, сжатие MP3/WAV, питание аккумулятор, время работы до 20 часов
микрофон монофонический, память 4 Гб, сжатие MP3/проприетарный, качество 44 кГц/16 бит, питание 2xAAA, время работы до 1 сутки 21 час

Наш канал в Telegram. Присоединяйтесь!

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро

Перепечатка текста и фотографий Onlíner без разрешения редакции запрещена. ng@onliner.by