Лучше не просите ИИ использовать роль эксперта-программиста. Вот почему

Исследователи выяснили, что просьба к ИИ выступить в роли эксперта-программиста если и влияет на эффективность модели, то не в лучшую сторону. Оказалось, что в этом случае алгоритмы получения и обработки данных отличаются от «обычных»: ИИ-модель начинает следовать определенным инструкциям, стараясь быть «безопаснее», но при этом меньше внимания уделяет фактам.

Это не значит, что роль «эксперта» снижает общую эффективность моделей. Напротив, исследователи считают, что такой подход вполне оправдан в задачах, когда требуется выдержать определенный стиль и тон общения, структуру (например, при написании документов, в переписке).

Однако когда речь идет о точных материях — математике или программировании, — просьба принять роль «эксперта» приводит к переходу в режим следования определенным инструкциям — правилам.

Таким образом, если стиль изложения информации и изменится, никаких дополнительных фактов ИИ-модель не добавит, и это в лучшем случае. То есть просьба «стать экспертом» не добавит экспертности, а лишь изменит форму передачи данных. Более того, как говорят исследователи, ограничится сама возможность модели выуживать из памяти информацию, полученную на этапах предварительного обучения.

Эксперты рекомендуют либо просто просить выполнить какую-то задачу, либо использовать качественные и подробнейшие промпты. Такие позволят получить качественный ответ, а не просто являются просьбой к ИИ стать «экспертом» или выступить в роли еще кого-то.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро