У OpenAI имеется технология, которая, как утверждается, позволяет распознать созданный ChatGPT текст с вероятностью до 99,9%. Но компания — во всяком случае, сейчас — не собирается делать ее доступной. С таким материалом выступили в The Wall Street Journal.
Если коротко, то в OnenAI (по сведениям издания) могут опасаться, что «размещение инструмента определения факта использования ИИ» способно повлечь отказ части пользователей в использовании этих ИИ-систем.
Если данные журналистов верны, то внутри компании шли споры по поводу технологии и ее применения несколько лет. Так, один опрос показал, что почти треть лояльной аудитории может отказаться от использования ИИ-бота или как минимум станет реже прибегать к нему, если инструмент станет публичным.
Сама технология позволяет оставлять в тексте водяные знаки, которые невидны для глаза, но их получится распознать через «механическое» обнаружение OpenAI. Проще говоря, она дает определить, если весь текст или его часть были написаны ChatGPT. Впрочем, технологию якобы можно обмануть — причем относительно легким способом. Например, через перевод текста Google Translate на другой язык и обратно.
Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро