ИИ-компании нанимают философов, предлагая им высокие ЗП. Что они делают?

Самые влиятельные в мире компании, занимающиеся искусственным интеллектом, нанимают философов, чтобы те помогали сформировать мышление и поведение машин, рассказывает Business Insider. Таким специалистам предлагают солидные зарплаты — до $400 000 в год.

По мере того как ИИ-системы становятся все более мощными и все больше интегрируются в нашу повседневную жизнь, компании все чаще сталкиваются с вопросами о том, как эти системы должны себя вести, какие ценности отражать и насколько им можно доверять. Эти вопросы родили спрос на философов для помощи в разработке ИИ.

Например, по данным Business Insider, в компании Anthropic доктор философии Аманда Аскелл управляет командой, которая обучает ИИ-чат-бота Claude быть честнее и развивать у него положительные черты характера.

В Google DeepMind работает Иасон Габриэл, который прививает ИИ-системам человеческие ценности. До перехода в техкомпанию он преподавал моральную и политическую философию в Оксфордском университете.

Однако есть у таких инициатив и критики. Эксперт в области компьютерной этики Дебора Джонсон считает, что компании хотят лишь продемонстрировать ответственность, а не принять ее. А если философы дадут совет, который потребует замедления развития ИИ в угоду этике, то их рекомендации, вероятно, будут проигнорированы, отметила Джонсон.

Есть о чем рассказать? Пишите в наш телеграм-бот. Это анонимно и быстро