Нейросеть может обеспечить полную иллюзию общения

— В настоящее время работаю над исследовательским проектом по созданию умного чат-бота. Его можно обучить общаться с клиентами на материале из соцсетей и форумов — там бесконечное количество речевых ситуаций.

— Ты сам это придумал или кто-то так уже делал?

— Конечно, я не первый. Был случай, когда нейросеть обучали на форуме техподдержки Linux. В итоге она переписывалась с клиентом, подражая оператору, спрашивала IP-адрес, просила вводить команды. Получилась полная иллюзия живого общения!

— Такая же штука победила чемпиона по игре Го?

— Нет, то была довольно сложная нейросеть AlphaGo. Прежде чем нейронные сети стали играть в игры, они долгое время развивались в виде теории. Концепцию сформулировали еще в 1940-х годах. Потом было написано много научных статей, но компьютеры еще не могли посчитать большие объемы информации.

— Нужны какие-то особые компьютеры?

— С появлением видеокарт на архитектуре CUDA программисты стали обучать нейросети на обычных игровых компьютерах.

«Если программа только и делает, что ищет котиков на фотографиях, не стоит беспокоиться за судьбу человечества»

— В прессе часто преувеличивают опасность нейросетей, боятся «восстания машин». Как считаешь, все и правда так плохо?

— Возможности нейросети зависят от архитектуры. Например, сверточные сети подходят для изображений, а LSTM и GRU— для последовательностей. Есть самоорганизующиеся карты Кохонена, они умеют разделять данные по определенному признаку. Говоря простым языком, нейросети распознают картинки, тексты, классифицируют данные и даже пишут небольшие заметки. Если программа только и делает, что ищет котиков на фотографиях, не стоит беспокоиться за судьбу человечества.

— Может быть, журналисты намеренно поднимают шум, опасаясь потерять работу?

— Возможно, копирайтеры и лишатся работы, но об исчезновении журналистики говорить пока рано. Нейросеть вполне способна прочитать несколько новостей на одну тему и оформить что-то похожее. В отличие от программы, реальный журналист может брать интервью, принимать ту или иную точку зрения, создавать уникальный контент. В конце концов, он осознает себя и понимает, что делает.

— А когда нейросеть осознáет себя?

— Думаю, лет через пять. Другой вопрос — сколько ресурсов понадобится. Для победы в игре Го работало здание серверов.

— Странно, ведь нейросети копируют устройство нейронов в мозге, а он занимает не так много места.

— Нейросеть — не копия, а упрощенная модель работы нейронов.

— Как она понимает, что нужно победить в игре?

— Программе дается условие, которое необходимо выполнить, и наказание за действия, не способствующие достижению цели.

— В смысле — «наказание»? Месяц без интернета?

— Это сложно объяснить. Допустим, если цель программы — получить некое максимальное значение, то каждый раз, когда мы будем мешать достичь результата, то есть отнимать что-то от финального значения, нейросеть воспримет это как наказание. Допустим, в настольной игре за «максимальное значение» можно принять удачные ходы, которые увеличивают вероятность победы.

«Нейронные сети пока недостаточно совершенны для серьезных военных задач или банковских операций с крупными суммами»

— Чему ты пробовал обучить нейронные сети?

— В «Игре престолов» много действующих лиц, и сложно запомнить все имена. Как-то раз написал программу, которая читала «Песнь Льда и Пламени» Джорджа Мартина и определяла имена героев. Но в основном моя научная работа связана с классификацией сжатых данных, с изображениями.

Зачем Беларуси нейросети

— В фильмах часто показывают, как всемогущие айтишники в недрах полицейских участков берут пиксельную фотографию, приближают неразборчивое лицо злодея и наводят резкость. Раньше такое было возможно только в кино. С нейросетями ситуация изменилась?

— Разработаны программы, которые увеличивают разрешение изображения. Даже если картинка пиксельная и лицо едва различимо, можно достаточно точно восстановить оригинальное фото, хотя это очень далеко от киношной фантастики.

— Как это работает?

— Люди постоянно находят знакомые черты в окружающих предметах: например, камень, похожий на лицо, или морозные узоры на стекле. В отличие от нас, нейронные сети могут запоминать миллионы таких соотношений и мгновенно находить общие черты.

— Слышал, специалисты по нейросетям востребованы в ЦЕРНе. Хотел бы переехать в Швейцарию?

— Однажды я выступал с докладом в Томске на конференции, посвященной анализу Big Data, и там присутствовали сотрудники ЦЕРНа. Им действительно нужны программисты. В штате много физиков, но недостаточно айтишников: люди работают на устаревшем ПО и кто-то должен все это переписать. Может быть, удастся там поработать.

— А в Беларуси есть спрос на таких специалистов?

— Конечно, ведь по сравнению с обычными программистами нас очень мало. Я слышал, нейросети изучают в Институте проблем информатики, БГУИРе, может еще в БГУ. В Гомеле своей школы пока нет. В ГГТУ на моем курсе была только одна лекция по нейронным сетям. К счастью, есть ресурсы типа coursera.org с бесплатной регистрацией.

«Нейросеть плохо понимает речь: она может найти похожее изречение, провести параллели между словами и уловить какие-то связи, но полноценным разговором это сложно назвать»

— Где сегодня используются нейросети?

— Везде: на заводах, в банках, в индустрии развлечений. На конференции в Томске общался с сотрудницей Лаборатории Касперского: они внедряют самообучающиеся системы для обнаружения вирусных атак. А вообще, нейронные сети пока недостаточно совершенны для серьезных военных задач или банковских операций с крупными суммами.

— А для медицины?

— Тут победа за роботами. Например, приложение Kardia работает с небольшим устройством для ЭКГ размером с коробок спичек, которое нужно всегда носить с собой. Разработчики обучили нейронную сеть предсказывать проблемы с сердцем на основе полученных с устройства данных. По снимкам опухоли нейросеть ставит диагноз.

— Почему бы тогда в больницах не сократить штат? Дешевле купить пару игровых видеокарт с обученными нейросетями, чем содержать персонал.

— Потому что, в отличие от нейросети, врач способен обосновать свое решение.

— Если будут вопросы, можно обратиться к разработчику. Разве нет?

— Он не возьмет на себя ответственность за ошибку программы. К тому же разработчики не знают, почему нейросеть принимает то или иное решение. Попытки объяснить их поведение продолжаются по сей день. Глубокие нейронные сети — это «черный ящик».

— Есть успехи?

— Это как посмотреть… Благодаря изучению нейросети Deep Dream появилось приложение Prisma. Ученые пытались понять, что происходит в сердце нейросети. Изначально она умела только находить животных на фотографиях. Из нее вытащили коэффициенты и применили к изображениям в обратную сторону. На выходе снимки получались собранными из лап, глаз, шерсти животных.

— А при чем здесь Prisma?

— Она работает по тому же принципу, только вместо фотографий животных через нейросеть пропустили картины в разных художественных стилях. Им удалось извлечь цифровой эквивалент того, что называется художественным направлением, «почерком» или манерой отдельно взятого художника. Теперь миллионы девушек в Instagram делятся собственными портретами в исполнении знаменитых художников.

Искусственный интеллект — добро или зло?

— Есть профессия, которую нельзя заменить нейросетями?

— Пока что это все, что связано с личным общением. Нейросеть плохо понимает речь: она может найти похожее изречение, провести параллели между словами и уловить какие-то связи, но полноценным разговором это сложно назвать.

— То есть сарказм роботам недоступен?

— Если при обучении указать, что в одних предложениях есть сарказм, а в других нет, то нейросеть в процессе тренировки запомнит нужные зависимости. Это позволит находить сарказм и определять его степень. Когда я устраивался на работу, мне дали задачу написать программу для анализа эмоционального состояния клиента кол-центра. Думаю, ее можно перевести в режим «сарказм / не сарказм».

«Даже если появится развитый искусственный интеллект, он будет таким, как мы захотим. О том, что такое „хорошо“ и что такое „плохо“, он узнает от нас»

— Помимо операторов кол-центров и копирайтеров кто потеряет работу в ближайшие годы?

— Рискуют все, кто связан со ставками и прогнозированием, например брокеры и бизнес-аналитики. Возможно, в подобных процессах машина просто упростит работу, а человек должен будет вмешиваться и контролировать. Но даже в этом случае рынок перестанет нуждаться в огромном количестве специалистов в ближайшие пять лет. Если говорить о десятилетиях, с развитием нейросетей исчезнут многие профессии.

— По некоторым прогнозам, к 2050 году нейросети займут чуть ли не половину рабочих мест на планете. Что делать миллионам людей, которые лишатся работы через 20—30 лет?

— Получать безусловный доход, который уже пробуют выплачивать в развитых странах. Машины будут работать на нас и производить все необходимые блага. Роботу не нужны деньги, у него нет корысти и амбиций. Даже если появится развитый искусственный интеллект, он будет таким, как мы захотим. О том, что такое «хорошо» и что такое «плохо», он узнает от нас.

— А если ИИ посчитает, что человечество — это плохо?

— Опасения могут свести на нет любую инновацию: атомная энергетика — это ядерная бомба, электричество — это электрошокеры и так далее. Если ничего не делать, то ничего не произойдет, а если делать хоть что-то, всегда будет вероятность хорошего и плохого исхода. Я считаю, нельзя отказываться от прогресса.

— Но к интернету продвинутый ИИ подключать не стоит?

— Лучше не надо.

Образовательные услуги в каталоге Onliner.by

Читайте также:

• Боги из машины. Как нейронные сети работают, учатся и готовятся менять наш мир
• Как перестать бояться и полюбить камеры космических аппаратов

Перепечатка текста и фотографий Onliner.by запрещена без разрешения редакции. nak@onliner.by