188
19 сентября 2018 в 8:00
Источник: Илья Крыжевич, Виталий Олехнович
Спецпроект
Тебя не убьет терминатор, если ты сам им станешь! Какие вызовы бросают нам искусственный интеллект и Big Data

Даже по сравнению с 2000 годом можно сказать, что нам крупно повезло: мы уже живем в будущем, о котором 20 лет назад обыватель и мечтать не мог. Просто мы привыкли и не замечаем всех тех изменений, которые прокрадываются в наш быт. А между тем специалисты в области анализа Big Data и искусственный интеллект взялись за ручки и готовы в ближайшие десятилетия менять уклад нашей жизни. Стоит ли бояться ИИ и что нам делать с «большими данными»? Фантазируем и разбираемся вместе с Huawei .

Автономные роботы и модель мозга

Даже в среде ученых, которые непосредственно занимаются исследованиями в области ИИ, нет общего мнения, когда же мы создадим машины, схожие по своим способностям с человеком. Одни уверены, что прорыв случится в ближайшие 20 лет, другие отмечают, что такую комплексную проблему не решить и за 1000 лет.

Когда в 1950-х годах были созданы электронные компьютеры, общественность да и сами ученые были поражены их возможностями и перспективами, которые открывались в близком будущем. Уже в 1960-х годах пионеры ИИ говорили, что через 20 лет человечество создаст роботов, способных на любую работу, которую может делать человек. Ох, как же они заблуждались.

С тех пор большинство разработок в области ИИ, мелькавших в СМИ, скорее были похожи на циркачей, обученных одному трюку. Например, играть в шахматы. Ни о каком тесте на интеллект в их случае не было и речи. Это были программы, которые вне шахмат не обладали никакой компетенцией. Даже Deep Blue от IBM, который побил Гарри Каспарова и представлял собой чудо инженерной мысли, был крайне ограниченным устройством, которое к универсальному ИИ приблизилось как червяк к полету на Луну.

Во все годы риторика об ИИ намного опережала наши возможности по реализации фантастических идей. А все потому, что долгое время мы считали, что у цифровых компьютеров и человеческого мозга много общего. Но венец природы куда сложнее и комплекснее любого созданного человеком компьютера.

С начала 2000-х годов компания IBM спонсирует проект Blue Brain, перед которым стоит задача создать действующую модель человеческого мозга. Но за 10 лет удалось лишь приблизиться к созданию искусственного аналога мозга крысы, ее нейронов и миллионов связей между ними, для чего понадобилась вычислительная мощь суперкомпьютера. Учитывая нарастающие мощности суперкомпьютеров и объемы хранилищ данных, хотелось бы надеяться, что к концу 20-х — началу 30-х годов этого века мы все-таки прочитаем про новое достижение в моделировании мозга человека.

Пока же всех созданных роботов можно условно разделить на две группы: те, которыми оператор управляет дистанционно, и те, которые демонстрируют хоть какую-то автономность в ограниченной функциональности.

ASIMO — плод 20-летней работы ученых из корпорации Honda. В некоторых моментах он может быть покруче нас с вами. По крайней мере, танцует робот неплохо. Кроме того, ASIMO умеет распознавать жесты и отвечать на них (может в ответ помахать вам на прощание), распознает движущиеся объекты, выполняет голосовые команды, воспроизводит фрагменты речи на различных языках. Но все эти возможности строго запрограммированы командой ученых. Это множество мелких программок, делающих ASIMO имитацией, которую запросто можно спутать с ИИ. Если не углубляться.

Конечно, со временем робот будет обрастать дополнительным функционалом, научится без проблем распознавать объекты, попадающие в объективы его камер, на лету отличать человека от кресла. Но все это не наделит устройство мышлением и осознанным выбором. Мы еще чертовски далеки от настоящего ИИ.



Пока предпринимаются попытки создания полноразмерных роботов как самостоятельных единиц, есть и ученые, которые заглядывают в будущее чуть дальше и разрабатывают модульные машины. Концепция их заключается в том, что отдельные модули-кубики будут обладать собственным функционалом, интеллектом и возможностью кооперироваться с собратьями в более сложные и продвинутые конструкции. Что-то наподобие самоорганизующихся конструкторов Lego, которые смогут гибко подстраиваться под изменяющиеся условия своей работы.

Давайте дружить с ИИ

Заглядывая еще дальше, можно пофантазировать, что эволюция высокоинтеллектуальных роботов в конце концов приведет к обретению ими некоего сознания. В этот момент они станут новым венцом эволюции разума на Земле, в который мы вмешались собственными ручонками. Более приспособленные существа вытеснят нас в контактные зоопарки: наши «дети» сдадут нас в своеобразные дома престарелых и будут печатать собственные копии, заполоняя планету (а может, и Галактику) в бесконечном стремлении к совершенству. Но это будет уже не при нас.

Конечно, мы не столь глупы, чтобы не предусмотреть рубильник, с помощью которого всю эту роботизированную вакханалию сверхразума можно будет остановить. Определенно, чем умнее и самостоятельнее будет становиться ИИ, тем больше предохранителей мы будем в него зашивать. И при малейшем подозрении на обретение сознания люди не постесняются отключить слишком умных представителей новой ветви эволюции.

Некоторые исследователи в этой области предполагают, что вся эволюция искусственного разума будет строиться нашими руками из расчета создания «дружественного ИИ». Этот термин ввел в оборот Элиезер Юдковский. Он предлагает не навязывать роботам законы Азимова, а конструировать их так, чтобы естественной для них была помощь человеку, а не желание его убивать. Но суровая действительность показывает, что куда больше финансовых вложений получают машины для ведения войн.

Наиболее же логичным и вероятным кажется сценарий, при котором мы не будем спать в шапку, а пойдем по пути слияния со своими созданиями. Зачем делать кого-то, кто будет умнее нас, если с этими же технологиями можно превратить себя в сверхчеловека. Другое дело, насколько органично удастся сплести компьютерное сознание с нашим природным. Неврозы, шизофрения и раздвоения личности? Вполне возможно, мы ведь всего лишь фантазируем.

Кто откажется от персонального помощника (намного умнее Siri) и неограниченного хранилища информации в своей голове? В мире ведутся разработки нейроинтерфейсов, которые помогут аппаратно улучшить работу нашего мозга. Относительно недавно группа американских ученых отчиталась об использовании нейроимпланта, который улучшает память на 15%. Девайс работает как стимулятор, посылая в мозг электрические импульсы, чтобы помочь ему именно в те моменты, когда он пытается сохранить новые данные. Каких-нибудь сто лет, и мы сможем загружать в мозг продвинутых консьержей, которые будут снабжать нас информацией, помогать с решениями и разгружать от бытовой текучки.

«Большие данные» — большая ответственность

А пока можете помечтать о том, как нынешние голосовые ассистенты будут обрастать функционалом, все лучше запоминать и понимать контекст общения с пользователем, выполнять команды, заданные не только формальным стилизованным языком, но и обычным разговорным.

Вполне вероятно, что такие системы будут востребованы не только в быту, но и в диагностической медицине на первом этапе обращения пациента к врачу. Медики смогут проводить опрос, выяснять, где и что у человека болит и когда начались эти боли, ставить предварительный диагноз и направлять к профильному специалисту. А помогать в этом будет огромный багаж, оставленный опытными врачами по всему миру в виде опыта и статистики. Большого объема статистики, собранной и проанализированной в рамках другого феномена цифровой эпохи — Big Data.

Ежегодно в мире выпускают тысячи трудов на медицинскую тематику, ставят сотни миллионов диагнозов. Тем же нейронным сетям можно «скармливать» эти большие объемы данных (анализы крови, УЗИ, рентгеновские снимки), в которых они смогут находить закономерности в развитии патологий, выводя раннюю диагностику на новый уровень. Врачи общей практики смогут намного точнее ставить диагноз, когда нейросеть по симптомам и результатам анализов сможет предоставлять наиболее вероятные варианты.

Но есть и обратная сторона заигрывания с «большими данными». Про нее нам рассказала старший преподаватель кафедры инженерной психологии и эргономики БГУИРа Дарья Пархоменко.

— Прогнозировать продолжительность человеческой жизни по определенным показателям реально уже сейчас. Можно развить эту идею до того, что работодатель скоро будет учитывать «цифровой след» или медпоказатели. Это может стать решающим фактором при выборе между двумя специалистами не в пользу того, у кого есть хроническое заболевание, например. 

Хотя на самом деле технология не спрогнозирует со 100% вероятностью, кто покажет лучший результат на «длинной дистанции». Кроме того, сегодня есть пугающие истории про будущее, где всем правит система социального рейтинга, которая определяет позицию гражданина, оценивая его поведение, наблюдая за ним через видеокамеры, отслеживая, как он тратит деньги, оплачивает счета, взаимодействует с другими людьми. Такую систему уже сегодня испытывают в Китае. Ведешь себя хорошо — получи приличное образование, работу, условия для жизни и наоборот. 

А что, если алгоритм несовершенен и дал сбой? Какова цена ошибки в определении социального рейтинга того или иного человека? При этом такое будущее, где страхуют по медпоказателям, дают кредиты по профилям в социальных сетях и разрешают учиться в престижных вузах согласно системе рейтинга, подкрадывается к нам все ближе, и оно ставит массу серьезных этических вызовов перед человечеством.

С пеленок на нары

Помимо прогнозирования курса валют, стоимости акций на бирже, колебаний цен на недвижимость, банковские организации смогут применять анализ «больших данных» и построенные на их основе программы для сортировки людей по благонадежности. Да, уже сегодня у нас есть кредитные истории, которые ни в коем случае нельзя ухудшать. Но к этому со временем может добавиться и изучение профайлов в соцсетях.

— Действительно, в банковской сфере сегодня активно применяется анализ «больших данных», а именно «цифрового следа» пользователя — его кредитной истории и той информации, которая существует о человеке в интернете и социальных сетях в открытом доступе. Это делается для того, чтобы упредить риски. Анализируя поведение потенциального клиента, можно определить, будет ли он благонадежным кредитором. С одной стороны, это хорошо для банка, с другой — у человека становится меньше приватности.

А что, если пойти дальше и вспомнить «мыслепреступления» или «предпреступный отдел» из фильма «Особое мнение», в котором герой Тома Круза раскрывал еще не совершенные убийства?

— Как говорится, хочешь узнать поведение человека в будущем, изучи его прошлое. Именно на исторической информации нейросети строят свои прогнозы будущего поведения системы или человека. Я склонна сомневаться в 100% верности прогнозов ИИ именно потому, что самообучающиеся алгоритмы создает человек. В рамках философии техники есть тезис, что, создавая орудия, технику, технологии, человек создает продолжение самого себя. Мне интересно, если человеку свойственно совершать ошибки, может ли случиться так, что, создавая алгоритм, мы заложим в него вероятность ошибки и случайно неверно просчитаем будущее? Чтобы нейросети работали так идеально, как того хотели в фильме, должно пройти немало времени, должен быть написан уникальный алгоритм.

Но у кого больше всего информации о нас? Можно было бы подумать, что у наших правительств. Однако куда больше о нас знают интернет-гиганты наподобие Google, Apple, Microsoft. Эти ребята могут быть в курсе даже того, что происходит у нас в постели. По косвенным признакам, конечно. Что будет, если такие компании с уникальными технологиями смогут предсказывать поведение людей по всему миру и манипулировать ими или распоряжаться этими знаниями ради выгоды?

— Такой вариант развития событий вполне вероятен. В обществе уже сегодня существует цифровое неравенство. Есть немало технологий у тех же Google и Yandex, которые нацелены на анализ и прогноз. Логично, что чем больше у вас ресурсов, тем более совершенные у вас технологии и тем более точными являются ваши прогнозы. 

В нашем обществе выгода часто является одной из важнейших мотиваций. Причем речь чаще идет именно о материальной выгоде. Вопрос только в том, каким путем это будет достигнуто или, в наихудшем случае, какими жертвами.

С уверенностью можно сказать, что сегодня формируется интеллектуальная цифровая прослойка. Цифровой разрыв очевиден на примере банкомата — возле него даже сегодня иногда можно встретить людей, которые не знают, как им пользоваться, боятся совершить ошибку и просят о помощи сотрудников банка. Что уж говорить о куда более сложных технологиях? 

Человеческое сообщество иерархично. «Кто владеет информацией, владеет миром» — фраза из прошлого тысячелетия. История продолжает идти по спирали и сегодня показывает нам становление возможного диктата технологий. В особенности если убрать из расчета всю этику.

 Главное, остаться человеком в этом аду

Этические вопросы внедрения новых технологий — это то, о чем нам следовало бы договориться еще на этом берегу, прежде чем отправляться в плавание из цифровой эпохи в эпоху машин, которые будут умнее человека.

— Создавая роботов, алгоритмы, технологии, человек в первую очередь должен думать о том, как сделать их полезными для других людей. Вместе с тем важно разобраться и с вопросами, которые связаны с персональными данными. Причем как на уровне законодательства, так и на персональном уровне, повысив свою осознанность в вопросах «цифровой гигиены». 

У большинства людей сегодня осознанность относительно того, какой «цифровой след» мы оставляем, пока что очень низкая. Однако есть и положительные тенденции. Например, сейчас готовится закон о защите персональных данных. Он будет регулировать обращение с персональными данными физических лиц. Важно, чтобы те специалисты, которые создают и развивают технологии, лучше понимали их влияние на людей и последствия, которые могут возникнуть. 

Сегодня, на мой взгляд, возникает необходимость в том, чтобы люди, которые занимаются такими серьезными вещами, имели хорошую гуманитарную подготовку. Как минимум обладали системными знаниями по философии, психологии и социологии. Ведь не умея правильно поставить задачу перед ИИ, создавая мощные инструменты без любви и заботы о человеке, о его безопасности, можно принести огромный вред, даже имея благие намерения.

Процессоры в каталоге Onliner.by


В теме искусственного интеллекта мы разбираемся вместе с Huawei. На IFA 2017 компания представила первую мобильную платформу для ИИ — чипсет Kirin 960. Позже технологии были использованы в смартфонах Mate 10Pro, P20 и P20Pro с камерой Leica. Алгоритмы камеры сами выставляют настройки для ночной съемки или под 19 других категорий, моделируют портреты, помогают с яркостью, детализацией и цветопередачей, дают советы по выстраиванию композиции фотографии.


Партнерский проект подготовлен при поддержке ООО «Бел Хуавэй Технолоджис» УНП 190835312.

Читайте также:

Наш канал в Telegram. Присоединяйтесь!

Быстрая связь с редакцией: читайте паблик-чат Onliner и пишите нам в Viber!

Перепечатка текста и фотографий Onliner.by запрещена без разрешения редакции. nak@onliner.by

Источник: Илья Крыжевич, Виталий Олехнович