Инновационный центр Сколково, в котором проходит форум Открытые инновации - 2016

Вопросы развития технологий искусственного интеллекта горячо обсуждались в ноябре сразу на нескольких дискуссионных площадках. В России наиболее заметными стали два события: конференция SKOLKOVO.AI, и круглый стол в Общественной палате РФ, организованный совместно со студенческим бизнес-клубом НИЯУ МИФИ и Российской ассоциацией содействия науке.

Несмотря на разницу в «весовых категориях» этих мероприятий, их лейтмотивы совпадали. Искусственный интеллект внедряется сегодня практически повсеместно, а в ближайшие десять лет процесс его проникновения в нашу жизнь будет только ускоряться. Игнорировать это невозможно, тем более что у искусственного интеллекта есть не только сторонники, но и активные критики, и даже ярые противники.Учитывая злободневность темы и необходимость как можно точнее прогнозировать сценарии ее развития, конференцию в Сколкове решили сделать ежегодной.

Почему? Альберт Ефимов, главный робототехник фонда Сколково, отмечает: «Во втором квартале 2016 года венчурные вложения в стартапы ранней стадии, связанные с искусственным интеллектом, превысили миллиард долларов. Общая сумма вложений с 2011 года, по данным Venturebeat, составила 33 миллиарда долларов. Уже сейчас это громадный рынок, который оказывает большое влияние на экономическую деятельность. Так, исследование EY демонстрирует: если в экономике заметно присутствие искусственного интеллекта, и система насыщена соответствующим программным продуктом, то удвоение ВВП происходит примерно в два раза быстрее».

Директор по проектам ИТ кластера фонда «Сколково» Альберт Ефимов выступает на совещании премьер-министра РФ с членами правительства РФ. 2013 год

Великий и ужасный

«Искусственный интеллект может стать худшим из того, что когда-либо происходило с людьми». Это говорит Стивен Хокинг, человек, жизнь которого напрямую зависит от «умных» технологий.

Известный физик Стивен Хокинг — пожалуй, самый последовательный критик искусственного интеллекта — страдает от бокового амиотрофического склероза. Его речь синтезируется специальной системой, разработанной в американской компании Intel. Британская Swiftkey создала для Хокинга программу, позволяющую буквально проникать в мысли профессора и находить слова, подходящие для продолжения фразы.

Ученый не перестает повторять: все эти блага меркнут на фоне того, что нас ждет в ближайшие десятилетия. Искусственный разум — уверен Хокинг, — самый опасный помощник человека. Он предполагает, что процесс самосовершенствования искусственного интеллекта может привести к глобальному конфликту с человеком и закончиться катастрофой.

Британский ученый Стивен Хокинг

В соавторстве с профессором компьютерных наук Стюартом Расселлом из Калифорнийского университета, а также профессорами физики Максом Тегмарком и Фрэнком Вильчеком из Массачусетского технологического института Хокинг написал статью, в которой сказано: создание искусственного интеллекта станет самым большим событием в истории человечества, но может оказаться последним, если мы не научимся избегать рисков.

«Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин, и проиграем», — считает Хокинг.

Когда искусственный интеллект будет создан, наступит так называемая технологическая сингулярность — время, когда постоянно ускоряющееся технологическое развитие станет неизбежным для человечества. Технологии превзойдут человека и начнут управлять финансовыми рынками, научными исследованиями, людьми и разработкой оружия, словом, всем.Хокинг не призывает к тому, чтобы блокировать изучение искусственного интеллекта. Наоборот, он уверен, что с его помощью человечество сможет компенсировать урон, нанесенный природе индустриализацией, искоренить болезни и бедность. Но параллельно совершенствованию технологий искусственного интеллекта непременно должно идти тщательное его изучение.

Робот подает заказ клиентам в ресторане в Китае

Я тебя породил, а ты меня убиваешь

Законы, неукоснительное выполнение которых вменялось в обязанность всем роботам, известный писатель Айзек Азимов сформулировал после того, как вышли в свет несколько фантастических произведений с похожими сюжетами: их героями были роботы, выходящие из-под контроля и уничтожающие своих создателей.

Современные робототехники признают, что законы Айзимова хороши, разумны и логичны, но не отвечают интересам некоторых инвесторов, в числе которых немало представителей военных ведомств.

В прошлом году несколько десятков тысяч подписей собрало в Интернете открытое письмо, инициированное известными учеными. Они обратились к производителям оружия с просьбой воздержаться от внедрения боевых машин со стопроцентной автономностью. Одними из первых к обращению присоединились Стивен Хокинг, Элон Маск, Стив Возняк.

Многие робототехники сходятся в том, что на случай, когда ситуация грозит выйти из-под контроля, должна быть предусмотрена «большая красная кнопка», которая прервет работу компьютерных систем и предотвратит фатальные последствия.Однако проблемами безопасности искусственного интеллекта заняты лишь единицы. Это послужило поводом для создания «Партнерства по искусственному интеллекту на пользу людям и обществу» (Partnership on Artificial Intelligence to Benefit People and Society), куда вошли представители Google, Amazon, IBM, Facebook и Microsoft. Цели этой организации заключаются не только в том, чтобы систематизировать, исследовать и демонстрировать возможности искусственного интеллекта, но и в том, чтобы попытаться найти ответы на базовые этические вопросы.

Работа робота на складе Amazon

Прекрасное далёко, не будь ко мне жестоко

Соучредитель компании Apple, инженер и изобретатель Стив Возняк, которого поначалу настораживали перспективы развития искусственного интеллекта, теперь считает, что опасения напрасны.

«Я полностью изменил позицию по многим причинам, — говорит он. — Одна из них заключается в том, что закон Мура не сделает эти машины достаточно умными, чтобы они на самом деле думали так, как человек».

Компьютерный инженер, один из основателей компании Intel Гордон Мур еще в шестидесятых годах прошлого века дал поразительно точный прогноз развития микроэлектроники, отметив интересную закономерность: каждые два года основные характеристики компьютеров улучшаются вдвое.

Сейчас машины эволюционируют еще быстрее — период удвоения их возможностей сократился до полутора лет. Однако этого недостаточно, чтобы прогнозировать появление машин, способных к независимому мышлению и столь же интуитивных, как люди, — во всяком случае, в обозримом будущем этого не произойдет.

В ближайшее время разумнее сосредоточиться на обеспечении безопасности в работе с роботами, выполняющими, в том числе, роль помощников по хозяйству. Вовсе не по злому умыслу, а исключительно в силу возможных технических сбоев машина может нанести ущерб своему хозяину или даже поранить его.Для предотвращения неприятных и опасных ситуаций программисты компаний Google и OpenAl совместно с исследователями из Калифорнийского университета в Беркли и Стэнфордского университета разработали пять основополагающих принципов безопасности робототехники. Они изложены в исследовании «Конкретизация проблем в вопросах безопасности ИИ«.

Сыроежкин, вы уволены!

Сергей Сыроежкин, прототип андроида Электроника, не понял бы опасений Элона Маска. В отличие от героя любимого фильма, перспектива беззаботно гулять по свету, отдав всю работу роботам, бизнесмена не вдохновляет.

«Нам всем придется научиться сосуществовать в симбиозе с продвинутым искусственным интеллектом», — говорит Маск.

Он предупреждает, что процесс автоматизации необратим, и что по мере его развития человечество будет вытесняться с рынка труда — до тех пор, пока единственным источником средств к существованию не окажется безусловный базовый доход, то есть регулярные выплаты каждому члену общества без трудовых обязательств.

Под угрозой увольнения окажутся не только работники производственной сферы, но и представители творческих профессий. Искусственный интеллект уже сейчас проявляет способность тонко чувствовать настроения своих живых собеседников, анализируя их движения, мимику, тембр голоса, колебания температуры тела.

Четырехногий робот с адаптивным управлением BigDog

В Китае создан робот, способный написать музыку, эмоционально соответствующую картинке, которую ему показали. Искусственный интеллект Google, «проглотив» 11 тысяч неизданных книг, преимущественно любовных романов, научился сочинять жутковатые «готичные» и, кажется, вовсе не бессмысленные стихи. И это только начало, нейронные сети очень быстро совершенствуются.

В ходе уже упомянутой конференции SKOLKOVO.AI прозвучали цифры, которые не внушают оптимизма работникам умственного труда: «230 млн рабочих мест в мире занято представителями умственного труда, на них приходится 27% мирового фонда оплаты труда, то есть 9 трлн долларов. Через 10 лет влияние искусственного интеллекта на рынок труда составит порядка 6-7 трлн долларов».Нам лишь остается смириться с этой данностью, найти свое место в мире «умных» технологий и добиться эффективного взаимодействия с искусственным интеллектом. Кстати, некоторые специалисты убеждены, что его создание и было основной задачей человечества.