Модели андроидов на выставке Tokyo Game Show. 2017 год. Фото: Kim Kyung Hoon/Reuters

Власти Калифорнии подписали закон, который запрещает роботам, ботам и нейросетям притворяться людьми. Он вступит в силу 1 июля 2019 года.

Как пояснил губернатор штата Джерри Браун, прежде всего закон коснется автоматических ботов в соцсетях, которых компании используют в коммерческих целях, например, продавая товары или услуги. Теперь создатели ботов должны настроить их так, чтобы они сразу заявляли о своем искусственном происхождении и не вводили людей в заблуждение. Это также касается голосовых помощников, которые разговаривают по телефону от имени владельца.

О важности такого закона говорит руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта Андрей Незнамов:

Андрей Незнамов руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Необходимость такая есть. Может быть, США сейчас идут немножко впереди реальной насущной необходимости, но понятно, что мы к этому рано или поздно придем. Когда компания Google анонсировала своего голосового помощника пару месяцев назад, она на демонстрации делала звонок в ресторан, в парикмахерскую. Этот звонок делал голосовой помощник, и никто на той стороне не понял, что с ним разговаривает робот. Поэтому, скорее всего, это был формальный повод, почему такой закон появился. Всех действительно это поразило. Сначала люди порадовались, а потом испугались. Ведь если система на той стороне, например, осуществляет автоматическую обработку информации, то, общаясь с ней, ты доверяешь ей, например, свои персональные данные. Во-вторых, человек может быть введен в заблуждение относительно того, что ему сказал робот или искусственный интеллект и, основываясь на этом, принять какое-то решение или сделать какое-то действие, которое, если бы он знал, что это робот или искусственный интеллект, он делать бы не стал. Например, биржа: возможно, что человек по каким-то причинам не стал бы доверять роботу, а предпочел бы финансовый совет от биржевого человека».

1. Начнем с того приятного для нас факта, что слово «робот» славянского происхождения, от чешского robota . Автор - Карел Чапек, в его пьесе «R.U.R.» роботами называются синтетические люди-слуги немеханической природы.
2. Японец Хироси Исигуро специализируется на построении андроидов, максимально похожих на людей: с реалистичной внешностью, плавной мимикой, голосом. Он назвал их «геминоиды» (от лат. Geminis - близнецы) и мечтает, чтобы у каждого японца был свой дистанционно управляемый робот - как в недавнем фантастическом фильме «Суррогаты», консультантом которого, кстати, был как раз Исигуро. Однажды Исигуро попробовал отправить своего андроида вместо себя читать лекцию. Но андроида не пустили на самолет, чем расстроили хозяина. «Что делает человека человеком?! Неужели наличие желудка, или печени, или легких?» - вопрошал он.
3. Почему роботы иногда пугают нас? Японский исследователь Масахиро Мори в 1978 году открыл эмпирический закон, известный как «Страшная долина» (Uncanny Valley ). Он проводил опрос и выяснил, что чем больше робот похож на человека, тем привлекательней он нам кажется - но только до определенного предела. Робот, очень похожий на человека, но имеющий изъяны в мимике, движениях, внешности, начинает нас пугать, мы перестаем понимать, кто же перед нами - робот или полуживой зомби. Спад на графике привлекательности и называется «Страшной долиной». Проблема особенно актуальна для разработчиков человекоподобных роботов. Есть два способа преодолеть «Страшную долину»: сознательно делать роботов не очень похожих на человека, безликих, но симпатичных (пример - французский робот NAO), либо делать высококачественных андроидов, которых уже трудно отличить от людей (пример - последние версии геминоидов).

   

4. Одно из модных направлений современной робототехники - мягкие роботы. Имеются в виду роботы с мягкими частями тела: роботы-гусеницы, роботы-осьминоги. Для их создания требуется кропотливое изучение живых существ, а также применение необычных материалов: пластика, резины и даже сплава с эффектом памяти. Это переворачивает представления о роботах как о неуклюжих ящиках на колесах с моторчиками.

   

5. Если для компьютера способом показать превосходство над человеком была игра в шахматы, то для роботов эта игра, безусловно, футбол. Ассоциация робофутбола своей целью провозгласила победу команды роботов над командой людей в 2050 году. Однако пока регулярные чемпионаты роботов-футболистов выглядят комично: игроки двигаются очень медленно, постоянно спотыкаются, роняют друг друга. Но делают они это полностью автономно, и даже такие соревнования - большой успех.

   

6. Одна из самых громких разработок последних лет - двурукий домашний робот с открытым исходным кодом PR2 от компании Willow Garage . Его стоимость составляет 400 тыс. долл. В 2011 году 11 таких роботов были по итогам конкурса заявок направлены в ведущие институты мира, с условием, что разработки будут открыты для использования всеми желающими. Это в основном американские и европейские (Германия, Бельгия) учебные заведения, и только один университет из Токио. Результаты такого краудсорсинга вскоре принесли плоды: робота научили приносить пиво из холодильника, открывать дверь, ездить в лифте, играть в бильярд и многому другому. Самое впечатляющее действие запрограммировали в университете Беркли (Калифорния) - робот может аккуратно сворачивать и укладывать полотенце. Вот только уходит на это 25 минут.
7. Роботы становятся доступны буквально на глазах. Совсем недавно компания Unbounded Robotics («Робототехника без границ») представила нового робота - аналог PR2. Его стоимость всего 35 тыс. долл. - компания сознательно делала ставку на удешевление. Правда, у него всего одна рука и сделан он из более дешевых компонентов.

   

8. Удешевление роботов, их возрастающая доступность делают возможным развитие программного обеспечения для них. Так, в последние 5 лет возникли специальные операционные системы для роботов - ROS, Urbi , NAO OS. Обычно они основаны на Linux и включают в себя модули зрения, речи, взаимодействия с механикой робота. Открываются магазины приложений для роботов - наподобие AppStore и Google Market , пока в них почти все приложения бесплатны. Появляются робототехнические симуляторы, учитывающие физику и содержащие обширные библиотеки моделей роботов.
9. О том, что рынок роботов динамично развивается, говорит интерес к нему бизнеса. Так, глава компании Mail.Ru Дмитрий Гришин намерен инвестировать 25 млн долларов в робототехнические компании. Он уже вложил деньги в несколько компаний - инкубатор робототехнических стартапов Bolt , магазин приложений Robot App Store , роботов телеприсутствия Double Robotics , орбитальные спутники NanoSatisfi . Показательно, что в этом списке нет ни одной российской компании.
10. К сожалению, в России робототехнике не уделяется достаточного внимания. На робототехнической выставке в Сколково в этом году не было ни одной сколковской разработки, только приглашенные участники, а основными спикерами были иностранные ученые. Вице-премьер Рогозин пообещал премию тем, кто сделает аналог военного робота PETMAN, но его слова о господдержке робототехники расходятся с реальностью - в вузах продолжается сокращение бюджетных мест на специальности, связанные с робототехникой и искусственным интеллектом.

Речь естественно не идет про промышленных роботов, те прочно заняли свою нишу и у них все хорошо. Но вот «бытовые» роботы, роботы для простых людей как-то до сих пор не получили хоть какое-то приличное распространение.

При этом фантастические произведения, да и так сказать теоретическая концепция робототехники, рисовали нам радужные картины повсеместного использования роботов. Роботы должны были помогать людям, беря на себя сложную либо муторную работу.

Однако, когда дело дошло до собственно разработок, разработчики натолкнулись на отсутствие нормальных идей по использованию роботов. При том, что с технологической стороны всё, в общем, неплохо, но вот куда применять этот опыт не очень понятно, а те попытки, что есть, выглядят неубедительно.

Но все по порядку, и начну я, собственно, с того хорошего, что есть.

Роботы-конструкторы

Первое, что возможно приходит в голову, это конструкторы роботов. Lego mindstorms и тому подобные вещи.
Конструкторов роботов достаточно много и представляют они из себя обычно набор деталей для сбора шасси робота, контроллер в том или ином виде («мозг робота») и набор различных датчиков.

Имея небольшую инструкцию и чутка упорства, из этих деталей можно собрать небольшого робота, хоть это и будет по сути лишь передвигающаяся машинка.

Используя же возможности Lego, можно собирать просто безумные механизмы. От гексаподов, до танков с ракетницами. От механизма для собирания кубика Рубика, до механического художника рисующего Мону Лизу.

Всем хороши такие конструкторы, и особенно хорош Lego. Однако есть одно но. Это ни разу не продукт для простых людей. Это продукты для инженеров. Инженеров, возможно, не по профессии, а по призванию, но все же инженеров, то есть для тех людей, которые любят конструировать механизмы, а таких по определению не так чтобы много, что означает, что эти конструкторы не сделают роботов чем-то естественным для общества. Чем-то естественным как, например, в свое время стали компьютеры.

Роботы-пылесосы

Самое, наверное, массовое использование роботов в быту на данный момент, это роботы-пылесосы. Притом, что стоимость их со временем все уменьшается, они вполне неплохо выполняют свою функцию, помогая в уборке в доме.

Конечно, полностью сделать уборку за человека они не способны, однако их использование точно повышает чистоту в доме. И вот это пока что наиболее удачное использование роботов в быту, о чем говорят и продажи таких роботов, люди их покупают миллионами.

В итоге у нас есть один действительно массовый продукт, и один продукт для обучения. И пока что это все, чем может похвастаться робототехника. Остальные представители роботов, уже не так впечатляют.

Роботы-собака

В свое время Sony выпустила забавную собаку-робота Aibo. Тогда казалось, что, наконец-то, роботы придут в дом каждого человека. Однако по итогу, хороших продаж эти собаки не показали, и дело было не только в не самой маленькой цене, сейчас аналогов дешевле хватает, да вот продажи у них тоже посредственные. Дело в том, что такие роботы являются всего лишь дорогой игрушкой, а у подобных вещей существует не самое хорошее свойства, с ними играют неделю – две, а потом забрасывают в дальний угол, за ненадобностью. Поэтому-то они и не стали массовым продуктом. Ими долго пользоваться не будут.

Роботы «андроиды»

Nao, Darwin OP и ряд остальных. С одной стороны используется в качестве обучающих, и тогда выступают в одной категории с Lego mindstorms, а с другой используются для развлечения. В этом случае у них те же самые проблемы, как и у роботов-собак. Это дорогая игрушка, с которой играются неделю, а потом забрасывают куда подальше.

Выставочные роботы

Тут из личного опыта. Был на томском форуме молодых ученых U-novus, и там ездил робот от Московского технологического института. Про самого робота ничего не скажу, но так как я хотел на практике подтвердить свои теоретические догадки, то рядом с ним я провел достаточно много времени, наблюдая за людьми которые подходили к нему.

И народу заинтересованных было достаточно много! Одна проблема, поиграв с этим роботом пару минут, все теряли к нему интерес.

Это и есть основная проблема таких «промоботов». Они одноразовые. Они действительно привлекают к себе внимание, но только один раз, дальше на них уже всем плевать, а значит, те задачи, которые им теоретически приписываются, как лучшее привлечение клиентов, выполняться будут, но ровно до того момента, пока все не насмотрятся на этих роботов.

Справедливости ради, надо отметить, что в качестве экскурсоводов или передвижных справочных они вполне себе могут неплохо справляться, но тут вопрос в том, много ли нужно экскурсоводов или нужны ли передвижные справочные, когда есть просто таблички с информацией…

Квадрокоптеры

Условимся, что мы не рассматриваем те коптеры, которые управляются напрямую с пультов, а значит, роботами не являются.
Останется у нас не так уж много применений, которые пока что придумали.

Ну, во-первых «дорогая палка для селфи». Квадрокоптер летающий за хозяином и снимающий его на видео. В общем и в целом идея-то неплохая, не то, чтобы экстремалов было очень много, но видеоролики с ними, которые получаются с коптеров, выглядят всегда просто потрясно. Однако есть одно но, о котором скажу чуть позже. Ну, и кроме того, в основном это для экстремалов, в крайнем случае для туристов, так что о массовости тут, наверное, говорить не приходится.

Второе, это доставка грузов. От маленьких дронов в ресторане, до перевозки пиццы или других мелких посылок. Ну, дроны в ресторанах идея сразу плохая, все кто видел рваные раны от лопастей квадрокоптера, сразу поймут весь ужас использования их в закрытых помещениях.

Перевозка грузов, это уже лучше. Если убрать риски того, что малолетние вандалы с радостью начнут на такие штуки охотиться, то мы получаем отличную альтернативу «человеческим» курьерам. Быстрота пересылки, независимость от пробок на дороге, да и общая дешевизна и в итоге отличнейший продукт! Был бы…

Был бы, если бы не одна принципиальная проблема, стоящая в прочем не только перед именно индустрией роботов, но и, в общем, перед человечеством. И проблема это – низкая емкость современных аккумуляторов. Все нынешние квадрокоптеры могут летать около 30 минут. Некоторые умудряются до целого часа растянуть время полета, но не более. Много ли можно сделать за полчаса? Не очень.

Для тех же экстремалов, что грозит коптеру, когда пройдет эти полчаса? Он упадет куда-нибудь в пещеру/воду/вулкан/что угодно, а это потеря не самого дешевого коптера и уж точно дорогой камеры. Перевозка грузов также не шибко реалистичной видится, ты либо перевез одну посылку и потом сидишь заряжаешься, либо рискуешь уронить какой-нибудь фарфор на головы уличных прохожих.

Тут, правда, надо уточнить, что большие компании пытаются обойти это ограничение, например, создавая станции для подзарядки дронов, в которых коптер либо перезарядится и продолжит перевозить посылку, либо передаст ее другому дрону, который уже заряжен.

Но это все полумеры, и пока не смогут принципиально улучшить емкость аккумуляторов дроны навряд ли смогут выполнять свои функции так, как это задумывалось.

Другое

Есть еще несколько видов роботов, роботы телеприсутствия, роботы няньки, роботы учителя, и т.п. Но некоторые из них в принципе мало нужны, а другие пока что на слишком раннем этапе разработки, чтобы говорить об их успехе. Ну и в любом случае эти роботы, даже если получатся, будут занимать сильно узкую нишу.

Если же чего забыл или дурак и ничего не понимаю, пишите в комментариях.

Итог

А в итоге достаточно грустная ситуация. За редким исключением люди еще не придумали, зачем именно нужно использовать роботов, так, чтобы они прочно вошли в жизнь простых людей, и стали таким же естественным «спутником человека», как, например, компьютеры.

P.S. автопилоты у автомобилей не рассматривал, так как они немного выбиваются из стандартного «облика» роботов

Зачем человеку нужны человекоподобные роботы? Чем отличается кофеварка от «умного дома»? Почему «европейское» отношение к роботам не разделяют японцы?

Об этом «Европульсу» рассказал директор по научным исследованиям в Национальном центре научных исследований (Centre national de la recherche scientifique, CNRS) Абдеррахмен Хеддар (Франция).

Человекоподобный робот как способ ответа на экзистенциальные вопросы

Антропоморфные (человекоподобные) роботы – надежда приверженцев теории трансцендентности, которые верят, что человеческое сознание можно перенести на какой-нибудь другой носитель, и тогда человек может стать фактически бессмертным.

Изначально, когда были первые попытки сделать робота, похожего на человека, был принципиальный интерес – получится или не получится?

Потом разработчики, а вслед за ними и философы и художники, стали задаваться более глубокими вопросами: что для нас значит наше собственное тело? Фильмы «Аватар», «Суррогаты» и многие им подобные как раз об этом – насколько нам нужно тело, в котором мы родились, чтобы нормально существовать?

Человекоподобному роботу удобно в среде, созданной под человека

Фото: InstaWalli

Нас, современных разработчиков, больше интересует вопрос «как» — как сделать робота таким, чтобы он мог выполнять те же функции, что и человек?

Мы создали вокруг себя мир, в котором комфортно именно человеку. У нас есть двери, которые открываются, если их потянуть за ручку, есть ступеньки, по которым удобно ходить ногами, и так далее. Если мы хотим, чтобы у нас были роботы-помощники, которые живут в той же среде, что и мы, они должны быть на нас похожи.

Простым пользователям гораздо проще объяснить роботу, что нужно делать, если они представляют себе процесс «изнутри».

Представьте, что вам надо достать банку с полки. Вы знаете, что для этого нужно сделать (встать на табуретку, протянуть руку и так далее). Наверняка вы сможете это объяснить роботу без особых навыков программирования. А если бы вам надо было объяснить эту задачу большому кубу? Чем бы он брал банку? С чего вообще он бы начал? Без инструкции в четырех томах не разберешься.

Несет ли угрозу человекоподобный робот?

Фото: Wikimedia Commons

Меня часто спрашивают, как я отношусь к человекообразным роботам и к «умному дому», но почему-то никому не интересны мои отношения с кофеваркой. По сути, «умный дом» — это совокупность уже существующих сенсоров и роботов. По отдельности они не вызывают у нас особых эмоций, а вместе уже воспринимаются как что-то угрожающее.

Отношение к роботам меняется в Европе. Три года назад мы проводили исследования общественного мнения в рамках большого проекта, связанного с роботами-помощниками.

И оказалось, что для молодого поколения антропоморфный робот, который самостоятельно принимает решения, уже не ассоциируется с чем-то страшным из фантастических фильмов. Для молодых людей это просто робот — устройство, которое приносит пользу, и задача человека — сделать робота максимально полезным.

В Японии нет наших этических проблем отношения к роботам

Фото: James Pond

Я работал не только во Франции. В вопросах робототехники, особенно в строительстве антропоморфных роботов, мировым лидером является Япония, там у меня тоже есть проекты. Так вот, этические вопросы, связанные с роботами и отношением между людьми и роботами – это очень «западная» проблема.

Я думаю, это связано с религией. У христиан, мусульман, иудеев акт творения – это проявление Бога, только он может вдохнуть во что-то настоящую жизнь. Поэтому для нас создание похожих на человека роботов имеет особый смысл.

А в Японии считается, что душу имеет все, даже кастрюли и лампочки. Поэтому там роботы воспринимаются как нечто более естественное – как еще один девайс, который делает жизнь проще. И для них нет разницы между стиральной машиной и человекообразным роботом, который сам принимает решения.

Помощник, перед которым не стыдно

Но, может быть, отсутствие чувств у роботов – это хорошо?

Я столкнулся с такой проблемой: моя мама в силу преклонного возраста не может сама справляться с домашними обязанностями. Ей даже сложно бывает передвигаться по дому. Но она не хочет, чтоб ей помогали я или моя сестра – ей стыдно перед нами. И ей комфортнее, чтобы «за ней ходил» неодушевленный механизм.

Я не берусь судить о тонкостях эмоциональных взаимоотношений роботов и людей – хорошо ли человеку привязываться к роботу или нет. Это работа для других специалистов. Но я точно знаю, что нам, техникам, и гуманитариям надо работать вместе, чтобы роботы нашли свое место в нашем обществе.

Фото: James Pond

Кроме того, антропоморфные роботы многозадчны. Вы же не удивляетесь, что ваша мама может стирать, готовить, гладить собаку, а потом, например, рисовать сверхточные чертежи на работе? Так и робота можно научить многим вещам, не меняя при этом его конструкцию. Да, есть много задач, с которыми лучше всего справляются роботы определенной конструкции (например, со сборкой автомобиля). Но мыть полы такой робот уже вряд ли сможет.

Недавно мы работали над человекообразным «роботом-принтером» для авиационной отрасли. Самолет из-за размеров и технических требований невозможно полностью собрать «снаружи» — на какой-то стадии обязательно должны начаться работы изнутри.

Например, для электропроводки изнутри на фюзеляж нужно приделать много держателей-скоб. Сначала надо очень точно нанести на стены чертежи этих скоб – каждый чертеж занимает около 10 минут. А потом просверлить отверстия в помеченных местах. Людям нравится сверлить – сразу виден результат работы, к тому же для этого нужно мастерство. Но они ненавидят делать эти отметки на стенах – это скучно и утомительно.

И мы сделали антропоморфного робота, который может подниматься в фюзеляж, как человек, а потом, как принтер, «чеканить» эти чертежи. Ему обрадовались не только сами работники, но даже представители французских профсоюзов, которые «трясутся» над каждым рабочим местом.

«Европульс» благодарит международную конференцию Skolkovo Robotics V за помощь в подготовке интервью.

Почему ученые и исследователи ИИ спорят о том, нужны ли нам роботы? Насколько реален сценарий, по которому искусственный интеллект захочет (и сможет) уничтожить человечество? Когда робот займет мое рабочее место?

Приводим отрывок из книги писателя и журналиста The New York Times Джона Маркоффа «Homo Roboticus? Люди и машины в поисках взаимопонимания» , который поможет во всем разобраться.

Конец эры печатников

Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» - спросил я.

Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками.

Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы. Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации.

Куда пойдет ИИ?

Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.

Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж». Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.

Роботы на войне

На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред».

Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования проходят с прицелом на чрезвычайные ситуации под девизом “найти и уничтожить”, - сказал он сардонически, добавив: Простите, я имел в виду девиз “найти и спасти”».

Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, - сказал он, - но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались».

В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и .

Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их.

Сегодня мы все еще «в контуре управления» - машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, - сказал Аркин. - Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».

Вопросы и проблемы автоматизации вышли за пределы технического сообщества. В оставшемся незамеченным открытом отчете Пентагона «Роль автономности в оборонных системах» авторы обратили внимание на этические проблемы автоматизации боевых систем. Военные уже напрямую сталкиваются с противоречиями, связанными с автономными системами вроде дронов и приближением к грани, за которой вопросы жизни и смерти уже будут решать не люди. В одном из своих выступлений Аркин утверждал, что, в отличие от людей, автономные боевые роботы не будут чувствовать угрозы личной безопасности, а это потенциально может уменьшить сопутствующий ущерб и избежать военных преступлений.

Аркин, кроме того, сформулировал новый набор этических вопросов. Что, если у нас будут роботы, обладающие моралью, а у противника - нет? На этот вопрос нет простого ответа. Действительно, технологии все более интеллектуального и автоматизированного оружия спровоцировали новую гонку вооружений. Добавление недорогого интеллекта к системам вооружений угрожает изменить баланс сил между странами.

Когда Аркин завершил выступление в величественном здании Медицинской академии в Атланте, одним из первых ему ответил директор DARPA Robotics Challenge Гилл Пратт. Он не стал опровергать точку зрения Аркина, а подтвердил, что роботы - технология двойного назначения: «Очень легко критиковать роботов, которых финансирует Министерство обороны, - сказал он. - Очень легко нарисовать робота, который похож на Терминатора, но, поскольку все вокруг нас имеет двойное назначение, это ничего не меняет. Если вы создаете робота для здравоохранения, то вам придется сделать его более автономным, чем робота-спасателя для работы в чрезвычайных ситуациях».

Передовые технологии всегда вызывали вопросы относительно двойного назначения. В наши дни искусственный интеллект и автономность машин привели к переосмыслению этой проблемы. До сих пор технологии двойного назначения прямо требовали от людей принятия этических решений относительно их использования. Автономность машин или отдаляет принятие этических решений человеком, или полностью исключает его.

Автономны ли современные роботы?

У нас уже есть примеры, когда ученые и инженеры в других областях задумывались о потенциальных последствиях того, что они делают, и многие из них вставали на защиту человечества. В феврале 1975 г., например, нобелевский лауреат Пол Берг призвал элиту новой тогда биотехнологии встретиться в конференц-центре Асиломар в Пасифик-Гроув, Калифорния. В то время рекомбинантная ДНК, полученная добавлением новых генов в ДНК живых организмов, была последним достижением. Оно одновременно сулило глобальный прогресс в , и новых материалах и открывало страшную возможность ненамеренного уничтожения человечества в результате появления новых микроорганизмов. Встреча ученых привела к экстраординарному решению.

Группа рекомендовала молекулярным биологам воздерживаться от определенных видов исследований и приостанавливать исследования для поиска путей обеспечения безопасности. Для мониторинга отрасли биотехнологи создали независимый комитет в Национальном институте здравоохранения. За десятилетие удалось собрать достаточно данных, чтобы снять ограничения на исследования. Это был яркий пример разумного подхода общества к оценке последствий научного прогресса.

По примеру биологов в феврале 2009 г. группа исследователей искусственного интеллекта и робототехников также встретилась в Асиломаре, чтобы обсудить развитие отрасли. Встречу созвал исследователь из Microsoft Эрик Хорвиц, президент Ассоциации развития искусственного интеллекта. В предыдущие пять лет предметом обсуждения у исследователей в этой области были два тревожных сигнала. Один поступил от , объявившего об относительно скором появлении компьютерного сверхинтеллекта. Основатель Sun Microsystems Билл Джой также рисовал мрачную картину развития искусственного интеллекта. Он опубликовал статью в журнале Wired, где детально описывал трио технологических угроз: робототехнику, генную инженерию и нанотехнологию. Джой полагал, что эти области исследований создают тройную угрозу выживанию человечества, и не видел очевидного решения.

Встретившиеся в Асиломаре исследователи искусственного интеллекта предпочли действовать менее осторожно, чем их предшественники биотехнологи. Группа светил в области компьютерной науки и робототехники, включая Себастьяна Труна, Эндрю Ына, Мануэлу Велосо и Орена Этциони, нынешнего директора Института исследований искусственного интеллекта Пола Аллена, в целом отвергла возможность появления сверхинтеллекта, который превзойдет людей, а также предположение, что искусственный интеллект может спонтанно возникнуть в интернете. Они согласились, что уже разрабатываются способные убивать автономные роботы, но их отчет, появившийся к концу 2009 г., оказался довольно спокойным. Искусственный интеллект еще не достиг того момента, когда он превращается в непосредственную угрозу.

«На встрече 1975 г. речь шла о моратории на исследования рекомбинантной ДНК. Контекст совещания американской Ассоциации развития искусственного интеллекта был совершенно иным. Эта область демонстрирует довольно успешное, устойчивое развитие, однако исследователи искусственного интеллекта открыто выражают разочарование прогрессом, недостаточно быстрым с учетом существующих надежд и ожиданий», - написали авторы итогового отчета о встрече.

Так или иначе пять лет спустя вопрос автономности машин возник снова. В 2013 г., когда Google приобрела специализировавшуюся на британскую фирму DeepMind, считалось, что робототехники очень близки к созданию полностью автономных роботов. Крошечный стартап продемонстрировал программу, которая играла в видеоигры порою лучше людей. Отчеты о приобретении сопровождались заявлением, что Google создает «совет по этике» из-за опасений по поводу потенциального использования технологии и возможных злоупотреблений.

Один из соучредителей - Шейн Легг - признал, что технология в конечном итоге может иметь негативные последствия для человечества. «Думаю, что человечество исчезнет, и технология, скорее всего, сыграет в этом определенную роль». Для исследователя искусственного интеллекта, который только что получил сотни миллионов долларов, это была странная позиция. Если кто-то полагает, что технология может уничтожить человечество, то с какой целью он продолжает разрабатывать ее?

В конце 2014 г. встреча по искусственному интеллекту повторилась - новая группа исследователей, финансируемая одним из основателей Skype, собралась в Пуэрто-Рико, чтобы обсудить безопасность исследований. Несмотря на новую волну тревожных сигналов от таких светил, как Илон Маск и Стивен Хокинг, в открытом письме участников не было того призыва к действию, который прозвучал на встрече биотехнологов в Асиломаре в 1975 г.

Учитывая, что DeepMind была куплена Google, публичное философствование Легга приобретает особое значение. Сегодня Google - самый яркий пример потенциальных последствий развития ИИ и усиления интеллекта. Построенная на алгоритме, эффективно собирающем знания, а затем возвращающем их людям в процессе поиска информации, Google теперь занята созданием империи роботов. Компания может создать машины, которые заменят людей: водителей, работников служб доставки и сборщиков электроники. Пока неясно, останется ли она компанией «усиления интеллекта» или будет ориентироваться на ИИ.

И снова этические вопросы

Новую волну беспокойства по поводу потенциальной угрозы со стороны искусственного интеллекта и робототехники рождают этические проблемы, показанные в научно-фантастическом фильме «Бегущий по лезвию». В начале фильма детектив Декард встречается с Рэйчел, сотрудницей компании, производящей роботов (или репликантов), и спрашивает ее, дорого ли стоит «ночная бабочка». Она высказывает предположение, что он не понимает ценности работы компании. «Репликанты подобны любой другой машине, - отвечает Декард. - Они или благо, или опасность. Если они благо, это не моя забота».

Сколько пройдет времени, прежде чем интеллектуальные машины Google, основанные на технологиях от DeepMind и робототехнического подразделения Google, будут вызывать такие же вопросы? Мало какие фильмы оказали такой же культурный эффект, как «Бегущий по лезвию». Всего вышло семь его версий, одна из которых режиссерская, сейчас снимается сиквел. В нем рассказывается история отставного детектива из Лос-Анджелеса, которого в 2019 г. вызвали, чтобы выследить и уничтожить группу искусственно созданных существ, известных как репликанты. Репликанты предназначались для работы за пределами планеты, но незаконно вернулись на Землю, чтобы заставить своего создателя увеличить ограниченную продолжительность их жизни. Ставший современным «Волшебником Страны Оз», этот фильм отражает надежды и страхи технологически грамотного поколения.

От Железного Дровосека, который получает сердце и, таким образом, в определенной мере становится человеком, до репликантов, настолько превосходящих людей, что Декард получает приказ уничтожить их, отношение человечества к роботам превращается в определяющий вопрос эпохи.

Эти «интеллектуальные» машины никогда, возможно, не станут интеллектуальными в человеческом смысле или обладающими самосознанием. Дело не в этом. Искусственный интеллект быстро совершенствуется и приближается к уровню, когда он все в большей степени будет казаться интеллектом.

Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.

И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человекомашинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы - те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.

Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.

Машины уже выстраивают нашу повседневность

Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности.

Это подводит нас к еще одной большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri - сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, - сказал он. - Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить».

На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке.

Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно - если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре - это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым.

Конечно, у этих технологий есть пределы. Американский исследователь ИИ Терри Виноград говорит, что цели применения компьютерных технологий - расширение возможностей людей или их замена - зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») - это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.

На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей - инженеров и ученых, которые осознанно выбрали антропоцентрический подход.

Это проблема нас как людей и мира, который мы создаем. Это не проблема машин.