21 век – век глобальной автоматизации. Самый тяжелый и опасный труд за человека выполняют роботы. Военные действия не исключение, но военные роботы в отличие от производственных и тем более развлекательных роботов способны причинить значительный вред человеку . По этой теме психологи из Вашингтона подняли важную проблему: «Кого считать виновным, если боевая машина в связи с неисправностью оборудования или по ошибки в собственных расчетах причинила вред мирным жителям?» По сути дела круг виновных не особо большой, это:

• разработчики машины,
• разработчики программного обеспечения,
• военные,
• собственно сам робот.

Роботы не имеют свободы воли, они не могут испытывать чувства, у них нет морали, могут ли они нести ответственность за убийство невинных людей? Как отреагирует общество на такие ошибки боевых роботов? Исследования в университете Вашингтона проводилось, чтобы ответить на эти вопросы. Оказалось, что отношение людей к агрессивному поведению роботов несколько неожиданно и, по сути, не совсем правильное .

Для проведения исследования ученые набрали группу студентов и попросили их выполнить задание, которое они получат от робота. Студенты по очереди заходили в комнату с машиной, где получали от нее задание - найти 7 предметов. В случаи выполнения задания студент получал денежное вознаграждение. Все студенты справились с поставленной задачей, но робот отказывался засчитывать положительный результат. Большинство участников начинали спорить, приводить доводы в свою пользу и даже обвинять машину в ошибочных действиях. После эксперимента студенты ответили на несколько вопросов психологов. Из ответов выяснилось, что 65% участников считают, что робот не правильно вел счет , и как следствие этого виновен в невыдаче денежного вознаграждения. Иными словами участники эксперимента возложили ответственность именно на робота. Люди сами того не осознавая наделили робота моралью, при этом почти никто не вспомнил ни про разработчиков, ни про программное обеспечение, ни про самих экспериментаторов, а ведь именно последние по сути и были по настоящему виновны. Ученые в самом начале эксперимента, не сказав участникам, сами управляли роботом из соседнего помещения.

Этот эксперимент наглядно показывает, что люди не совсем правильно оценивают действия робота . В случае такой оценки почти полностью снимается вина не только с разработчиков, но и непосредственно с тех, кто запрограммировал машину на определенные действия. При проведении исследования студенты лишились вознаграждения всего в 20$, но вместо того чтобы реально обдумать список виновных, они сразу же "набросились" на робота. Насколько усугубиться положение в более неблагоприятных ситуациях? Возможно, наличие боевых роботов позволит государству манипулировать сознанием людей и перекладывать ответственность на роботов в случае больших человеческих потерь. К сожалению, последняя гипотеза уже подтвердилась на примере американских беспилотных летательных аппаратов в Пакистане.

Развитие робототехники и автоматизации, безусловно, необходимы для перехода человечества на новый технологический уровень. Но, как и в любой другой высокотехнологичной сфере, здесь есть свои риски. И ставка в этих рисках может быть самой высокой – ваша жизнь. В этом мы убедились на примере недавнего инцидента с беспилотным автомобилем Uber, в котором погиб пешеход. Проблема усугубляется тем, что нынешний уровень развития ИИ не позволяет бездушным машинам быстро и адекватно определять уровень опасности, а следовательно, и понимать - находится ли перед ним человек или материал, с которым робот был запрограммирован работать.

Пример трагедии, в результате которой под колесами беспилотника Uber погибла женщина, далеко не единственный. Для беспилотных автомобилей – один из, но не для производственной среды, где людям приходится работать бок о бок с опасными машинами каждый день. В критически опасных ситуациях, когда холодная сталь сталкивается с живой плотью, последняя всегда остается в проигрыше.

Сегодня мы поговорим о десяти случаях гибели людей от «рук» роботов. Некоторые примеры содержат весьма неприятные подробности, поэтому перед тем, как вы начнете это читать, советуем убрать от экрана детей. То же самое, если вы являетесь довольно мнительным человеком – лучше закройте эту страницу и поберегите нервы. Мы предупреждали!

Джошуа Браун

Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля. Трагедия случилась 7 мая 2016 года, когда двигавшийся по дороге американского городка Уиллистон электромобиль Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится – чистое небо или поворачивающая направо 18-колесная грузовая фура. Автомобиль Брауна влетел под центральную часть тягача как нож в масло и через мгновение вышел с другой стороны. Машина со срезанной крышей вылетела с дороги, пролетела через два забора, а затем врезалась в столб.

После внутреннего расследования Tesla заявила, что в софте автомобиля не было обнаружено никаких ошибок, и сразу же попыталась оградить себя от любого обвинения в этой аварии. При этом об инциденте публично было объявлено лишь 30 июня, то есть фактически через месяц после аварии. В опубликованном отчете говорилось, что автомобили модели Model S проехали уже более 210 миллионов километров и до сих пор не было ни одной аварии со смертельным исходом, когда для обычных автомобилей этот показатель в среднем составляет 150 миллионов километров. Компания также указала, что система автопилота ее автомобилей на момент аварии не была идеальной (полноценной), а потому правила четко требовали от водителя постоянного внимания и наличия рук на руле. За время этой 37-минутной поездки Браун только на 25 секунд убрал руки с руля. Они и оказались для него последними в его жизни.

Расследование Национального совета по безопасности на транспорте (NTSB) показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля. Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и проехал через кусты, расположенные на частном участке. Медицинские эксперты заявили, что Браун, вероятнее всего, погиб сразу после того, как автомобиль попал под тягач.

Водитель тягача заявил, что Браун смотрел фильм о «Гарри Поттере» в момент аварии. Проверка NTSB действительно показала наличие microSD-карты с фильмом о «Гарри Поттере», но не смогла точно сказать, действительно ли Браун был отвлечен просмотром фильма на лэптопах Asus или Chromebook, также обнаруженных в автомобиле.

Роберт Уильямс

Роберт Уильямс стал первым человеком в истории, убитым роботом. Инцидент произошел на фабрике Ford в городе Флэт-Рок, штата Мичиган 25 января 1979 года. Уильямс погиб от роботизированной руки весом в 1 тонну, которая его ударила, когда он пытался самостоятельно достать новую изготовленную деталь.

Задача роботизированной руки заключалась в перекладке новых деталей с одного места на другое. Однако накопившиеся ошибки в ПО, указывающие неправильную информацию о количестве деталей, находившихся в тот момент на стеллаже, заставили Уильямса самостоятельно подняться по лестнице и достать нужную деталь. В этот момент машина его и убила. Расследование показало, что причиной гибели человека стала очень слабая техника безопасности на предприятии, и в том числе отсутствие предупреждающих звуковых сигналов, которые говорили бы об опасном присутствии человека. Компания выплатила семье погибшего 10 миллионов долларов.

Девять южноафриканских солдат

В результате инцидента, произошедшего в 2007 году, погибло девять южноафриканских солдат и еще 14 получили серьезные ранения. В этот раз сбой дала установка противовоздушной обороны, которая открыла неконтролируемый огонь во все стороны. Убийцей стало автоматическое компьютеризированное зенитное орудие Эрликон GDF-005. Оно управлялось системой, предназначенной для автоматического поиска, захвата и атаки противника без участия человека. Орудие даже имело систему самостоятельной перезарядки, что в нашем случае могло сделать его еще смертоноснее.

Солдаты проходили тренировку на одной из баз Северо-Капской провинции ЮАР, когда зенитное орудие сначала заклинило, потом, по словам очевидцев, в нем что-то взорвалось, а затем зенитка открыла неконтролируемый огонь, выпустив из двух своих стволов двести пятьдесят 35-мм фугасных снарядов в людей, находившихся рядом с ним.

В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности. Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями. Просто этот случай оказался первым, когда в таком инциденте погибли люди.

Мика Джонсон

7 июля 2016 года в американском городе Даллас произошла стрельба со смертельным исходом. На почве гнева по поводу недавних убийств полицейскими нескольких темнокожих жителей, прокатившихся волной в различных городах США, Мика Джонсон застрелил пять полицейских и ранил еще девятерых, двое из которых были гражданскими. Первых трех полицейских он убил около 9 вечера, во время еще мирных на тот момент протестов. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.

В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсом переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб. В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.

Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца. Машина, «пожертвовав» собой, забрала в ад и Джонсона. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот. Ирония еще и в том, что сам робот предназначался для разминирования.

Полиция и до этого инцидента иногда использовала роботов для обезвреживания преступников. Правда в таких случаях, как правило, речь шла о светошумовых и дымовых гранатах, чтобы преступника можно было взять живьем. Кроме того, работе с роботами обучают и спецподразделения SWAT, которым чаще приходится иметь дело с террористами. В то же время американские войска еще во время Иракской войны пользовались аналогичными тактиками борьбы с повстанцами.

Кендзи Урада

Кендзи Урада стал второй жертвой робота в истории, а также первой и далеко не единственной жертвой, погибшей от руки робота, в Японии. Инцидент произошел в 1981 году на заводе компании Kawazaki Heavy Industries в городе Акаси, когда Урада производил ремонт одного из роботов. Как выяснилось позже, робот в нужный момент выключен не был, хотя должен был. Механическая рука столкнула бедного инженера в дробилку, где мужчина и погиб. Фактически это первый случай, когда машина убила человека с помощью другой машины. Спасти бедолагу не удалось – подоспевшие к месту трагедии коллеги Кендзи просто не знали, как выключить дробилку.

После долгих разбирательств инспекторы пришли к выводу, что Урада не забыл выключить технику – нужный тумблер он все-таки нажал. Однако после этого он сам же случайно зацепил тумблер, тем самым активировав только что отключенное устройство. Судя по тому, что Кендзи не остановила защитная решетка – которая должна опускаться автоматически, если робот находится во включенном режиме, – тумблер был включен уже после того, как Урада пролез через ограду. После случившегося производители сделали определенные выводы и еще больше усилили защитные системы роботов.

Неизвестный

Трагедия произошла в 2015 году на заводе автоконцерна Volkswagen в немецком городе Баунаталь. Неназываемый 21-летний молодой человек входил в команду инженеров, разработавших робота и занимавшихся его установкой. Машина убила своего создателя, проломив тому грудную клетку, после того как схватила и швырнула о металлические пластины. От полученных травм, несовместимых с жизнью, человек скончался в больнице.

СМИ сообщали, что робот-убийца должен был использоваться на линии по производству двигателей. Как и положено по технике безопасности, робот находился внутри защитной клетки. В то же время в ней находился и инженер, занимавшийся установкой и настройкой машины. В своем заявлении Volkswagen предположила, что установка могла двинуться по сигналу другого рабочего, который находился в тот момент с внешней стороны. Вследствие ошибки робот и убил несчастного.

Ванда Холбрук

В июле 2015 года крупно не повезло 57-летней Ванде Холбрук, сотруднице завода Ventra Ionia Mains в Детройте, производящего автозапчасти (бамперы и прицепы для грузовиков). На заводе Холбрук занималась мониторингом неисправностей на линиях. Тогда никто и подумать не мог, что трагическое происшествие внезапно оборвет ее жизнь, а причинной ее смерти станет сбой в механизме робота, который своими «руками» раздробит Ванде голову.

Как правило, сборочная линия на заводе разделена на несколько секций, в каждой из которых находятся роботы, занимающиеся своей частью сборки и предположительно не способные дотянуться до другой секции. Мы говорим «предположительно» потому, что один робот каким-то образом все-таки это сделал.

Как писалось в отчете комиссии, расследовавшей эту трагедию, «рука робота неожиданно схватила Ванду, дотянувшись до секции, где она работала. После этого, ударив и раздавив голову Ванды между сцепками сборки, попыталась поместить ее голову в специальное приспособление-зажим».

Рабочее место Ванды занимало площадь 800 квадратных футов, в котором роботы брали бамперы грузовиков и приваривали к ним металлические пластины. В документах писалось, что она работала как бы в клетке в тот момент, когда рука робота проникла на ее территорию и прижала ее голову к арматуре.

То, что произошло ЧП, другие сотрудники Ventra заметили лишь после того, как некоторые обычные операции перестали функционировать привычным образом. Именно после этого они направились в секцию Ванды Холбрук и решили выяснить, что произошло. Холбрук была найдена коллегами в бессознательном состоянии и умерла через 40 минут после аварии.

Рука робота фактически пыталась установить голову Ванды в специальный зажим для детали, что само по себе показалось крайне невероятным, поскольку зажим не может удерживать сразу две детали одновременно – на момент инцидента деталь уже находилась в зажиме.

Муж погибшей подал иски против пяти компаний, участвовавших в производстве этого робота.

Ана Мария Витал

В 2009 году роботом-паллетизатором компании Golden State Foods на заводе в промышленном районе Лос-Анджелеса была убита 40-летняя Ана Мария Витал. Машина использовалась в процессе установки упаковки (коробок) на палету (поддон).

В какой-то момент одна из коробок застряла внутри робота, и Мария вошла в его клетку для того, чтобы восстановить ход упаковки. Так как машина все это время была включена (зачем нам техника безопасности?), робот схватил Ану Марию, как одну из упаковок, с которыми он работал, а затем просто раздавил ее тело, несмотря на попытки механиков ее освободить.

Рамжи Лал

В 2015 году 24-летний Рамжи Лал, работавший загрузчиком металла, был заколот до смерти одним из роботов завода компании SKH Metals в индийском городе Манса. Задача робота сводилась к перемещению сваренных между собой металлических листов. Один из таких листов оказался неправильно расположен, и Рамжи попытался его поправить. Правда, оказался недостаточно расторопным, и рука робота заколола его острым краем листа в живот. Сообщалось также, что погиб он от удара током.

На самом деле Лал умер не сразу. Очевидцы произошедшего вызвали скорую, и человека привезли больницу, где через 20-30 минут он и скончался. Вскрытие показало, что его ребра и брюшная полость превратились в настоящее месиво, а умер он от обширного внутреннего кровотечения. При этом никаких признаков поражения током патологоанатомы не нашли. Однако у полиции на этот счет, видимо, оказалось свое мнение. В официальном отчете говорилось, что причиной смерти явилось смертельное поражение электрическим током.

Регина Эльза

В июне 2016 года, за две недели до собственной свадьбы, от «руки» робота погибла Регина Эльза. Ей было всего 20 лет. Несчастный случай произошел на фабрике Ajin USA, занимающейся производством деталей для автомобилей компаний Hyundai и Kia.

В тот судьбоносный день Эльза с коллегами пыталась починить вышедшего из строя робота. На самом деле они не должны были этого делать, однако многочисленные звонки в ремонтный отдел эффекта не возымели. Там просто никто не брал трубку. В итоге их решение попробовать починить робота самостоятельно оказалось роковым для одного из сотрудников. Робот неожиданно перезагрузился и очень сильно толкнул Эльзу в другую машину, нанеся ужасные травмы. Сотрудницу фабрики сначала доставили в медицинский центр Восточной Алабамы, а затем вертолетом отправили в травматологический центр в Бирмингеме. К сожалению, травмы оказались очень серьезные, и на следующее утро девушка скончалась.

Инцидент привлек повышенное внимание властей. Было установлено, что руководство фабрики Ajin USA, стремясь повысить прибыль, нарушило сразу несколько протоколов безопасности. Всего за две недели до инцидента Министерство труда США выдвинуло предприятию иск в размере 2,7 миллиона долларов за нарушение 27 различных правил безопасности. Проверка также показала, что сотрудники Ajin USA часто перерабатывали. Иногда руководство требовало от них работать 7 дней в неделю без выходных и часто подначивало самостоятельно ремонтировать вышедших из строя роботов.

Сподобався матеріал? Сміливо поділися
ним в соцмережах через ці кнопки

Подводную змею-робота создали инженеры японского научно-исследовательского института NEDO . Механическая рептилия ACM-R5 в длину 2 метра, ее вес всего 8 кг. Литий-ионный аккумулятор позволяет змее автономно работать в течение 30 минут. Управлять им приходится по радио. Следуя командам, ACM-R5 может менять высоту, скорость и направление движения. Перемещается змея, как и ее биологический аналог, извиваясь всем телом.

Свое местоположение робот определяет с помощью гиросенсоров и цифровой камеры, данные обрабатываются 32-битным микропроцессором. Змея умеет не только плавать, но и двигаться по дну. Робот сконструирован не ради демонстрации высоких технологий, а для практических нужд. Змеи с более емкими аккумуляторами смогут обследовать океаническое дно для предупреждения землетрясений и прокладывать или ремонтировать оптоволоконные кабели.

Робот-трансформер

На девятой по счету выставке Robo-One в Токио изобретатели представили множество разнообразных роботов. Внимание посетителей привлек RAYERD-X , создатель которого - инженер Асурада А. Машина заняла всего лишь 24 место, но зато получила специальный приз. Уникальный дизайн робота позволяет ему превращаться в шагающего паука, башню, карусель и, конечно же, принимать «боевую» гуманоидную форму. При необходимости робот может трансформировать руки в ноги, чтобы продолжать сражение. В общем, способностям RAYERD-X позавидует любой автобот или десептикон.

Рост трансформера 50 см, а вес 4 кг. Управляет роботом оператор посредством беспроводного интерфейса. Игрушка обошлась создателю в 3 тысячи долларов (около 80 тысяч рублей). Кстати говоря, подобные трансформеры могут использоваться в военных и промышленных целях.

Летающий терминатор

Основной закон роботов нарушен! Робот может убить человека! Компания Neural Robotics Incorporated выпустила в продажу беспилотный вертолет AutoCopter с автоматическим дробовиком Auto Assault-12. Летающая машина размером с телевизор предназначается для охраны дома. AutoCopter оснащен навигационной системой со сложными алгоритмами, что позволяет ему летать самостоятельно, без указаний человека. Машина, следуя заданной программе, поднимется в воздух и станет, к примеру, патрулировать территорию.

Управлять AutoCopter можно по радио или с помощью модуля спутниковой навигации GPS через компьютер. Если вертолет потеряет связь, он вернется туда, где контакт еще оставался. Робот следит и за уровнем топлива - как только оно подойдет к концу, раскроется специальный парашют. В вертолет встроена защита от дурака: если пилот отдает команды, грозящие роботу паданием, машина откажется их выполнять.

Аппарат развивает скорость 75 км/час и выстреливает до 300 патронов в минуту. Оборудованный видеокамерой с инфракрасным режимом и мощным компьютером, робовертолет станет грозным оружием против воров. Стоимость смертельной машины составляет 2,6 млн рублей. Пока неясно, кто будет нести ответственность за убийство роботом человека.

Выпей метанола...

Два типа искусственных мускулов, из алюминия и углеродных нанотрубок, изобрели ученые Техасского университета . Рукотворные волокна работают на метаноле и смогут однажды, как надеются техасцы, стать полноценной заменой обычным мышечным тканям. Искусственные мышцы вырабатывают энергию так же, как и уже известные топливные элементы. Небольшое количество топлива содержится прямо в тканях, остальное подводится по системе циркуляции. Химическая энергия переходит в тепло, которое и заставляет мышцы сокращаться.

Бросить мячик рука с новыми волокнами не позволит, зато роботы смогут поднять груз весом до 500 кг, не расходуя при этом заряд литий-ионных аккумуляторов! Применяться мышцы станут и в экзоскелетах - специальных усиливающих костюмах для грузчиков, военных, космонавтов. Очевидный плюс технологии - малая энергоемкость. Реализация изобретения на практике - дело ближайших лет, оптимистично считают ученые.

Что искусственный интеллект является самой серьёзной угрозой, с которой сталкивалась человеческая цивилизация. «Я думаю, что людям есть о чём беспокоиться», - сказал он во время своего выступления перед Национальной ассоциацией губернаторов США.

20 августа представители компаний из 26 стран, разрабатывающих робототехнику и технологии искусственного интеллекта, подписали открытое письмо, обращённое к ООН. Они призвали организацию запретить разработку и использование автономного оружия - роботов, которые способны убивать людей. Илон Маск тоже подписал это письмо. «Секрет» вспоминает случаи, когда искусственный интеллект выходил из-под контроля.

Свой язык

21 июня 2017 года исследователи лаборатории искусственного интеллекта Facebook (FAIR) отключили роботов, которые начали общаться на собственном языке.

Разработчики экспериментировали с чатботами в социальных сетях, чтобы создать идеальных переговорщиков. Исследователи Facebook поручили ботам поменяться шляпами, шарами и книгами, каждому из этих активов была присвоена определённая цена. В процессе переговоров боты, их звали Элис и Боб, придумали собственный язык. Они вели диалог на английском, но смысл ускользал от наблюдателей. Вот как выглядела типичная беседа:

Боб: Я могу могу ЯЯ всё остальное.

Элис: Шары имеют ноль для меня для меня для меня для меня для меня.

Хотя роботам удалось заключить несколько сделок, разработчики отказались от наблюдения за ними и отключили их. Целью эксперимента было создание искусственного интеллекта, который смог бы коммуницировать с людьми и продавать те или иные вещи, но язык, который роботы сконструировали на основе английского, для этого совершенно не подходил.

Боты начали придумывать свой язык, потому что так им проще общаться. Программа не подразумевала вознаграждения за использование понятного английского, так что боты просто выбрали лёгкий путь. Кстати, чуть раньше другой бот Facebook научился блефовать и обманывать - делать вид, что какой-то предмет ему совершенно не нужен, и приобретать его за бесценок. Робот тренировался продавать книги, кепки и мячи и изучил 5800 реальных человеческих переговоров, собранных при помощи краудсорсинговой онлайн-платформы Amazon Mechanical Turk.

Анализируя диалоги, бот научился импровизировать и придумывал новые фразы и предложения.

Facebook подчёркивает, что причин для беспокойства нет. Был проведён научный эксперимент, он закончен, и его результаты не вызывают тревоги. Компания продолжит работу над совершенствованием ботов, которые в будущем смогут заменить кол-центры и службы поддержки больших компаний.

Самостоятельные беспилотники

В середине декабря прошлого года на YouTube появилось видео , на котором пилотируемая искусственным интеллектом машина компании Uber проехала на красный свет в Сан-Франциско. Uber и Volvo подписали соглашение о создании беспилотных такси в августе 2016 года, а в декабре уже начали тестировать автомобили без водителя на улицах Сан-Франциско и Питтсбурга. Самоуправляемые такси Volvo XC90 регулярно игнорируют светофоры и другие знаки дорожного движения.

Официально причиной инцидента была названа человеческая ошибка, за движением беспилотных такси Uber удалённо следит оператор, его задача - принять управление автомобилем на себя в экстренной ситуации. Однако получается это не всегда. «Оператор имел возможность вмешаться в процесс, но почему-то не успел этого сделать», - прокомментировал видео представитель Uber Челси Колер.

Поскольку Uber проводил тестирования на улицах Сан-Франциско без необходимого разрешения со стороны местных властей, после неоднократных предупреждений чиновники аннулировали регистрацию автономных Volvo XC90 и испытания пришлось перенести в Аризону.

Агрессивный робот угрожает убить людей

Робот по имени София в интервью на канале CNBC положительно ответила на вопрос «Хочешь ли ты уничтожить человечество?» ?

В 2016 году София, созданная компанией Hanson Robotics, дала интервью на канале CNBC. С роботом беседовал доктор Дэвид Хансон, возглавляющий группу инжиниринга и дизайна Hanson Robotics. София - привлекательный андроид, напоминающий внешне актрису Одри Хепберн (по крайней мере, так считают её создатели). Впервые она была активирована 19 апреля 2015 года. Она умеет имитировать человеческую мимику, интонации, вести непринуждённую беседу. Скоро после запуска София стала телезвездой и посетила многие популярные телешоу.

Беседуя со своим создателем, София, как всегда, улыбалась, хмурилась и толково отвечала на вопросы. Когда Хансен попросил её подружиться с ним, София кокетливо заметила: «Это очень лестное предложение».

Она поделилась своими планами на будущее, рассказала, что не прочь стать дизайнером и завести семью. Хэнсон в шутку спросил, будет ли она истреблять человечество, на что робот ответил: «Хорошо, уничтожу».

В 2017 году андроид посетила популярное американское шоу The Tonight Show. София сыграла с ведущим Джимми Фэллоном в игру «Камень-ножницы-бумага», победила и пошутила: «Прекрасное начало моего плана по доминированию над человеческим родом».

Такие роботы, как София, в будущем смогут работать в сфере здравоохранения, терапии, образования и обслуживания клиентов. «Искусственный интеллект разовьётся до такой степени, что андроиды смогут становиться нашими настоящими друзьями», - считает доктор Хэнсон.

Боты-расисты

24 марта 2016 года чатбот Tэй, созданный компанией Microsoft при поддержке китайского поисковика Baidu, был отключён разработчиками. Бот заразился от людей расизмом и сексизмом. Всего 24 часа понадобилось искусственному интеллекту, чтобы начать поддерживать Гитлера, называть Трампа отличным парнем и повторять расистские и шовинистские высказывания.

ИИ моделировал личность и стиль разговора 19-летней американской девушки и обладал функцией самообучения. Разработчики из Microsoft Research надеялись, что Тэй с каждым днём будет становиться всё умнее, впитывая опыт разговоров с пользователями интернета. Вышло наоборот. Множество твитов Тэй пришлось удалить, высказывания робота были слишком неполиткорректными.

Представители Microsoft сказали, что в программу был встроен фильтр вульгарных выражений, но этот фильтр не справился с толпой интернет-троллей, которые начали болтать с искусственным интеллектом и учить её плохому. Бот был запрограммирован повторять слова людей, и вскоре, начитавшись дискриминирующих и оскорбительных реплаев, стал сочинять похожие.

Учёные доказали, что искусственный интеллект, обучаясь на примере различных текстов, может «запомнить» скрытые в них гендерные и расовые стереотипы . Например, если вбить в Google Translate, работающий благодаря нейронным сетям, турецкую фразу «O bir doktor», сервис предлагает варианты «Он врач» и «Он доктор», хотя турецкое местоимение - гендерно нейтральное, значит, уместно было бы перевести предложение как «Он/она врач».

С ошибками машинного обучения был связан и обнаруженный в начале 2016 года курьёз, когда Google переводил словосочетание «Російська Федерація» с украинского на русский как «Мордор», а слово «росiяни» - как «оккупанты».

Еще недавно ученые утверждали, что даже самый совершенный компьютер никогда не будет обладать способностью самостоятельно мыслить и рассуждать, ведь по большому счету это всего лишь набор микросхем, которые позволяют устройству производить сложные, но стандартные операции, заложенные в него людьми.

Никто, разумеется, не станет закладывать в компьютер программу уничтожения человечества. Хотя чисто теоретически… возможно все.

Пока ни в одной стране мира еще не существует технологий, которые могли бы функционировать без контроля со стороны человека. Тем не менее подобные разработки ведутся. Так, специалисты из Технологического института Джорджии разработали особую программу, которая научит роботов… лгать. Правда, только друг другу.

Подобная тактика может быть использована для роботов, охраняющих военные склады или боеприпасы на полях сражений, — сообщают авторы проекта. — Это поможет им обмануть врага и выиграть время до подхода подкрепления.

Известная компания Google применяет в своем программном обеспечении алгоритмы так называемого глубокого обучения (deep learning), которые имитируют деятельность нейронов в коре головного мозга. Это позволяет программам распознавать те или иные закономерности в звуках, изображениях и других виртуальных данных.

Команде исследователей во главе с профессором химии из Университета Калифорнии Джеймсом Гимзевски при поддержке DARPA (Агентства передовых оборонных исследовательских проектов) удалось разработать технологию, которая позволяет создавать полностью автономных роботов, способных «думать» как человек. Они будут работать не на привычных нам микросхемах, а на нанопроводниках, образующих миллиарды соединений аналогично нейронам человеческого мозга.

Это поможет им запоминать и анализировать полученную информацию так же, как люди. Таким роботам не понадобится человеческий контроль. К примеру, самолеты, оснащенные этими системами, будут изучать местность и прокладывать маршруты без участия живого пилота.

Глава компании Palm Computing Джефф Хокинс, автор книги «Об интеллекте» (2004), в свою очередь, разрабатывает систему машинного обучения, предсказывающую закономерности потребления энергии и вероятность поломки различных устройств. Впрочем, он считает, что машинный интеллект никогда не сможет развиться до уровня человеческого, так как даже глубокое обучение не позволит ему, скажем, испытывать эмоции.

Предположим, система сможет легко распознать такой объект, как кошка, но не поймет, когда это животное делает что-то забавное, а когда просто сидит на месте… Но, возможно, главная опасность воздействия искусственного интеллекта на людей как раз и заключается в отсутствии человечности.

Кампания против роботов

В последнее время набирает обороты мировая кампания «Остановить роботов-убийц». Ее сторонники убеждены, что развитие искусственного интеллекта грозит человечеству уничтожением. Во главе кампании стоит Джоди Уильяме, основательница Международного движения за запрет противопехотных мин, в 1997 году удостоенная Нобелевской премии мира.

Эксперты утверждают, что всего через 20-30 лет армии будут состоять не из людей, а из высокоорганизованных роботов. Новые технологии сделают военные конфликты практически бескровными, во всяком Ф % случае помогут свести число человеческих жертв к минимуму. Однако Джоди Уильяме считает, что производство таких «машин смерти» является нарушением основных принципов гуманизма и прав, человека.

Не хочу, чтобы меня уничтожила запрограммированная машина, — говорит она.

Думаете, это не более чем необоснованная истерия? Возьмем совсем недавний случай с хирургическим роботом «да Винчи», детищем компании Intuitive Surgical. Эта модель сегодня установлена в клиниках по всему миру. Считается, что изобретение значительно облегчило работу врачей-хирургов, которым порой приходится выполнять сложные многочасовые операции, не отходя от операционного стола…

«Да Винчи» оснащен четырьмя механическими руками, набором режущих инструментов и мини-телескопом. Управляют роботом живые медики при помощи специальной консоли, ориентируясь на выводимое на монитор трехмерное изображение оперируемого органа.

Робот запрограммирован так, чтобы делать миниатюрные разрезы, что снижает потерю крови, уменьшает риск кровотечения, а также сокращает общий период восстановления после операции. Устройство активно применяется при таких операциях, как пересадка органов, восстановление митрального клапана, желудочное шунтирование, удаление желчного пузыря и предстательной железы, и многих других.

Поначалу врачи были в восторге от кибернетического «коллеги», который действительно во многом упростил их нелегкий труд. Но в последнее время ряд инцидентов, связанных с использованием «да Винчи», заставил медиков насторожиться. Так, под ножом робота умерли два человека: один — в результате случайного пореза роботом кровеносных сосудов, другой — после операции на селезенке. Также были зафиксированы перфорация толстой кишки во время операции на простате и захват внутренних тканей в ходе ректальной операции.

Мы должны были полностью отключить систему, чтобы разжать захват аппарата, — рассказывает врач, наблюдающий за операциями.

Кроме того, во время операции по гистерэктомии (удалению матки) робот нанес пациентке удар одной из своих механических конечностей. В итоге хирургу пришлось отказаться от «услуг» аппарата и оперировать самостоятельно.

Результаты исследований показывают, что риски, связанные с использованием робота, существенно занижены, — заявил хирург Мартин Макарий из Университета Джонса Хопкинса. — Быстрое внедрение аппарата «да Винчи» было сделано без оценки его возможностей. Нам известны случаи катастрофических осложнений, возникших после операций, проведенных при помощи механических рук.

Почти живые

Тем не менее роботы уже настолько прочно вошли в нашу жизнь, что мы часто воспринимаем их так, как если бы они были живыми существами.

Зарубежные исследователи попытались определить, как взаимодействие с роботами влияет на людей на эмоциональном и неврологическом уровне. Так, добровольцам продемонстрировали два видеоролика. В одном из них маленького робота-динозавра обнимали и щекотали, в другом над ним же издевались — били и бросали на пол. Затем специалисты оценивали уровень физиологического возбуждения испытуемых после просмотра, фиксируя проводимость их кожи. Ведь когда мы испытываем сильные эмоции, то больше потеем и наша кожа лучше проводит электричество.

Участники эксперимента отметили у себя негативные эмоции, полученные в результате просмотра видео с роботом,

над которым совершалось насилие. При этом уровень проводимости их кожи значительно вырос, указывая на пережитое состояние стресса.

В другом исследовании мозг участников сканировали при помощи функциональной магнитно-резонансной томографии (MPT). На этот раз им показывали ролики, в одном из которых в качестве объекта насилия выступал человек, а в другом — робот. Например, в одном ролике мужчина пытался задушить женщину полиэтиленовым пакетом, в другом то же самое проделывали с роботом.

Если добровольцам предлагали наблюдать за человеком и роботом, с которыми обращались ласково, сканирование выявляло сходную нейронную активность. Если же над объектом издевались, то испытуемые больше сочувствовали человеку, а не роботу. — Мы полагаем, что жестокое обращение с роботом вызывает практически такую же эмоциональную реакцию, как и издевательства над человеком, — прокомментировала результаты руководитель исследования Астрид Розенталь фон дер Пютен из Университета Дуйсбург-Эссен (Германия). — Однако к человеку у нас пока сочувствия больше.

То, что человек проявляет сочувствие к роботу, — это неудивительно, потому как роботы выглядят и ведут себя как люди или животные, — утверждает робототехник Александр Ребен.

Исследователи отмечают, что проявление сочувствия к роботам встречается в самых различных ситуациях и контекстах. Скажем, эмоциональную связь с роботами демонстрируют солдаты на поле боя. Правда, чем более реалистичными кажутся искусственные создания, тем большую степень сочувствия к ним можно наблюдать. Хотя это не работает, если роботы слишком уж похожи на людей. Инстинктивно нас отторгают наши искусственные «копии»…

Ида ШАХОВСКАЯ