Опасности появления мыслящих машин

ТО что будет представлено ниже, опирается лишь на прогнозы футурологов и ученых, однако нужно помнить, что никто не может точно сказать насколько это будет соответствовать истине.

 Война миров

 Самый главный кошмар, который мы можем ожидать –  война с роботами, порабощение  человечества, а то и полное  уничтожение биологической жизни  за ненадобностью. Х/ф «Терминатор»  наглядно показывает данное развитие  событий, где роботы воюют с  людьми за возможность доминирования. А ведь уже в наше время  неустанно ведутся работы по  созданию роботизированных солдат, мулов и дронов для эффективной борьбы с терроризмом. А что будет, если эти роботы вдруг передумают и атакуют своих создателей?

Смерть? 

Один из плюсов сингулярности, как многие полагают, это бессмертие. То есть, вероятно, появится возможность скопировать или перенести свой разум в робота, или даже в компьютер (например, как в фильме «Матрица», где все люди на самом деле существуют в виртуальном мире). Восстановление утерянных конечностей тоже станет более реальной возможностью с появлением «умных» имплантантов, и тогда смерть уже не будет такой неизбежной участью для человека, как сейчас. Имплантанты, постепенно, будут замещать не только нездоровые или отсутствующие органы, но и вполне дееспособные. Люди будут совершенствовать себя, чтобы стать умнее или сильнее, постепенно превращаясь в киборгов.

Экология больше не проблема

Окружающая среда, скорей всего, тоже претерпит значительные изменения. Роботам не нужен чистый воздух, комфортные климатические условия, растения и животные. Им вообще ничего не нужно, кроме ресурсов для создания новых технологий и роботов ну и ремонта старых. Есть риск, что они просто уничтожат все живое и истощат все ресурсы на Земле, причем гораздо быстрее, чем сейчас делает это человек.

Зачем мы им будем нужны?

В перспективе, любого человека в любой сфере деятельности можно будет заменить роботом, тогда появляется вопрос, а что же останется человеку? Чем умнее будут становиться машины, тем большими возможностями они будут обладать, и если сейчас они лишь помогают людям в простых задачах, автоматизируя однообразную деятельность, например, по сборке чего-либо, то в будущем роботы сами смогут разрабатывать сложнейшие вещи и это вызовет огромный уровень безработицы среди населения.

 Мы уже частично  находимся в сингулярности –  такую работу, как запоминание, вычисление  и навигацию за нас выполняют  компьютеры. На данный момент, машины  несут больше пользы и деградация  не заметна. Но, когда почти вся  человеческая деятельность будет  в руках искусственного интеллекта, люди станут не нужны такой  системе. Возможно, мы утратим все  свои способности, по аналогии  с митохондриями, которые являлись  независимыми организмами, но после  поглощения бактериями когда-то  очень давно, митохондрии постепенно  передали клеткам все свои  функции, за исключением выработки  энергии.3

На данный момент проводятся различные конгрессы о теории сингулярности, на которых предполагают все более различные вариации будущего, как роботизированного, так и нет. Но об этом можно написать отдельный реферат, так как материала по этой теме много, и он не до конца соответствует заявленной. Поэтому я хотела все - таки вернуться к нашей теме, и затронуть проблему военизированных роботов. Насколько они опасны для нас?

3.1.Опасности роботов – военных.

   В последнее время  в мире набирает мощь компания  против создания искусственного  интеллекта. Одна из самых известных, это компания «Остановить роботов-убийц». Одним их выводов этих компаний, это то, что лет через 20 – 30 в  основном в военных конфликтах  будут брать участие роботы. Но  как считают противники создания  умных роботов, такие роботы это  просто механические убийцы, некие  «машины смерти» и будут полностью  направлены против человека. Перепрограммировать  ее будет невозможно.

Правозащитная организация Human Rights Watch при поддержке Гарвардской школы права опубликовала 50-страничный доклад об опасности использования полностью автономных (роботизированных) вооружений. Как предполагают авторы доклада, боевые роботы не смогут отличить мирных жителей от военных. В докладе, который получил название "Losing Humanity: The Case Against Killer Robots" (дословно "Теряя человечность: Доводы против роботов-убийц"), в частности отмечается, что машины лишены сострадания и не несут ответственность за причиненный ущерб. С одной стороны, как говорится в докладе, наличие боевых роботов поможет спасти жизни собственных военнослужащих. С другой стороны, использование роботов вместо людей может облегчить моральную ответственность за развязывание военных конфликтов.

По мнению главы подразделения Human Rights Watch по вопросам вооружений Стива Гуса (Steve Goose), автономным боевым аппаратам необходим постоянный контроль со стороны человека.

Подобная безэмоциональность – скорее недостаток, чем достоинство искусственного интеллекта. Например, роботы могут стать инструментом в руках у диктатора, желающего расправиться с восставшим против его тирании народом. Во-вторых, безэмоциональность и невосприимчивость роботов также могут привести к увеличению количества военных столкновений, так как роботы – это «неживая» сила и ее просто не жалко, что значительно снижает моральные ограничения в вопросе развязывания войны. А в любой войне гибель мирного населения неизбежна. То есть вероятность вооруженных столкновений, с точки зрения Human Rights Watch, возрастет.4

Впрочем, как отмечается в докладе, полностью автономные боевые машины пока еще не разработаны и тем более не приняты на вооружение. По мнению экспертов, на которых ссылаются авторы документа, такие вооружения могут появиться в ближайшие 20-30 лет. Первыми подобные технологии, как ожидается, представят США, Израиль, Южная Корея, Китай, Германия, Великобритания и Россия.

Одним из лидеров в разработке беспилотных летательных и подводных аппаратов, а также военных роботов являются США. Финансированием подобных экспериментальных разработок занимается Управление перспективных исследовательских проектов (DARPA). Закон о создании в России аналогичного органа - Фонда перспективных исследований (ФПИ) - президент Владимир Путин подписал в октябре 2012.

    Одним из настораживающих  факторов, например, это создание  и использование робота-хирурга  «да Винчи». Данный робот установлен  ив лучших клиника по всему  миру. Он полностью убирает человеческий  фактор при проведении операций. Но, как оказалось, в экстренных  случаях, то что влияние хирурга убрано от непосредственно пациента оборачивается смертью пациента. Робот не может быстро менять программу или реагировать в соответствии с обстановкой. Результат – пока отключили робота и сумели подойти к пациенту, пациенты умирали. К тому же робот не может учитывать анатомические особенности и другие факторы, ив результате, много случаев, когда такой робот просто пробивал скальпелем почки, желчный пузырь, кишечник насквозь. А в одной из клиник, одной из пациенток робот нанес сильный удар, после чего от него там отказались.  «Результаты исследований показывают, что риски, связанные с использованием робота, существенно занижены,» - заявил хирург Мартин Макарий из Университета Джонса Хопкинса. – «Быстрое внедрение аппарата «да Винчи» было сделано без оценки его возможностей. Нам известны случаи катастрофических осложнений, возникших после операций, проведенных при помощи механических рук».5

    Вполне возможно, последующие поколения испытают  на себе действие искусственного  интеллекта.6

4.Реальные угрозы от реальных роботов уже сегодня

Сейчас, как и было указано выше наука только продолжает развиваться все быстрее и быстрее, а вместе с ней и различного рода машины и роботы. В этой главе я хотела затронуть тему угрозы уже в сегодняшнее время от неумелого использования «умных машин».

Начнем немного с истории. Была в советское время такая дисциплина в инженерных вузах — «техника безопасности и охрана труда», ТБиОТ. Министерские институты повышения квалификации уделяли важное место ТБиОТ в учебных планах переподготовки директоров и главных инженеров: увечья и гибель работников были тем, за что реально можно было пойти под суд.

Кстати, даже в девяностые годы в Союзном государстве России — Беларуси принимались очень важные для этой сферы документы. Скажем, ГОСТ 12.2.072-98 Роботы промышленные. Роботизированные технологические комплексы. Требования безопасности и методы испытаний7, разработанный Межгосударственным техническим комитетом по стандартизации МТК-75 в 1998 году. Он устанавливал «общие требования безопасности к конструкции промышленных роботов… при проектировании, изготовлении, программировании, эксплуатации, ремонте, техническом обслуживании и организации роботизированных технологических комплексов (РТК) и участков (РТУ), а также методы испытаний».

 Но тяга к получению  Darwin Awards в человечестве сильна: почётное звание первой жертвы робота заслужил 25 января 1979 американец Роберт Уильямс с литейного завода Ford Motor Company во Флэт-Роке (Мичиган). Его прикончила «рука» однотонного робота. 
  
Однако никакого «бунта машин» там не наблюдалось. Просто полному трудового энтузиазма инженеру  показалось, что робот слишком медленно подаёт заготовки. Он полез сделать это вручную, проник в рабочее пространство робота и получил по голове манипулятором. Так что эта грустная история ничем не отличается от тех баек, которые рассказывали школьникам начала семидесятых мастера учебно-курсовых комбинатов.

Примечательна история сервисного инженера Кэндзи Урады из Kawasaki Heavy Industries. Он 4 июля 1981 чинил не полностью обесточенного робота, который, придя вдруг в действие, затолкал его в шлифовальный стано. Так что тут тоже имело место грубейшее нарушение техники безопасности, от которого предостерегают требования раздела 4.2.2 отечественного ГОСТа 12.2.072-98. И 77 связанных с роботами несчастных случаев8, имевших место в Великобритании в 2005 году, были примерно такого характера.9

Так что же конкретно делается для того, чтобы защитить нас от этих механических угроз? “Не хватает искусственного интеллекта”, - говорит Blay Уитби, эксперт в университете Сассекса, Англия. Это неудивительно, учитывая, что проблеме “безопасности критически важных вычислений” едва десять лет, - говорит он. Но все меняется, и исследователи все чаще проявляют интерес в том, чтобы пытаться сделать роботов более безопасным. Один подход, который звучит достаточно просто, это попытаться запрограммировать их, чтобы избежать контакта с людьми в целом. Но это гораздо сложнее, чем кажется. Поручение  роботу перемещаться по загроможденной комнате достаточно сложно, не имея учитывать то, что различные ее конечности или придатков могут случайно наткнуться на пути.

Регулирующие поведение роботов станет сложнее в будущем, поскольку они чаще будут самообучающимися механизмами, говорит Gianmarco Veruggio, робототехник  в институте интеллектуальных систем автоматизации в Генуе Италия. Как следствие, их поведение станет невозможно полностью предсказать, говорит он.

Тогда возникает вопрос, непредсказуемых сбоев. Что произойдет, если мотор робота перестает  работать, или он страдает от системного сбоя, как он выполняет операции на сердце или вручать вам чашечку горячего кофе? “Сто процентов безопасности невозможно через технологию”, - говорит д-р Иноуэ. Это происходит потому, что, в конечном счете, неважно, насколько чувствительным вы, Вы же  не можете предвидеть непредсказуемый характер поведения человека, - говорит он. Даже если  мы и претворим в жизнь законы робототехники , выдвинутые А.Азимовым.

В любом случае, - говорит д-р Иноуэ, законы действительно инкапсулировать только на уровне здравого смысла, принципов, которые уже применяются для проектирования самых современных приборов как отечественных, так и промышленных. Каждый тостер, газонокосилки и мобильный телефон, разработанный в целях минимизации риска причинения вреда, однако людям все равно удается поразить себя, потерять пальцы или выпасть из окна. По крайней мере, роботы должны отвечать строгим стандартам безопасности, которые охватывают существующие продукты.

Робот безопасность, вероятно поверхности в гражданских судах, а вопрос ответственности за качество продукции. “Когда первый робот ковер уборочная засасывает ребенка, кто будет в этом виноват?” - спрашивает Джон Hallam, профессор университета Южной Дании в Оденсе. Если робот является автономным и способен к обучению, его конструктор  может нести ответственность за все его действия? Сегодня ответить на эти вопросы, как правило, “да”. Но, как роботы расти в сложности она станет гораздо менее четкой, говорит он.

“Сейчас ни одна страховая компания не готова застраховать роботов”, - говорит д-р Иноуэ. Но что-то придется менять, - говорит он. В прошлом месяце, японское Министерство торговли и промышленности объявило набор руководящих принципов безопасности для домашних и офисных роботов. Они должны иметь датчики, чтобы помочь им избежать столкновения с людьми; быть выполнены из мягких и легких материалов для минимизации вреда, если столкновение все-таки произойдет; и чрезвычайной кнопка отключения. Во многом это было связано с большой робот выставке, состоявшейся летом прошлого года, которые заставили власть понять, что есть последствия для безопасности полетов, когда тысячи людей не просто глядя на роботов, но, смешиваясь с ним, - говорит д-р Иноуэ.

Однако, мысль, что общего назначения роботов, способных к обучению, станет широко распространенным неправильным, - предполагает г-н угол. Это, скорее всего, он считает, что роботы будут относительно «тупой» машиной, предназначенные для конкретных задач. А не робот-гуманоид,  " служанка", “это будет различные роботы, которые будут заботиться о доме”, - говорит он.10

 Из последних сообщений  новостной ленты в мире можно  заметить и подобные заявления. Правительство Южной Кореи взялось  за разработку достаточно необычного  законодательного акта, который  будет призван нормировать этические  и этнические взаимоотношения  между людьми и роботами. 

Политики планируют разработать "Устав этических норм для роботов" (Robot Ethics Charter) для разработчиков и пользователей.  
 
Нужно сказать, что положения этого документа станут частью программного обеспечения гуманоидов.  
 
Как пишут журналисты, в первую очередь это можно мотивировать тем, что в ближайшем будущем роботы смогут заполучить очень мощный и развитый искусственный интеллект, который по развитию не намного будет отставать от человеческого мозга.  
 
Специалисты отметили, что в виду актуальных для населения Кореи проблем с рождаемостью, вскоре обществу придется внедрять большое количество сервис-роботов для выполнения различных работ. Не секрет, что для многих людей роботы станут настоящими друзьями.  
 
Предположительно, основными правилами для роботов станут: запрет на причинение человеку вреда в любых проявлениях, умышленное бездействие, которое может причинить вред, но беспрекословное и абсолютное подчинение командам хозяина. В то же время роботы будут иметь право защитить самих себя, но не выступать за рамки предписанных законов. 11