Опасности появления мыслящих машин

5.Прогнозы писателей

 Много нового и интересного  можно почерпнуть из публицистической  литературы. В этом разделе я  хотела бы осветить данную  тему с помощью произведений  Айзека Азимова и Станислава  Лемма. Однако вначале хотелось  бы дать небольшую характеристику  произведениям о «мыслящих» машинах  в целом.

Идеальная машина – умная машина, и для рассказов о ней есть один главный сюжет: она создается, что бы служить человеку, но, в конце концов, одерживает над ним вверх. Она не может существовать, не угрожая захватить наше место в мире, и, следовательно, ее необходимо уничтожить - иначе погибнем мы сами.  
      Всегда существует опасность метлы ученика колдуна, голема рабби Лоу, чудовища, созданного доктором Франкенштейном. Как рожденный из нашего тела ребенок занимает наше место, так и машина, рожденная силой нашей мысли, заменяет нас.  
      "Франкенштейн" Мэри Шелли, увидевший свет в 1818 году, демонстрирует нам пик страха, однако обстоятельства сложились таким образом, что этим страхам не суждено было сбыться - по крайней мере, довольно долго.  
      Между 1815 годом, когда закончилась целая серия европейских войн, и 1914 годом, увидевшим начало новой войны, был короткий период, когда человечество могло себе позволить роскошь оптимистических настроений насчет своих отношений с машинами. Промышленная революция неожиданно наделила людей новым могуществом и претворила в жизнь мечты о воцарении технологической утопии на Земле, вместо надежды увидеть ее в мифическом раю. Положительные аспекты, которые несли в жизнь машины, значительно перевешивали отрицательные, и любовь к ним стала сильнее страха.  
      Именно тогда и родилась современная научная фантастика - под этим термином я подразумеваю вид литературы, которая описывает общество, отличающегося от нашего уровнем технологического развития и своим социальным устройством. Предполагается, что мы рано или поздно, путем изменений в вышеуказанных областях, перейдем в какое-нибудь из таких обществ.

      Благодаря времени, когда она родилась, современная научная фантастика звучала весьма оптимистично. Отношения человека и машины осуществлялись на уровне пользования и управления. Могущество человека росло, машины были его послушными инструментами, при помощи которых он добывал для себя благополучие, чувствовал себя спокойно и уверенно и путешествовал в самые удаленные уголки вселенной.  
      Оптимистические настроения встречаются и по сей день, в особенности в произведениях тех писателей, чьи представления успели сформироваться до появления атомной бомбы, - среди них можно назвать Роберта Хайнлайна, Артура К. Кларка Айзека Азимова.  
      Тем не менее с началом Первой мировой войны людей охватило разочарование. Оказалось, что научно-технический прогресс, обещавший людям рай, способен устроить на Земле самый настоящий ад. Прекрасный самолет, реализация многовековой мечты, может нести на борту бомбы; химическая промышленность, выпускавшая лекарства, анестетики и краски, производит отравляющие газы.  
      И снова людей охватил страх, что кто-то другой отнимет у нас наше место под солнцем. В 1921 году, через некоторое время после Первой мировой войны, свет увидела драма Карела Чапека "R. U. R." - снова рассказ о Франкенштейне, только на планетарном уровне. Было создано не одно чудовище, а целая армия роботов (по-чешски это слово означает "рабочий"). И не одно чудовище выступило против своего создателя, а целая армия роботов стерла с лица Земли человечество и заняла место людей.  
      С началом выхода в свет журнала, посвященного научной фантастике, с 1926 по 1959 год (треть века или целое поколение) оптимизм в научной фантастике активно сражался с пессимизмом - главным образом, благодаря влиянию Джона У. Кэмпбелла-младшего - и победил.  
      Начиная с 1939 года Акимов написал серию важных рассказов о роботах, которые совершенно сознательно противостояли "комплексу Франкенштейна" и повествовали о роботах как о слугах, друзьях и союзниках человечества.  
      Впрочем, в конце концов победил все-таки пессимизм.  
      Во-первых, механизмы стали пугающими. Разумеется, атомная бомба грозила физическим уничтожением, но хуже нее была быстро развивающаяся электронная машина - компьютер. Казалось, компьютеры крадут у человека душу. Очень легко и быстро они решают наши рутинные проблемы, и мы все чаще и чаще доверчиво предоставляем им право решать за нас самые разные вопросы и принимаем их решения с унизительной покорностью.  
      Бомба может нас уничтожить, компьютер - заменить.  
      Вторая причина, в отличие от первой, не лежит на поверхности и заключается в том, что изменился характер писателя фантаста.  
      До 1959 года существовало множество разделов литературы, причем научная фантастика считалась среди них самой незначительной. Писатели получали меньше денег и славы, чем представители других разделов, поэтому в данную область шли только те, кто был настолько одержим ее идеями, что слава или деньги для них отступали на второй план. Очень часто их одержимость рождалась из всепоглощающей любви к науке, и писатели создавали произведения, в которых человек завоевывал вселенную, научившись подчинять ее своей воле.  
      В 1950-х годах, однако, журналы, которые печатали литературные произведения, погибли в неравной борьбе с телевидением, и к началу 1960-х единственной областью литературы, которая процветала и даже расширяла свои владения, стала научная фантастика. Ее журналы продолжали выходить, начался страшный бум - появились книжки в мягких обложках. До некоторой степени научно-фантастическая литература умудрилась даже проникнуть на телевидение и в кино, хотя до великих побед еще было далеко.  
      А это означало, что в 1960-1970-х годах молодые писатели пришли в научную фантастику не потому, что они очень хотели, а потому, что она уже существовала, и потому, что у них не было особого выбора. А еще это означало, что многие молодые писатели не имели ни малейшего представления о науке и не любили ее - скорее относились к ней враждебно. Такие писатели с готовностью восприняли идею страха из пары "любовь-страх", когда речь заходила об отношениях человека и машины.  
      В результате современная научная фантастика очень часто представляет нам - снова и снова - миф о ребенке, который занимает место своего отца, о Зевсе, который занимает место Кроноса, о Сатане, который занимает место Бога, о машине, которая занимает место человека.  Это самые настоящие ужасы. 
          Итак, может получиться, что, хотя мы будем ненавидеть машины и сражаться с ними, они все равно нас заменят, причем по справедливости, поскольку разумная машина, рожденная нами, вполне может оказаться лучше нас и будет упорно продвигаться вперед, стараясь понять вселенную и правильно ее использовать, и сумеет покорить вершины, недоступные нам. 12

5.1.Опасности, о которых «предрекал» Айзек Азимов.

О каком либо влиянии мыслящих  машин на человека писал известный американский писатель Айзек Азимов. Он был популяризатором науки и писателем – фантастом.. Один из основателей научно-фантастического жанра. Его трилогия "Основание" (1942- 1949) повествует о расцвете и упадке огромной галактической империи, которой правили детерминистские законы "психоистории". Рассказы о роботах ("Я, робот", 1950) - примеры "субжанровых" научно-фантастических произведений, установивших знаменитые "законы роботики". Автор "Всемирной истории" (1965-1975) в 12 томах. Будучи весьма плодовитым писателем, опубликовал свыше пятисот произведений.13

Однако, в связи с моей темой, мне хочется затронуть цикл его эссе из сборника «Мечты роботов».14

Стоит начать с того что, по его мнению, что «роботы - это не проклятая богом, святотатственная имитация жизни, а всего лишь высокоразвитые машины. Машина не может "выступить против своего создателя", если она правильно сконструирована. Когда механизм, например электропила, случайно отгрызает своему владельцу конечность, его достойная сожаления склонность к агрессии устраняется при помощи установки специальных защитных устройств. Подобные защитные устройства, очевидно, могут быть созданы и в роботах. А самым логичным местом для размещения таких устройств являются электрические цепи "мозга" робота».15

Ну и повторюсь, конечно, Айзек Акимов приводит, впервые им сформулированные 3 закона роботехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 
2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. 
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам. 

Как  я понимаю, делая вывод из его фразы «Роботам не нужно быть слишком умными, чтобы быть достаточно умными. Если робот сможет исполнять простые приказы и делать работу по дому, то есть управлять несложными машинами вроде кухонного комбайна, - иными словами, эффективно заниматься однообразной работой, - нас это полностью удовлетворит».16, делать высоко мыслящие машины и искусственный интеллект нам просто не нужно.

Однако в 6 эссе Айзек Акимов сравнивает роботов с инструментами, и приводит к интересному выводу. Учитывая, что все машины так или иначе представляют для нас опасность, люди специально встраивают в них самые разнообразные защитные устройства. Когда строятся машины, обладающие собственным разумом, будут ли в их сознание внедрены законы, подобные «Трем законам роботехники»?  
Разумеется да, поскольку создатели компьютеров и сами обладают высокоразвитым интеллектом. Более того, защита будет не только иметь некоторое отношение к «Трем законам» - она будет на них опираться. 

Далее лучше привести цитату из этого эссе:

Но можно ли сказать, что мы защищены от всех неприятностей в достаточной степени? Подумайте об усилиях, которые предпринимаются, чтобы сделать автомобили безопасными, - однако они продолжают убивать около 50 000 американцев в год. Подумайте об усилиях, которые предпринимаются, чтобы обезопасить банки, - однако ограбления продолжаются. Подумайте об усилиях, которые предпринимаются, чтобы защитить компьютерные программы, - однако количество компьютерного мошенничества растет.  
      Впрочем, если компьютеры станут достаточно разумными, чтобы "перехватить инициативу", они уже не будут нуждаться в ограничениях, предписываемых Тремя законами. И тогда по доброте душевной они решат заботиться о нас и оберегать от неприятностей и проблем. 

В своем эссе №9 «Новая профессия» писатель описывает даже новую профессию – «Робопсихолога» - ученый, целью которого считается разработка искусственного интеллекта и «социализация робота».

Обращаясь к 2м крайностям, как говорит сам, Айзек Акимов, то есть об охранных и военных машинах. Ведь, если не наделить роботов знанием «Трех законов», то они наверняка будут причинять вред. Он приводит в пример  роботов охранников. А если они не узнают тех, кого должны пропустить? Ведь наверняка, они не пропустив, причинят вред людям. А если обратиться  к другой крайности, к военным машинам.  «Устроившись со всеми удобствами у себя дома, мы предоставим машинам воевать за нас. Если какие-то из них будут уничтожены - ну, это же всего лишь машины. Такой подход к ведению военных действий может оказаться особенного полезным, если у вас такие машины есть, а у врага - нет.  
      Но даже и в этом случае, можем ли мы быть абсолютно уверены в том, что машины сумеют безошибочно отличать врагов от друзей? В ситуации, когда все наше оружие контролируют руки и мозги людей, существует проблема "дружественного огня". Американское оружие может случайно убить американских солдат или гражданских людей, что нередко происходило в прошлом. Речь идет об ошибках, которые допускали люди, однако от этого не легче. А что, если наше роботизированное оружие откроет "дружественный огонь" и начнет уничтожать американцев или даже американскую собственность?»17

По всей линии его сочинений так же прослеживается теория о том, что в будующем, «умные» машины заменят человека на всех уровнях промышленного производства и людям будет просто нечего делать, пропадет, так называемый, «вкус к жизни». Людям останется заниматься лишь гуманитарной сферой деятельности, развитием своих творческих способностей и талантов. Всю же остальную работу будут выполнять роботы.

Таким образом, делая вывод об преспективах, которые рисует для человечества известный писатель, химик, физик Айзек Акимов, можно говорить о том, что «мыслящие» машины, возможно не так опасны, и даже если в них будут соблюдаться «три закона роботехники» будут весьма полезны обществу в целом. Однако он задается главным вопросом: а нужно ли такое полное подобие человеку? По моему мнению, он считает, что, так или иначе, но робот должен управляться человеком, иначе машина может нанести ощутимый вред людям.

5.2.Будущее глазами С. Лемма (по произведению «Сумма технологий»)

Ученые обсуждают проблему: может  ли  автоматизация все новых и новых областей деятельности человека полностью  вытеснить  его из сферы умственного и физического труда?

     Эту проблему  рассматривает и Лем: приведет ли внедрение кибернетики к полному "отчуждению" человека от технологии, перенявшей у него  все  формы материальной и  интеллектуальной  деятельности?  Решая  этот  вопрос,  Лем избегает обеих крайностей: он не  провозглашает  никаких  бездоказательных запретов ("нельзя автоматизировать творческую  деятельность!"),  но  и  не впадает в пессимизм при оценке последствий кибернетизации.

Далее мне хотелось бы привести небольшие цитаты из самой книги, о ом как С. Лемм видит наше машинизированное будущее.

...В древние времена  каждый человек знал и назначение и устройство своих орудий: молотка, лука, стрелы. Прогрессирующее разделение труда уменьшало это индивидуальное знание, и в современном промышленном обществе существует отчетливая граница между теми, кто обслуживает устройства (рабочие, техники) или пользуется ими (человек в лифте, у телевизора, за рулем автомашины), и теми, кто знает их конструкцию. Ни один из ныне живущих не знает устройства всех орудий, которыми располагает цивилизация. Тем не менее некто, знающий все, существует - это общество. Знание, частичное у отдельных людей, становится полным, если учесть всех членов данного общества.

Однако процесс отчуждения, процесс изымания сведений об орудиях из общественного сознания развивается. Кибернетика продолжает этот процесс, поднимая его на более высокую ступень. Ибо в принципе возможно создать такие кибернетические устройства, структуру которых не будет знать уже никто. Кибернетическое устройство превращается в "черный ящик" (термин, который охотно употребляют специалисты). "Черный ящик", например, может быть регулятором, подключенным к определенному процессу (к процессу производства товаров или к процессу их экономического круговорота, к процессам управления транспортом, лечением болезни и т. п.). Необходимо лишь, чтобы определенным состояниям "входа" отвечали вполне определенные состояния "выхода" - и ничего более...

Стаффорд Бир, один из пионеров в области кибернетизации больших капиталистических предприятий, постулировал возможность создания "фирмы-гомеостата" и в качестве примера рассмотрел теорию регулирования деятельности большого сталелитейного производства. "Мозг" такого предприятия должен так оптимизировать все процессы, из которых складывается выплавка стали, чтобы производство было наиболее продуктивным, эффективным и независимым как от колебаний предложения (рабочей силы, руды, угля и т. д.) и спроса, так и от внутренних изменений в системе (неравномерность процесса производства, нежелательный рост себестоимости изделий). Согласно представлениям Бира, такая производственная единица должна быть ультрастабильным гомеостатом, который немедленно реагирует на всякое отклонение от равновесия изменением внутренней организации и тем самым возвращается к равновесию. Оппоненты-специалисты, которым эта теоретическая модель была представлена, обратили внимание на то, что ей недостает "религии".

Бир сознательно смоделировал это предприятие-гомеостат по принципу действия живого организма. Но в природе единственным, по существу, критерием "ценности" организма является его способность к выживанию любой ценой. Иначе говоря, при случае также и ценой пожирания других организмов. Натуралист, понимая, что в Природе не существует "системы моральных оценок", не считает поведение голодных хищников аморальным. Таким образом, возникает вопрос: "может ли", то есть "имеет ли право" "организм-предприятие" в случае нужды "пожирать" своих конкурентов? Имеется много таких вопросов, правда, возможно, не столь острых. К чему должно стремиться такое гомеостатическое предприятие - к максимальной производительности или к максимальной прибыли? А что, если с ходом времени неизбежные технологические сдвиги сделают производство стали ненужным? Должна ли "тенденция к выживанию", вмонтированная в "мозг" такой производственной системы, привести к ее полной перестройке, так чтобы, например, она сама преобразовала себя в производителя пластмасс? Чем должна руководствоваться такая система при подобной плотной реорганизации - степенью максимальной общественной полезности? Или опять-таки величиной прибыли?

Бир избегает ответов на подобные вопросы. Он говорит, что над "мозгом" предприятия стоит еще наблюдательный совет владельцев, который и принимает самые общие и важные решения. "Мозг" призван только оптимально реализовывать эти решения. Тем самым Бир отрекается от "автономно-организменного" принципа, входящего в его концепцию, и выносит все моральные проблемы за пределы "черного ящика": в сферу деятельности наблюдательного совета. Но это только кажущийся выход. "Черный ящик", даже ограниченный таким способом, все равно будет принимать решения морального характера, например, при увольнении рабочих или снижении заработной платы, коль скоро этого потребует принцип оптимального функционирования предприятия как целого. Легко представить себе также, что предприятие-гомеостат Бира может вступить в "борьбу за существование" с другими предприятиями, которые спроектированы кибернетиками, состоящими на службе у других корпораций. Либо все эти машины будут настолько ограничены в своей деятельности, что им придется непрестанно обращаться за решением к "менеджеру"-человеку (например, запрашивать его, скажем, о том, можно ли сокрушить конкурента, если подвернулся случай), либо же их деятельность, обремененная моральными последствиями, будет расширяться. В первом случае нарушается основной принцип саморегуляции гомеостата-производителя. Во втором случае гомеостаты начнут оказывать на судьбу людей влияние, очень часто непредвиденное их творцами, и дело может дойти до краха экономики страны в целом просто потому, что какой-то из гомеостатов слишком хорошо справляется с порученным ему делом, сметая всех своих конкурентов...