Опасности появления мыслящих машин

Стремясь избежать общественно вредных результатов, к которым приводит деятельность "черных ящиков" в качестве регуляторов отдельных производственных единиц, мы возводим на трон экономической власти Черный ящик - Регулятор наивысшего ранга. Предположим, что он ограничивает свободу производственных регуляторов и неким программированием, равносильным законодательству, заставляет их соблюдать законы о труде, быть лояльным по отношению к конкурентам, стремиться ликвидировать резервную армию труда (то есть безработицу) и так далее. Возможно ли это? Теоретически - да. На практике, однако, такое программирование обременено огромным числом, мягко говоря, "неувязок".

Черный ящик, как очень сложная система, не поддается описанию; алгоритм его никому не известен и не может быть известен, его действия носят вероятностный характер, и, значит, поставленный дважды в одну и ту же ситуацию, он вовсе не обязан поступать одинаково. Кроме того - и это, наверное, самое важное, - Черный ящик есть машина, которая учится на собственных ошибках в процессе предпринимаемых ею конкретных действий. Из самых основ кибернетики следует, что Властелин Экономики - Черный ящик, который был бы заранее всеведущ и умел бы предвидеть все последствия принимаемых им решений, построен быть не может. Лишь с течением времени регулятор будет приближаться к этому идеалу. Как быстро - этого мы определить не умеем. Быть может, он сначала подвергнет государство целой серии ужасных кризисов, из которых постепенно его выведет. Быть может, он заявит, что между аксиомами, введенными в Программу действия, существует противоречие (например, невозможно проводить экономически рентабельную автоматизацию производственных процессов и одновременно стремиться к уменьшению безработицы, если параллельно не будет проводиться множество иных мероприятий, вроде субсидируемого государством или капиталом переобучения лиц, потерявших работу, и т. п.). Что тогда? Трудно вдаваться в детальный анализ столь сложной проблемы. Можно только сказать: Черный ящик, будь то регулятор производства в одном из его звеньев или же универсальный регулятор в масштабах всего государства, всегда действует при неполном знании. Иначе и быть не может. Допустим, что, проделав много проб и совершив много ошибок, сделав при этом несчастными миллионы людей, Черный ящик - Властелин Экономики - приобретет огромные знания, неизмеримо большие, чем знания всех буржуазных экономистов, вместе взятых. Но даже и тогда никто не может поручиться, что очередную порожденную новыми причинами флуктуацию он не попытается ликвидировать такими методами, от которых у всех, не исключая и его создателей, зашевелятся волосы. Рассмотрим такую возможность на конкретном примере.

Предположим, что прогнозирующий блок ("подсистема") "черного ящика" замечает опасность, грозящую состоянию гомеостатического равновесия, благополучно достигнутому наконец после многих качаний. Опасность возникает из-за того, что прирост населения превышает имеющуюся в данный момент у цивилизации возможность удовлетворять человеческие потребности. Именно, пусть при нынешнем приросте начиная с будущего года или же по прошествии тридцати лет уровень жизни станет неуклонно понижаться. Пусть одновременно по одному из "входов" в "черный ящик" поступила информация об открытии некоего химического соединения, которое вполне безвредно для здоровья и вызывает такое падение возможности овуляции, что при постоянном употреблении этого средства женщина может зачать лишь в считанные дни (а не так, как сейчас: в какой-либо из ста с лишним дней в году). Тогда "черный ящик" принимает решение ввести необходимые микроскопические дозы этого соединения в питьевую воду во всех водопроводных сетях государства.

Разумеется, для успеха операции ее нужно держать в тайне; в противном случае прирост населения снова проявит тенденцию к увеличению, так как многие люди наверняка будут стараться пить воду без этого средства, например воду из рек или из колодцев. Следовательно, "черный ящик" станет перед дилеммой: либо информировать общество - и наткнуться на его противодействие, либо не информировать - и тем самым сохранить (для всеобщего блага) состояние существующего равновесия. Допустим, что для охраны общества от стремления "черного ящика" к подобным формам "криптократии" программой "ящика" предусмотрена обязательная публикация всех намеченных изменений. Кроме того, у "ящика" есть специальный "стоп-кран", который пускается в ход всякий раз, как только возникает ситуация вроде вышеописанной. Благодаря всему этому регулятор, принимающий решения (и состоящий из людей), отменит план, выработанный "ящиком".

Трудность, однако, в том, что столь простые ситуации будут довольно редки, а в огромном большинстве случаев "орган, принимающий решения", не будет знать, не пора ли как раз дернуть за "стоп-кран". Впрочем, от слишком частого применения этого тормоза вся регулирующая деятельность "ящика" стала бы иллюзорной, а общества поверглось бы в совершенный хаос. Не говоря уже о том, что в высшей степени неясно, чьи, собственно, интересы представлял бы этот "орган". Например, в нынешних Соединенных Штатах Америки подобный "орган" наверняка заблокировал бы введение бесплатной медицинской помощи и системы пенсий (как это в действительности и сделал Конгресс, тогда как роль предложившего такие изменения, но остановленного при помощи "стоп-крана" "ящика" сыграл президент Дж. Кеннеди). Чьи бы интересы ни представлял этот орган, не следует недооценивать способностей "черного ящика". Один, другой, третий раз "заторможенный" в своих начинаниях, он, вероятно, выработает новую стратегию. Он будет, например, добиваться, чтобы люди как можно позже вступали в брак, а малое количество детей было особенно выгодно экономически.

А если и это не даст желательных результатов, он постарается уменьшить прирост населения еще более окольным путем. Допустим, что некое лекарство предотвращает кариес зубов. Пусть употребление этого лекарства в определенном проценте случаев вызывает мутацию генов, и пусть новый мутировавший ген сам по себе еще не уменьшает плодовитости, а делает это лишь при встрече с другим, также мутировавшим геном; последний возник благодаря применению другого лекарства, употребляемого довольно давно. Это второе лекарство избавило, скажем, мужскую половину рода человеческого от терзаний, связанных с преждевременным облысением. Тогда "черный ящик" будет всячески распространять лекарство против кариеса, и в результате он добьется своего: по прошествии некоторого срока количество обоих (рецессивных) мутировавших генов в популяции возрастет и они будут соединяться довольно часто, а это уменьшит прирост населения. Почему же, спросите вы, "черный ящик не информировал вовремя широкие круги об этом своем начинании; ведь мы же сказали, что, согласно введенным в него правилам действия, он обязан информировать обо всех изменениях, которые намерен провести?

Он не станет информировать общество вовсе не из "хитрого" или "демонического" расчета, а попросту потому, что он сам не будет знать, что, собственно, делает. "Черный ящик" - отнюдь не "электронный сатана", не всеведущее существо, кое рассуждает как человек или сверхчеловек, а всего лишь устройство, которое непрерывно ищет связи, статистические корреляции между отдельными общественными явлениями, исчисляемыми миллионами и тысячами миллионов. Как регулятор, он оптимизирует экономические отношения, поэтому состояние высокого жизненного уровня населения является и состоянием его собственного равновесия. Прирост населения угрожает этому равновесию. В какой-то момент "ящик" обнаружит положительную корреляцию между падением прироста населения и применением лекарства от кариеса. "Ящик" информирует об этом "совет", там проведут исследования и установят, что данное лекарство не уменьшает плодовитости (ученые "совета" будут экспериментировать на животных, а те ведь не употребляют средств против облысения). "Черный ящик" ничего от людей не скрывал, ибо и сам он ничего не знал о генах, мутациях и причинной связи между введением двух лекарств и падением рождаемости. Он всего лишь обнаружил искомую корреляцию и стремится ее использовать.

Даже и этот пример грешит упрощенностью, хотя и не является неправдоподобным. В действительности "черный ящик" будет идти еще более окольными путями, шаг за шагом, "не ведая, что творит", поскольку он стремится к состоянию ультрастабильного равновесия, а открываемые им и используемые для поддержания этого равновесия корреляции явлений отражают очень сложные процессы, которых он не изучает и о причинах которых ничего не знает (то есть не обязан ничего знать). В конце концов лет через сто может оказаться, что ценой, которую пришлось заплатить за рост жизненного уровня и уменьшение безработицы, служит хвостик, вырастающий у каждого шестого ребенка, или общее падение показателя интеллекта в обществе (ведь более умные люди в большей мере мешают регулирующему действию машины, и она будет стремиться уменьшить их число).18

В  целом  суть  рассуждений   Лема   такова.   Действие   технологии, рационализирующей  человеческую  жизнь,  может   иметь   и   отрицательные последствия. Это может происходить из-за быстрого и полного удовлетворения потребностей. Так, годы ученья закаляют  характер  и  формируют  личность; разработка же "информационной пилюли" сделает труды ученья излишними.

     Форсирование  подобных  "улучшений"  может  вызвать  "аксиологический коллапс"; может рухнуть вся система  общественных  и  личных  ценностей  - "мотивационный остов человеческого  поведения". К тому ж атрофия  ценностей - необратима.

6.Заключение.

Очень много различных статей, книг, прогнозов написано и сделано как за прошедший век, так и за первое десятилетие 21 века. Каждый говорит по-  разному и приводит к разным выводам. Да и техническая сингулярность не стоит на месте. Как пишут ученые, техническая революция все набирает  темпы. Возможно, в скорости, мы все будем жить, бок о бок с роботами, и будет изобретен искусственный интеллект, а может быть человечество изобретет роботов, которые будут выполнять всю работу за людей? Пока мы можем только строит прогнозы. Однако этот процесс неизбежен.

7.Список  использованных источников

• Интернет- ресурсы (научно – популярные статьи и новостные ленты, энциклопедии)

1. Энциклопедия трансгуманизма [ URL: http://t-human.com/wiki/Сингулярность]
2. Роботы: наука и технология//научно-популярный портал [URL: http://gearmix.ru/]
3. Федоров А. «Солдаты и роботы – убийцы.  Нужны ли человечеству?» [URL: http://www.km.ru/science-tech/2012/12/13/nauka-i-tekhnologii/699544-soldat-ili-robot-ubiitsa-chto-nuzhno-chelovechest  ]
4. Ливонов А. Опасности роботизированной техники//научно – популярный  онлайн – журнал «Гримуар - мир непознанного» [URL: http://news.grimuar.info]
5. Искусственный интеллект: реален ли?//научно – популярный журнал  «Наука 21 века»[ URL: http://nauka21vek.ru/archives/43830]
6. Опасные роботы//английская онлайн-газета «The Economist» [URL: http://www.economist.com/node/7001829]
7. Ваннах М. Реальные угрозы от реальных роботов/журнал Компьютерра [URL: http://www.computerra.ru/92875/realnyie-ugrozyi-ot-realnyih-robotov/]
8. Поверьте мне - я робот! //английский онлайн – журнал «the Economist»

[URL: http://www.economist.com/node/7001829]

9. Южная Корея разрабатывает сборник законов о роботах// Новостная лента Media International Group [URL: http://www.mignews.com/news/technology/world/120307_153419_49690.html]
10. Роботы//онлайн – журнал Провайдер[URL: http://webcenter.ru/]
11. Айзек Азимов: биография//Образовательный портал KD Education   [URL: http://www.kd-еdu.ru/pages/biography/A/biographya_azimov_aizek.html]

• Литература

1. Ловин Дж. Создаем робота – андроида своими руками. Гл.1.

[URL: http://bookz.ru/authors/djon-lovin/sozdaem-_927.html]

2. Открытая база ГОСТов  [URL: http://standartgost.ru/]
3. Акимов А. Мечты роботов. Сборник эссе. ЭКСМО; Серия Шедевры фантастики; 2002 г. [Онлайн версия сборника опубликована на сайте URL: http://www.lib.ru]
4. Лем С. Сумма технологий, Изд. «Мир», Краков, 1968г// пер. с польского  А. Г. ГРОМОВОЙ, Д. И. ИОРДАНСКОГО, Р. И. НУДЕЛЬМАНА, Б. Н. ПАНОВКИНА, Л. Р. ПЛИНЕРА, Р. А. ТРОФИМОВА, Ю. А. ЯРОШЕВСКОГО

[ Электронная библиотека 21 века URL:  http://www.electroniclibrary21.ru/literature/lem/summa.html#s1212]

8. Словарь терминов

Автономные машины –  машины, работающие на расстоянии и самостоятельно, о заложенной в них программе

Андроид – роботы, имеющие человеческий облик

Митохондрии – самостоятельный органоид клетки, который отвечает за ее энергию

Имплантанты – класс изделий медицинского назначения, используемых для вживления в организм либо в роли протезов (заменителей отсутствующих органов человека), либо в качестве идентификатора (например, чип с информацией о домашнем животном, вживляемый под кожу)

Инкапсулировать – кратко излагать информацию

Интеллект искусственный – наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами

Кибернетика – наука об общих закономерностях процессов управления и передачи информации в различных системах, будь то машины, живые организмы или общество.

«Комплекс Франкенштейна» - боязнь сконструированных человечеством машин, из – за того, что они могут восстать против людей (как Чудовище Франкенштейна)

Робот – (чеш. robot, от robota — подневольный труд или rob — раб) — автоматическое устройство, созданное по принципу живого организма.

Робототехника  - (от робот и техника; англ. robotics) — прикладная наука, занимающаяся разработкой автоматизированных технических систем и являющаяся важнейшей технической основой интенсификации производства.

Сингулярность технологическая – гипотетический взрывоподобный рост скорости научно-технического прогресса, предположительно следующий из создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами либо значительного увеличения возможностей человеческого мозга за счёт биотехнологий.