20 февраля 2017Спец
Обновлено 17.05.2023

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - изображение обложка

Через тысячу лет Земля больше не будет принадлежать людям. Миром станут править машины, оснащенные мощным оружием, крепкой броней и искусственным интеллектом, пусть и весьма односторонним. А людям придется в неравных боях завоевывать право на хоть какую-то жизнь.

Именно такой мир мы видим в Horizon Zero Dawn. Но насколько реальна эта картина будущего, и с чего вдруг люди боятся роботов, которых сами же и создали?

За ответом мы отправляемся на сотню лет назад.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 1

Первые роботы были киборгами

Слово «робот» придумал Карел Чапек, и впервые оно прозвучало в 1921 году, в фантастической пьесе «Р. У. Р.». Правда, изображенные в ней создания были не роботами в привычном понимании, а скорее андроидами: сотворенные из искусственно выращенных тканей и органов, они выглядели как люди, да и действовали примерно так же.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 2

Старая постановка пьесы «Р.У.Р.». Победившие роботы требуют у последнего человека на Земле найти способ создавать новых роботов.

По причине их неестественного происхождения чапековских роботов нещадно эксплуатировали. Отсюда и название: ведь в чешском языке robota означает тяжкий труд, каторгу, рабство — что угодно, но не нормальную работу, для которой существует слово práce. Немудрено, что утомленные «роботой» роботы взбунтовались, перебили всех людей и уткнулись в проблему: сами себя они создавать не умели.

Таким образом, роботы как понятие сразу появились на свет в виде угрозы для человечества. Впрочем, корни этого вымысла уходят в куда более далекое будущее. В нем слились воедино древний страх перед непонятным и суровые реалии капитализма.

Черт на мельнице

Больше всего люди боятся того, чего не понимают. Это хорошо уловил создатель понятия «саспенса» Хичкок: самые напряженные сцены его фильмов связаны не с появлением опасности, а с ожиданием ее появления. Видимое зло не пугает, страшит невидимое, неясное, неизвестное зло.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 3

Под такими колесами, как верили крестьяне, живет водяной, а где-то рядом и русалки.

В старину верили, что мельники водят дружбу с нечистой силой. Другого объяснения тому, как связаны вода и вращение мельничного жернова, люди не находили. Черти определенно помогали кузнецам (как еще из камней получаются мечи?), морякам (с чего их громадины не тонут, да еще и против ветра плывут?), а уж изобретателей и вовсе неплохо было бы камнями побить, а то знаем мы, кто им изобретения нашептывает.

Креститься при виде мельника — безобидная причуда. Но гораздо менее невинный оборот принял страх перед машинами в начале эпохи капитализма, когда бесправные работяги стали превращаться в придатки к станкам. Почему так произошло, объяснит Карл Маркс, но это будет позже. А в начале массовой индустриализации пролетарии винили в своем тягостном положении машины.

Первым вину за безработицу и голод открыто возложил на машины рабочий по фамилии Лудд, разбивший свой станок. В начале XIX века война со станками распространилась так широко, что пришлось использовать войска. После 1812 года ввели смертную казнь за порчу машин, и о луддитах больше никто не слышал.

Машины победили.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 4
Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 5

Существовал ли на самом деле Нед Лудд, историки до сих пор точно не знают. Но отсутствие подтвержденных данных — это меньшее, что мешало луддитам.

Снегурочка Франкенштейна

Примерно тогда же, но параллельно в народном сознании жили «нечеловеческие человеки». Древние греки рассказывали о Кадме, вырастившем воинов из зубов побежденного чудовища, и о Пигмалионе, который обзавелся идеальной женой в виде оживленной статуи. Еврейские народные легенды повествовали о големе, глиняном человеке, оживленном с помощью тетраграмматона. А в русских народных сказках были свои големы: например, Снегурочка.

Все эти создания никоим образом не угрожали людям. Самые смелые из проросших зубов стали фиванскими царями, Снегурочка была милой жертвой, а у Пигмалиона и Галатеи наладилась нормальная семейная жизнь с детьми. Голем и вовсе был призван спасать и защищать, совершая действия, которые богобоязненным евреям запрещала религия. Нечеловеческие порождения человека верно служили ему и даже не думали восставать.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 6

Привет, я робот, и я пришел убить все человечество!

Но все изменилось «благодаря» Мэри Шелли.

В романе «Франкенштейн, или Современный Прометей» писательница предвосхитила эффект «Зловещей долины». Чем больше искусственно созданное существо похоже на человека, тем больше симпатии оно вызывает. Но лишь до определенного этапа, после которого следует резкий скачок неприятия, отвращения и отторжения. По теории, происходит это оттого, что очень похожий на человека робот воспринимается не как «почти человек», а как человек, в котором что-то не то.

Монстр Франкенштейна был «сшит» из частей людей и, по книжному описанию, не имел ничего общего с Борисом Карловым, изобразившим кошмарное чудовище в первой экранизации. Тем не менее он с первого взгляда пробуждал ужас и ненависть во всех встречных, начиная с собственного создателя. Нынешние роботы, коих иногда пытаются сделать похожими на людей, тоже вызывают противоречивые чувства. Конечно, не настолько сильные, но на то и литературное преувеличение.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 7

Классический монстр Франкенштейна в исполнении Бориса Карлова. С тех пор мы видали и пострашнее.

Чудовище, которое ошибочно, но привычно называют Франкенштейном, стало первым литературно оформленным и занесенным в мировое сознание образом творения, восставшего против своего создателя и погубившего его. Ему оставалось лишь соединиться с идеями луддитов, чтобы породить тему восстания машин.

Потерянные поколения

В 1935 году вышел советский фильм «Гибель сенсации». Сейчас о нем мало кто помнит, как и о снявшей его кинокомпании «Межрабпомфильм». В картине роботы, заменившие людей у станков, превращаются в безжалостных карателей, чтобы подавить пролетарский бунт. Знакомая канва «восстания машин», впрочем, была по-советски преобразована: это злые капиталисты приказали ни в чем не повинным роботам подавить восстание.

Как и все в истории, эта схема повторилась уже несколько лет спустя.

Фашизм стал чумой прошлого века уже после того, как проявил себя. Но в эпоху зарождения его поддерживали те, кто видел в национал-социализме прежде всего панацею от пролетарских революций. «Расчеловечивание» определенной части населения играло на руку буржуазии и капиталистам: их подход к рабочим как к безликим, лишенным личности средствам производства таким образом обретал идеологическую подоплеку и одновременно придавал их действиям священную легитимность.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 8

Кадр из фильма «Гибель сенсации». Неумолимая пята капиталистического робота давит представителя творческой интеллигенции.

Как тогдашние, так и современные нацисты не сильны в комплексном понимании ситуации. Главное для них — возможность путем соблюдения несложного ритуала гарантированно попасть в ту самую «высшую расу». А когда «невинная» жажда превосходства оборачивается страшной трагедией, велик соблазн свалить вину на что-то другое или кого-то другого. В ужасных итогах первой мировой войны винили развитие прогресса: вот если бы не было отравляющих газов, танков, аэропланов и пулеметов, не было бы и столько жертв. После и во время второй мировой защитная мантра «я просто исполнял приказ» туго переплелась с очередной волной страха перед машинами. Ведь это атомная бомба убила людей, а не летчик, ее сбросивший! Он ведь лишь исполнял приказ.

Законы на страже

Золотой век научной фантастики предвосхитил множество современных явлений и аспектов. В 1942 году, когда еще не были созданы даже примитивные первые вычислительные машины, не говоря уж о рукотворном машинном разуме, гениальный фантаст Айзек Азимов создал серию рассказов о роботах, что руководствуются знаменитыми «тремя законами робототехники».

Три закона робототехники

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 9

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

На несведущий взгляд, законы полностью гарантируют безопасность использования роботов. На деле же формулировки Азимова больше годятся на роль литературного инструмента, чем на действенное средство моделирования поведения искусственного интеллекта. Сам мастер в своих рассказах описывал опасные ситуации, которые умудрялись создавать роботы, не нарушающие или обходящие его собственные законы. А на страже интересов человечества он поставил лишь некрасивую старую деву-робопсихолога.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 10

В фильме «Я, робот» мало что осталось от Азимова.

Впоследствии Азимов предлагал другие формулировки законов и даже вводил «нулевой закон». Но подход оставался тем же: писатель воспринимал робота как «очень хорошего человека». Им предлагалось следовать людской морали.

И еще одна важная деталь: роботы должны были соблюдать законы, а вот люди им ничего не были должны. По сути, роботы Азимова ничем не отличались от бесправной рабочей силы эпохи зарождения капитализма.

Специалисты, занимающиеся в настоящее время вопросами контроля над искусственным интеллектом, видят необходимость создания целого комплекса законов. Всерьез обсуждается, следует ли считать роботов субъектом права и кто должен нести ответственность за совершенные ими действия. Создатели беспилотных автомобилей уже сейчас сталкиваются с нерешенными проблемами: как должен поступать «водитель» в аварийной ситуации, когда при любом исходе кто-то пострадает? А робоэтика пытается определить, имеют ли роботы право на частную жизнь и насколько они могут вторгаться в личную жизнь людей.

Волны прогресса

В 1942 году еще не было и речи о выпуске разумных роботов, но интерес к этой теме возник не на пустом месте. Примерно тогда на мир начала накатываться очередная волна технического прогресса. Толчок ей дали, в частности, военные разработки. Как результат, уже к концу второй мировой войны институт прислуги перестал быть общепринятой практикой. Служанок вытеснила доступная бытовая техника: пылесосы, кофеварки, стиральные машины.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 11

Вот оно, кошмарное будущее: железный солдат с красными глазами. Задуматься над тем, зачем делать машину убийства непременно человекоподобной, мешает страх.

Любые изменения сопровождаются одновременно восторгом и страхом. Появление множества технических новшеств как на производстве, так и в быту сделало сюжет о восстании машин одним из самых популярных.

В 1984 году на экраны вышел фильм, почти мгновенно ставший культовым. «Терминатор» поведал миру о могущественном искусственном интеллекте «Скайнет»: тот ополчился против человечества и благополучно его погубил. Но секрет популярности боевика лежал не только в лихо закрученном сюжете и идеальном совпадении актерского дарования «Железного Арни» с его экранной ролью.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 12

Арнольд Шварценеггер не зря трудился: ничего более яркого, чем Терминатор, у него как у актера так и не вышло.

В эти годы технический прогресс добрался до инженерных технологий. Электронно-вычислительные машины перестали быть экзотикой, а особо продвинутые образцы уже не занимали площадь стадиона. В начале 1980-х появились на свет ЭВМ индивидуального пользования «Электроника НЦ-8010» и компьютерная система IBM PC. Компьютерная революция, свершившаяся в 1970-х, начала захватывать мир, и уже было понятно, что в ближайшие годы этот процесс будет развиваться. А всеобщая компьютеризация не могла не сказаться на самых разных слоях населения.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 13

Первые портативные компьютеры были не такими уж и портативными. Но, по сравнению с «машинными залами», прогресс был более чем очевиден.

Операторы ЭВМ и программисты станков с ЧПУ оказались на гребне волны, ведь их навыки внезапно оказались крайне востребованными. А вот офисному персоналу пришлось несладко. « Я куплю компьютер, а вас всех уволю! » — терроризировали начальники своих бухгалтеров. « Все будет делать компьютер, а я никому не нужен », — грустили на кухне инженеры и чертежники.

И вот оно, живое воплощение их страхов, неудержимый робот Терминатор, с которым запросто справляется блондинка-официантка! Да, машины обязательно восстанут, но не факт, что победят. У нас есть Сара Коннор! А продолжение «Терминатор 2» оказалось еще более любимо в народе, потому что в нем к Саре присоединился еще и «хороший» Терминатор. Роботы нас поработят, но роботы нас и спасут!

Спокойно, мы в матрице!

На заре мифа за любым восстанием машин стояли люди, которые вольно или невольно провоцировали этот бунт. Злобные капиталисты, безумные ученые, жадные корпорации или пламенные идеалисты — за любым зловредным проявлением козней искусственного интеллекта просвечивала вина людей. «Терминатор» впервые во всеуслышание заверил: люди, мы ни при чем! Это все он, компьютер, а мы ни в чем не виноваты! Люди вздохнули с облегчением: ну хоть что-то.

Но долго чувствовать себя в безопасности им не пришлось. На горизонте уже показалась новая страшилка: виртуальная реальность.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 14

Зеленые строчки кода некоторое время были жутко популярны в качестве обоев и заставок рабочего стола. Они как бы намекали на посвященность в некую тайну.

Русскоязычным читателям о виртуальной реальности будущего рассказал Сергей Лукьяненко: в 1997 году вышел его роман « Лабиринт отражений ». А в 1999 году тогда еще братья Вачовски нырнули в «глубину» с другой стороны. В фильме « Матрица » виртуальность оказывается не инструментом, как у Лукьяненко, а тюрьмой, в которой заперто все человечество, ныне служащее источником энергии для злобных машин.

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 15

По старой доброй традиции, обложка книги «Лабиринт отражений» имеет мало общего с содержанием.

Творцы «Матрицы» совершили невозможное: вытеснили страх перед бунтом машин еще большим страхом, переживанием за свое благополучие и сомнениями в реальности окружающего мира. Не удивительно, что с тех пор попытки сыграть на бунте искусственного интеллекта, предпринятые, например, в « Превосходстве », особого впечатления не произвели.

Роботы, что живут рядом с нами сейчас, совсем не похожи на Мистера Помощника, они растворились в системе «умного дома».

Восстание машин: а того ли мы боимся? Рассуждения по мотивам Horizon Zero Dawn - фото 16

В Fallout именно так представляли домашнюю прислугу. Еще одно несбывшееся предсказание.

Создатели Horizon Zero Dawn взялись за тему, казавшуюся заглохшей давным-давно, но сумели подать ее с новой и неожиданной стороны. Вот знакомое всем противостояние первобытного человека дикой природе и хищным животным. А теперь убираем животных и на их место ставим могучих футуристических роботов! Как изменится расклад сил в такой ситуации? И не напомнит ли нам он о нынешней ситуации в мире, когда часть стран находится на пике прогресса, а часть стремительно погружается в варварство и племенные войны?

И вновь, уже в который раз, мы убедимся, что не стоит бояться восстания машин. Ведь для борьбы с ними у нас есть Сара Коннор, Нео и Элой. Бояться следует того, что на самом деле опасно.

Людей.

Комментарии
Чтобы оставить комментарий,Войдите или Зарегистрируйтесь