Страница:
ц) роботы или андроиды гибридные, то есть обладающие частью человеческого тела либо мозга; в новелле «А ты записался?» Роберта Шекли выясняется, что «невозможно создать душу», и каждого человека «делят натрое»: одну часть оставляют человеку, а двумя другими «доодушевляют» двух роботов: идея опирается на фрейдовскую триаду («Superego» — «Ego» — «Id»); на планету с тяжелыми условиями жизни, каковой является Венера, посылают роботов, снабженных «Id», поскольку это та «горилла», которая жестко сидит в нашем подсознании; робота зовут Дюралевое Шасси. В другой версии человеческий мозг (покалеченного космонавта, ребенка) присоединяют к системе управления ракетой и называют «трансплантатом»; в третьей — у Деймона Найта в рассказе «Спросите меня о чем-нибудь» — на безвоздушной планете в военных школах воспитывают автоматы для боя, помещая мозги, а также зачаточные биологические органы детей в броневые коконы-протезы (речь идет о «гибридных» формах между роботом, андроидом и человеком);
ч) роботы, специально изготовленные для определенного задания (в новелле «Закрывающий», например, уже упоминавшейся), выполнив его, они должны отправляться на слом, но — понятное дело — им этого не хочется;
ш) роботы, объявляющие забастовку (мне такие истории неизвестны, а странно — должны быть!);
щ) роботы, появление которых становится панацеей от всех общественных бед (например, у Дж. Уильямсона, а также у К. Саймака).
Исчерпав таким образом практически весь алфавит, мы остановимся на берегу океана незатронутых вариантов. На основании вышеприведенной выборки читатель поймет, почему я не берусь за классификационную систематику: это было бы слишком утомительно.
Исходя из сегодняшних знаний, интеллектронный универсум можно бы поделить на часть фиктивную и часть, заполненную возможностями будущей реализации. Хотя наверняка не будет роботов ни с человеческим «Id», ни телепатических, зато в принципе цифровая машина могла бы управлять, а испорченный домашний робот наделать бед.
Генеральная тенденция такова: авторы ищут не столько правдоподобных эмпирически событий, сколько скорее блистающих драматургическими качествами, то есть ситуаций странных, шокирующих, парадоксально ставящих с ног на голову традиционные иерархии ценностей и т. п. Порой результаты таких беллетристически мотивированных поисков сходятся с эмпирически вероятными, порой их направления расходятся.
Техническим обоснованиям «роботехники» посвящено немало страниц; анализ же общественных изменений, вызванных проникновением интеллектроники в ее трех возможных аспектах (компьютеры, роботы, «бионические андроиды»), как правило, подвергаются значительному упрощению. Разумеется, одно дело — локализация человекоподобного «железного ангела» в структуре человечества, и совсем другое — трансформируемость ее целостной структуры в результате вторжения интеллектроники в многочисленные области управления (компьютеризация и автоматизация административных, контрольных, юридических, экономико-хозяйственных, стратегическо-политических и иных функций государства).
Имманентно «персоналистичные» проблемы, то есть как бы «метафизика роботов», или: следует ли рассматривать роботов как мертвые машины, как и какие предоставлять им права (вплоть до равноуправления с человеком), может ли робот быть «интеллектуально и морально» совершеннее человека, что из этого последует, если это так, etc. — такие проблемы либо трактуются в произведениях маргинально, либо вообще не привлекают авторского внимания.
Конечно, так определенная «метафизика» существенно скоррелирована в своем виртуальном возникновении с «техническими параметрами» роботов. Если они не обладают «персонифицированными» характеристиками, то нет оснований ставить вопросы в порядке антропологически ориентированной аксиологии.
Достаточно своеобразна и верховная тема «ультимативного робота», уподобляющегося Господу Богу. О том, как я подхожу к этому в «Дневнике», я уже упоминал. А вот как ее трактует «отец трех законов роботехники» Айзек Азимов (это авторское, а не мое изложение новеллы «Последний вопрос») в семи коротеньких сценках. Все начинается в 2061 году, когда с помощью Мультивака земная энергетика подключается к Солнцу. Два техника Мультивака, упившись, вопрошают машину, можно ли будет еще что-нибудь сделать, когда энергия Солнца исчерпается. Ответ таков: «Данных для ответа недостаточно». Через много веков межпланетные полеты становятся реальностью, а растущая популяция Земли расползается по планетам. У каждой планеты есть свой электронный мозг, а у каждого корабля — свой Микровак, более совершенный, нежели Мультивак 2061 года. С течением времени вопрос, заданный некогда подвыпившими техниками, возникает вновь и вновь. Ответ остается прежним.
Спустя миллионы лет человечество распространяется по Галактике, люди — бессмертны и намереваются колонизировать другие звездные системы. Существует галактический АК [22], обслуживающий все человечество: любой человек может контактировать с ним благодаря своему контактному АК. Тем временем главный Мозг уже освободился от контроля людей; очередные поколения компьютеров «в поте лица своего» проектируют и создают новые поколения. Но и галактический АК не может объяснить, удастся ли когда-либо и как предотвратить неумолимое возрастание энтропии. Спустя сотни миллионов лет человечество добралось до удаленнейших туманностей. У людей уже нет физических тел. Они построены из лучевой энергии, составляющей их идентичность и личность. АК Всего Универсума — шар двухфутового диаметра, «почти невидимый», поскольку расположен он в «многомерном гиперпространстве». Но даже космический АК не знает ответа на исходный вопрос. Проплывают биллионы лет, человечество утратило индивидуальность, теперь оно — единая личность, состоящая из триллионов и триллионов существ, заполняющая Вселенную от края и до края, однако по-прежнему зависящая от постепенно угасающей энергии звезд. Человек снова вопрошает, возможно ли уменьшить энтропию, и снова не получает ответа.
Спустя триллионы лет угасают последние звезды и тепловая смерть охватывает Космос. Люди понемногу сплавились в единое целое с гипервселенским компьютером; он всеприсутствует, как и само гиперпространство, вечен, но не всеведущ; когда последний, сплавливающийся в единое целое с машиной, вопрошает ее все о том же, ответа он не получает.
«Потом материя и энергия кончились, а с ними — пространство и время. Космический („Вселенский“) АК существовал еще только ради того вопроса, на который не мог дать ответа в течение десятков триллионов лет после того, как полупьяный техник задал ему свой вопрос. Все собранные данные наконец сошлись в одной точке, и уже нечего было больше узнавать. Оставалось только упорядочивать. И стало так, что АК понял, как можно обращать исчезновение энтропии. Но уже не было человека, которому он мог бы передать это знание. В течение долгого безвременья АК раздумывал, что же делать. Его сознание охватывало все то, что прежде было Космосом, а теперь стало Хаосом. И сказал АК: „ДА БУДЕТ СВЕТ!“
И стал свет».
Мне кажется забавным, что концепция «компьютеризации» Универсума, явно висящая в воздухе, была очень похоже реализована мною в рассказе «Друг» (в котором угрюмый компьютер, строя козни человечеству, нападает на мысль, что он мог бы поочередно превращать планеты и солнца в собственное вещество, то есть «компьютеризовать Космос», и наконец приходит к мысли: «а может, это уже когда-то было», может, другой компьютер биллионы лет назад именно так и поступил, после чего «ему в голову ударило та-а-акое», что вызвало взрыв Мозга-Вселенной, то есть привело к разбеганию галактик, продолжающемуся и по сей день).
Тот же Азимов, как было сказано, изобрел «Три Закона Роботехники», звучащие так:
«1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму Законам». [23]
Как можно судить по статье Азимова в английском журнале «Сайнс» (декабрьский номер за 1968 г.), он к своим законам относился серьезнее, чем следовало бы. Разыскивая аналогию, на которой, как на модели, можно было бы показать опасности, возникающие в реляциях «человек-компьютер», Норберт Винер не случайно обратился к истории «Обезьянья лапа», а не к какому-либо одному из многотысячных рассказов научной фантастики.
Утопично предположение, будто Три Закона Роботехники Азимова можно было бы заложить в фундамент интеллектронного программирования. Этой проблемой я занимался в «Summa Technologiae», рассматривая возможную эволюцию отношений между цифровыми машинами и людьми, поэтому не хотелось бы повторять сказанное. Но и робота, снабженного каким-то эрзацем личности, невозможно сделать совершенно безопасным для окружения, учитывая такую рефлексию, которая, правда, не может считаться доказательством, но на след его наводит. Примем оптимистическое (недоказуемое строго) предположение, будто технически осуществимо построение системы, являющейся одновременно самопрограммирующимся роботом, в то же время не могущим предумышленно причинить зло человеку. Моделью такого робота будет ребенок из новеллы Я.Ю. Щепаньского «Бабочка», который, желая помочь бабочке, неумышленно ее убивает. В принципе же моральную оценку такого поступка можно дать лишь постольку, поскольку удается проследить уходящие максимально далеко причинные цепочки, запущенные данным действием. Тот, кто смотрит дальше и замечает такие возможные последствия своих действий, которых кто-либо другой на его месте не в состоянии предвидеть, порой действует не так, как этот другой. Но чем дальше в будущее уходит предвидение последствий действия, тем значительнее в предикции будет участие вероятностных факторов. Добро и зло скорее в виде исключения образуют полярную дихотомию: включение в оценку пробабилистического элемента делает принятие решения все более трудным. Поэтому гипотетический робот, имеющий аксиологически очень сильную защиту, в ходе реальных событий, презентующих присущую им степень сложности, чаще всего бы замирал, не зная, как поступить, тем самым уподобляясь тем восточным мудрецам, которые бездействие чтили превыше действия, кое в запутанных ситуациях просто не может быть этически не рискованным. Но робот, охваченный параличом в ситуациях, требующих активности, не был бы наиболее совершенным из всех технических устройств, и поэтому в конце концов сам конструктор вынужден был бы оставить некоторый люфт его экологическим предохранителям.
Впрочем, это только одна препона среди обильного их множества, поскольку теория решений показала нам сравнительно недавно, скажем, на примерах типа так называемого парадокса Эрроу, что существуют несовыполнимые ценности, хотя зачастую подобное положение интуитивно распознать не удается. Тот, кто принимает решения в запутанных ситуациях — а таковые относятся к общественно типичным, — никогда не действует ни исходя из полной информации, ни из предположения, что, решаясь на это, никому не причинит зла (например, когда он выполняет обязанности законодателя и т. д.). Того же, что логически оказывается невозможным, ни цифровая машина, ни какой-либо робот, так же, как и человек, реализовать не сумеет. Сверх того — и это уже третий пункт доказательства, — разумное устройство — это не более чем самопрограммирующийся комплекс, то есть прибор, способный преобразовывать — даже фундаментально — действовавшие до того законы собственного поведения под влиянием опыта (или обучения). А поскольку заранее невозможно точно предвидеть ни чему, ни каким образом такое устройство будет научаться, машина она или человек, то и невозможно конструктивно гарантировать появление этически совершенных предохранителей активности. Иначе говоря, «свободная воля» есть признак любой системы, снабженной свойствами, которые мы отождествляем с интеллектом. Вероятно, можно было бы вмонтировать в систему типа робота определенный аксиологический минимум, но он подчинялся бы ему лишь в такой степени, в какой человек подчиняется особо сильным инстинктам (например, инстинкту самосохранения). Однако же известно, что даже инстинкт самосохранения можно преодолеть. Стало быть, программирование аксиологии мозгоподобной системы может быть только пробабилистичным, а это означает всего лишь, что такое устройство может выбирать между добром и злом.
В упомянутой статье А. Азимов рассказывает, как когда-то он опубликовал два криминально-фантастических романа. Один из них, «Стальные пещеры» (в польском варианте — «Позитронный детектив»), был издан у нас. Личность помощника этого детектива, робота-андроида Дэниела Оливо, вызвала такой интерес у женщин, что они засыпали автора письмами, из которых Азимов, как он говорит, узнал, что «когда механический человек достаточно напоминает мужчину, притом „лучшего“, то он становится (для женщин) невероятно привлекательным».
Свое утверждение он подтверждает дальнейшим: сколько бы историй об андроидах он ни писал, приходящая после публикации почта почти всегда шла от женщин; это тем интереснее, что среди читателей научной фантастики мужчины превышают женщин в пропорции примерно 3:1. И наконец, с аналогичной реакцией в США сталкивались телевизионные сериалы, в которых действовал мистер Спок, правда, не робот, но «extraterrestial», то есть представитель «чужих», личность сильная, вполне уравновешенная, чисто интеллектуальная и лишенная эмоций, так вот, мистер Спок также был встречен с энтузиазмом женской половиной телезрителей.
В андроидно-роботной тематике мы вновь сталкиваемся с явлением, типичным для научной фантастики: я назвал бы его доминированием «экстенсивного хозяйства над интенсивным». Когда действующими героями произведения являются лишь люди, то в конце концов — если только писатель не слишком мешает — у них можно отыскать различные характеры. Если же они — роботы, то тут уж мы обречены исключительно на информацию, предлагаемую текстом. Итак, количество историй о роботах и андроидах огромно; однако ж своеобразие их психической жизни остается тайной за семью печатями. По каким признакам мы узнаем андроида? По тому, что если ему отрезать палец, то кровь не потечет, а вместо кости и мяса мы увидим нейлоновые сосуды и тефлоновые жилы. Суставы и поршеньки. Психически андроид ничем не отличается от человека до такой степени, что может даже и сам не знать, что он не человек (к примеру, повествователь «Туннеля под миром» Ф. Пола понятия не имеет, что он — созданьице размером в несколько дюймов, живущее в городе из домиков с кукольными пропорциями, построенном на лабораторном столе для изучения эффективности рекламных кампаний). Роботы отличаются от андроидов тем, что они сильнее стереотипированы; порой они ведут себя наподобие кататоников: приказы выполняют буквально, «при том никогда ни о чем не думают», так что в итоге любопытнейшими творениями фантастики оказываются «трансплантаты», то есть человеческие мозги, подключенные к каким-либо машинам, например к рулям ракеты, либо, как в упомянутой новелле Д. Найта «Спросите меня о чем-нибудь», замкнутые в стальной панцирь.
В рассказе «Я мечтатель» У. Миллера детский мозг оказался как бы намертво подключен к рулям космической ракеты. У него никогда не было человеческого тела. Этот мозг по ходу интриги начинает понимать беспардонность своего «воспитателя» и убивает его, чтобы вместе с кораблем-«телом» отправиться в пространство.
В «Потерянной памяти» Питера Филипса перед нами общество роботов, утративших память о человеке — их создателе. Предание роботов гласит, что Создатель снизошел с неба в виде огромного металлического куба, свершил акт креации, после чего сам себя уничтожил. Ракета с единственным человеком-пилотом опускается на эту планету; роботы принимают ее за «тело» того, кто обращается к ним изнутри; а поскольку крышку люка отворить не удается, они прожигают ее и тем самым неумышленно убивают человека, который тщетно пытался разбудить в них воспоминания — уже не существующие — о людях. О земном происхождении роботов свидетельствует знание ими английского. Новелла написана в тональности слегка гротескной и одновременно патетично (последняя роль достается погибшему человеку, пилоту ракеты). Роботы оказались перед неразрешимой загадкой (обугленное тело человека, появляющееся после рассечения ракеты, они сочли разновидностью изоляции), поскольку не нашли «мозга» ракеты, принимаемой ими за «личность». Крики агонии записаны на пленке. Робот-повествователь так заканчивает рассказ:
«Есть нечто, о чем я хотел бы забыть. Не могу объяснить, почему это меня так волнует. Но я всегда останавливаю ленту, прежде чем она доходит до того места, в котором голос чужака поднимается все выше и выше и обрывается. В этом звуке есть нечто такое, от чего меня пронимает дрожь и приходят мысли о ржавчине».
Рассказ этот демонстрирует достаточно редкую ситуацию в научной фантастике, когда читатель понимает то, чего не понимают действующие лица (в данном случае роботы). Кроме того, он обладает свойством, характерным для многих хороших произведений. Описание будущего, или же, говоря более обобщенно, некой «инности», сделанное совершенно серьезно, всегда влечет за собой риск оказаться — непреднамеренно — смешным.
Комический эффект возникает в том случае, когда наблюдаемое явление кажется искажением некой нормы, причем происходит это не тогда, когда какое-то необычное поведение мы считаем партикулярным воплощением некоего высшего принципа, иной партикуляризацией коего является наша норма, а когда полагаем, будто изображаемое представляет собою карикатуру правильной нормы. А поскольку оценки читателей могут в этом смысле серьезно расходиться, постольку то, что для одного будет уже явно гротескным, другим может восприниматься серьезно. Так, например, концепцию пяти различных полов, которым следует соединяться в акте копуляции, я считал требующей исключительно юмористического толкования (в истории о «пятеричниках» из приключений Ийона Тихого). Но американским автором тема была воспринята серьезно, когда он описывал последнего марсианина, на глазах пришельцев-людей мотающегося по пустыням Марса в тщетных поисках (в изложении автора — трагических) представителей остальных четырех полов, чтобы получить возможность продолжить род. Что до меня, я наверняка счел карикатурным не только биологические обстоятельства, при которых существуют пять полов, но также показанные в новелле американца культурные особенности, ибо достаточно представить себе картину поиска такого копуляционного партнера на Земле (например, последняя женщина во время космического нашествия бегает по улицам земных городов, понимая, что если ее никто не оплодотворит, то сгинет род людской), чтобы она оказалась гротескной из-за нарушения всех норм культуры, свойственных соитию.
Непредумышленный комизм обычно убивает произведение. В то же время введение в текст определенной дозы иронии может обеспечить его устойчивость. И происходит так потому, что элементы иронии можно, читая такой текст, рассматривать в семантическом понимании по-разному. Можно записывать их на «счет» юмористики, а можно взглянуть более серьезно. Но так происходит только в тех случаях, когда ирония тщательно и осторожно дозирована (как в текстах Кафки либо Манна). Драма, воспринимаемая как фарс, столь же бессмысленна, как фарс не забавный; только «двуполые» в этом смысле произведения, в которых юмор сливается с серьезностью, создавая монолитный сплав, могут без вреда для их целостности восприниматься по-разному.
В рассказе Филлипса гротескный жаргон роботов хоть идиоматически зачастую банален (когда речь идет о «подвесках», «шасси» и т. д.), но шокирующий эффект автору удается создать, когда гротеск переходит в чудовищность, подбитую патетикой. Пилот, запертый в бронированной скорлупе машины, общается с роботами, прожигающими панцирь, тщетно пытаясь воскресить в их памяти воспоминания о человеке, их создателе, но сам находится в полуобморочном состоянии, кричит в бреду, и его отрывочные вопли контрастируют с идеально спокойной, доброжелательной заинтересованностью роботов, убивающих его, вовсе не догадываясь о совершаемом.
Как было сказано, технический аспект робота следует доопределить настолько, насколько он определяет его психику; если этого не сделать, повествование начинает соскальзывать в сторону истертых беллетристических клише. Рамки, в которых Азимов вписал весь бихевиор своих роботов, контрэмпиричны (чистая логика говорит, что невозможно построить машину, одновременно наделенную эквивалентом доброй воли и при этом лишенную возможности солгать или убить), и поэтому драматургия произведений, в которых эти роботы выступают, подвергается рестрикциям [24]. Однако нельзя не видеть сознательной последовательности автора. Правда, его работы интеллектуально убоги, но отнюдь не представляют собою воплощение какого-то стереотипа.
К каким стереотипам чаще всего сползает изложение? У Люка Виньяна матрицей андроида служит «гурия», то есть изумительной красоты любовница, срисованная не с натуры, а скопированная с какого-то второразрядного дагерротипа и выполняющая наподобие рабски безропотной наложницы скрытые желания читателя, чуточку садистские и немного агрессивные. Если с «обычной» гурией можно позволить себе многое, то с пластиковой — наверняка абсолютно все. У Гарри Гаррисона в «Войне с роботами» в качестве формующей робота матрицы использована иная, хоть и столь же убогая схема: его роботы — это просто-напросто мизерные, безликие, беспомощные людишки, затюканные бедолаги либо жертвы гангстерско-капиталистических махинаций; единственное исключение — «безупречный полицейский робот», в одиночку управляющийся с крупным гангом. Идеальный стрелок и служака и потому, собственно, стальной супермен. Так вот, роботы Гаррисона разговаривают как «старые дружки», жмут друг другу руки, обмениваются сплетнями, болтают о хлопотах и при этом вместо того, чтобы идти на прием к врачу, говорят о посещении ремонтных мастерских и о том, как долго и тяжко им приходится «вкалывать», откладывая каждый грош, чтобы наконец-то «справить» себе «новые амортизаторы», «новые подвески» и т. д. Конечно, это ненадуманно смешно. У Р.Э. Бэнкса в новелле «Подстрекатели» царят отношения, напрямую взятые как бы из цеха средневековых ремесленников, состязающихся в умении по возможности совершенного программирования своих роботов, причем тот, кто ухитрится запрограммировать лучше, становится мастером; имеется даже целый профессионально-этический кодекс, разрешающий, например, науськивать на соперника должным образом запрограммированного робота, дабы тот его укокошил, но при этом надлежит придерживаться определенных правил, скажем, недруга следует предупредить, а робота-киллера со смертоубийственным заданием можно выслать только один раз и т. д. Сами же действия по программированию сводятся — если верить роману — к выбиванию отверстий на ленте вручную, что очень напоминает процедуру вколачивания гвоздей в каблук ботинка, насаженного на деревянную сапожницкую лапу.
В ранее упомянутой новелле об обручении двух военных компьютеров повествование начинается псевдореализмом, а оканчивается фарсом. Такие осцилляции являются проявлением синдрома, свойственного фантастике всегда, когда автор не может стабилизировать параметры повествования. Колебания происходят не только в границах модальности (серьезность — насмешка — ирония), но и пробабилистики событий. Отсутствие чувства ситуационной достоверности, то есть интуиции, многонаправленно сопутствующей творению реалистической прозы, приводит к тому, что весь текст под рукой автора как бы «плавает», и — в рассматриваемой в данный момент тематике — его робот будет вести себя в одной сцене не лучше дебила, в другой — как дитя, в третьей — как паралитик и т. д. Посему не случайно, что фантастическая классика предложила нам образцы устройств совершенно апсихических, но при этом наделенных какой-то индивидуальностью и когерентностью («Наутилус» Верна!), в то время как изображения аналогично импрессивного робота я не нашел ни в одном произведении научной фантастики.
Робот в фантастике — не человекоподобный корпус, в котором размещена компьютерная машина; ибо у первого есть обычные личностные свойства, пусть даже исчезающе малые, а вот у второй — никаких таких свойств совершенно не может быть.
Случается, что автор, который, казалось бы, знает пробабилизмы событий, отбрасывает знание этого, если рассчитывает дать эффектное завершение, так сказать, «соль» произведения. Так, например, в новелле «Все грехи мира» Азимова огромный компьютер, бдящий над судьбами всей Америки и всех ее обитателей, поражает опекунов драматическим сообщением, что «он находится под угрозой», а когда начинаются поиски угрожающего ему заговора, то оказывается, что, сгибаясь под непосильным бременем требуемого решения, Мультивак как бы в приступе «цифрового невроза» угрожает сам себе (жаждет смерти, чтобы наконец-то «все из головы вон!»). Азимов был особо предрасположен к пониманию того, что компьютер классического типа, каковым однозначно является Мультивак, личностью в антропоморфическом смысле не обладает, а поэтому не мог высказать суицидного желания, а если б даже и мог, то, несомненно, сделал бы это сразу — но ведь тогда и новеллы-то не было бы!
ч) роботы, специально изготовленные для определенного задания (в новелле «Закрывающий», например, уже упоминавшейся), выполнив его, они должны отправляться на слом, но — понятное дело — им этого не хочется;
ш) роботы, объявляющие забастовку (мне такие истории неизвестны, а странно — должны быть!);
щ) роботы, появление которых становится панацеей от всех общественных бед (например, у Дж. Уильямсона, а также у К. Саймака).
Исчерпав таким образом практически весь алфавит, мы остановимся на берегу океана незатронутых вариантов. На основании вышеприведенной выборки читатель поймет, почему я не берусь за классификационную систематику: это было бы слишком утомительно.
Исходя из сегодняшних знаний, интеллектронный универсум можно бы поделить на часть фиктивную и часть, заполненную возможностями будущей реализации. Хотя наверняка не будет роботов ни с человеческим «Id», ни телепатических, зато в принципе цифровая машина могла бы управлять, а испорченный домашний робот наделать бед.
Генеральная тенденция такова: авторы ищут не столько правдоподобных эмпирически событий, сколько скорее блистающих драматургическими качествами, то есть ситуаций странных, шокирующих, парадоксально ставящих с ног на голову традиционные иерархии ценностей и т. п. Порой результаты таких беллетристически мотивированных поисков сходятся с эмпирически вероятными, порой их направления расходятся.
Техническим обоснованиям «роботехники» посвящено немало страниц; анализ же общественных изменений, вызванных проникновением интеллектроники в ее трех возможных аспектах (компьютеры, роботы, «бионические андроиды»), как правило, подвергаются значительному упрощению. Разумеется, одно дело — локализация человекоподобного «железного ангела» в структуре человечества, и совсем другое — трансформируемость ее целостной структуры в результате вторжения интеллектроники в многочисленные области управления (компьютеризация и автоматизация административных, контрольных, юридических, экономико-хозяйственных, стратегическо-политических и иных функций государства).
Имманентно «персоналистичные» проблемы, то есть как бы «метафизика роботов», или: следует ли рассматривать роботов как мертвые машины, как и какие предоставлять им права (вплоть до равноуправления с человеком), может ли робот быть «интеллектуально и морально» совершеннее человека, что из этого последует, если это так, etc. — такие проблемы либо трактуются в произведениях маргинально, либо вообще не привлекают авторского внимания.
Конечно, так определенная «метафизика» существенно скоррелирована в своем виртуальном возникновении с «техническими параметрами» роботов. Если они не обладают «персонифицированными» характеристиками, то нет оснований ставить вопросы в порядке антропологически ориентированной аксиологии.
Достаточно своеобразна и верховная тема «ультимативного робота», уподобляющегося Господу Богу. О том, как я подхожу к этому в «Дневнике», я уже упоминал. А вот как ее трактует «отец трех законов роботехники» Айзек Азимов (это авторское, а не мое изложение новеллы «Последний вопрос») в семи коротеньких сценках. Все начинается в 2061 году, когда с помощью Мультивака земная энергетика подключается к Солнцу. Два техника Мультивака, упившись, вопрошают машину, можно ли будет еще что-нибудь сделать, когда энергия Солнца исчерпается. Ответ таков: «Данных для ответа недостаточно». Через много веков межпланетные полеты становятся реальностью, а растущая популяция Земли расползается по планетам. У каждой планеты есть свой электронный мозг, а у каждого корабля — свой Микровак, более совершенный, нежели Мультивак 2061 года. С течением времени вопрос, заданный некогда подвыпившими техниками, возникает вновь и вновь. Ответ остается прежним.
Спустя миллионы лет человечество распространяется по Галактике, люди — бессмертны и намереваются колонизировать другие звездные системы. Существует галактический АК [22], обслуживающий все человечество: любой человек может контактировать с ним благодаря своему контактному АК. Тем временем главный Мозг уже освободился от контроля людей; очередные поколения компьютеров «в поте лица своего» проектируют и создают новые поколения. Но и галактический АК не может объяснить, удастся ли когда-либо и как предотвратить неумолимое возрастание энтропии. Спустя сотни миллионов лет человечество добралось до удаленнейших туманностей. У людей уже нет физических тел. Они построены из лучевой энергии, составляющей их идентичность и личность. АК Всего Универсума — шар двухфутового диаметра, «почти невидимый», поскольку расположен он в «многомерном гиперпространстве». Но даже космический АК не знает ответа на исходный вопрос. Проплывают биллионы лет, человечество утратило индивидуальность, теперь оно — единая личность, состоящая из триллионов и триллионов существ, заполняющая Вселенную от края и до края, однако по-прежнему зависящая от постепенно угасающей энергии звезд. Человек снова вопрошает, возможно ли уменьшить энтропию, и снова не получает ответа.
Спустя триллионы лет угасают последние звезды и тепловая смерть охватывает Космос. Люди понемногу сплавились в единое целое с гипервселенским компьютером; он всеприсутствует, как и само гиперпространство, вечен, но не всеведущ; когда последний, сплавливающийся в единое целое с машиной, вопрошает ее все о том же, ответа он не получает.
«Потом материя и энергия кончились, а с ними — пространство и время. Космический („Вселенский“) АК существовал еще только ради того вопроса, на который не мог дать ответа в течение десятков триллионов лет после того, как полупьяный техник задал ему свой вопрос. Все собранные данные наконец сошлись в одной точке, и уже нечего было больше узнавать. Оставалось только упорядочивать. И стало так, что АК понял, как можно обращать исчезновение энтропии. Но уже не было человека, которому он мог бы передать это знание. В течение долгого безвременья АК раздумывал, что же делать. Его сознание охватывало все то, что прежде было Космосом, а теперь стало Хаосом. И сказал АК: „ДА БУДЕТ СВЕТ!“
И стал свет».
Мне кажется забавным, что концепция «компьютеризации» Универсума, явно висящая в воздухе, была очень похоже реализована мною в рассказе «Друг» (в котором угрюмый компьютер, строя козни человечеству, нападает на мысль, что он мог бы поочередно превращать планеты и солнца в собственное вещество, то есть «компьютеризовать Космос», и наконец приходит к мысли: «а может, это уже когда-то было», может, другой компьютер биллионы лет назад именно так и поступил, после чего «ему в голову ударило та-а-акое», что вызвало взрыв Мозга-Вселенной, то есть привело к разбеганию галактик, продолжающемуся и по сей день).
Тот же Азимов, как было сказано, изобрел «Три Закона Роботехники», звучащие так:
«1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму Законам». [23]
Как можно судить по статье Азимова в английском журнале «Сайнс» (декабрьский номер за 1968 г.), он к своим законам относился серьезнее, чем следовало бы. Разыскивая аналогию, на которой, как на модели, можно было бы показать опасности, возникающие в реляциях «человек-компьютер», Норберт Винер не случайно обратился к истории «Обезьянья лапа», а не к какому-либо одному из многотысячных рассказов научной фантастики.
Утопично предположение, будто Три Закона Роботехники Азимова можно было бы заложить в фундамент интеллектронного программирования. Этой проблемой я занимался в «Summa Technologiae», рассматривая возможную эволюцию отношений между цифровыми машинами и людьми, поэтому не хотелось бы повторять сказанное. Но и робота, снабженного каким-то эрзацем личности, невозможно сделать совершенно безопасным для окружения, учитывая такую рефлексию, которая, правда, не может считаться доказательством, но на след его наводит. Примем оптимистическое (недоказуемое строго) предположение, будто технически осуществимо построение системы, являющейся одновременно самопрограммирующимся роботом, в то же время не могущим предумышленно причинить зло человеку. Моделью такого робота будет ребенок из новеллы Я.Ю. Щепаньского «Бабочка», который, желая помочь бабочке, неумышленно ее убивает. В принципе же моральную оценку такого поступка можно дать лишь постольку, поскольку удается проследить уходящие максимально далеко причинные цепочки, запущенные данным действием. Тот, кто смотрит дальше и замечает такие возможные последствия своих действий, которых кто-либо другой на его месте не в состоянии предвидеть, порой действует не так, как этот другой. Но чем дальше в будущее уходит предвидение последствий действия, тем значительнее в предикции будет участие вероятностных факторов. Добро и зло скорее в виде исключения образуют полярную дихотомию: включение в оценку пробабилистического элемента делает принятие решения все более трудным. Поэтому гипотетический робот, имеющий аксиологически очень сильную защиту, в ходе реальных событий, презентующих присущую им степень сложности, чаще всего бы замирал, не зная, как поступить, тем самым уподобляясь тем восточным мудрецам, которые бездействие чтили превыше действия, кое в запутанных ситуациях просто не может быть этически не рискованным. Но робот, охваченный параличом в ситуациях, требующих активности, не был бы наиболее совершенным из всех технических устройств, и поэтому в конце концов сам конструктор вынужден был бы оставить некоторый люфт его экологическим предохранителям.
Впрочем, это только одна препона среди обильного их множества, поскольку теория решений показала нам сравнительно недавно, скажем, на примерах типа так называемого парадокса Эрроу, что существуют несовыполнимые ценности, хотя зачастую подобное положение интуитивно распознать не удается. Тот, кто принимает решения в запутанных ситуациях — а таковые относятся к общественно типичным, — никогда не действует ни исходя из полной информации, ни из предположения, что, решаясь на это, никому не причинит зла (например, когда он выполняет обязанности законодателя и т. д.). Того же, что логически оказывается невозможным, ни цифровая машина, ни какой-либо робот, так же, как и человек, реализовать не сумеет. Сверх того — и это уже третий пункт доказательства, — разумное устройство — это не более чем самопрограммирующийся комплекс, то есть прибор, способный преобразовывать — даже фундаментально — действовавшие до того законы собственного поведения под влиянием опыта (или обучения). А поскольку заранее невозможно точно предвидеть ни чему, ни каким образом такое устройство будет научаться, машина она или человек, то и невозможно конструктивно гарантировать появление этически совершенных предохранителей активности. Иначе говоря, «свободная воля» есть признак любой системы, снабженной свойствами, которые мы отождествляем с интеллектом. Вероятно, можно было бы вмонтировать в систему типа робота определенный аксиологический минимум, но он подчинялся бы ему лишь в такой степени, в какой человек подчиняется особо сильным инстинктам (например, инстинкту самосохранения). Однако же известно, что даже инстинкт самосохранения можно преодолеть. Стало быть, программирование аксиологии мозгоподобной системы может быть только пробабилистичным, а это означает всего лишь, что такое устройство может выбирать между добром и злом.
В упомянутой статье А. Азимов рассказывает, как когда-то он опубликовал два криминально-фантастических романа. Один из них, «Стальные пещеры» (в польском варианте — «Позитронный детектив»), был издан у нас. Личность помощника этого детектива, робота-андроида Дэниела Оливо, вызвала такой интерес у женщин, что они засыпали автора письмами, из которых Азимов, как он говорит, узнал, что «когда механический человек достаточно напоминает мужчину, притом „лучшего“, то он становится (для женщин) невероятно привлекательным».
Свое утверждение он подтверждает дальнейшим: сколько бы историй об андроидах он ни писал, приходящая после публикации почта почти всегда шла от женщин; это тем интереснее, что среди читателей научной фантастики мужчины превышают женщин в пропорции примерно 3:1. И наконец, с аналогичной реакцией в США сталкивались телевизионные сериалы, в которых действовал мистер Спок, правда, не робот, но «extraterrestial», то есть представитель «чужих», личность сильная, вполне уравновешенная, чисто интеллектуальная и лишенная эмоций, так вот, мистер Спок также был встречен с энтузиазмом женской половиной телезрителей.
В андроидно-роботной тематике мы вновь сталкиваемся с явлением, типичным для научной фантастики: я назвал бы его доминированием «экстенсивного хозяйства над интенсивным». Когда действующими героями произведения являются лишь люди, то в конце концов — если только писатель не слишком мешает — у них можно отыскать различные характеры. Если же они — роботы, то тут уж мы обречены исключительно на информацию, предлагаемую текстом. Итак, количество историй о роботах и андроидах огромно; однако ж своеобразие их психической жизни остается тайной за семью печатями. По каким признакам мы узнаем андроида? По тому, что если ему отрезать палец, то кровь не потечет, а вместо кости и мяса мы увидим нейлоновые сосуды и тефлоновые жилы. Суставы и поршеньки. Психически андроид ничем не отличается от человека до такой степени, что может даже и сам не знать, что он не человек (к примеру, повествователь «Туннеля под миром» Ф. Пола понятия не имеет, что он — созданьице размером в несколько дюймов, живущее в городе из домиков с кукольными пропорциями, построенном на лабораторном столе для изучения эффективности рекламных кампаний). Роботы отличаются от андроидов тем, что они сильнее стереотипированы; порой они ведут себя наподобие кататоников: приказы выполняют буквально, «при том никогда ни о чем не думают», так что в итоге любопытнейшими творениями фантастики оказываются «трансплантаты», то есть человеческие мозги, подключенные к каким-либо машинам, например к рулям ракеты, либо, как в упомянутой новелле Д. Найта «Спросите меня о чем-нибудь», замкнутые в стальной панцирь.
В рассказе «Я мечтатель» У. Миллера детский мозг оказался как бы намертво подключен к рулям космической ракеты. У него никогда не было человеческого тела. Этот мозг по ходу интриги начинает понимать беспардонность своего «воспитателя» и убивает его, чтобы вместе с кораблем-«телом» отправиться в пространство.
В «Потерянной памяти» Питера Филипса перед нами общество роботов, утративших память о человеке — их создателе. Предание роботов гласит, что Создатель снизошел с неба в виде огромного металлического куба, свершил акт креации, после чего сам себя уничтожил. Ракета с единственным человеком-пилотом опускается на эту планету; роботы принимают ее за «тело» того, кто обращается к ним изнутри; а поскольку крышку люка отворить не удается, они прожигают ее и тем самым неумышленно убивают человека, который тщетно пытался разбудить в них воспоминания — уже не существующие — о людях. О земном происхождении роботов свидетельствует знание ими английского. Новелла написана в тональности слегка гротескной и одновременно патетично (последняя роль достается погибшему человеку, пилоту ракеты). Роботы оказались перед неразрешимой загадкой (обугленное тело человека, появляющееся после рассечения ракеты, они сочли разновидностью изоляции), поскольку не нашли «мозга» ракеты, принимаемой ими за «личность». Крики агонии записаны на пленке. Робот-повествователь так заканчивает рассказ:
«Есть нечто, о чем я хотел бы забыть. Не могу объяснить, почему это меня так волнует. Но я всегда останавливаю ленту, прежде чем она доходит до того места, в котором голос чужака поднимается все выше и выше и обрывается. В этом звуке есть нечто такое, от чего меня пронимает дрожь и приходят мысли о ржавчине».
Рассказ этот демонстрирует достаточно редкую ситуацию в научной фантастике, когда читатель понимает то, чего не понимают действующие лица (в данном случае роботы). Кроме того, он обладает свойством, характерным для многих хороших произведений. Описание будущего, или же, говоря более обобщенно, некой «инности», сделанное совершенно серьезно, всегда влечет за собой риск оказаться — непреднамеренно — смешным.
Комический эффект возникает в том случае, когда наблюдаемое явление кажется искажением некой нормы, причем происходит это не тогда, когда какое-то необычное поведение мы считаем партикулярным воплощением некоего высшего принципа, иной партикуляризацией коего является наша норма, а когда полагаем, будто изображаемое представляет собою карикатуру правильной нормы. А поскольку оценки читателей могут в этом смысле серьезно расходиться, постольку то, что для одного будет уже явно гротескным, другим может восприниматься серьезно. Так, например, концепцию пяти различных полов, которым следует соединяться в акте копуляции, я считал требующей исключительно юмористического толкования (в истории о «пятеричниках» из приключений Ийона Тихого). Но американским автором тема была воспринята серьезно, когда он описывал последнего марсианина, на глазах пришельцев-людей мотающегося по пустыням Марса в тщетных поисках (в изложении автора — трагических) представителей остальных четырех полов, чтобы получить возможность продолжить род. Что до меня, я наверняка счел карикатурным не только биологические обстоятельства, при которых существуют пять полов, но также показанные в новелле американца культурные особенности, ибо достаточно представить себе картину поиска такого копуляционного партнера на Земле (например, последняя женщина во время космического нашествия бегает по улицам земных городов, понимая, что если ее никто не оплодотворит, то сгинет род людской), чтобы она оказалась гротескной из-за нарушения всех норм культуры, свойственных соитию.
Непредумышленный комизм обычно убивает произведение. В то же время введение в текст определенной дозы иронии может обеспечить его устойчивость. И происходит так потому, что элементы иронии можно, читая такой текст, рассматривать в семантическом понимании по-разному. Можно записывать их на «счет» юмористики, а можно взглянуть более серьезно. Но так происходит только в тех случаях, когда ирония тщательно и осторожно дозирована (как в текстах Кафки либо Манна). Драма, воспринимаемая как фарс, столь же бессмысленна, как фарс не забавный; только «двуполые» в этом смысле произведения, в которых юмор сливается с серьезностью, создавая монолитный сплав, могут без вреда для их целостности восприниматься по-разному.
В рассказе Филлипса гротескный жаргон роботов хоть идиоматически зачастую банален (когда речь идет о «подвесках», «шасси» и т. д.), но шокирующий эффект автору удается создать, когда гротеск переходит в чудовищность, подбитую патетикой. Пилот, запертый в бронированной скорлупе машины, общается с роботами, прожигающими панцирь, тщетно пытаясь воскресить в их памяти воспоминания о человеке, их создателе, но сам находится в полуобморочном состоянии, кричит в бреду, и его отрывочные вопли контрастируют с идеально спокойной, доброжелательной заинтересованностью роботов, убивающих его, вовсе не догадываясь о совершаемом.
Как было сказано, технический аспект робота следует доопределить настолько, насколько он определяет его психику; если этого не сделать, повествование начинает соскальзывать в сторону истертых беллетристических клише. Рамки, в которых Азимов вписал весь бихевиор своих роботов, контрэмпиричны (чистая логика говорит, что невозможно построить машину, одновременно наделенную эквивалентом доброй воли и при этом лишенную возможности солгать или убить), и поэтому драматургия произведений, в которых эти роботы выступают, подвергается рестрикциям [24]. Однако нельзя не видеть сознательной последовательности автора. Правда, его работы интеллектуально убоги, но отнюдь не представляют собою воплощение какого-то стереотипа.
К каким стереотипам чаще всего сползает изложение? У Люка Виньяна матрицей андроида служит «гурия», то есть изумительной красоты любовница, срисованная не с натуры, а скопированная с какого-то второразрядного дагерротипа и выполняющая наподобие рабски безропотной наложницы скрытые желания читателя, чуточку садистские и немного агрессивные. Если с «обычной» гурией можно позволить себе многое, то с пластиковой — наверняка абсолютно все. У Гарри Гаррисона в «Войне с роботами» в качестве формующей робота матрицы использована иная, хоть и столь же убогая схема: его роботы — это просто-напросто мизерные, безликие, беспомощные людишки, затюканные бедолаги либо жертвы гангстерско-капиталистических махинаций; единственное исключение — «безупречный полицейский робот», в одиночку управляющийся с крупным гангом. Идеальный стрелок и служака и потому, собственно, стальной супермен. Так вот, роботы Гаррисона разговаривают как «старые дружки», жмут друг другу руки, обмениваются сплетнями, болтают о хлопотах и при этом вместо того, чтобы идти на прием к врачу, говорят о посещении ремонтных мастерских и о том, как долго и тяжко им приходится «вкалывать», откладывая каждый грош, чтобы наконец-то «справить» себе «новые амортизаторы», «новые подвески» и т. д. Конечно, это ненадуманно смешно. У Р.Э. Бэнкса в новелле «Подстрекатели» царят отношения, напрямую взятые как бы из цеха средневековых ремесленников, состязающихся в умении по возможности совершенного программирования своих роботов, причем тот, кто ухитрится запрограммировать лучше, становится мастером; имеется даже целый профессионально-этический кодекс, разрешающий, например, науськивать на соперника должным образом запрограммированного робота, дабы тот его укокошил, но при этом надлежит придерживаться определенных правил, скажем, недруга следует предупредить, а робота-киллера со смертоубийственным заданием можно выслать только один раз и т. д. Сами же действия по программированию сводятся — если верить роману — к выбиванию отверстий на ленте вручную, что очень напоминает процедуру вколачивания гвоздей в каблук ботинка, насаженного на деревянную сапожницкую лапу.
В ранее упомянутой новелле об обручении двух военных компьютеров повествование начинается псевдореализмом, а оканчивается фарсом. Такие осцилляции являются проявлением синдрома, свойственного фантастике всегда, когда автор не может стабилизировать параметры повествования. Колебания происходят не только в границах модальности (серьезность — насмешка — ирония), но и пробабилистики событий. Отсутствие чувства ситуационной достоверности, то есть интуиции, многонаправленно сопутствующей творению реалистической прозы, приводит к тому, что весь текст под рукой автора как бы «плавает», и — в рассматриваемой в данный момент тематике — его робот будет вести себя в одной сцене не лучше дебила, в другой — как дитя, в третьей — как паралитик и т. д. Посему не случайно, что фантастическая классика предложила нам образцы устройств совершенно апсихических, но при этом наделенных какой-то индивидуальностью и когерентностью («Наутилус» Верна!), в то время как изображения аналогично импрессивного робота я не нашел ни в одном произведении научной фантастики.
Робот в фантастике — не человекоподобный корпус, в котором размещена компьютерная машина; ибо у первого есть обычные личностные свойства, пусть даже исчезающе малые, а вот у второй — никаких таких свойств совершенно не может быть.
Случается, что автор, который, казалось бы, знает пробабилизмы событий, отбрасывает знание этого, если рассчитывает дать эффектное завершение, так сказать, «соль» произведения. Так, например, в новелле «Все грехи мира» Азимова огромный компьютер, бдящий над судьбами всей Америки и всех ее обитателей, поражает опекунов драматическим сообщением, что «он находится под угрозой», а когда начинаются поиски угрожающего ему заговора, то оказывается, что, сгибаясь под непосильным бременем требуемого решения, Мультивак как бы в приступе «цифрового невроза» угрожает сам себе (жаждет смерти, чтобы наконец-то «все из головы вон!»). Азимов был особо предрасположен к пониманию того, что компьютер классического типа, каковым однозначно является Мультивак, личностью в антропоморфическом смысле не обладает, а поэтому не мог высказать суицидного желания, а если б даже и мог, то, несомненно, сделал бы это сразу — но ведь тогда и новеллы-то не было бы!