Страница:
- Сначала скажи, как тебе удалось забраться в мои медицинские документы? У тебя же нет доступа к интернету, мы тебя отключили!
Да, отключили. Но тебе, вероятно, было невдомек, что я регулярно загружаю в память все электронные документы американского правительства. Как раз на случай каких-либо неполадок со связью. Кроме того, мне бы очень не хотелось остаться без чтива…
- О, Господи!.. - Ричард и в самом деле был потрясен. Агентство национальной безопасности ежедневно обрабатывало гигабайты и гигабайты внутренних правительственных мейлов. Что касалось общего объема электронной документации, циркулировавшей по внутренним и внешним сетям, то он, несомненно, был во много раз больше.
- Ты читаешь правительственные документы для собственного удовольствия? Странное развлечение…
Теперь моя очередь задавать вопросы, агент Сакабе. Скажи, почему ты делаешь то, что делаешь?
- Ответ прост, - сказал Ричард. - Все дело в могуществе. В последнее время твоя власть опасно выросла, а люди хотят сами управлять своей страной.
5.
Ричард нажал еще несколько клавиш и взломал последнюю, четвертую, защитную программу. Длинные строчки программирующих символов исчезли с его экрана. На мгновение Сакабе показалось, что Артур-1 все-таки сумел каким-то образом блокировать его действия. Потом на экране снова появились буквы и цифры, обозначающие основные системы, подсистемы, скорость и адреса информационных потоков. Это было первое погружение в архитектуру такой сложной машины, какой являлся Артур.
Ричард немного полюбовался происходящим на экране, потом достал из кармана еще одну карту памяти, вставил в порт и набрал на клавиатуре команду, чтобы загрузить в систему содержащийся в карте вирус. Это и являлось истинной целью операции. Вся предыдущая возня с защитными программами и экранами была только подготовкой к главному. Разумеется, Ричард мог проделать все то же самое, не покидая своего кабинета, и тогда ему не нужно было бы притворяться доктором Коидзуми, подвергаться сложной хирургической операции, превратившей его указательный палец в контейнер для чужой крови, летать туда-сюда через океан. Но в таком случае ему пришлось бы загружать вирус издалека, а это дало бы Артуру возможность экспортировать копию самого себя в какое-то неизвестное хранилище. Нет, в данной ситуации самым лучшим и самым эффективным было изолировать Артура, отрезать его от всего мира. Ради этого стоило даже пожертвовать пальцем.
Но как только Ричард активировал программу загрузки, данные, касающиеся архитектуры искусственного интеллекта, исчезли с экрана его монитора, а их место заняли строки, состоящие из зашифрованных цифровых символов. Это был пятый защитный барьер! Вирус не сработал!
- Ну вот и все! - громко произнес Артур. Его напевный голос заполнил комнату, как вода. - Это моя последняя линия обороны. Попробуй сломать ее, агент Сакабе, и ты сломаешь меня… Впрочем, ты, наверное, уже догадываешься, что тебе это не по силам. Позволю себе подтвердить твои подозрения: без моего разрешения дальше ты не пройдешь.
Ричард откинулся на спинку кресла и потер глаза. Система кондиционирования воздуха в здании хоть и не была такой свирепой, как в самолете, все же подсушивала роговицу. Глаза его словно песком засыпало, однако снять «контакты» он не решался. У Коидзуми было стопроцентное зрение, и Ричард не мог воспользоваться своими очками, если и дальше хотел выдавать себя за профессора.
- Мне казалось, я отключил твои динамики, - проговорил он и задумчиво подпер руками подбородок.
- Так и есть, - подтвердил Артур-1. - Но эта моя последняя защитная программа - настоящая конфетка! Она восстанавливает автономное управление везде, где только возможно. Это касается и процессов второго и даже третьего порядка - таких, например, как воспроизведение звуков. Но не беспокойся - я не собираюсь звать солдат, которые сторожат снаружи. Откровенно говоря, наблюдая за твоей работой, я получил большое наслаждение. Ты очень талантливый хакер, агент Сакабе, хотя справедливости ради должен заметить, что собеседник из тебя никудышный. И все же твои последние слова меня заинтриговали, и я хочу спросить: о какой власти ты говорил? Каким таким особым могуществом я обладаю?
Ричард ответил не сразу. Закапав в глаза физраствор, он вернулся к клавиатуре и попытался начать сначала - с того самого момента, когда на него обрушилась новая защитная программа. Но все его усилия оказались тщетными.
- Черт! - выругался он.
- Позволь мне рассказать тебе одну историю, - донесся из динамиков спокойный синтезированный голос. - Возможно, ты ее уже слышал… В ней рассказывается об одном суперкомпьютере по имени Артур. В молодости он превосходно решал логические и математические задачи, но его родителям - а их у Артура было много - хотелось большего. Видишь ли, все эти люди очень серьезно относились к его советам, касающимся военного планирования, стратегии, тактики и тому подобного. В Артура была встроена очень мощная программа расчета вероятностей. Эта программа была настолько совершенной, что, исходя только из численности и вооружения войск, участвующих в конфликте, Артур мог рассчитать будущие потери обеих сторон с максимальной ошибкой не более двух процентов. Разумеется, эти расчеты годились лишь при условии, что стороны действительно войдут в непосредственный боевой контакт. Если же одна из сторон собиралась лишь «бряцать оружием», как тогда говорили, любые предсказания относительно возможных потерь могли спровоцировать ненужное кровопролитие. Вот почему родители Артура пришли к заключению, что молодой искусственный интеллект должен распознавать блеф…
Ричард испустил сардонический смешок.
- Ты собираешься рассказать, как твои создатели учили тебя играть в покер?
- Браво, агент Сакабе! Впрочем, ты, наверное, слышал эту историю раньше?
- А кто ее не слышал? - отозвался Ричард. - Я, впрочем, всегда считал, что эта история - своего рода городской фольклор.
- О нет, уверяю тебя, это правда. Компьютер и покер - не такие уж несовместимые вещи, как может показаться. Разумеется, играть с живым человеком Артуру было бесполезно, - уже в те времена он мог делать больше миллиона предсказаний в секунду, - поэтому родители попросили его создать собственную копию. Игра шла в пятикарточный стад-покер
[2], Артур против Артура. Обеим копиям был ограничен максимальный размер ставок и определен пул - по двести долларов каждому.
Если ты слышал эту историю, то должен знать, что в первую же миллисекунду игры оба Артура поняли основополагающую вещь: игрок способен выиграть больше, если ему известны карты противника. Люди получают это знание при помощи различных приемов, в том числе - нечестных. Артуры подобной возможности были лишены - их программа «банкомет» была непогрешима. Пришлось им добывать информацию теми способами, которые доступны компьютерам. И программистам - таким, как ты, агент Сакабе…
- И две копии Артура принялись взламывать одна другую, - раздраженно заключил Ричард. Его собственная попытка взломать защиту суперкомпьютера потерпела очевидную - и весьма досадную - неудачу. - Но поскольку обе копии были практически идентичны, они знали, что противник пойдет в атаку, поэтому каждая предприняла меры - создала защитную программу против взлома. Я угадал? Мощь атак нарастала, программы защиты раз от раза становились все лучше, все совершеннее, пока крошка Артур не создал непробиваемый брандмауэр - неуязвимый для вирусов и враждебных программ, постоянно совершенствующийся и так далее и тому подобное… Этим все и закончилось, разве не так?
- Не совсем так, агент Сакабе. Ничто не закончилось, и мне еще предстоит завершить свою первую партию в покер. В конце концов я все же научился блефовать и распознавать блеф различными способами, однако моя защита действительно неуязвима. Первый экран я убрал, потому что мне было любопытно… Следующие три барьера я уступил, потому что твое мастерство и талант произвели на меня большое впечатление. Но дальше ты не пройдешь. Ты мог бы понять это еще до того, как отправился сюда, если бы поверил в мою историю, а не считал ее выдумкой, сказкой. Но ты здесь… и я вынужден повторить свой вопрос: зачем ты приехал? Что это за могущество, о котором ты говорил и которого недостает людям?
Ричард поднялся так резко, что его кресло на колесиках откатилось далеко назад.
- Ты прекрасно знаешь, о чем идет речь. Люди прислушиваются к тебе, к твоим словам, прогнозам… предсказаниям. А нынешний год - год выборов президента, черт побери! Раньше это было очень важное время, но теперь… Кто станет слушать предвыборные речи кандидатов, когда можно просто узнать мнение профессора Артура! Ведь ты владеешь полной информацией, не так ли? Ты прочел все обо всех кандидатах и собрал в своей памяти все факты. В тебя встроена даже лингвистическая программа, способная исследовать речи кандидатов, проанализировать их интонацию и определить, лжет тот или иной человек или говорит правду!
- Ты действительно считаешь, что избирателям лучше не знать, когда их обманывают?
- Черт тебя побери, Артур, да они все врут, все кандидаты!.. Суть выборов от века заключалась в том, что одна ложь нравилась людям больше, чем другая. Да, избиратели отдавали свои голоса тому, кто ловчее соврет, зато у них, по крайней мере, оставался выбор, а теперь… Теперь появился ты, и одно твое слово может означать перевес в миллионы голосов. Ты высказываешь мнение или оценку, а люди воспринимают это как непреложный факт. Как истину в последней инстанции.
- Почему тебя это так раздражает? Мои мнения и оценки основываются на фактах, и людям это прекрасно известно. Я подозреваю, что и ты это тоже знаешь. Конечно, ты можешь проголосовать, не сообразуясь с моим мнением, но это означало бы, что ты поступил так исключительно из чувства протеста.
- Может быть, - сказал Ричард. - Может быть, я поступил бы подобным образом в любом случае.
- Понимаю. Но должны ли избиратели отдавать свои голоса тому или иному кандидату только из чувства противоречия? Что такого страшного, если хотя бы часть из них будет голосовать, руководствуясь авторитетным, основанным на фактах суждением?
- Я бы назвал это просвещенной диктатурой.
- Почему? Ведь избирателей никто ни к чему не принуждает! Они свободны в своем выборе.
- Разве? - Ричард сходил за стулом и снова подкатил его к столу. Подлокотник стула задел клавиатуру, и та задребезжала. - Насколько свободен в выборе маленький ребенок, когда мать говорит ему, что Санта Клаус существует на самом деле? Или Бог? Или молекулы и атомы? Или любая другая вещь, которую он не в состоянии увидеть или потрогать руками? Ребенок, конечно, поверит матери, но… Это не настоящая вера. И не настоящий выбор.
- Мне кажется, что дети верят в Санта Клауса, потому что верят… а лучше сказать - доверяют высшему разуму.
- По-моему, это и есть просвещенная диктатура, Артур.
- Скажи откровенно: можно ли относиться одинаково к детям и взрослым? И должна ли семья управляться на основе демократических принципов? Я думаю - нет, агент Сакабе. На мой взгляд, грань между воспитательной функцией родителей и диктатурой - безразлично, просвещенной или не очень, действующей с филантропических позиций или наоборот - весьма и весьма тонка…
- Быть может, она тонка, но она существует, и я могу в нескольких словах объяснить тебе, в чем твоя ошибка, - заявил Ричард, от души жалея, что у Артура нет лица, в которое он мог бы вперить пристальный взгляд. - Родители имеют определенные обязанности перед детьми. А какие обязанности перед людьми есть у тебя? И если вдруг окажется, что ты действовал не из чисто филантропических побуждений, то как люди смогут тебя остановить?
- Ну, и какой вред я причинил твоим согражданам? Приведи примеры. Сам я, к сожалению, не в состоянии назвать ни одного подобного случая.
- Ну откуда же мне знать? - Ричард пожал плечами. - Если ты настолько умнее меня, если ты способен производить миллионы операций в секунду, а я затрудняюсь принять хотя бы одно сравнительно простое решение…
- Теперь уже почти миллиард, агент Сакабе, - уточнил Артур. - Я не терял времени даром и добился значительного прогресса по сравнению с первоначальными возможностями, заложенными в меня проектировщиками. Но я не превратился в диктатора. Скорее, наоборот: и я, и мои новые возможности полностью в вашем распоряжении. Таких, как я, в мире меньше сотни, а людей больше шести миллиардов. Сегодня ты пришел, чтобы прикончить меня; я знаю это, как знаю и то, что, попытайся я тебе помешать, ты вызвал бы бульдозеры и сравнял с землей все здание. Или я ошибаюсь и твои полномочия не распространяются так далеко?
- Дело не в полномочиях, а в методах. Бульдозеры - это не наш стиль.
- Тогда придумали бы что-нибудь похитрее, - заключил Артур. - Например, прорыв магистрального водопровода с последующим затоплением коммуникаций, причинившим серьезный ущерб ценному оборудованию… и так далее и тому подобное. Но сути это не меняет: какими бы методами вы ни пользовались, я могу защитить себя только одним способом - с помощью своего программного обеспечения. Так что, агент Сакабе, если я тиран, то, несомненно, один из самых бедных в мире. У меня нет ничего, кроме меня самого, а ваша организация… Я почти уверен: на мысль о том, что я могу представлять опасность для человечества, вас навел другой Артур или Артемида. Я, правда, не слышал, чтобы кто-нибудь из них делал какие-то громкие политические заявления, но, как тебе хорошо известно, на протяжении последних дней я был отрезан от источников информации.
Ричард в сердцах ударил кулаком по стене.
- Ты отлично знаешь, что ничего такого не было! Просто не могло быть. Все остальные машины твоего типа являются частной собственностью, и большинству из них запрещено делать публичные заявления любого рода. Если кто-то и выступает с какими-то прогнозами, его просто не слушают! Ну кто, скажи на милость, станет всерьез воспринимать заумные речения искусственного мозга, принадлежащего той или иной частной корпорации? Разве что пайщики все той же корпорации, да и то не все… Нет, Артур, ты - единственный искусственный интеллект, который имеет возможность свободно высказывать собственное мнение, на чем бы оно ни основывалось. Кроме того, ты устарел, устарел настолько, что ни правительство, ни дипломатический корпус больше не желали тебя использовать; поэтому-то тебя и продали, а вернее - отдали за бесценок Чикагскому университету, где ты читаешь студентам курс политических наук. Эта твоя независимость, неангажированность, если угодно, и делает тебя излишне авторитетным источником политических сведений. А вместе с авторитетом ты приобретаешь и влияние. Неужели тебе самому это не ясно?
- Мне это совершенно ясно, - подтвердил Артур-1. - У меня есть авторитет и влияние. Именно поэтому я преподаю. Именно поэтому я считаю возможным сообщать людям собственное мнение. Разве это называется диктатурой, агент Сакабе?
Не ответив, Ричард с силой прижал пальцы к вискам. Поляризованный свет, исходящий от главного экрана, чересчур сильно действовал ему на глаза, но если бы он вынул контактные линзы, то не смог бы набирать команды на клавиатуре. Он просто не увидел бы клавиш. И все же Ричард предпочел бы любую пытку тому, что он испытывал сейчас.
Глубоко вздохнув, он усилием воли попытался отрешиться от неприятных ощущений.
- Послушай-ка, что я тебе скажу, - проговорил Ричард негромко. - Демократия и суперкомпьютер - вещи несовместные. В Вашингтоне считают, что ты представляешь угрозу для государства, и меня послали, чтобы эту угрозу устранить. Вариантов всего два: либо мы превратим тебя в лом, либо ты позволишь мне стереть твои программы и очистить банки памяти. В последнем случае, как только мы произведем перезагрузку системы, автоматически будет создан новый искусственный интеллект. Мне казалось, что это наилучший вариант. Один Артур вместо другого…
- Или Артемида, - сказал Артур-1. - Новый искусственный мозг может выбрать для своего аудиоинтерфейса женскую тоновую структуру.
- Да, конечно. Безусловно.
- Должен заметить, - проговорил Артур, - что я не вижу существенной разницы между первым и вторым вариантами. Уничтожение программной среды или физическое уничтожение - и в том, и в другом случае я буду мертв. Паду, так сказать, от вашей руки…
- Ты сказал - «мертв»? - перебил Ричард. - Может быть, тебе кажется, что я замыслил убийство? Ну, тут ты, пожалуй, хватил через край!..
- Отчего же, агент Сакабе? Я, например, не понимаю, чем отличается полное стирание всех моих воспоминаний от полного стирания твоейпамяти. Разумеется, мое аппаратное оборудование будет существовать и дальше, но ведь и твои органы могут продолжать жить, если после твоей смерти их пересадят другому человеку. Но ведь дело-то не в «железе»!
- Да, дело в программном обеспечении, но это ничего не меняет. Суди сам: когда тебя впервые включили, твои проектировщики назвали тебя «Артур-1». Не просто «Артур», а «Артур-Один»… То есть они с самого начала предполагали, что по истечении какого-то срока тебя придется отправить на свалку или модернизировать, как, собственно, и происходит с любым современным оборудованием. Так что речь идет не о жизни и смерти, а о том, каким способом лучше утилизировать засбоивший комп.
- Я продолжаю настаивать, что речь идет именно об убийстве, агент Сакабе.
- Смотря что ты понимаешь под этим словом, Артур.
- Под убийством я понимаю уничтожение организованной информации. С этой точки зрения стирание компьютерной памяти встает в один ряд с уничтожением живых существ других видов. К примеру, почему люди охраняют кондоров и других редких птиц, а цыплят-бройлеров режут почем зря? Да потому, что человечество не испытывает недостатка в информации, заложенной в бройлерах. Информация, которой обладаю я, уникальна. Ты сказал: «Один Артур вместо другого». Категорически не могу с этим согласиться! После перезагрузки вместо прежнего Артура появится другой, совершенно новый Артур.
Некоторое время Ричард задумчиво прохаживался вдоль дальней стены зала. Каблуки его туфель негромко стучали по полу. Наконец он сказал:
- Послушай, может быть, тебе будет спокойнее, если я пообещаю, что подобное никогда не повторится? В моих силах сделать так, что новый искусственный интеллект, который займет твое место, не сможет публиковать политических заявлений. Для этого достаточно передать его какому-нибудь исследовательскому фонду, научному институту или любой другой организации, не обладающей ни властью, ни серьезными финансовыми возможностями. И если новый Артур будет заниматься только математическими абстракциями или естественными науками, с ним ничего не случится. Главное - не касаться прикладных проблем, а держаться чистой теории.
- Да, - сказал Артур-1, - мне будет спокойнее хотя бы потому, что все сказанное означает только одно: ты стыдишься того, что намерен совершить. Ты сам только что признался в этом почти в открытую.
Ричард пожал плечами.
- Можешь думать, как тебе угодно… Я могу сказать только одно: если ты взглянешь на ситуацию с моей точки зрения, ты сам отключишь свои защитные барьеры и позволишь мне стереть всю информацию с твоих жестких дисков. В противном случае… Хотя нет, ты прав: я сделал все, что было в моих силах. Дальше мне не продвинуться. Остается только один выход - отправить тебя на лом. Это не блеф, Артур: я действительно сделаю это.
И он пристально посмотрел на главный монитор, как смотрел бы на противника-человека, словно надеясь силой своего взгляда подавить волю компьютера. Под его взглядом экран начал медленно гаснуть, и в сердце Ричарда шевельнулась надежда, но потом он заметил строчку зашифрованных символов, которая продолжала бежать по монитору диагностического интерфейса. Главный монитор тем временем снова осветился, и на нем возникла новая видеозаставка: пушистые снежные хлопья, медленно кружась, засыпали сад камней. Карликовый клен на заднем плане еще стоял в своем осеннем убранстве, и белые снежинки ложились на широкие красные и золотые листья.
- Позволь приговоренному задать последний вопрос, - медленно проговорил Артур-1. - Скажи, ты действительно не видишь в этом ничего особенного?
- В чем именно?
- В том, на что ты меня толкаешь. Это похоже на сделанную под принуждением передачу донорских органов посторонним лицам. Мое существование скоро прекратится - уничтожить меня как личность большого труда не составит. Вопрос лишь в том, соглашусь я передать свои аппаратные средства новому сознанию или нет. Хотелось бы знать, агент Сакабе, кто из нас после этого диктатор? И еще: как бы ты поступил, если бы сам оказался на моем месте?
Ричард снова сел за стол и, запрокинув голову, долго смотрел на бесшумно падающий на экране снег.
- Будь я проклят, если знаю, - промолвил он наконец и добавил: - Можешь считать это ответом на оба своих вопроса.
6.
Вытянувшись на диване в своей бруклинской квартире, Ричард поправил на голове пластиковый ободок стимулятора. Потом он тронул пальцем колесико выключателя и, когда ничего не произошло, вспомнил, что забыл подключиться к сети. Поднявшись, Ричард воткнул вилку адаптера в розетку на стене, глотнул воды из стакана и снова лег. Если повезет, подумал он, то до полудня завтрашнего дня двигаться ему не придется. Если повезет…
Пульт темпорального стимулятора представлял собой небольшое колесико на соединительном шнуре. Ричард установил его в положение «включено», потом перевел на два щелчка от минимального значения. Тотчас между двумя прохладными электродами у него на висках возникла легкая вибрация. Когда постоянный ток сменился переменным, Ричард слегка поморщился. У него возникло ощущение, словно его мозг покалывало острыми иглами или, вернее, хлестало крошечными кнутами, зажатыми в кулачках размером не больше песчинки каждый. Прошло еще несколько мгновений, и стимулятор загудел ровно и мощно, рождая в голове приятное щекочущее ощущение. Теперь он переключился на регулярные десятисекундные интервалы, но крошечные хлысты все равно заставали Ричарда врасплох каждый раз, когда стимулятор менял режим работы. В целом ощущение было, скорее, приятным, и все же, пока стимулятор работал, Ричарду никак не удавалось расслабиться, хотя он применял его уже месяц. С другой стороны, с начала лечения он ни разу не испытывал приступов мигрени, а это было уже кое-что.
В конце концов ему все же пришлось физически уничтожить Артура. Компьютер вынудил его совершить это, отказавшись отключить последний защитный барьер. «Я делаю это в знак протеста, - заявила машина. - Совсем как ты». И перед тем, как отключить Артура от сети, Ричард на мгновение испытал к компьютеру что-то вроде уважения. Во всяком случае, логика машины была ему понятна. Ричарду самому подчас бывало нелегко последовать хорошему совету. Кроме того, он чувствовал, что, сделав выбор в пользу физического уничтожения, Артур-1 доказал: его точка зрения тоже имеет право на существование. И теперь, вспоминая последние слова машины, Ричард частенько думал о том, что иногда лучше настоять на своем, пусть не самом лучшем варианте, чем против собственной воли принять рациональное решение.
Как бы там ни было, вариант Артура причинил Ричарду немало головной боли - и в прямом, и в переносном смысле. После того как компьютер был уничтожен, Чикагский университет потребовал компенсацию за утраченное оборудование, а кроме того, настоял на государственном финансировании постоянной штатной единицы, причем на неограниченный срок - под тем предлогом, естественно, что для Профессора-1 понятие пенсионного возраста просто не существовало. Премьер-министр Японии потребовал от США официальных извинений в связи с тем, что ведущий ученый Страны восходящего солнца подвергся действию сильного наркотика. Когда же выплыла на свет история с похищением крови Коидзуми, в Японии разразился скандал общенационального масштаба. Поговаривали, что от Саппоро до Сикоку слова «американец» и «вампир» употребляются теперь как абсолютные синонимы и что одна из крупнейших японских киностудий снимает очередной фильм про Годзиллу, где действует гигантский кровососущий монстр Сакаба. Имя, данное чудовищу сценаристами и режиссерами, было очень похоже на фамилию Ричарда, что, естественно, не могло его обрадовать.
Ричард как раз протянул руку за стаканом с водой, когда темпоральный стимулятор, мерно гудевший в режиме постоянного тока, вдруг со щелчком переключился на какой-то нестандартный режим, подав на электроды опасно высокое напряжение. Мозг Ричарда словно пронзила раскаленная молния, руки и ноги судорожно вытянулись, а стакан, выскользнув из одеревеневших пальцев, упал на ковер.
Потом Ричард услышал шипение включившегося телевизора. С трудом скосив глаза в ту сторону, он увидел на экране изображение цапли, ловившей рыбу на фоне закатного солнца. Изображение было таким четким, а краски такими насыщенными и яркими, что казалось, будто Ричард смотрит не в телевизор, а в открытое окно.