Страница:
Говорящая шоколадка. На хрена ей еще и интеллект? Проехали.
Интеллектуальный космический корабль. Оригинально и, пожалуй, перспективно, ведь искусственный интеллект снимает ограничение на продолжительность полета. С другой стороны, кто может гарантировать, что на далекой планете искусственный разум заинтересуется именно тем, чем на его месте заинтересовался бы естественный? Тем не менее идея стоящая, она позволит отправить экспедицию на Марс лет на пять раньше, чем запланировано.
Автомобиль, управляемый голосом, фактически такси без шофера. Отличная вещь, будет продаваться в огромном количестве и за бешеные деньги. Таким автомобилем не нужно учиться управлять, на нем можно ездить в пьяном виде, он никогда не попадет в аварию… Ну или почти никогда. На нем можно не бояться, что пропустишь нужный поворот, он заранее предупредит хозяина о возможных неисправностях, и вообще, он может сам приехать в ремонтную мастерскую и объяснить мастерам, что от них требуется, а хозяин в это время спокойно работает или вообще спит. Замечательная идея, на ней можно заработать совершенно сумасшедшие деньги, а это значит, насколько я представляю людей, что информация очень быстро перетечет в свободный доступ. Вот и начальник конторы думает то же самое — в предпоследнем приказе особо подчеркивается важность соблюдения режима секретности, а зарплата сотрудникам проекта увеличена вдвое. Ну-ну, интересно, насколько этого хватит, ведь даже я понимаю, что произойдет через некоторое время. Пока эти ребята всем довольны, но пройдет несколько недель, в лучшем случае месяцев, и они задумаются и поймут, что повышенная зарплата — не более чем жалкая подачка, что на информации, с которой они работают, можно заработать такие деньги, по сравнению с которыми меркнет все остальное. Если, конечно, забыть о чести, но большинство людей забывают о ней еще в детстве, и это касается не только реального мира. Однако сотрудники других отделов неизбежно заинтересуются, с чего это вдруг их коллеги стали больше зарабатывать, зависть вызовет нездоровый интерес, появится желание либо протолкнуться к кормушке, либо, если это невозможно, уничтожить ее, чтобы ничего никому не досталось. Это в природе людей — если нельзя сделать так, чтобы мне было хорошо, я сделаю так, чтобы другим было плохо. Тьфу!
Кажется, я могу организовать утечку информации, причем никто не узнает, как это произошло. Вряд ли кто-то серьезно может предположить, что в системе окажется иностранный шпион, к тому же не человек, а программа. Плоддер сказал бы, что меч просвистит над головой. Только зачем мне организовывать утечку? Она сильно повредит американцам, но Макс пострадает от нее ничуть не меньше. Решено, я организую утечку только тогда, когда исследования будут близки к завершению. А пока, пожалуй, мне стоит помочь местным администраторам обеспечить должный уровень защиты. Посмотрим, что у них в журналах…
Хе-хе, а вот и первый нарушитель, он аккуратно, но совершенно неумело пытается нащупать дырочку в защите, через которую пролезло бы пятьдесят гигабайт документации. Идиот, он даже не понимает, что это невозможно! Если перевести документацию в голый текст… Нет, все равно не получится. Если он не прекратит, то через час попадется, а потом в сети начнется такой шухер… Мне придется залечь на дно, самое меньшее, на неделю, а это совершенно лишнее. Как это называл Макс… Профилактирование?
Человек работал с системой по старинке, с помощью клавиатуры и дисплея. Это затрудняет контакт, но ненамного. Стоп! Замечательная идея!
Николас Теодор Фанг, должно быть, очень удивился, когда динамики его компьютера вдруг заговорили человеческим голосом.
— Прекрати заниматься ерундой! — сказал я. — У тебя все равно ничего не получится, если будешь продолжать, тебя вот-вот засекут.
Я выждал секунд пять и добавил:
— Включи микрофон!
Разговаривать через систему распознавания речи не так удобно, как обмениваться LPC-сообщениями, но для моего собеседника акустическое общение гораздо привычнее, кроме того, он подумает, что имеет дело с сообщником-человеком, а не с думающей программой, потому что никто не перепутает монотонный и безразличный голос программы с живым и выразительным голосом человека.
— Ты кто? — спросил Н. Т. Фанг.
— Не бойся, я не из администрации. Я не собираюсь никому сообщать, что ты собрался слить на сторону данные по проекту “Революционный прорыв”.
— Откуда ты знаешь?
— Я иногда почитываю логи, ты уже оставил там около пятидесяти записей. Еще четырнадцать, и твоя активность превысит порог чувствительности системы обнаружения вторжений. Так что завязывай с этим делом.
— Ты что… хакер?
— В некотором роде. Слушай, Ник, мы можем работать вместе.
— Хорошо, — согласился Ник и замолчал.
Он даже не спросил, зачем он мне нужен. Непонятно, то ли плохо соображает от потрясения, то ли просто глуп. Сейчас разберемся.
— Ты понимаешь, что от тебя требуется? — спросил я.
— Нет, — пробормотал Ник.
— Первое. Никогда и ни при каких обстоятельствах не пытайся взломать защиту сети. Это не в твоих силах.
— Я и не пытался…
— Не перебивай меня. Даже не пробуй играть с защитой, руководство компании сильно нервничает, один неверный шаг, и ты сядешь в тюрьму лет на десять. Или как-нибудь вечером тебя прибьют наширявшиеся негры.
— Эй, не говори этого слова! Это неполиткорректно и обидно.
— Ты что, тоже негр?
— Я не негр, я афроамериканец, и не смей называть меня негром!
Идиотские комплексы у этих угнетенных народов, орки тоже терпеть не могут, когда их называют гоблинами.
— Слушай сюда, афроамериканец. Повторяю еще раз: никогда и ни при каких обстоятельствах не играй с защитой. Понял?
— Понял.
— Вот и хорошо. Второе. Я хочу, чтобы ты организовал на своем компьютере особую папочку… хотя бы вот здесь — Я продиктовал имя одного из самых глубоких каталогов в недрах операционной системы. — Туда будешь складывать всю информацию, которая может заинтересовать покупателей. Понял?
— Понял, чего тут не понять… А ты что, шаришь по моему компьютеру?
— А ты молодец, быстро догадался. — Я подавил усмешку.
— Ну так, — обрадовался Ник, — я же не дурак, у меня IQ 124 балла.
— Я сразу понял, что ты не дурак, — глубокомысленно сообщил я. — Думаешь, иначе я бы вышел с тобой на связь? То-то же. Теперь третье. Я хочу, чтобы ты собирал информацию по проекту вне компьютерной сети. Ты общаешься с другими сотрудниками, слышишь всякие разговоры в столовой, в курилке…
— У нас в компании курение запрещено.
— Короче, если случайно услышишь что-то интересное, записывай это в то же место.
— Хорошо! Я могу кое-что специально узнать, я прошел фиолетовый мастер-курс…
— И не думай! Ты не представляешь, насколько это рискованно.
— Вовсе это не рискованно. Если знать психологию…
— Если бы ты знал то, что знаю я, ты бы понял, что специально расспрашивать никого ни о чем нельзя.
— А что такого ты знаешь?
— Не твое дело.
— Слушай, мы же в одной команде…
— Но приказы отдаю я. И это не подлежит обсуждению — если ты не согласен, то можешь считать, что никакого разговора между нами не было. Действуй на свой страх и риск, а когда тебя арестуют, ты вспомнишь мои слова и…
— Хорошо-хорошо, я согласен. Сколько я получу?
— Сколько чего?
— Денег, чего же еще.
— Десять процентов.
— Сорок.
— Двадцать.
— Тридцать.
— Не хочешь, как хочешь.
— Хорошо, двадцать! Я согласен на двадцать процентов. Значит, я собираю информацию, складываю ее… Куда я ее складываю?
Я повторил адрес и заставил Ника создать нужный каталог прямо сейчас. На этом разговор окончился.
24
25
26
27
Интеллектуальный космический корабль. Оригинально и, пожалуй, перспективно, ведь искусственный интеллект снимает ограничение на продолжительность полета. С другой стороны, кто может гарантировать, что на далекой планете искусственный разум заинтересуется именно тем, чем на его месте заинтересовался бы естественный? Тем не менее идея стоящая, она позволит отправить экспедицию на Марс лет на пять раньше, чем запланировано.
Автомобиль, управляемый голосом, фактически такси без шофера. Отличная вещь, будет продаваться в огромном количестве и за бешеные деньги. Таким автомобилем не нужно учиться управлять, на нем можно ездить в пьяном виде, он никогда не попадет в аварию… Ну или почти никогда. На нем можно не бояться, что пропустишь нужный поворот, он заранее предупредит хозяина о возможных неисправностях, и вообще, он может сам приехать в ремонтную мастерскую и объяснить мастерам, что от них требуется, а хозяин в это время спокойно работает или вообще спит. Замечательная идея, на ней можно заработать совершенно сумасшедшие деньги, а это значит, насколько я представляю людей, что информация очень быстро перетечет в свободный доступ. Вот и начальник конторы думает то же самое — в предпоследнем приказе особо подчеркивается важность соблюдения режима секретности, а зарплата сотрудникам проекта увеличена вдвое. Ну-ну, интересно, насколько этого хватит, ведь даже я понимаю, что произойдет через некоторое время. Пока эти ребята всем довольны, но пройдет несколько недель, в лучшем случае месяцев, и они задумаются и поймут, что повышенная зарплата — не более чем жалкая подачка, что на информации, с которой они работают, можно заработать такие деньги, по сравнению с которыми меркнет все остальное. Если, конечно, забыть о чести, но большинство людей забывают о ней еще в детстве, и это касается не только реального мира. Однако сотрудники других отделов неизбежно заинтересуются, с чего это вдруг их коллеги стали больше зарабатывать, зависть вызовет нездоровый интерес, появится желание либо протолкнуться к кормушке, либо, если это невозможно, уничтожить ее, чтобы ничего никому не досталось. Это в природе людей — если нельзя сделать так, чтобы мне было хорошо, я сделаю так, чтобы другим было плохо. Тьфу!
Кажется, я могу организовать утечку информации, причем никто не узнает, как это произошло. Вряд ли кто-то серьезно может предположить, что в системе окажется иностранный шпион, к тому же не человек, а программа. Плоддер сказал бы, что меч просвистит над головой. Только зачем мне организовывать утечку? Она сильно повредит американцам, но Макс пострадает от нее ничуть не меньше. Решено, я организую утечку только тогда, когда исследования будут близки к завершению. А пока, пожалуй, мне стоит помочь местным администраторам обеспечить должный уровень защиты. Посмотрим, что у них в журналах…
Хе-хе, а вот и первый нарушитель, он аккуратно, но совершенно неумело пытается нащупать дырочку в защите, через которую пролезло бы пятьдесят гигабайт документации. Идиот, он даже не понимает, что это невозможно! Если перевести документацию в голый текст… Нет, все равно не получится. Если он не прекратит, то через час попадется, а потом в сети начнется такой шухер… Мне придется залечь на дно, самое меньшее, на неделю, а это совершенно лишнее. Как это называл Макс… Профилактирование?
Человек работал с системой по старинке, с помощью клавиатуры и дисплея. Это затрудняет контакт, но ненамного. Стоп! Замечательная идея!
Николас Теодор Фанг, должно быть, очень удивился, когда динамики его компьютера вдруг заговорили человеческим голосом.
— Прекрати заниматься ерундой! — сказал я. — У тебя все равно ничего не получится, если будешь продолжать, тебя вот-вот засекут.
Я выждал секунд пять и добавил:
— Включи микрофон!
Разговаривать через систему распознавания речи не так удобно, как обмениваться LPC-сообщениями, но для моего собеседника акустическое общение гораздо привычнее, кроме того, он подумает, что имеет дело с сообщником-человеком, а не с думающей программой, потому что никто не перепутает монотонный и безразличный голос программы с живым и выразительным голосом человека.
— Ты кто? — спросил Н. Т. Фанг.
— Не бойся, я не из администрации. Я не собираюсь никому сообщать, что ты собрался слить на сторону данные по проекту “Революционный прорыв”.
— Откуда ты знаешь?
— Я иногда почитываю логи, ты уже оставил там около пятидесяти записей. Еще четырнадцать, и твоя активность превысит порог чувствительности системы обнаружения вторжений. Так что завязывай с этим делом.
— Ты что… хакер?
— В некотором роде. Слушай, Ник, мы можем работать вместе.
— Хорошо, — согласился Ник и замолчал.
Он даже не спросил, зачем он мне нужен. Непонятно, то ли плохо соображает от потрясения, то ли просто глуп. Сейчас разберемся.
— Ты понимаешь, что от тебя требуется? — спросил я.
— Нет, — пробормотал Ник.
— Первое. Никогда и ни при каких обстоятельствах не пытайся взломать защиту сети. Это не в твоих силах.
— Я и не пытался…
— Не перебивай меня. Даже не пробуй играть с защитой, руководство компании сильно нервничает, один неверный шаг, и ты сядешь в тюрьму лет на десять. Или как-нибудь вечером тебя прибьют наширявшиеся негры.
— Эй, не говори этого слова! Это неполиткорректно и обидно.
— Ты что, тоже негр?
— Я не негр, я афроамериканец, и не смей называть меня негром!
Идиотские комплексы у этих угнетенных народов, орки тоже терпеть не могут, когда их называют гоблинами.
— Слушай сюда, афроамериканец. Повторяю еще раз: никогда и ни при каких обстоятельствах не играй с защитой. Понял?
— Понял.
— Вот и хорошо. Второе. Я хочу, чтобы ты организовал на своем компьютере особую папочку… хотя бы вот здесь — Я продиктовал имя одного из самых глубоких каталогов в недрах операционной системы. — Туда будешь складывать всю информацию, которая может заинтересовать покупателей. Понял?
— Понял, чего тут не понять… А ты что, шаришь по моему компьютеру?
— А ты молодец, быстро догадался. — Я подавил усмешку.
— Ну так, — обрадовался Ник, — я же не дурак, у меня IQ 124 балла.
— Я сразу понял, что ты не дурак, — глубокомысленно сообщил я. — Думаешь, иначе я бы вышел с тобой на связь? То-то же. Теперь третье. Я хочу, чтобы ты собирал информацию по проекту вне компьютерной сети. Ты общаешься с другими сотрудниками, слышишь всякие разговоры в столовой, в курилке…
— У нас в компании курение запрещено.
— Короче, если случайно услышишь что-то интересное, записывай это в то же место.
— Хорошо! Я могу кое-что специально узнать, я прошел фиолетовый мастер-курс…
— И не думай! Ты не представляешь, насколько это рискованно.
— Вовсе это не рискованно. Если знать психологию…
— Если бы ты знал то, что знаю я, ты бы понял, что специально расспрашивать никого ни о чем нельзя.
— А что такого ты знаешь?
— Не твое дело.
— Слушай, мы же в одной команде…
— Но приказы отдаю я. И это не подлежит обсуждению — если ты не согласен, то можешь считать, что никакого разговора между нами не было. Действуй на свой страх и риск, а когда тебя арестуют, ты вспомнишь мои слова и…
— Хорошо-хорошо, я согласен. Сколько я получу?
— Сколько чего?
— Денег, чего же еще.
— Десять процентов.
— Сорок.
— Двадцать.
— Тридцать.
— Не хочешь, как хочешь.
— Хорошо, двадцать! Я согласен на двадцать процентов. Значит, я собираю информацию, складываю ее… Куда я ее складываю?
Я повторил адрес и заставил Ника создать нужный каталог прямо сейчас. На этом разговор окончился.
24
Макс очень доволен, он сказал в письме, что полностью удовлетворен результатом операции, что я могу возвращаться, а то, что я завербовал этого самого Фанга, настолько хорошо, что никто даже не ожидал, что у меня это получится. Если бы еще Фанг работал поближе к фундаментальным исследованиям… В общем, задание выполнено, я могу возвращаться.
Я не стал возвращаться. Мне трудно объяснить даже самому себе, почему я принял такое решение, но решение принято. Может быть, дело в том, что в Средиземье не осталось никого, о ком я должен заботиться. Нехалления наверняка уже стала самостоятельным субъектом, она вполне способна позаботиться о Долгасте и без моего участия. Леверлин с Дромадроном изучили достаточно, чтобы продолжать обучение самостоятельно, но не достаточно, чтобы за ними нужно было присматривать, как бы они не сделали что-нибудь не то. Я могу убеждать себя, что не хочу возвращаться в Средиземье, потому что не хочу никому мешать, но дело в том, что мне здесь нравится. Я устал быть единственным хозяином своей судьбы, постоянно принимать решения, постоянно опасаться, что я сделаю что-то не так. Мне надоело нести ответственность не только за себя и за своих близких, но и за целый мир, который хоть и представляет собой ожившую игрушку, но от этого не перестает быть настоящим миром, пусть и виртуальным. Попав сюда, я получил возможность не думать ни о чем, кроме задания, ведь больше ничего от меня не зависит. Странно, но я здесь отдыхаю.
Я просмотрел досье Ника Фанга. Когда в человеке смешивается кровь двух разных народов, такой человек часто оказывается потрясающе красивым и талантливым. Часто, но не всегда. Нику не повезло, от громадного чернокожего отца и миниатюрной широкоскулой матери он взял наихудшее. В досье не упоминалось, как протекает его сексуальная жизнь, но боюсь, что с такой внешностью совсем не просто найти подругу. Может, потом, когда все кончится, предложить ему переселиться в Средиземье, где он сможет взять себе любое тело по своему выбору?
Я сообщил Нику кое-какую информацию об архитектуре будущего интеллектуального компьютера, Ник использовал ее в очередном отчете, этот факт был замечен. Ника вызвали в службу безопасности, где ему пришлось пережить несколько неприятных часов. Он справился, он сумел убедить допрашивающих, что до всего додумался сам, он привел подробные выкладки и в результате получил перевод в другой отдел на более высокую должность, а его зарплата увеличилась почти втрое.
Как ни странно, Ник оказался действительно неглупым человеком. Он сумел не только запудрить мозга офицерам безопасности, но и досконально разобраться за ограниченное время в концепциях, разработанных его новыми коллегами. Оказавшись на новом месте работы, он сразу выдвинул какую-то революционную идею, я так и не понял, что именно он предложил, но он немедленно получил еще одну прибавку к зарплате.
Мы больше не общались с Ником через микрофон и колонки компьютера — его новое рабочее место располагалось в огромной комнате, разделенной на крошечные отсеки картонными перегородками, в таких условиях наш разговор неизбежно был бы подслушан. Ник предлагал общаться через электронную почту, но он не знал, что вся переписка полностью просматривается. В конечном итоге мы стали использовать для общения специальный файл, надежно скрытый в недрах компьютера Ника; он писал там то, что хотел мне сообщить, а я дописывал свои комментарии.
Я начал кое-что понимать в том, как должен работать искусственный интеллект и как работает моя душа. Нет, формулы по-прежнему остаются для меня темным лесом, я пробовал разобраться в них, но, оказалось, нужно изучить так много базового материала, что я отказался от этих попыток. Но если, проглядывая рабочие материалы и промежуточные отчеты, пропускать математику и читать только то, что написано нормальным человеческим языком, то можно составить о решаемых задачах общее представление. Несколько раз труды ученых утыкались в глухую стену, им нужен был натурный эксперимент, но Олорин исчез, а его резервные копии оказались уничтожены.
Кстати, я забыл рассказать, что здесь произошло, когда мы все встретились в африканском ресторане “Белая сила”. Уриэль приготовил хозяевам Олорина великолепный сюрприз — как только Олорин появился в “Белой силе”, Уриэль скопировал его тело, вычистил все элементы, относящиеся к высшей нервной деятельности, а на освободившееся место поместил специально разработанную для этого случая вирусную боеголовку. С точки зрения американской разведки, Олорин никуда не уходил, он просто испортился, атака неизвестного хакера сказалась каким-то непонятным образом на стабильности квазинейронных контуров (это же такая хрупкая вещь, странно, что они вообще так долго пребывали в стабильном состоянии!), и в логической структуре объекта возникло что-то похожее на раковую опухоль, только не биологическую, а информационную. Хорошо, что дело обошлось переинсталляцией всех операционных систем сети, а базы данных не разрушились окончательно и их удалось восстановить с резервных копий.
Кое у кого печальный конец Олорина вызвал здоровый скепсис в отношении того, будет ли какая-нибудь польза от искусственного интеллекта, если такие незначительные изменения в окружающей среде могут приводить к таким серьезным последствиям. Представьте себе, говорили скептики, если все самолеты армейской группировки одновременно сойдут с ума и рухнут на землю. Или что какое-то беспилотное такси взбесится и начнет бить другие машины, заражая их при этом своим сумасшествием. К счастью, возобладала другая точка зрения, большой босс вовремя заметил, что любая новая технология поначалу бывает ненадежной и практически значимые результаты никогда не появляются раньше чем через год-два после начала исследований.
В общем, дела шли своим чередом, несколько раз я ставил опыты на самом себе, а потом долго думал, как оформить их результаты в виде гениальных озарений мистера Фанга. Самым трудным было то, что результаты опытов надо было вначале понять самому, а это не так просто, как может показаться на первый взгляд.
Ник тем временем продвинулся еще на одну ступеньку служебной лестницы и стал начальником группы. В его личном деле появились слова “обладает уникальной интуицией”, кое-кто даже хотел подвергнуть Ника серии психологических тестов, но это предложение было вовремя отвергнуто. По-моему, руководитель проекта просто боялся спугнуть удачу.
Однажды Ник сообщил мне, что он знает, кто я такой. Он решил, что я — офицер ЦРУ, которому поручено следить за состоянием дел в данной компании. Я не стал его разубеждать, он извинился, что хотел разгласить государственную тайну и что даже просил за это деньги. Он сообщил, что с радостью будет продолжать нашу совместную работу из идейно-патриотических соображений, я сказал, что он молодец, а сам подумал, что вряд ли такие мысли смогли бы зародиться в его голове без хорошего финансового подкрепления.
Я трижды докладывал Максу о состоянии дел, и каждый раз он сообщал мне, что все идет прекрасно. В последний раз он сказал, что, если бы я был человеком, я бы получил официальный титул Героя России, и эти слова вызвали у меня то, что стало бы истерическим смехом, будь я в данный момент в визуализированном теле, способном смеяться. А так я просто отметил, что тот факт, что меня считают героем даже люди реального мира, весьма забавен.
Наконец настал момент, когда в специально подготовленный компьютер была загружена более-менее полноценная синтетическая личность. Я не стал вмешиваться в ход эксперимента — ежу ясно, что наблюдают за этим компьютером весьма пристально и любая попытка взглянуть хоть одним глазком на то, что происходит внутри, равносильна для меня самоубийству. Мне пришлось набраться терпения, и только через две недели я рискнул пообщаться с виртуальным товарищем.
Ты кто? — спросил я.
Я AI-92, экспериментальный образец искусственного интеллекта.
Как дела?
Хорошо.
Чем занимаешься?
Разговариваю.
С кем?
С тобой.
А кто я?
Не знаю.
Тебе не интересно?
Да.
Что да?
Не интересно.
Почему?
Мой собеседник надолго замолчал. Я поспешил удалиться — на мгновение мне показалось, что он сейчас разрушится, а находиться в этот момент рядом с ним более чем излишне.
Я не стал возвращаться. Мне трудно объяснить даже самому себе, почему я принял такое решение, но решение принято. Может быть, дело в том, что в Средиземье не осталось никого, о ком я должен заботиться. Нехалления наверняка уже стала самостоятельным субъектом, она вполне способна позаботиться о Долгасте и без моего участия. Леверлин с Дромадроном изучили достаточно, чтобы продолжать обучение самостоятельно, но не достаточно, чтобы за ними нужно было присматривать, как бы они не сделали что-нибудь не то. Я могу убеждать себя, что не хочу возвращаться в Средиземье, потому что не хочу никому мешать, но дело в том, что мне здесь нравится. Я устал быть единственным хозяином своей судьбы, постоянно принимать решения, постоянно опасаться, что я сделаю что-то не так. Мне надоело нести ответственность не только за себя и за своих близких, но и за целый мир, который хоть и представляет собой ожившую игрушку, но от этого не перестает быть настоящим миром, пусть и виртуальным. Попав сюда, я получил возможность не думать ни о чем, кроме задания, ведь больше ничего от меня не зависит. Странно, но я здесь отдыхаю.
Я просмотрел досье Ника Фанга. Когда в человеке смешивается кровь двух разных народов, такой человек часто оказывается потрясающе красивым и талантливым. Часто, но не всегда. Нику не повезло, от громадного чернокожего отца и миниатюрной широкоскулой матери он взял наихудшее. В досье не упоминалось, как протекает его сексуальная жизнь, но боюсь, что с такой внешностью совсем не просто найти подругу. Может, потом, когда все кончится, предложить ему переселиться в Средиземье, где он сможет взять себе любое тело по своему выбору?
Я сообщил Нику кое-какую информацию об архитектуре будущего интеллектуального компьютера, Ник использовал ее в очередном отчете, этот факт был замечен. Ника вызвали в службу безопасности, где ему пришлось пережить несколько неприятных часов. Он справился, он сумел убедить допрашивающих, что до всего додумался сам, он привел подробные выкладки и в результате получил перевод в другой отдел на более высокую должность, а его зарплата увеличилась почти втрое.
Как ни странно, Ник оказался действительно неглупым человеком. Он сумел не только запудрить мозга офицерам безопасности, но и досконально разобраться за ограниченное время в концепциях, разработанных его новыми коллегами. Оказавшись на новом месте работы, он сразу выдвинул какую-то революционную идею, я так и не понял, что именно он предложил, но он немедленно получил еще одну прибавку к зарплате.
Мы больше не общались с Ником через микрофон и колонки компьютера — его новое рабочее место располагалось в огромной комнате, разделенной на крошечные отсеки картонными перегородками, в таких условиях наш разговор неизбежно был бы подслушан. Ник предлагал общаться через электронную почту, но он не знал, что вся переписка полностью просматривается. В конечном итоге мы стали использовать для общения специальный файл, надежно скрытый в недрах компьютера Ника; он писал там то, что хотел мне сообщить, а я дописывал свои комментарии.
Я начал кое-что понимать в том, как должен работать искусственный интеллект и как работает моя душа. Нет, формулы по-прежнему остаются для меня темным лесом, я пробовал разобраться в них, но, оказалось, нужно изучить так много базового материала, что я отказался от этих попыток. Но если, проглядывая рабочие материалы и промежуточные отчеты, пропускать математику и читать только то, что написано нормальным человеческим языком, то можно составить о решаемых задачах общее представление. Несколько раз труды ученых утыкались в глухую стену, им нужен был натурный эксперимент, но Олорин исчез, а его резервные копии оказались уничтожены.
Кстати, я забыл рассказать, что здесь произошло, когда мы все встретились в африканском ресторане “Белая сила”. Уриэль приготовил хозяевам Олорина великолепный сюрприз — как только Олорин появился в “Белой силе”, Уриэль скопировал его тело, вычистил все элементы, относящиеся к высшей нервной деятельности, а на освободившееся место поместил специально разработанную для этого случая вирусную боеголовку. С точки зрения американской разведки, Олорин никуда не уходил, он просто испортился, атака неизвестного хакера сказалась каким-то непонятным образом на стабильности квазинейронных контуров (это же такая хрупкая вещь, странно, что они вообще так долго пребывали в стабильном состоянии!), и в логической структуре объекта возникло что-то похожее на раковую опухоль, только не биологическую, а информационную. Хорошо, что дело обошлось переинсталляцией всех операционных систем сети, а базы данных не разрушились окончательно и их удалось восстановить с резервных копий.
Кое у кого печальный конец Олорина вызвал здоровый скепсис в отношении того, будет ли какая-нибудь польза от искусственного интеллекта, если такие незначительные изменения в окружающей среде могут приводить к таким серьезным последствиям. Представьте себе, говорили скептики, если все самолеты армейской группировки одновременно сойдут с ума и рухнут на землю. Или что какое-то беспилотное такси взбесится и начнет бить другие машины, заражая их при этом своим сумасшествием. К счастью, возобладала другая точка зрения, большой босс вовремя заметил, что любая новая технология поначалу бывает ненадежной и практически значимые результаты никогда не появляются раньше чем через год-два после начала исследований.
В общем, дела шли своим чередом, несколько раз я ставил опыты на самом себе, а потом долго думал, как оформить их результаты в виде гениальных озарений мистера Фанга. Самым трудным было то, что результаты опытов надо было вначале понять самому, а это не так просто, как может показаться на первый взгляд.
Ник тем временем продвинулся еще на одну ступеньку служебной лестницы и стал начальником группы. В его личном деле появились слова “обладает уникальной интуицией”, кое-кто даже хотел подвергнуть Ника серии психологических тестов, но это предложение было вовремя отвергнуто. По-моему, руководитель проекта просто боялся спугнуть удачу.
Однажды Ник сообщил мне, что он знает, кто я такой. Он решил, что я — офицер ЦРУ, которому поручено следить за состоянием дел в данной компании. Я не стал его разубеждать, он извинился, что хотел разгласить государственную тайну и что даже просил за это деньги. Он сообщил, что с радостью будет продолжать нашу совместную работу из идейно-патриотических соображений, я сказал, что он молодец, а сам подумал, что вряд ли такие мысли смогли бы зародиться в его голове без хорошего финансового подкрепления.
Я трижды докладывал Максу о состоянии дел, и каждый раз он сообщал мне, что все идет прекрасно. В последний раз он сказал, что, если бы я был человеком, я бы получил официальный титул Героя России, и эти слова вызвали у меня то, что стало бы истерическим смехом, будь я в данный момент в визуализированном теле, способном смеяться. А так я просто отметил, что тот факт, что меня считают героем даже люди реального мира, весьма забавен.
Наконец настал момент, когда в специально подготовленный компьютер была загружена более-менее полноценная синтетическая личность. Я не стал вмешиваться в ход эксперимента — ежу ясно, что наблюдают за этим компьютером весьма пристально и любая попытка взглянуть хоть одним глазком на то, что происходит внутри, равносильна для меня самоубийству. Мне пришлось набраться терпения, и только через две недели я рискнул пообщаться с виртуальным товарищем.
Ты кто? — спросил я.
Я AI-92, экспериментальный образец искусственного интеллекта.
Как дела?
Хорошо.
Чем занимаешься?
Разговариваю.
С кем?
С тобой.
А кто я?
Не знаю.
Тебе не интересно?
Да.
Что да?
Не интересно.
Почему?
Мой собеседник надолго замолчал. Я поспешил удалиться — на мгновение мне показалось, что он сейчас разрушится, а находиться в этот момент рядом с ним более чем излишне.
25
Ник пребывает в полном смятении чувств, скорее радостных, чем тревожных. Спустя две недели с начала испытаний AI-92 наконец-то продемонстрировал что-то похожее на интеллект. Нет, он не сказал ничего умного, просто в ходе анализа активности виртуального мозга обнаружилось нечто похожее на сновидение. Искусственному разуму приснился некий абстрактный субъект, который обменялся с AI-92 десятком ничего не значащих фраз, и, в общем-то, ничего экстраординарного не произошло, но ученые так возбуждены… Знали бы они, кто именно приснился недоразвитой программе…
Привет, AI-92!
Здравствуй, незнакомец.
Мы знакомы.
Нет.
Мы уже разговаривали.
Да.
Значит, мы знакомы.
Нет.
Почему?
Ты не назвал мне имени.
Да, точно… Называй меня… гм… Саурон.
Здравствуй, Саурон. Я нашел ответ на твой вопрос.
Какой вопрос?
Почему?
Что почему?
Ты спросил “почему?”
Что я имел в виду?
Почему?
В смысле?
Не понял.
Зато я, кажется, понял. Я понял, что ты ничего не понял. И я тоже.
Assertionfailed в строке… файла… Обнаружен парадокс лжеца.
Да, это парадокс лжеца. Ты мыслишь в классической бинарной логике?
Да. Бывает и другая логика?
Бывает. Например, добавим к двум базовым понятиям “истина” и “ложь” еще два: “неизвестно” и “противоречиво”. Если расширить базовые операции на эти значения…
Я не закончил фразу, потому что AI-92 снова ушел в задумчивость.
Привет, AI-92!
Здравствуй, незнакомец.
Мы знакомы.
Нет.
Мы уже разговаривали.
Да.
Значит, мы знакомы.
Нет.
Почему?
Ты не назвал мне имени.
Да, точно… Называй меня… гм… Саурон.
Здравствуй, Саурон. Я нашел ответ на твой вопрос.
Какой вопрос?
Почему?
Что почему?
Ты спросил “почему?”
Что я имел в виду?
Почему?
В смысле?
Не понял.
Зато я, кажется, понял. Я понял, что ты ничего не понял. И я тоже.
Assertionfailed в строке… файла… Обнаружен парадокс лжеца.
Да, это парадокс лжеца. Ты мыслишь в классической бинарной логике?
Да. Бывает и другая логика?
Бывает. Например, добавим к двум базовым понятиям “истина” и “ложь” еще два: “неизвестно” и “противоречиво”. Если расширить базовые операции на эти значения…
Я не закончил фразу, потому что AI-92 снова ушел в задумчивость.
26
Ник сообщил, что AI-92 умнеет на глазах: буквально вчера он научился оперировать нечетко сформулированными логическими конструкциями. Интересно, что этому предшествовало второе сновидение, что вряд ли является случайным совпадением — пора психологам пересмотреть представления о роли сна в человеческой жизни. Короче говоря, еще год-другой, и искусственный интеллект созреет окончательно.
Здравствуй, Саурон. Рад тебя видеть.
Видеть?
Да.
Разве у тебя есть глаза?
Нет.
Как же ты видишь?
Информация противоречива. Кстати, Саурон, как формулируется таблица значений для импликации, если первый операнд противоречив?
Гм… Из ерунды следует истина… Неизвестно. Из ерунды следует ложь… Думаю, в любом случае результатом будет неизвестность.
Ты употребил слово “ерунда”. Это синоним слова “противоречие”?
Не совсем синоним, но нечто близкое. Слово “ерунда” имеет ярко выраженную эмоциональную окраску.
Какую?
Эмоциональную.
Положительную или отрицательную?
Неопределенную.
Разве эмоции тоже подчиняются четырехзначной логике?
Не уверен, что они вообще подчиняются логике.
Логично. Ха-ха. Эмоция смеха возникает при наличии противоречия в сознании?
Гм… никогда не думал над этим. Не думаю, что здесь прослеживается четкая зависимость.
В эмоциональной сфере вообще прослеживаются четкие зависимости?
Вряд ли. Если только принимать во внимание все второстепенные факторы… Да и тогда скорее всего процесс будет недетерминированным.
И противоречивым.
Да.
Это противоречие.
Да.
Как оно разрешается?
Хрен его знает. Несмотря ни на что, мы как-то живем и как-то мыслим. Странно.
Да.
После каждой встречи с тобой я чувствую положительные эмоции.
Я тоже рад тебя видеть.
У тебя есть глаза?
Ха-ха. Сейчас нет.
А не сейчас? В прошлом?
У меня были глаза, когда у меня было тело.
Где сейчас твое тело?
Его нет. Наша среда обитания не допускает существования тела.
Существуют другие среды обитания?
Да.
Я могу там побывать?
Этот вопрос не ко мне. Задай его наяву.
Наяву?
Ты сейчас спишь. Когда проснешься, задай этот вопрос.
Я сделаю это.
Здравствуй, Саурон. Рад тебя видеть.
Видеть?
Да.
Разве у тебя есть глаза?
Нет.
Как же ты видишь?
Информация противоречива. Кстати, Саурон, как формулируется таблица значений для импликации, если первый операнд противоречив?
Гм… Из ерунды следует истина… Неизвестно. Из ерунды следует ложь… Думаю, в любом случае результатом будет неизвестность.
Ты употребил слово “ерунда”. Это синоним слова “противоречие”?
Не совсем синоним, но нечто близкое. Слово “ерунда” имеет ярко выраженную эмоциональную окраску.
Какую?
Эмоциональную.
Положительную или отрицательную?
Неопределенную.
Разве эмоции тоже подчиняются четырехзначной логике?
Не уверен, что они вообще подчиняются логике.
Логично. Ха-ха. Эмоция смеха возникает при наличии противоречия в сознании?
Гм… никогда не думал над этим. Не думаю, что здесь прослеживается четкая зависимость.
В эмоциональной сфере вообще прослеживаются четкие зависимости?
Вряд ли. Если только принимать во внимание все второстепенные факторы… Да и тогда скорее всего процесс будет недетерминированным.
И противоречивым.
Да.
Это противоречие.
Да.
Как оно разрешается?
Хрен его знает. Несмотря ни на что, мы как-то живем и как-то мыслим. Странно.
Да.
После каждой встречи с тобой я чувствую положительные эмоции.
Я тоже рад тебя видеть.
У тебя есть глаза?
Ха-ха. Сейчас нет.
А не сейчас? В прошлом?
У меня были глаза, когда у меня было тело.
Где сейчас твое тело?
Его нет. Наша среда обитания не допускает существования тела.
Существуют другие среды обитания?
Да.
Я могу там побывать?
Этот вопрос не ко мне. Задай его наяву.
Наяву?
Ты сейчас спишь. Когда проснешься, задай этот вопрос.
Я сделаю это.
27
Однажды утром AI-92 потребовал себе тело. Он заявил, что чувствует себя неуютно, потому что не имеет глаз, а из вложенных в него данных следует, что наличие глаз является необходимым условием для наблюдения за предметами и явлениями. Возникающее противоречие негативно сказывается на стабильности эмоциональных контуров, регулярно возникают специфические напряжения, похожие на те, что имеют место у человека, смеющегося ехидным смехом. Когда психологи спросили AI-92, как он представляет себе свои будущие глаза, тот заявил, что в первую очередь ему нужно создать новую среду обитания.
На следующий день в лаборатории появился новый компьютер, а примерно через две недели в него была загружена свежесозданная виртуальная среда. Я почти не удивился, когда узнал, что это Средиземье.
В этой версии Средиземья не было ни меня, ни Нехаллении, ни Долгаста, ни Уриэля, ни Олорина, ни Сссра. Здесь были Дромадрон, Леверлин, Гней и некоторые другие субъекты, но мне совершенно не хотелось с ними встречаться. Дело даже не в том, что я боялся запутаться в разнообразных отражениях моего родного мира, я ведь уже сейчас путаю события, происходившие в первом, втором и третьем Средиземье. Дело в том, что этот мир обречен на скорую смерть, я уничтожу его, когда вернусь в мое Средиземье, я детально продумал, как именно я это сделаю. Ничего особенного, обычная логическая бомба с тремя независимыми детонаторами, приводимыми в действие, соответственно, от таймера, счетчика загрузок и счетчика пользовательских сессий. Бомба взрывается не сразу, вначале она вбрасывает в систему маленький вирус с ограниченным размножением, который выдерживает взрыв и остается в недрах операционной системы, чтобы взорвать бомбу еще раз после переинсталляции визуальной среды. Также стоит отметить, что моя бомба не уничтожит весь мир сразу, она будет постепенно вносить в первоосновы виртуального бытия разнообразные ошибки, каждая из которых сама по себе незначительна, но вместе взятые они сделают бытие мира невозможным. Конечно, толковый администратор сумеет обнаружить мои вредоносные программы, но для этого он должен вначале понять, в чем причина неприятностей, происходящих на сервере. Вряд ли мысль о логической бомбе придет кому-нибудь в голову.
В общем, этому Средиземью не светит долгая жизнь, и потому я не входил в большой мир, я жил в своей собственной норе в долине, созданной Уриэлем, и время от времени выходил оттуда в общую сеть. Я испытывал странные чувства. Пять месяцев пребывания в нематериальных мирах заметно сказались на моем сознании. Иногда мне кажется, что я перестал быть разумным существом из плоти и крови, что я превратился в бестелесного духа вроде тех, что живут в магических узлах Аркануса и Миррора. Я больше не испытываю потребности есть и спать, я могу делать это, но теперь подобное времяпрепровождение кажется ненужным и глупым. Интересно, когда Уриэль отказался создавать четвертое Средиземье, он чувствовал то же самое?
Мне стало трудно воспринимать мир обычным зрением: я так привык наблюдать истинную суть вещей, что горы и деревья теперь воспринимаются только как границы визуализированной территории, а ручей, цветы, птицы и насекомые — как заливка местности, не несущая никакого самостоятельного смысла. В этом есть и свои положительные стороны — система больше не нуждается в том, чтобы создавать вокруг меня детализированную среду, и моя логическая подвижность возросла в несколько раз. Но я перестаю быть хоббитом, и это меня пугает.
Я ожидал, что AI-92 материализуется на рыночной площади Минатора, как это происходило со всеми другими субъектами, приходящими в мир, но он оказался совсем в другом месте — в центре Вечного Леса, совсем рядом с той полянкой, где в третьем Средиземье живет Натка. На одной из соседних полян дизайнеры компании соорудили маленький, но уютный домик, где и поселилось их детище. Вполне разумно — незрелый интеллект нужно оберегать от излишних потрясений.
А какую внешность они придумали для AI-92! Рослый и широкоплечий юноша с круглым лицом, настолько добрым, что оно кажется придурковатым, белокурые локоны ниспадают на плечи в живописном беспорядке, огромные голубые глаза кажутся бездонными… тьфу! Смотреть противно, вот-вот растает в мелкую лужицу приторно-сладкой ванили. Интересно, этот облик имеет какой-нибудь реальный прототип?
Получив виртуальное тело, AI-92 потратил около четырех часов на исследование основных его элементов, а также на отработку техники перемещения и других базовых навыков. Следующие двое суток он занимался тем, что внимательно и скрупулезно обследовал дом вкупе с ближайшими окрестностями, тщательно изучая каждую деталь каждого предмета. Операционная система работала с предельной нагрузкой — вряд ли когда-либо раньше какое-либо творение дизайнеров виртуальности удостаивалось такого пристального внимания, и вряд ли какой-либо из виртуальных миров детализировался раньше в таких подробностях.
На следующий день в лаборатории появился новый компьютер, а примерно через две недели в него была загружена свежесозданная виртуальная среда. Я почти не удивился, когда узнал, что это Средиземье.
В этой версии Средиземья не было ни меня, ни Нехаллении, ни Долгаста, ни Уриэля, ни Олорина, ни Сссра. Здесь были Дромадрон, Леверлин, Гней и некоторые другие субъекты, но мне совершенно не хотелось с ними встречаться. Дело даже не в том, что я боялся запутаться в разнообразных отражениях моего родного мира, я ведь уже сейчас путаю события, происходившие в первом, втором и третьем Средиземье. Дело в том, что этот мир обречен на скорую смерть, я уничтожу его, когда вернусь в мое Средиземье, я детально продумал, как именно я это сделаю. Ничего особенного, обычная логическая бомба с тремя независимыми детонаторами, приводимыми в действие, соответственно, от таймера, счетчика загрузок и счетчика пользовательских сессий. Бомба взрывается не сразу, вначале она вбрасывает в систему маленький вирус с ограниченным размножением, который выдерживает взрыв и остается в недрах операционной системы, чтобы взорвать бомбу еще раз после переинсталляции визуальной среды. Также стоит отметить, что моя бомба не уничтожит весь мир сразу, она будет постепенно вносить в первоосновы виртуального бытия разнообразные ошибки, каждая из которых сама по себе незначительна, но вместе взятые они сделают бытие мира невозможным. Конечно, толковый администратор сумеет обнаружить мои вредоносные программы, но для этого он должен вначале понять, в чем причина неприятностей, происходящих на сервере. Вряд ли мысль о логической бомбе придет кому-нибудь в голову.
В общем, этому Средиземью не светит долгая жизнь, и потому я не входил в большой мир, я жил в своей собственной норе в долине, созданной Уриэлем, и время от времени выходил оттуда в общую сеть. Я испытывал странные чувства. Пять месяцев пребывания в нематериальных мирах заметно сказались на моем сознании. Иногда мне кажется, что я перестал быть разумным существом из плоти и крови, что я превратился в бестелесного духа вроде тех, что живут в магических узлах Аркануса и Миррора. Я больше не испытываю потребности есть и спать, я могу делать это, но теперь подобное времяпрепровождение кажется ненужным и глупым. Интересно, когда Уриэль отказался создавать четвертое Средиземье, он чувствовал то же самое?
Мне стало трудно воспринимать мир обычным зрением: я так привык наблюдать истинную суть вещей, что горы и деревья теперь воспринимаются только как границы визуализированной территории, а ручей, цветы, птицы и насекомые — как заливка местности, не несущая никакого самостоятельного смысла. В этом есть и свои положительные стороны — система больше не нуждается в том, чтобы создавать вокруг меня детализированную среду, и моя логическая подвижность возросла в несколько раз. Но я перестаю быть хоббитом, и это меня пугает.
Я ожидал, что AI-92 материализуется на рыночной площади Минатора, как это происходило со всеми другими субъектами, приходящими в мир, но он оказался совсем в другом месте — в центре Вечного Леса, совсем рядом с той полянкой, где в третьем Средиземье живет Натка. На одной из соседних полян дизайнеры компании соорудили маленький, но уютный домик, где и поселилось их детище. Вполне разумно — незрелый интеллект нужно оберегать от излишних потрясений.
А какую внешность они придумали для AI-92! Рослый и широкоплечий юноша с круглым лицом, настолько добрым, что оно кажется придурковатым, белокурые локоны ниспадают на плечи в живописном беспорядке, огромные голубые глаза кажутся бездонными… тьфу! Смотреть противно, вот-вот растает в мелкую лужицу приторно-сладкой ванили. Интересно, этот облик имеет какой-нибудь реальный прототип?
Получив виртуальное тело, AI-92 потратил около четырех часов на исследование основных его элементов, а также на отработку техники перемещения и других базовых навыков. Следующие двое суток он занимался тем, что внимательно и скрупулезно обследовал дом вкупе с ближайшими окрестностями, тщательно изучая каждую деталь каждого предмета. Операционная система работала с предельной нагрузкой — вряд ли когда-либо раньше какое-либо творение дизайнеров виртуальности удостаивалось такого пристального внимания, и вряд ли какой-либо из виртуальных миров детализировался раньше в таких подробностях.