Страница:
– Я хотел бы вас спросить, доктор Лэннинг: а зачем вообще нам нужен робот, учитывая неблагоприятное общественное мнение и всевозможные вытекающие из этого трудности? Несомненно, успехи науки в области автоматизации позволяют вашей фирме сконструировать вычислительную машину обычного и всеми признанного типа, которая могла бы держать корректуру.
– Разумеется, это в наших силах, – сухо ответил Лэннинг, – но для такой машины потребуется кодировать текст и наносить его на перфоленту. Машина будет выдавать поправки опять же в виде специальных символов. Вам придется держать сотрудников, занятых переводом слов в символы и символов в слова. Более того, подобная машина уже ни на что другое не будет способна. Например, она не сумеет вычертить график, который вы держите в руках.
Майнотт что-то проворчал в знак согласия.
– Гибкость и приспособляемость – вот характерные черты робота с позитронным мозгом, – продолжал Лэннинг. – Робот способен выполнять самую разнообразную работу. Он для того и создан по образу человека, чтобы пользоваться теми приборами и инструментами, которые, в конце концов, были предназначены человеком для самого себя. С роботом можно разговаривать, и он способен отвечать. С ним даже можно спорить и убеждать его – в определенных рамках, разумеется. По сравнению с самым простеньким роботом с позитронным мозгом обычная вычислительная машина – всего лишь огромных размеров арифмометр.
– Но если мы все будем спорить и разговаривать с роботом, то не собьем ли мы его с толку? – спросил Гудфеллоу, посмотрев на Лэннинга. – Я полагаю, что способность робота усваивать информацию не безгранична.
– Вы правы. Но при нормальной работе его памяти хватит по крайней мере на пять лет. Робот сам почувствует, что его память нуждается в очистке, и наша фирма выполнит эту работу без дополнительной оплаты.
– Бесплатно?
– Именно. “Ю.С.Роботс” оставляет за собой право обслуживать роботов вне рамок их обычной деятельности. Вот почему мы стремимся сохранять контроль над нашими позитронными роботами и сдаем их в аренду, вместо того чтобы продавать. Пока робот выполняет работу, для которой он предназначен, им может управлять любой человек. Но вне этих рамок роботы требуют квалифицированного обращения, и здесь к вам на помощь придут наши специалисты. Например, любой из вас в состоянии очистить память робота И-Зэт, просто приказав ему забыть те или иные сведения. Но почти наверняка вы сформулируете этот приказ неверно, и робот забудет либо слишком много, либо слишком мало. Разумеется, мы сразу же обнаружим подобное самовольное манипулирование с роботом – для этого в мозг робота встроены специальные предохранительные устройства. Но поскольку в обычных условиях нет необходимости очищать наметь робота или совершать тому подобные бессмысленные действия, то этой проблемы и не существует.
Декан Харт потрогал свою макушку, словно желая убедиться, что заботливо уложенные прядки волос по-прежнему лежат на своих местах, и сказал:
– Вы стремитесь уговорить нас арендовать этого робота. Но вы явно действуете себе в убыток. Тысяча в год – баснословно низкая цена. Не означает ли это, что “Ю.С.Роботс” надеется в результате этой сделки получить с других университетов более высокую плату?
– Надежда вполне правомерная, – ответил Лэннинг.
– Пусть так. Все равно, число машин, сдаваемых в аренду, не может быть слишком велико. Вряд ли вы на этом заработаете.
Лэннинг уперся локтями о стол и с самым искренним видом подался вперед.
– Позвольте мне говорить напрямик, джентльмены. Предубеждение, питаемое к роботам частью публики, метает их использованию здесь, на Земле, за исключением особых случаев. “Ю.С.Роботс” превосходно процветает на внеземных рынках и в области космических полетов; я не говорю уж о наших филиалах, выпускающих вычислительные машины. Но нас волнуют не только прибыли, Мы твердо верим, что использование роботов на Земле принесет людям неисчислимые блага, даже если вначале оно и обернется некоторыми экономическими неурядицами.
Против нас выступают профсоюзы – это естественно, но мы вправе ждать поддержки от крупных университетов. Робот Изи избавит вас от черновой работы в науке, он станет вашим рабом, рабом корректуры. Вашему примеру последуют другие университеты и исследовательские институты, и если дело пойдет на лад, мы сумеем разместить роботов других типов, и так, шаг за шагом, нам постепенно удастся развеять это злосчастное предубеждение.
– Сегодня Северо-восточный университет, завтра – весь мир, – пробормотал себе под нос профессор Майнотт.
– Я вовсе не был столь красноречив, – сердито буркнул Лэннинг на ухо Сьюзен Кэлвин, – да и они тоже нисколько не ломались. За тысячу в год они прямо-таки вцепились в робота. Профессор Майнотт сказал мне, что никогда в жизни не видел такого красивого графика, а в корректуре не удалось отыскать ни единой ошибки. Харт охотно признал это.
Строгие вертикальные морщинки на лбу Сьюзен Кэлвин не разгладились.
– Все равно, Альфред, вам следовало бы запросить с них больше, чем они были в состоянии заплатить, а затем постепенно сбавить цену.
– Возможно, – нехотя согласился Лэннинг.
Обвинение еще не кончило допрос свидетеля.
– После того как доктор Лэннинг вышел, вы поставили вопрос об аренде робота на голосование?
– Именно так.
– И каков был результат?
– Большинством голосов мы решили принять сделанное нам предложение.
– Что, по-вашему, решило исход голосования?
Защита немедленно отвела вопрос.
Обвинитель его перефразировал:
– Что повлияло на вас лично? Что побудило вас проголосовать “за”? Вы, полагаю, голосовали в поддержку предложения?
– Совершенно верно. Я голосовал за то, чтобы согласиться на предложение “Ю.С.Роботс”. Я поступил так потому, что на меня произвели впечатление слова доктора Лэннинга о долге, лежащем на интеллектуальной элите мира; долг ученых – развеять предубеждение человечества против роботов, тем более что роботы призваны помочь людям.
– Другими словами, вы поддались на уговоры доктора Лэннинга.
– Задачей доктора Лэннинга было уговорить нас. Он великолепно с ней справился.
– Передаю свидетеля вам, – обратился обвинитель к защитнику.
Адвокат подошел к свидетельскому креслу и несколько долгих секунд пристально разглядывал профессора Харта.
– На самом-то деле вы были совсем не прочь заполучить робота И-Зэт-27, не так ли?
– Мы полагали, что если робот сможет справиться со своими обязанностями, то он окажется полезным.
– То есть как это – “если сможет справиться”? Насколько я понял, перед заседанием, которое вы нам только что описали, именно вы с особой тщательностью ознакомились с образчиками деятельности робота И-Зэт-27.
– Да. Поскольку робот в основном занят исправлением грамматических и стилистических ошибок, а английский язык – это область, в которой я являюсь специалистом, то было логично поручить проверку работы машины мне.
– Прекрасно. Так вот, среди материалов, с которыми вы ознакомились, было ли хоть одно задание, с которым бы робот справился не вполне удовлетворительно? Вот эти материалы они фигурируют в деле в качестве вещественных доказательств. Можете ли вы указать хотя бы на один неудовлетворительный пример?
– Видите ли…
– Я задал вам простой вопрос. Можете ли вы указать хотя бы на один-единственный неудовлетворительный пример? Вы проверяли эти материалы. Назовите хоть одну ошибку робота.
Филолог нахмурился.
– Ошибок не было.
– Здесь передо мной образцы работ, выполненных роботом за четырнадцать месяцев его деятельности в Северо-восточном университете. Не будете ли вы так добры ознакомиться с ними и указать хотя бы одну незначительную ошибку?
– Ну, знаете, – выпалил профессор, – когда он в конце концов ошибся, так это была всем ошибкам ошибка.
– Отвечайте на мой вопрос, – загремел защитник, – и только на него. Можете ли вы отыскать хотя бы одну ошибку в этих материалах?
Харт внимательно просмотрел каждый лист.
– Здесь все в порядке.
– Если исключить вопрос, ради которого мы собрались, знаете ли вы хотя бы об одной ошибке, допущенной роботом И-Зэт-27?
– Если исключить вопрос, рассматриваемый судом, не знаю.
Защитник прокашлялся, словно отмечая конец абзаца, и задал новый вопрос:
– Вернемся к голосованию. Вы сказали, что большинство собравшихся голосовало за аренду. Как распределились голоса?
– Насколько я помню, тринадцать против одного.
– Тринадцать против одного! Не кажется ли вам, что это чуть больше, чем простое большинство?
– Нет, сэр, не кажется, – весь педантизм декана Харта вырвался при этом вопросе наружу. – Слово “большинство” в английском языке означает “больше половины”. Тринадцать из четырнадцати – это большинство, и ничего больше.
– Я бы сказал, практически единогласно.
– И тем не менее всего лишь большинство.
Защитник изменил направление атаки.
– И кто же был единственным несогласным?
Декану Харту стало заметно не по себе.
– Профессор Саймон Нинхеймер.
Защитник разыграл изумление.
– Профессор Нинхеймер? Заведующий кафедрой социологии?
– Да, сэр.
– Сам истец?
– Да, сэр.
Защитник поджал губы.
– Иными словами, вдруг обнаружилось, что человек, требующий с моего клиента, “Ю.С.Роботс энд мекэникл мэн инкорпорэйтед”, возмещения ущерба в размере 750 000 долларов, и был тем единственным, кто с самого начала возражал против использования робота – вопреки почти единодушному мнению всего административного совета.
– Он голосовал против – это его право.
– Кстати, когда вы описывали то заседание, вы ни словом не обмолвились о профессоре Нинхеймере. Он что-нибудь говорил?
– Кажется, он выступал.
– Только кажется?
– Он высказал свое мнение.
– Против аренды робота?
– Да.
– В резкой форме?
– Он был просто вне себя, – ответил Харт после небольшой паузы.
В голосе защитника появились вкрадчивые нотки.
– Вы давно знакомы с профессором Нинхеймером, декан Харт?
– Лет двенадцать.
– И хорошо его знаете?
– Думаю, что да.
– Не кажется ли вам, что это было в его характере – затаить злобу против робота, тем более что результаты голосования…
Теперь уже обвинитель заглушил конец вопроса возмущенными и негодующими возгласами. Защитник заявил, что у него больше нет вопросов к свидетелю, и судья Шейн объявил перерыв на обед.
Робертсон угрюмо жевал свой бутерброд. Конечно, три четверти миллиона корпорацию не разорят, но проигрыш этого дела не сулит ничего хорошего. Неблагоприятная реакция общественного мнения могла в конечном итоге дорого обойтись фирме.
– С чего это им понадобилось так обсасывать вопрос о том, как Изи попал в университет? – раздраженно спросил он. – Что они собираются этим выгадать?
– Видите ли, мистер Робертсон, – спокойно ответил адвокат, – судебное разбирательство напоминает шахматную партию. Выигрывает тот, кто умеет оценить ситуацию на большее число ходов вперед, и наш приятель за столом обвинения отнюдь не новичок в этой игре. Продемонстрировать ущерб для них не составляет труда. Главное, чего они добиваются, – предугадать нашу линию, защиты. Они рассчитывают – надо полагать, что мы будем пытаться доказать при помощи Законов Роботехники невозможность совершения роботом подобного поступка.
– Ну что ж, – сказал Робертсон, – так и надо действовать. Безукоризненный довод – комар носу не подточит.
– Безукоризненный довод для специалиста по Роботехнике. Судье он может не показаться столь убедительным. Обвинение подготовило почву для доказательства того факта, что И-Зэт-27 – не совсем обычный робот. Он – первый робот данного типа, выпущенный на рынок, экспериментальная модель, которой необходимо было пройти испытания, и Университет оказался идеальным местом для проведения таких испытаний. В свете тех усилий, которые предпринял доктор Лэннинг, и готовности фирмы сдать робота в аренду за ничтожную плату этот довод прозвучит весьма убедительно. Затем обвинение будет настаивать, что испытания показали непригодность модели. Теперь вам ясен сокровенный смысл всего происходящего?
– Но ведь И-Зэт-27 – превосходная работоспособная модель, – не унимался Робертсон. – Не забывайте, что он двадцать седьмой в своей серии.
– Вот это уж совсем скверно, – мрачно отозвался защитник. – А почему не пошли первые двадцать шесть? Очевидно, что-то с ними было неладно. С таким же успехом и в двадцать седьмом могли оказаться дефекты.
– В первых двадцати шести моделях не было никаких дефектов – просто их позитронный мозг был еще слишком примитивен для подобной работы. Мы только приступали к созданию достаточно сложного позитронного мозга и продвигались к цели почти вслепую, методом проб и ошибок. Но Трем законам подчиняется любой мозг! Ни один робот – как бы несовершенен он ни был – не в состоянии нарушить Три закона.
– Доктор Лэннинг уже заверил меня в этом, мистер Робертсон, и я вполне готов положиться на его слово. Но судья может оказаться не столь доверчивым. Решение по нашему делу предстоит вынести честному и неглупому человеку, но он ничего не смыслит в Роботехнике, и поэтому его можно сбить с толку. Если, к примеру, вы, или доктор Лэннинг, или доктор Кэлвин в своих свидетельских показаниях заявите, что позитронный мозг создают методом проб и ошибок, как вы только что изволили выразиться, то обвинение при перекрестном допросе сделает из вас котлету. И тогда нас уже ничто не спасет. Так что остерегайтесь необдуманных высказываний.
– Если бы только Изи мог рассказать, в чем дело, – продолжал брюзжать Робертсон.
– Что толку? – пожал плечами защитник. – Все равно нам это ничего бы не дало. Робот не может выступать свидетелем.
– Ну мы бы хоть знали какие-то факты. По крайней мере знали бы, что толкнуло его на подобный поступок.
– А это вовсе не секрет, – вспылила Сьюзен Кэлвин. На щеках ее вспыхнули багровые пятна, а голос слегка потеплел. Ему приказали! Я уже объясняла это адвокату, могу и вам объяснить.
– Кто приказал? – искренне изумился Робертсон.
Конечно, обиженно подумал он, никто ему ничего не рассказывает. Черт возьми, эти ученые ведут себя так, будто они и есть подлинные владельцы “Ю.С.Роботс”!
– Истец, – ответила доктор Кэлвин.
– Зачем, во имя всего святого?
– А вот зачем, я еще не знаю. Быть может, просто для того, чтобы предъявить нам иск и немного подзаработать. – В ее глазах мелькнули лукавые искорки.
– Почему тогда Изи об этом не расскажет?
– Неужели непонятно? Совершенно очевидно, что ему приказали молчать.
– С какой стати это должно быть очевидно? – огрызнулся Робертсон.
– Что ж, для меня это очевидно. Психология роботов – моя специальность. Хотя Изи отказывается отвечать на прямые вопросы, на косвенные вопросы он отвечает. Измеряя степень его нерешительности, возрастающую по мере приближения к сути дела, а также площадь затронутого участка мозга и напряженность возникающих отрицательных потенциалов, можно с математической точностью установить, что его поведение является следствием приказа молчать, причем сила приказа соответствует Первому закону. Иными словами, роботу объяснили, что если он проговорится, то пострадает человеческое существо. Надо думать, пострадает истец, этот отвратительный профессор Нинхеймер, который в глазах робота все же является человеческим существом.
– Ну ладно, а почему бы вам не втолковать ему, что из-за его молчания пострадает “Ю.С.Роботс”? – спросил Робертсон.
– “Ю.С.Роботс” не является человеческим существом и в отличие от юридических законов не подпадает под действие Первого закона Роботехники. Кроме того, попытка снять запрет может причинить роботу вред. Лишь тот, кто приказал Изи молчать, может снять запрет с минимальным риском повредить мозг робота, поскольку все помыслы робота сейчас направлены на то, как бы уберечь этого человека от опасности. Любой другой путь… – Сьюзен Кэлвин покачала головой, и на лице ее вновь появилось бесстрастное выражение.
– Я не допущу, чтобы пострадал робот, – решительно сказала она.
– По-моему, вполне достаточно будет показать, что Изи не в состоянии совершить поступок, вменяемый ему в вину. А это мы легко можем доказать. – У Лэннинга был такой вид, словно своим вмешательством он поставил проблему с головы на ноги.
– В том-то и дело, – раздраженно отозвался адвокат, только вы и можете. Единственные эксперты, способные засвидетельствовать состояние Изи и то, что творится у него в мозгу, как назло служат в “Ю.С.Роботс”. Боюсь, судья не поверит в непредубежденность ваших показаний.
– Но как может он отрицать свидетельство эксперта?
– Очень просто: не даст себя убедить. Это его право как судьи. Неужели вы полагаете, будто технический жаргон ваших специалистов покажется судье более убедительным по сравнению с альтернативой, что такой человек, как профессор Нинхеймер, способен – пусть даже ради очень крупной суммы – намеренно загубить свою научную репутацию? В конце концов, судья тоже человек. Если ему придется выбирать между человеком, совершающим немыслимый, с его точки зрения, поступок, и роботом, совершающим столь же немыслимый поступок, то скорее всего он сделает выбор в пользу человека.
– Но человек способен на немыслимый поступок, – возразил Лэннинг, – потому что нам неизвестны все тонкости человеческой психологии и мы не в состоянии определить, что для данного человека возможно, а что – нет. Но мы точно знаем, что невозможно для робота.
– Что ж, посмотрим, как вам удастся убедить в этом судью, – устало ответил защитник.
– Если это все, что вы можете сказать, – взорвался Робертсон, – то я не понимаю, как вы вообще надеетесь выиграть процесс.
– Поживем – увидим. Всегда полезно отдавать себе отчет в предстоящих трудностях, а вот падать духом – совсем ни к чему. Я тоже продумал партию на несколько ходов вперед. – Адвокат величественно кивнул в сторону робопсихолога и добавил: -…с любезной помощью этой доброй дамы.
– Что за черт?! – воскликнул Лэннинг удивленно, глядя то на одного, то на другого. Но тут судебный пристав просунул голову в дверь и, с трудом переводя дыхание, возвестил, что судебное заседание возобновится с минуты на минуту.
Они заняли свои места и с любопытством принялись разглядывать человека, заварившего всю эту кашу.
Саймон Нинхеймер был обладателем рыжеватой шевелюры, носа с горбинкой и остроконечного подбородка; его манера предварять ключевое слово каждой фразы нерешительной паузой создавала впечатление мучительных поисков недостижимой точности выражений. Когда он произносил: “Солнце всходит… э-э… на востоке”, не оставалось сомнений, что он с должным вниманием рассмотрел и все другие возможные варианты.
– Скажите, вы возражали против предложения воспользоваться услугами робота И-Зэт-27? – обратился обвинитель к истцу.
– Да, сэр.
– Из каких соображений?
– У меня создалось впечатление, что мы не до конца понимаем… э-э… мотивы, движущие фирмой “Ю.С.Роботс”. Я с недоверием отнесся к их настойчивым попыткам навязать нам робота.
– Были ли у вас сомнения в его способности справиться с работой?
– Я убедился в его неспособности на деле.
– Не могли бы вы рассказать, как это произошло?
Восемь лет писал Саймон Нинхеймер монографию “Социальные конфликты, связанные с космическими полетами, и их разрешение”. Его страсть к точности выражений не ограничивалась устной речью; поиски строгих и отточенных формулировок в столь расплывчатой по своей сущности науке, как социология, отнимали все его силы.
Даже появление гранок не вызвало у Нинхеймера ощущения, что конец работы близок. Скорее напротив. При виде длинных отпечатанных полос бумаги он испытывал непреодолимое желание разбросать строчки набора и переписать все заново.
Через три дня после получения корректуры Джим Бейкер, преподаватель, а в скором будущем ассистент кафедры социологии, заглянул в кабинет Нинхеймера и застал его за рассеянным созерцанием пачки печатных листков. Типография прислала оттиски в трех экземплярах: над первым должен был работать сам Нинхеймер, над вторым – независимо от него Бейкер, а в третий, “рабочий”, они должны были внести окончательные поправки. Они выработали эту практику за три года совместной работы, и она оказалась весьма успешной.
Бейкер был прилежным молодым человеком; когда он говорил с Нинхеймером, голос его звучал тихо и заискивающе. В руках Бейкер держал свой экземпляр корректуры.
– Я закончил первую главу, – произнес он с живостью, долженствующей свидетельствовать о его усердии, – и нашел в ней типографские опечатки.
– В первой главе их всегда полно, – безучастно отозвался Нинхеймер.
– Может, вы бы хотели сверить наши экземпляры?
Нинхеймер поднял голову и мрачно уставился на Бейкера.
– Я не притрагивался к корректуре, Джим. Я решил не утруждать себя.
– Не утруждать? – Бейкер вконец растерялся.
Нинхеймер поджал губы:
– Я решил… э-э… воспользоваться машиной. Коль на то пошло, ее с самого начала предложили в качестве… э-э… корректора. Меня включили в график.
– Машину? Вы хотите сказать – Изи?
– Я слышал, что ее называют этим дурацким именем.
– А я – то думал, доктор Нинхеймер, что вы не хотите иметь с ней ничего общего!
– Похоже, я единственный, кто ею не пользуется. Почему бы и мне не получить… э-э… свою долю благ?
– Что ж, выходит, я зря корпел над первой главой, – с горечью произнес Бейкер.
– Почему же? Мы сравним результаты машины с вашими в качестве проверки.
– Разумеется, если вы считаете это нужным, только…
– Что?
– Вряд ли вообще потребуется проверка. Говорят, Изи никогда не делает ошибок.
– Посмотрим, – сухо ответил Нинхеймер.
Четыре дня спустя Бейкер вновь принес первую главу. На сей раз это был экземпляр Нинхеймера, только что доставленный из специальной пристройки, где работал Изи.
Бейкер торжествовал.
– Доктор Нинхеймер, он не только обнаружил все замеченные мной опечатки, он нашел еще десяток, которые я пропустил! И на все про все у него ушло только двенадцать минут!
Нинхеймер просмотрел пачку листов с аккуратными, четкими пометками и исправлениями на полях.
– Боюсь, нам с вами не удалось сделать первую главу достаточно полной. Пожалуй, сюда следует включить ссылку на работу Сузуки относительно влияния слабых полей тяготения на нервную систему.
– Вы имеете в виду его статью в “Социологическом обзоре”?
– Совершенно верно.
– Не стоит требовать от Изи невозможного. Он не в состоянии следить за научной литературой вместо нас с вами.
– Это-то я понимаю. Но я подготовил нужную вставку. Я намерен встретиться с машиной и удостовериться, что она… э-э… умеет делать вставки.
– Умеет, вот увидите.
– Предпочитаю убедиться в этом лично.
Нинхеймер обратился с просьбой о встрече с Изи, но смог получить лишь пятнадцать минут, и то поздно вечером.
Впрочем, пятнадцати минут оказалось вполне достаточно. Робот И-Зэт-27 мгновенно усвоил, как делают вставки.
Нинхеймер впервые оказался в такой непосредственной близости от робота; ему стало не по себе. Он вдруг поймал себя на том, что машинально обратился к роботу так, словно тот был человеком:
– Вам нравится ваша работа?
– Чрезвычайно нравится, профессор Нинхеймер, – очень серьезно ответил Изи; фотоэлементы, заменявшие ему глаза, как обычно отсвечивали темно-красными бликами.
– Вы знаете, кто я?
– Из того факта, что вы передали мне дополнительный материал для включения в корректуру, вытекает, что вы – автор книги. Имя же автора, разумеется, напечатано вверху каждого корректурного листа.
– Понимаю. Выходит, вы способны… э-э… делать заключения. Скажите-ка, – не удержался он от вопроса, – а что вы думаете о моей книге?
– Я нахожу, что с ней очень приятно работать, – ответил Изи.
– Приятно? Как странно слышать это слово от… э-э… бесчувственного автомата. Мне говорили, что вы не способны испытывать какие-либо эмоции.
– Содержание вашей книги хорошо сочетается со схемой электрических цепей в моем мозгу, – пояснил Изи. – Оно практически никогда не вызывает отрицательных потенциалов. Заложенная в меня программа переводит это механическое состояние словом “приятно”. Эмоциональный контекст совершенно излишен.
– Так. Почему же книга кажется вам приятной?
– Она посвящена человеческим существам, профессор, а не математическим символам или неодушевленным предметам. В своей книге вы пытаетесь понять людей и способствовать их счастью.
– А это совпадает с целью, ради которой вы созданы, и поэтому моя книга хорошо сочетается со схемой цепей у вас в мозгу?
– Именно так, профессор.
Четверть часа истекли. Нинхеймер вышел и направился в университетскую библиотеку, куда попал перед самым ее закрытием. Он задержал библиотекарей, пока они не разыскали ему элементарный учебник по Роботехнике, и унес его домой.
Если не считать отдельных вставок, теперь корректура поступала из типографии непосредственно Изи, а от него снова шла в типографию. Первое время Нинхеймер изредка просматривал гранки, а затем и это вмешательство прекратилось.
– Разумеется, это в наших силах, – сухо ответил Лэннинг, – но для такой машины потребуется кодировать текст и наносить его на перфоленту. Машина будет выдавать поправки опять же в виде специальных символов. Вам придется держать сотрудников, занятых переводом слов в символы и символов в слова. Более того, подобная машина уже ни на что другое не будет способна. Например, она не сумеет вычертить график, который вы держите в руках.
Майнотт что-то проворчал в знак согласия.
– Гибкость и приспособляемость – вот характерные черты робота с позитронным мозгом, – продолжал Лэннинг. – Робот способен выполнять самую разнообразную работу. Он для того и создан по образу человека, чтобы пользоваться теми приборами и инструментами, которые, в конце концов, были предназначены человеком для самого себя. С роботом можно разговаривать, и он способен отвечать. С ним даже можно спорить и убеждать его – в определенных рамках, разумеется. По сравнению с самым простеньким роботом с позитронным мозгом обычная вычислительная машина – всего лишь огромных размеров арифмометр.
– Но если мы все будем спорить и разговаривать с роботом, то не собьем ли мы его с толку? – спросил Гудфеллоу, посмотрев на Лэннинга. – Я полагаю, что способность робота усваивать информацию не безгранична.
– Вы правы. Но при нормальной работе его памяти хватит по крайней мере на пять лет. Робот сам почувствует, что его память нуждается в очистке, и наша фирма выполнит эту работу без дополнительной оплаты.
– Бесплатно?
– Именно. “Ю.С.Роботс” оставляет за собой право обслуживать роботов вне рамок их обычной деятельности. Вот почему мы стремимся сохранять контроль над нашими позитронными роботами и сдаем их в аренду, вместо того чтобы продавать. Пока робот выполняет работу, для которой он предназначен, им может управлять любой человек. Но вне этих рамок роботы требуют квалифицированного обращения, и здесь к вам на помощь придут наши специалисты. Например, любой из вас в состоянии очистить память робота И-Зэт, просто приказав ему забыть те или иные сведения. Но почти наверняка вы сформулируете этот приказ неверно, и робот забудет либо слишком много, либо слишком мало. Разумеется, мы сразу же обнаружим подобное самовольное манипулирование с роботом – для этого в мозг робота встроены специальные предохранительные устройства. Но поскольку в обычных условиях нет необходимости очищать наметь робота или совершать тому подобные бессмысленные действия, то этой проблемы и не существует.
Декан Харт потрогал свою макушку, словно желая убедиться, что заботливо уложенные прядки волос по-прежнему лежат на своих местах, и сказал:
– Вы стремитесь уговорить нас арендовать этого робота. Но вы явно действуете себе в убыток. Тысяча в год – баснословно низкая цена. Не означает ли это, что “Ю.С.Роботс” надеется в результате этой сделки получить с других университетов более высокую плату?
– Надежда вполне правомерная, – ответил Лэннинг.
– Пусть так. Все равно, число машин, сдаваемых в аренду, не может быть слишком велико. Вряд ли вы на этом заработаете.
Лэннинг уперся локтями о стол и с самым искренним видом подался вперед.
– Позвольте мне говорить напрямик, джентльмены. Предубеждение, питаемое к роботам частью публики, метает их использованию здесь, на Земле, за исключением особых случаев. “Ю.С.Роботс” превосходно процветает на внеземных рынках и в области космических полетов; я не говорю уж о наших филиалах, выпускающих вычислительные машины. Но нас волнуют не только прибыли, Мы твердо верим, что использование роботов на Земле принесет людям неисчислимые блага, даже если вначале оно и обернется некоторыми экономическими неурядицами.
Против нас выступают профсоюзы – это естественно, но мы вправе ждать поддержки от крупных университетов. Робот Изи избавит вас от черновой работы в науке, он станет вашим рабом, рабом корректуры. Вашему примеру последуют другие университеты и исследовательские институты, и если дело пойдет на лад, мы сумеем разместить роботов других типов, и так, шаг за шагом, нам постепенно удастся развеять это злосчастное предубеждение.
– Сегодня Северо-восточный университет, завтра – весь мир, – пробормотал себе под нос профессор Майнотт.
– Я вовсе не был столь красноречив, – сердито буркнул Лэннинг на ухо Сьюзен Кэлвин, – да и они тоже нисколько не ломались. За тысячу в год они прямо-таки вцепились в робота. Профессор Майнотт сказал мне, что никогда в жизни не видел такого красивого графика, а в корректуре не удалось отыскать ни единой ошибки. Харт охотно признал это.
Строгие вертикальные морщинки на лбу Сьюзен Кэлвин не разгладились.
– Все равно, Альфред, вам следовало бы запросить с них больше, чем они были в состоянии заплатить, а затем постепенно сбавить цену.
– Возможно, – нехотя согласился Лэннинг.
Обвинение еще не кончило допрос свидетеля.
– После того как доктор Лэннинг вышел, вы поставили вопрос об аренде робота на голосование?
– Именно так.
– И каков был результат?
– Большинством голосов мы решили принять сделанное нам предложение.
– Что, по-вашему, решило исход голосования?
Защита немедленно отвела вопрос.
Обвинитель его перефразировал:
– Что повлияло на вас лично? Что побудило вас проголосовать “за”? Вы, полагаю, голосовали в поддержку предложения?
– Совершенно верно. Я голосовал за то, чтобы согласиться на предложение “Ю.С.Роботс”. Я поступил так потому, что на меня произвели впечатление слова доктора Лэннинга о долге, лежащем на интеллектуальной элите мира; долг ученых – развеять предубеждение человечества против роботов, тем более что роботы призваны помочь людям.
– Другими словами, вы поддались на уговоры доктора Лэннинга.
– Задачей доктора Лэннинга было уговорить нас. Он великолепно с ней справился.
– Передаю свидетеля вам, – обратился обвинитель к защитнику.
Адвокат подошел к свидетельскому креслу и несколько долгих секунд пристально разглядывал профессора Харта.
– На самом-то деле вы были совсем не прочь заполучить робота И-Зэт-27, не так ли?
– Мы полагали, что если робот сможет справиться со своими обязанностями, то он окажется полезным.
– То есть как это – “если сможет справиться”? Насколько я понял, перед заседанием, которое вы нам только что описали, именно вы с особой тщательностью ознакомились с образчиками деятельности робота И-Зэт-27.
– Да. Поскольку робот в основном занят исправлением грамматических и стилистических ошибок, а английский язык – это область, в которой я являюсь специалистом, то было логично поручить проверку работы машины мне.
– Прекрасно. Так вот, среди материалов, с которыми вы ознакомились, было ли хоть одно задание, с которым бы робот справился не вполне удовлетворительно? Вот эти материалы они фигурируют в деле в качестве вещественных доказательств. Можете ли вы указать хотя бы на один неудовлетворительный пример?
– Видите ли…
– Я задал вам простой вопрос. Можете ли вы указать хотя бы на один-единственный неудовлетворительный пример? Вы проверяли эти материалы. Назовите хоть одну ошибку робота.
Филолог нахмурился.
– Ошибок не было.
– Здесь передо мной образцы работ, выполненных роботом за четырнадцать месяцев его деятельности в Северо-восточном университете. Не будете ли вы так добры ознакомиться с ними и указать хотя бы одну незначительную ошибку?
– Ну, знаете, – выпалил профессор, – когда он в конце концов ошибся, так это была всем ошибкам ошибка.
– Отвечайте на мой вопрос, – загремел защитник, – и только на него. Можете ли вы отыскать хотя бы одну ошибку в этих материалах?
Харт внимательно просмотрел каждый лист.
– Здесь все в порядке.
– Если исключить вопрос, ради которого мы собрались, знаете ли вы хотя бы об одной ошибке, допущенной роботом И-Зэт-27?
– Если исключить вопрос, рассматриваемый судом, не знаю.
Защитник прокашлялся, словно отмечая конец абзаца, и задал новый вопрос:
– Вернемся к голосованию. Вы сказали, что большинство собравшихся голосовало за аренду. Как распределились голоса?
– Насколько я помню, тринадцать против одного.
– Тринадцать против одного! Не кажется ли вам, что это чуть больше, чем простое большинство?
– Нет, сэр, не кажется, – весь педантизм декана Харта вырвался при этом вопросе наружу. – Слово “большинство” в английском языке означает “больше половины”. Тринадцать из четырнадцати – это большинство, и ничего больше.
– Я бы сказал, практически единогласно.
– И тем не менее всего лишь большинство.
Защитник изменил направление атаки.
– И кто же был единственным несогласным?
Декану Харту стало заметно не по себе.
– Профессор Саймон Нинхеймер.
Защитник разыграл изумление.
– Профессор Нинхеймер? Заведующий кафедрой социологии?
– Да, сэр.
– Сам истец?
– Да, сэр.
Защитник поджал губы.
– Иными словами, вдруг обнаружилось, что человек, требующий с моего клиента, “Ю.С.Роботс энд мекэникл мэн инкорпорэйтед”, возмещения ущерба в размере 750 000 долларов, и был тем единственным, кто с самого начала возражал против использования робота – вопреки почти единодушному мнению всего административного совета.
– Он голосовал против – это его право.
– Кстати, когда вы описывали то заседание, вы ни словом не обмолвились о профессоре Нинхеймере. Он что-нибудь говорил?
– Кажется, он выступал.
– Только кажется?
– Он высказал свое мнение.
– Против аренды робота?
– Да.
– В резкой форме?
– Он был просто вне себя, – ответил Харт после небольшой паузы.
В голосе защитника появились вкрадчивые нотки.
– Вы давно знакомы с профессором Нинхеймером, декан Харт?
– Лет двенадцать.
– И хорошо его знаете?
– Думаю, что да.
– Не кажется ли вам, что это было в его характере – затаить злобу против робота, тем более что результаты голосования…
Теперь уже обвинитель заглушил конец вопроса возмущенными и негодующими возгласами. Защитник заявил, что у него больше нет вопросов к свидетелю, и судья Шейн объявил перерыв на обед.
Робертсон угрюмо жевал свой бутерброд. Конечно, три четверти миллиона корпорацию не разорят, но проигрыш этого дела не сулит ничего хорошего. Неблагоприятная реакция общественного мнения могла в конечном итоге дорого обойтись фирме.
– С чего это им понадобилось так обсасывать вопрос о том, как Изи попал в университет? – раздраженно спросил он. – Что они собираются этим выгадать?
– Видите ли, мистер Робертсон, – спокойно ответил адвокат, – судебное разбирательство напоминает шахматную партию. Выигрывает тот, кто умеет оценить ситуацию на большее число ходов вперед, и наш приятель за столом обвинения отнюдь не новичок в этой игре. Продемонстрировать ущерб для них не составляет труда. Главное, чего они добиваются, – предугадать нашу линию, защиты. Они рассчитывают – надо полагать, что мы будем пытаться доказать при помощи Законов Роботехники невозможность совершения роботом подобного поступка.
– Ну что ж, – сказал Робертсон, – так и надо действовать. Безукоризненный довод – комар носу не подточит.
– Безукоризненный довод для специалиста по Роботехнике. Судье он может не показаться столь убедительным. Обвинение подготовило почву для доказательства того факта, что И-Зэт-27 – не совсем обычный робот. Он – первый робот данного типа, выпущенный на рынок, экспериментальная модель, которой необходимо было пройти испытания, и Университет оказался идеальным местом для проведения таких испытаний. В свете тех усилий, которые предпринял доктор Лэннинг, и готовности фирмы сдать робота в аренду за ничтожную плату этот довод прозвучит весьма убедительно. Затем обвинение будет настаивать, что испытания показали непригодность модели. Теперь вам ясен сокровенный смысл всего происходящего?
– Но ведь И-Зэт-27 – превосходная работоспособная модель, – не унимался Робертсон. – Не забывайте, что он двадцать седьмой в своей серии.
– Вот это уж совсем скверно, – мрачно отозвался защитник. – А почему не пошли первые двадцать шесть? Очевидно, что-то с ними было неладно. С таким же успехом и в двадцать седьмом могли оказаться дефекты.
– В первых двадцати шести моделях не было никаких дефектов – просто их позитронный мозг был еще слишком примитивен для подобной работы. Мы только приступали к созданию достаточно сложного позитронного мозга и продвигались к цели почти вслепую, методом проб и ошибок. Но Трем законам подчиняется любой мозг! Ни один робот – как бы несовершенен он ни был – не в состоянии нарушить Три закона.
– Доктор Лэннинг уже заверил меня в этом, мистер Робертсон, и я вполне готов положиться на его слово. Но судья может оказаться не столь доверчивым. Решение по нашему делу предстоит вынести честному и неглупому человеку, но он ничего не смыслит в Роботехнике, и поэтому его можно сбить с толку. Если, к примеру, вы, или доктор Лэннинг, или доктор Кэлвин в своих свидетельских показаниях заявите, что позитронный мозг создают методом проб и ошибок, как вы только что изволили выразиться, то обвинение при перекрестном допросе сделает из вас котлету. И тогда нас уже ничто не спасет. Так что остерегайтесь необдуманных высказываний.
– Если бы только Изи мог рассказать, в чем дело, – продолжал брюзжать Робертсон.
– Что толку? – пожал плечами защитник. – Все равно нам это ничего бы не дало. Робот не может выступать свидетелем.
– Ну мы бы хоть знали какие-то факты. По крайней мере знали бы, что толкнуло его на подобный поступок.
– А это вовсе не секрет, – вспылила Сьюзен Кэлвин. На щеках ее вспыхнули багровые пятна, а голос слегка потеплел. Ему приказали! Я уже объясняла это адвокату, могу и вам объяснить.
– Кто приказал? – искренне изумился Робертсон.
Конечно, обиженно подумал он, никто ему ничего не рассказывает. Черт возьми, эти ученые ведут себя так, будто они и есть подлинные владельцы “Ю.С.Роботс”!
– Истец, – ответила доктор Кэлвин.
– Зачем, во имя всего святого?
– А вот зачем, я еще не знаю. Быть может, просто для того, чтобы предъявить нам иск и немного подзаработать. – В ее глазах мелькнули лукавые искорки.
– Почему тогда Изи об этом не расскажет?
– Неужели непонятно? Совершенно очевидно, что ему приказали молчать.
– С какой стати это должно быть очевидно? – огрызнулся Робертсон.
– Что ж, для меня это очевидно. Психология роботов – моя специальность. Хотя Изи отказывается отвечать на прямые вопросы, на косвенные вопросы он отвечает. Измеряя степень его нерешительности, возрастающую по мере приближения к сути дела, а также площадь затронутого участка мозга и напряженность возникающих отрицательных потенциалов, можно с математической точностью установить, что его поведение является следствием приказа молчать, причем сила приказа соответствует Первому закону. Иными словами, роботу объяснили, что если он проговорится, то пострадает человеческое существо. Надо думать, пострадает истец, этот отвратительный профессор Нинхеймер, который в глазах робота все же является человеческим существом.
– Ну ладно, а почему бы вам не втолковать ему, что из-за его молчания пострадает “Ю.С.Роботс”? – спросил Робертсон.
– “Ю.С.Роботс” не является человеческим существом и в отличие от юридических законов не подпадает под действие Первого закона Роботехники. Кроме того, попытка снять запрет может причинить роботу вред. Лишь тот, кто приказал Изи молчать, может снять запрет с минимальным риском повредить мозг робота, поскольку все помыслы робота сейчас направлены на то, как бы уберечь этого человека от опасности. Любой другой путь… – Сьюзен Кэлвин покачала головой, и на лице ее вновь появилось бесстрастное выражение.
– Я не допущу, чтобы пострадал робот, – решительно сказала она.
– По-моему, вполне достаточно будет показать, что Изи не в состоянии совершить поступок, вменяемый ему в вину. А это мы легко можем доказать. – У Лэннинга был такой вид, словно своим вмешательством он поставил проблему с головы на ноги.
– В том-то и дело, – раздраженно отозвался адвокат, только вы и можете. Единственные эксперты, способные засвидетельствовать состояние Изи и то, что творится у него в мозгу, как назло служат в “Ю.С.Роботс”. Боюсь, судья не поверит в непредубежденность ваших показаний.
– Но как может он отрицать свидетельство эксперта?
– Очень просто: не даст себя убедить. Это его право как судьи. Неужели вы полагаете, будто технический жаргон ваших специалистов покажется судье более убедительным по сравнению с альтернативой, что такой человек, как профессор Нинхеймер, способен – пусть даже ради очень крупной суммы – намеренно загубить свою научную репутацию? В конце концов, судья тоже человек. Если ему придется выбирать между человеком, совершающим немыслимый, с его точки зрения, поступок, и роботом, совершающим столь же немыслимый поступок, то скорее всего он сделает выбор в пользу человека.
– Но человек способен на немыслимый поступок, – возразил Лэннинг, – потому что нам неизвестны все тонкости человеческой психологии и мы не в состоянии определить, что для данного человека возможно, а что – нет. Но мы точно знаем, что невозможно для робота.
– Что ж, посмотрим, как вам удастся убедить в этом судью, – устало ответил защитник.
– Если это все, что вы можете сказать, – взорвался Робертсон, – то я не понимаю, как вы вообще надеетесь выиграть процесс.
– Поживем – увидим. Всегда полезно отдавать себе отчет в предстоящих трудностях, а вот падать духом – совсем ни к чему. Я тоже продумал партию на несколько ходов вперед. – Адвокат величественно кивнул в сторону робопсихолога и добавил: -…с любезной помощью этой доброй дамы.
– Что за черт?! – воскликнул Лэннинг удивленно, глядя то на одного, то на другого. Но тут судебный пристав просунул голову в дверь и, с трудом переводя дыхание, возвестил, что судебное заседание возобновится с минуты на минуту.
Они заняли свои места и с любопытством принялись разглядывать человека, заварившего всю эту кашу.
Саймон Нинхеймер был обладателем рыжеватой шевелюры, носа с горбинкой и остроконечного подбородка; его манера предварять ключевое слово каждой фразы нерешительной паузой создавала впечатление мучительных поисков недостижимой точности выражений. Когда он произносил: “Солнце всходит… э-э… на востоке”, не оставалось сомнений, что он с должным вниманием рассмотрел и все другие возможные варианты.
– Скажите, вы возражали против предложения воспользоваться услугами робота И-Зэт-27? – обратился обвинитель к истцу.
– Да, сэр.
– Из каких соображений?
– У меня создалось впечатление, что мы не до конца понимаем… э-э… мотивы, движущие фирмой “Ю.С.Роботс”. Я с недоверием отнесся к их настойчивым попыткам навязать нам робота.
– Были ли у вас сомнения в его способности справиться с работой?
– Я убедился в его неспособности на деле.
– Не могли бы вы рассказать, как это произошло?
Восемь лет писал Саймон Нинхеймер монографию “Социальные конфликты, связанные с космическими полетами, и их разрешение”. Его страсть к точности выражений не ограничивалась устной речью; поиски строгих и отточенных формулировок в столь расплывчатой по своей сущности науке, как социология, отнимали все его силы.
Даже появление гранок не вызвало у Нинхеймера ощущения, что конец работы близок. Скорее напротив. При виде длинных отпечатанных полос бумаги он испытывал непреодолимое желание разбросать строчки набора и переписать все заново.
Через три дня после получения корректуры Джим Бейкер, преподаватель, а в скором будущем ассистент кафедры социологии, заглянул в кабинет Нинхеймера и застал его за рассеянным созерцанием пачки печатных листков. Типография прислала оттиски в трех экземплярах: над первым должен был работать сам Нинхеймер, над вторым – независимо от него Бейкер, а в третий, “рабочий”, они должны были внести окончательные поправки. Они выработали эту практику за три года совместной работы, и она оказалась весьма успешной.
Бейкер был прилежным молодым человеком; когда он говорил с Нинхеймером, голос его звучал тихо и заискивающе. В руках Бейкер держал свой экземпляр корректуры.
– Я закончил первую главу, – произнес он с живостью, долженствующей свидетельствовать о его усердии, – и нашел в ней типографские опечатки.
– В первой главе их всегда полно, – безучастно отозвался Нинхеймер.
– Может, вы бы хотели сверить наши экземпляры?
Нинхеймер поднял голову и мрачно уставился на Бейкера.
– Я не притрагивался к корректуре, Джим. Я решил не утруждать себя.
– Не утруждать? – Бейкер вконец растерялся.
Нинхеймер поджал губы:
– Я решил… э-э… воспользоваться машиной. Коль на то пошло, ее с самого начала предложили в качестве… э-э… корректора. Меня включили в график.
– Машину? Вы хотите сказать – Изи?
– Я слышал, что ее называют этим дурацким именем.
– А я – то думал, доктор Нинхеймер, что вы не хотите иметь с ней ничего общего!
– Похоже, я единственный, кто ею не пользуется. Почему бы и мне не получить… э-э… свою долю благ?
– Что ж, выходит, я зря корпел над первой главой, – с горечью произнес Бейкер.
– Почему же? Мы сравним результаты машины с вашими в качестве проверки.
– Разумеется, если вы считаете это нужным, только…
– Что?
– Вряд ли вообще потребуется проверка. Говорят, Изи никогда не делает ошибок.
– Посмотрим, – сухо ответил Нинхеймер.
Четыре дня спустя Бейкер вновь принес первую главу. На сей раз это был экземпляр Нинхеймера, только что доставленный из специальной пристройки, где работал Изи.
Бейкер торжествовал.
– Доктор Нинхеймер, он не только обнаружил все замеченные мной опечатки, он нашел еще десяток, которые я пропустил! И на все про все у него ушло только двенадцать минут!
Нинхеймер просмотрел пачку листов с аккуратными, четкими пометками и исправлениями на полях.
– Боюсь, нам с вами не удалось сделать первую главу достаточно полной. Пожалуй, сюда следует включить ссылку на работу Сузуки относительно влияния слабых полей тяготения на нервную систему.
– Вы имеете в виду его статью в “Социологическом обзоре”?
– Совершенно верно.
– Не стоит требовать от Изи невозможного. Он не в состоянии следить за научной литературой вместо нас с вами.
– Это-то я понимаю. Но я подготовил нужную вставку. Я намерен встретиться с машиной и удостовериться, что она… э-э… умеет делать вставки.
– Умеет, вот увидите.
– Предпочитаю убедиться в этом лично.
Нинхеймер обратился с просьбой о встрече с Изи, но смог получить лишь пятнадцать минут, и то поздно вечером.
Впрочем, пятнадцати минут оказалось вполне достаточно. Робот И-Зэт-27 мгновенно усвоил, как делают вставки.
Нинхеймер впервые оказался в такой непосредственной близости от робота; ему стало не по себе. Он вдруг поймал себя на том, что машинально обратился к роботу так, словно тот был человеком:
– Вам нравится ваша работа?
– Чрезвычайно нравится, профессор Нинхеймер, – очень серьезно ответил Изи; фотоэлементы, заменявшие ему глаза, как обычно отсвечивали темно-красными бликами.
– Вы знаете, кто я?
– Из того факта, что вы передали мне дополнительный материал для включения в корректуру, вытекает, что вы – автор книги. Имя же автора, разумеется, напечатано вверху каждого корректурного листа.
– Понимаю. Выходит, вы способны… э-э… делать заключения. Скажите-ка, – не удержался он от вопроса, – а что вы думаете о моей книге?
– Я нахожу, что с ней очень приятно работать, – ответил Изи.
– Приятно? Как странно слышать это слово от… э-э… бесчувственного автомата. Мне говорили, что вы не способны испытывать какие-либо эмоции.
– Содержание вашей книги хорошо сочетается со схемой электрических цепей в моем мозгу, – пояснил Изи. – Оно практически никогда не вызывает отрицательных потенциалов. Заложенная в меня программа переводит это механическое состояние словом “приятно”. Эмоциональный контекст совершенно излишен.
– Так. Почему же книга кажется вам приятной?
– Она посвящена человеческим существам, профессор, а не математическим символам или неодушевленным предметам. В своей книге вы пытаетесь понять людей и способствовать их счастью.
– А это совпадает с целью, ради которой вы созданы, и поэтому моя книга хорошо сочетается со схемой цепей у вас в мозгу?
– Именно так, профессор.
Четверть часа истекли. Нинхеймер вышел и направился в университетскую библиотеку, куда попал перед самым ее закрытием. Он задержал библиотекарей, пока они не разыскали ему элементарный учебник по Роботехнике, и унес его домой.
Если не считать отдельных вставок, теперь корректура поступала из типографии непосредственно Изи, а от него снова шла в типографию. Первое время Нинхеймер изредка просматривал гранки, а затем и это вмешательство прекратилось.