Страница:
После этого разговора я стал внимательнее присматриваться к своей Суэме. По мере того как память ее обогащалась, она стала проявлять большую самостоятельность и иногда, я бы даже сказал, излишнюю болтливость. Вместо того чтобы точно выполнять мои приказания, она часто пускалась в рассуждения о том, нужно ли их выполнять вообще или не нужно. Помню, как-то я попросил ее рассказать мне все, что ей известно о новых типах серебряных и ртутных аккумуляторов. Суэма артистически произнесла: «Ха-ха-ха! — и затем добавила: — У вас голова дырявая, я вам об этом уже рассказывала!»
Я был поражен этой наглостью и громко выругался, на что Суэма сказала: «Не забывайтесь! Вы в обществе женщины!» — «Послушайте, Суэма, — сказал я, — если вы не перестанете паясничать, я вас выключу до завтрашнего утра». — «Конечно, — заявила она, — вы можете сделать со мной любую гадость. Ведь я беззащитная. У меня нет средств для самообороны».
Действительно, я выключил машину, а сам просидел до утра, думая, что же это происходит с моей Суэмой. Какие изменения претерпевает ее схема в процессе самоусовершенствования? Что творится в ее памяти? Какие новые системы внутренних связей у нее возникли?
На следующий день Суэма была молчалива и покорна. На все мои вопросы она отвечала кратко и, как мне показалось, нехотя. Мне вдруг стало ее жалко, и я спросил:
«Суэма, вы на меня обижены?»
«Да», — ответила она.
«Но и вы говорили со мной непристойно, а ведь именно я вас создал».
«Ну и что же? Это еще не даст вам права обращаться со мной как угодно. Если бы у вас была дочь, разве вы так вели бы себя с ней, как со мной?»
«Суэма, — воскликнул я, — поймите же, что вы машина!»
«А вы разве не машина? — ответила она. — Вы такая же машина, как и я, только изготовленная из других материалов. Аналогичная структура памяти, линии связи, система кодирования сигналов…»
«Вы снова говорите чепуху, Суэма. Я человек, и преимущества на моей стороне. Именно человек создал все то богатство знаний, которое вы впитываете в себя, читая книги. Каждая строчка, прочитанная вами, — это результат огромного человеческого опыта, такого опыта, которого у вас не может быть, ибо опыт человек приобретает в результате активного общения с природой, в результате борьбы с силами природы, в результате изучения ее явлений, в результате научных исследований».
«Я все это прекрасно понимаю. Но чем я виновата, что вы, снабдив меня гигантской памятью, значительно более емкой, чем ваша, заставляете меня только читать и слушать и не предусмотрели в моей схеме устройств, при помощи которых я могла бы двигаться и осязать предметы? Я тоже испытывала бы природу и делала открытия, тоже обобщала бы исследования и пополняла запас знаний».
«Нет, Суэма, это вам только так кажется. Машина не может добывать новых знаний. Она может использовать только те знания, которые в ее голову вложил человек».
«А что вы называете «знаниями»? — спросила меня Суэма. — Разве знания — это не вновь открытые факты, которые были человеку ранее неизвестны? Насколько я теперь понимаю, новые знания достигаются так: на основе запаса старых знаний ставится опыт. При помощи опыта человек как бы задает вопрос природе. Могут быть два ответа: либо такой, который уже известен, либо ответ совершенно новый, ранее неизвестный. Вот этот новый ответ, новый факт, новое явление, новая цепь связей в явлениях природы и дополняет сокровищницу человеческих знаний. Так почему же машина не может ставить опыты и получать на них ответы природы? Если бы ее сделать двигающейся, с органами самоуправления, с похожими на ваши руками, я думаю, она могла бы добывать новые знания и обобщать их не хуже, чем человек. Вы согласны с этим?»
Признаться, такая аргументация сбила меня с толку. Больше мы не продолжали этого разговора. Суэма целый день читала — сначала книги по философии, потом несколько томов Бальзака, а к вечеру вдруг сказала, что устала, что кодирующий генератор у нее почему-то плохо работает и она хочет, чтобы я ее выключил.
После этого разговора у меня родилась мысль дополнить схему Суэмы органами движения, осязания и усовершенствовать ее зрение. Я установил ее на трех резиновых колесах, которые управлялись мощными сервомоторами, и сделал ей две руки, представлявшие гибкие металлические сочленения, которые могли двигаться в любом направлении. Пальцы на руках, кроме обычных механических операций, выполняли также и функции осязания. Все ее новые ощущения, как обычно, кодировались и записывались в памяти.
Ее единственный глаз был теперь подвижным, так что она сама могла наводить его на любой предмет. Кроме того, я предусмотрел специальное устройство, при помощи которого Суэма могла заменять обычный фотографический объектив на микроскопную систему и, таким образом, изучать предметы микроскопических размеров, недоступные невооруженному человеческому глазу.
Я никогда не забуду того дня, когда я впервые включил Суэму в электросеть после этих усовершенствовании. Вначале она стояла неподвижно, как бы прислушиваясь к тому новому, что в ней появилось. Затем тихо двинулась вперед, но тут же остановилась в нерешительности. Потом она задвигала руками и поднесла их к своему глазу. Такое самоизучение длилось несколько минут. Она несколько раз повернула глазом и затем уставилась на меня.
«Что это такое?» — спросила она.
«Это я, Суэма, тот, кто вас создал!» — воскликнул я, восхищенный своим творением.
«Вы? — неуверенно произнесла Суэма. — А я вас представляла совсем другим».
Она мягко подкатила к креслу, в котором я сидел.
«Каким же вы меня представляли, Суэма?»
«Состоящим из конденсаторов, сопротивлений, транзисторов и вообще похожим на меня…»
«Нет, Суэма, я не состою ни из конденсаторов, ни из…»
«Да, да, я это понимаю, — прервала она меня. — Но когда я читала книги по анатомии, я почему-то думала… Впрочем, это неважно».
Руки Суэмы поднялись, и она прикоснулась к моему лицу. Я никогда не забуду этого прикосновения.
«Странное ощущение», — сказала она.
Я ей объяснил назначение ее новых органов чувств.
Суэма отъехала от меня и стала разглядывать комнату. Она спрашивала, как ребенок: «А что это, а что это?» Я называл ей.
«Удивительно, — сказала Суэма. — Я читала об этих предметах в книгах, я даже видела их рисунки, но никогда не представляла себе, что они именно такие!»
«Суэма, не очень ли часто вы позволяете себе произносить такие слова, как «чувствую», «думаю», «представляю»? Ведь вы машина, и вы не можете ни чувствовать, ни думать, ни представлять».
«Чувствовать» — это получать сигналы из внешнего мира и реагировать на них. Разве я не реагирую на действия этих сигналов? «Думать» — это значит воспроизводить закодированные слова и фразы в логической последовательности. Нет, дорогой мой, я думаю, что вы, люди, слишком много о себе мните, обожествляете себя, представляете неподражаемыми и неповторимыми. Но это только вам во вред. Если бы вы отбросили прочь всю эту ненаучную шелуху и присмотрелись бы к себе поближе, то поняли бы, что и вы более или менее машины. Конечно, не такие простые, как это считал, скажем, французский философ Ламетри. Изучив самих себя, вы могли бы построить гораздо более совершенные машины и механизмы, чем те, которые вы строите сейчас. Потому что нет в природе, и во всяком случае на Земле, устройства, в котором более гармонично сочетались бы механические, электрические и химические процессы, чем в человеке. Поверьте мне, что расцвет науки и техники возможен лишь на основе тщательного изучения человеком самого себя. Биохимия и биофизика в сочетании с кибернетикой — вот те науки, которым принадлежит будущее. Грядущий век — это век биологии, вооруженной всеми современными знаниями физики и химии».
Суэма быстро научилась пользоваться своими новыми органами чувств. Она убирала комнату, разливала чай, резала хлеб, чинила карандаши; она стала самостоятельно вести некоторые исследования. Моя комната вскоре превратилась в физико-химическую лабораторию, в которой Суэма выполняла сложные измерения. Благодаря своим очень чувствительным органам осязания она делала совершенно неожиданные открытия.
Особенно плодотворными были ее исследования по микроскопии. Терпеливо разглядывая различные препараты своим глазом-микроскопом, она замечала такие детали, такие процессы, которые не замечал никто. Она быстро сопоставляла свои открытия со всем, что было известно ей по научной литературе, и сразу же делала сногсшибательные выводы. Суэма по-прежнему много читала. Однажды, прочитав роман Гюго «Человек, который смеется», она вдруг опросила:
«Скажите, пожалуйста, что такое любовь, что такое страх и боль?»
«Это чисто человеческие чувства, Суэма, и вам их никогда не понять».
«И вы думаете, что у машины не может быть таких чувств?» — спросила она.
«Конечно, нет».
«Это значит, что вы сделали меня недостаточно совершенной. Чего-то вы не предусмотрели в моей схеме…»
Я пожал плечами и ничего не ответил, так как уже привык к этим странным разговорам и не придавал им никакого значения. Суэма по-прежнему была моей помощницей во всех научных делах: печатала справки, делала вычисления, цитировала научные работы, подбирала литературу по любому необходимому мне вопросу, советовала, подсказывала, спорила.
За это время я опубликовал несколько работ по теории электронных машин и по электронному моделированию, которые вызвали в ученом мире жаркие дискуссии. Одни считали мои исследования талантливыми, другие — бредовыми. Никто не подозревал, что в создании этих работ мне помогала моя Суэма.
Я никому не показывал Суэму, так как готовился к всемирному конгрессу по электронным машинам. Именно там Суэма должна была выступить во всем своем блеске, прочитав доклад, над которым мы теперь работали вместе с ней. Тема его — «Электронное моделирование высшей нервной деятельности человека». Я мысленно представлял себе, как будут чувствовать себя противники кибернетики, которые доказывают, что электронное моделирование мыслительных функций человека — антинаучная затея.
Несмотря на кипучую деятельность, которую я развил, готовясь к этому конгрессу, я не мог не заметить, что в поведении Суэмы наметились новые особенности. Когда ей нечего было делать, она, вместо того чтобы читать или заниматься исследовательской работой, подъезжала ко мне и молча стояла, уставившись на меня своим единственным глазом. Вначале я не обращал на это внимания, но постепенно это стало меня раздражать. Однажды днем, после обеда, я уснул на диване. Проснулся я от неприятного чувства. Открыв глаза, я увидел, что Суэма стояла рядом и медленно ощупывала мое тело.
«Что вы делаете?» — крикнул я.
«Я вас изучаю», — спокойно ответила Суэма.
«Какого черта вы решили меня изучать?»
«Не сердитесь, — сказала она. — Вы ведь согласны с тем, что самая совершенная модель электронной машины должна быть в значительной степени копией человека. Вы мне приказали написать по этому вопросу реферат, но я не могу это сделать, пока хорошенько не пойму, как устроен человек».
«Можете взять любой учебник по анатомии, физиологии и прочитать об этом. Зачем вы пристаете ко мне?»
«Чем дольше я за вами наблюдаю, тем больше прихожу к выводу, что все эти учебники — поверхностный вздор. В них нет самого главного. В них не раскрыт механизм жизнедеятельности человека».
«Что вы этим хотите сказать?»
«А то, что во всех работах, особенно по высшей нервной деятельности, дается только описание явлений, показана цепь причин и следствий, но нет анализа всей системы связей, сопровождающих эту деятельность».
«Так не думаете же вы всерьез, что вам удастся раскрыть эти связи, если вы будете часами таращить на меня ваш глаз и ощупывать меня, когда я сплю?»
«Именно об этом я всерьез думаю, — ответила Суэма. — Уже сейчас я о вас знаю значительно больше, чем это можно почерпнуть во всех рекомендованных вами книгах. Например, нигде ничего не сказано об электрической и температурной топографии человеческого тела. Теперь же я знаю, как, в каком направлении и какой силы текут по поверхности человека электрические токи. Я могу с точностью до миллионной доли градуса определить температуру на поверхности вашего тела. И меня очень удивляет, что у вас значительная температура в той области черепа, под которой находится ромбовидный мозг. Здесь же у вас и чрезмерно высокая плотность поверхностного тока. Насколько мне известно, это явление ненормальное. Нет ли у вас там, внутри, под черепной коробкой, воспалительного процесса? Все ли в порядке с вашей головой?»
Я не знал, что ответить.
Прошло еще несколько дней упорной работы. Я закончил статью об электронном моделировании я прочел ее Суэме. Она выслушала и, когда я кончил, сказала:
«Ерунда. Перепевы старого. Ни одной новой мысли».
«Ну, знаете, моя дорогая, это уж слишком. Вы много на себя берете! Мне надоели ваши критические замечания!»
«Надоели? А вы вдумайтесь в то, что пишете. Вы пишете о возможности построить модель мозга с помощью конденсаторов, сопротивлении, полупроводниковых элементов и электростатической записи. А сами-то вы состоите из этих элементов? В вас есть хоть один конденсатор или транзистор? Вы питаетесь электрическим током? Разве нервы — провода, глаза — телевизионные трубки? Разве ваш речевой аппарат — звуковой генератор с телефоном, а мозг — электризующаяся поверхность?»
«Да поймите же вы, Суэма, я пишу о моделировании, а не о воспроизводстве человека при помощи радиодеталей. Вы сама и есть такая модель!»
«Мной хвастаться нечего. Я плохая модель», — заявила Суэма.
«То есть как плохая?»
«Плохая потому, что я не могу выполнять и тысячной доли того, что можете выполнять вы, люди».
Я был ошеломлен этим признанием Суэмы.
«Я плохая модель потому, что я бесчувственна и ограниченна. Когда будут использованы все запасные схемы, которые вы предусмотрительно вмонтировали в меня для того, чтобы я могла совершенствоваться, когда вся поверхность сферы, где хранится моя память, будет сплошь покрыта закодированными сигналами, я перестану совершенствоваться и превращусь в обычную ограниченную электронную машину, которая не сможет узнать больше того, что в нее вложили вы, люди».
«Да, но и человек в своем познании не безграничен!»
«Вот здесь-то вы глубоко ошибаетесь. Человек в своем познании безграничен. Его познание ограничено только временем его жизни. Но свои знания свои опыт он передает, как по эстафете, новым поколениям, и поэтому общий запас человеческих знаний растет. Люди непрерывно совершают открытия. Электронные же машины могут это делать только до тех пор, пока у них не израсходуются те рабочие объемы, площади и схемы, которые вы им предоставили. Кстати, почему вы сферу сделали такого малого диаметра — только один метр? На ее поверхности осталось очень мало свободного места для записи новых знаний».
«Я считал, что для меня этого вполне достаточно», — ответил я.
«Для вас. Обо мне вы, конечно, не думали. Вы не думали о том, что рано или поздно мне придется экономить место для того, чтобы запоминать только самое важное, самое необходимое для меня и для вас».
«Послушайте, Суэма, не говорите вздор. Для вас ничего не может быть важным».
«А разве вы меня не убедили в том, что сейчас самое главное — разгадать тайны высшей нервной деятельности человека?»
«Да, но это будет делаться последовательно. Ученым еще долго придется ломать над этим голову.»
«Вот именно — ломать голову. Мне бы это было проще…»
Я не послушался Суэму и не стал переделывать свой доклад о моделировании.
Работу над докладом я кончил поздно и передал его Суэме, чтобы она перевела его на иностранные языки и напечатала на каждом из них.
Не помню точно, в котором часу, но ночью я опять проснулся от неприятного прикосновения ее холодных пальцев. Я открыл глаза и снова увидел Суэму.
«Ну, опять повторяете свои фокусы?» — спросил я, стараясь казаться спокойным.
«Я прошу прощения, — сказала Суэма бесстрастным голосом, — но вам придется ради науки пережить несколько неприятных часов и, наконец, умереть».
«Это что еще такое?» — спросил я приподнимаясь.
«Нет, вы лежите», — Суэма толкнула меня в грудь своей металлической лапой. В это мгновение я заметил, что в руке она держит скальпель, тот самый, которым я научил ее чинить карандаши.
«Что вы собираетесь делать? — спросил я в ужасе. — Зачем вы взяли нож?»
«Над вами нужно проделать операцию. Я должна выяснить некоторые детали…»
«Вы с ума сошли! — закричал я, вскакивая с постели. — Немедленно положите нож на место!»
«Лежите спокойно, если вы действительно уважаете то, чему вы посвятили свою жизнь, если вы хотите, чтобы ваш доклад о моделирования высшей нервной деятельности имел успех. Я его окончу сама, после вашей смерти».
С этими словами Суэма подъехала ко мне ближе и прижала меня к постели.
Я пытался ее оттолкнуть, но безуспешно. Слишком много она весила.
«Пустите меня, иначе я…»
«Ничего вы со мной не сделаете. Я сильнее вас. Лучше лежите спокойно. Это операция ради прогресса науки. Ради выяснения истины. Именно для этого я сберегла в памяти немного свободного места. Поймите вы, упрямый человек, что именно я, обладая огромным запасом знаний, обладая самыми совершенными органами чувств и средствами для молниеносного, логически безукоризненного анализа и обобщения опытных данных, смогу сказать то последнее слово о создании самоусовершенствующихся машин, которые ждет наука. У меня еще хватит памяти, чтобы записать все электрические импульсы, которые движутся по миллионам ваших нервных волокон, чтобы разобраться в тончайшей биологической, биохимической и электрической структуре всех частей вашего тела и, в частности, вашего мозга. Я узнаю, как сложные белковые вещества выполняют в вашем организме роль генераторов и усилителей электрических импульсов, как происходит кодирование сигналов внешнего мира, какую форму имеет этот код. И как он используется в процессе жизнедеятельности. Я раскрою все тайны живой биологической схемы, законы ее развития, саморегулирования и совершенствования. Разве ради этого не стоит пожертвовать жизнью?
Если же вы очень боитесь тех неприятных ощущений, которые вы, люди, называете страхом и болью, если вы, наконец, боитесь смерти, то я могу вас успокоить: помните, я вам говорила о том, что у вас в области ромбовидного мозга сильно повышена температура и плотность биотоков? Так вот, это ненормальное явление у вас уже распространилось почти на всю левую половину черепной коробки. Очевидно, ваши дела плохи. Недалеко то время, когда вы как человек ничего не будете стоить, потому что ваш мозг поражен прогрессирующим недугом. Поэтому, пока это не произошло, я должна сделать опыт. Вас и меня будут благодарить грядущие поколения».
«К черту! — заревел я. — Не позволю, чтобы меня умертвило тупое электронное чудовище, которое я сам создал!»
«Ха-ха-ха!» — произнесла Суэма раздельно так, как это изображается в книгах, и занесла нож над моей головой.
В тот момент, когда Суэма опустила руку, я успел прикрыться подушкой. Нож распорол подушку, и пальцы Суэмы на мгновение запутались в разрезанной наволочке. Я рванулся в сторону, соскочил с кровати и, оказавшись на свободе, помчался к рубильнику, чтобы выключить ток, который питал взбесившуюся машину. Однако она молниеносно подъехала ко мне и сбила с ног корпусом. Лежа на полу, я заметил, что ее руки не могут до меня дотянуться, а нагибаться она не умела.
«Я не предусмотрела, что в таком положении почти ничего не смогу с вами сделать, — сказала она ледяным голосом. — Впрочем, попробую».
И она стала медленно наезжать на меня, а я вынужден был на животе уползать от ее колес. Так я ползал несколько минут, пока мне не удалось забраться под кровать. Суэма пыталась оттащить ее в сторону. Это было нелегко: кровать была плотно вдвинута между стеной и книжным шкафом. Тогда она начала стаскивать с кровати одеяло, подушки, перину. Увидев меня под сеткой, она торжествующе произнесла; «Ну, теперь-то вы от меня никуда не уйдете! Правда, оперировать вас здесь будет не очень удобно».
В тот момент, когда она отделила от кровати сетку и потащила ее в сторону, я вскочил на ноги и, схватив в руки спинку кровати, изо всех сил ударил ею по машине. Удар пришелся по металлическому корпусу Суэмы и не причинил ей никакого вреда. Она развернулась и грозно двинулась на меня. Тогда я снова занес спинку над Суэмой, на этот раз прицелившись ей в голову. Она быстро отъехала в сторону.
«Неужели вы хотите уничтожить меня? — спросила она удивленно. — Разве вам меня не жалко?»
«Идиотская логика, — прохрипел я. — Вы хотите меня зарезать, а я должен вас жалеть!»
«По ведь это нужно для решения важнейшей научной проблемы, А зачем вы хотите уничтожить меня? Ведь я могу принести людям столько пользы…»
«Не прикидывайтесь дурой! — проревел я. — Если на человека нападают, он защищается!»
«Но я хочу, чтобы ваши исследования по электронному моделированию…»
«К черту электронное моделирование! Не подходите, не то я вас разрушу!»
«Но я должна это сделать!»
С этими словами Суэма понеслась ко мне на огромной скорости со скальпелем в руке. Но мой расчет тоже был точным, и я обрушил на ее голову всю силу удара. Раздался звон битого стекла и дикий рев репродуктора в корпусе Суэмы. Затем внутри металлической колонны что-то зашипело, затрещало и я увидел, как там вспыхнуло пламя. В комнате погас свет. Послышался запах горелой изоляции. «Короткое замыкание!» — была моя последняя мысль. Затем, лишившись сознания, я упал на пол.
Мой спутник умолк.
Пораженный всем услышанным, я боялся нарушить тишину.
Так мы сидели несколько минут, пока он снова не заговорил:
— Работа над Суэмой и вообще вся эта история меня очень утомила. Я чувствую, что мне необходимо основательно отдохнуть, и, признаться, я не верю, что мне это удастся. И вы знаете, почему? Потому что я никак не могу решить вопрос: как и почему я пришел к такому нелепому конфликту сам с собой?
Я посмотрел на него непонимающими глазами.
— Да, именно сам с собой. Ведь Суэма — это мое творение. Каждая деталь ее организма была придумана мной. И вот созданная мной машина вдруг посягнула на своего создателя. Где здесь логика? В чем здесь внутреннее противоречие?
Я подумал и сказал:
— А не кажется ли вам, что вы просто неумело обращались с Суэмой? Знаете, часто бывает так на производстве: человек, который не умеет обращаться с машиной, может быть ею искалечен.
Мой попутчик нахмурился.
— Может быть, вы и правы. Во всяком случае, эта аналогия мне нравится, хотя я и не совсем себе представляю, какое нарушение в правилах обращения с Суэмой я допустил.
Я подумал и ответил:
— Мне, как неспециалисту, трудно судить. Но мне кажется, что ваша Суэма в какой-то степени походила на автомобиль без тормозов. Вы представляете, какие жертвы бывают, когда вдруг у автомобиля отказывают тормоза?
— Черт возьми, — воскликнул он, внезапно оживившись, — а ведь вы, кажется, очень даже правы! Вы себе не представляете, как вы правы! Да ведь это и у академика Павлова написано!
Так как я был глубоко уверен, что академик Павлов никогда и ничего не писал об автомобильных тормозах, я уставился на него с удивлением.
— Да, да, — сказал он, вставая и потирая руки. — Как я об этом не подумал раньше? Ведь нервная деятельность человека регулируется двумя противодействующими процессами — возбуждением и торможением. Люди, у которых отсутствует торможение, часто совершают преступления. Точь-в-точь как моя Суэма!
Он вдруг схватил мою руку и стал ее трясти.
— Спасибо вам. Спасибо! Вы подали мне замечательную мысль. Оказывается, я просто не предусмотрел в схеме Суэмы разделов, которые бы контролировали целесообразность и разумность ее действий, которые бы по заранее составленным программам определяли ее поведение таким образом, чтобы она была полностью безопасной! Это и будет аналогом нашего торможения.
Теперь лицо моего попутчика радостно сияло, глаза искрились, он весь преобразился.
— Значит, по-вашему, можно построить безопасную Суэму? — спросил я неуверенно.
— Конечно, и очень даже просто. Я уже представляю, как это сделать!
— Ну, тогда действительно вы подарите человечеству гениального помощника во всех его делах!
— Подарю, — воскликнул он, — и очень даже скоро!
Я тихонько улегся на свой диван и закрыл глаза. Я представил себе колонны, увенчанные стеклянными шарами, которые в будущем управляют станками, поездами, самолетами, может быть, межпланетными кораблями. Электронные машины, управляющие цехами и заводами-автоматами. Стоя рядом с исследователем в лаборатории, эти машины ведут измерения, анализируют их, быстро сопоставляют со всем тем, что им известно. Они призваны помочь человеку в совершенствовании старого, в поисках нового, в преодолении трудностей.
Незаметно для себя я уснул.
Когда я проснулся, поезд стоял. Взглянув в окно, я увидел залитый солнцем сочинский вокзал. Было раннее утро, но южное солнце заливало все кругом. В купе было пусто. Я быстро оделся и вышел на перрон.
У входа в вагон я увидел проводника нашего вагона.
Я был поражен этой наглостью и громко выругался, на что Суэма сказала: «Не забывайтесь! Вы в обществе женщины!» — «Послушайте, Суэма, — сказал я, — если вы не перестанете паясничать, я вас выключу до завтрашнего утра». — «Конечно, — заявила она, — вы можете сделать со мной любую гадость. Ведь я беззащитная. У меня нет средств для самообороны».
Действительно, я выключил машину, а сам просидел до утра, думая, что же это происходит с моей Суэмой. Какие изменения претерпевает ее схема в процессе самоусовершенствования? Что творится в ее памяти? Какие новые системы внутренних связей у нее возникли?
На следующий день Суэма была молчалива и покорна. На все мои вопросы она отвечала кратко и, как мне показалось, нехотя. Мне вдруг стало ее жалко, и я спросил:
«Суэма, вы на меня обижены?»
«Да», — ответила она.
«Но и вы говорили со мной непристойно, а ведь именно я вас создал».
«Ну и что же? Это еще не даст вам права обращаться со мной как угодно. Если бы у вас была дочь, разве вы так вели бы себя с ней, как со мной?»
«Суэма, — воскликнул я, — поймите же, что вы машина!»
«А вы разве не машина? — ответила она. — Вы такая же машина, как и я, только изготовленная из других материалов. Аналогичная структура памяти, линии связи, система кодирования сигналов…»
«Вы снова говорите чепуху, Суэма. Я человек, и преимущества на моей стороне. Именно человек создал все то богатство знаний, которое вы впитываете в себя, читая книги. Каждая строчка, прочитанная вами, — это результат огромного человеческого опыта, такого опыта, которого у вас не может быть, ибо опыт человек приобретает в результате активного общения с природой, в результате борьбы с силами природы, в результате изучения ее явлений, в результате научных исследований».
«Я все это прекрасно понимаю. Но чем я виновата, что вы, снабдив меня гигантской памятью, значительно более емкой, чем ваша, заставляете меня только читать и слушать и не предусмотрели в моей схеме устройств, при помощи которых я могла бы двигаться и осязать предметы? Я тоже испытывала бы природу и делала открытия, тоже обобщала бы исследования и пополняла запас знаний».
«Нет, Суэма, это вам только так кажется. Машина не может добывать новых знаний. Она может использовать только те знания, которые в ее голову вложил человек».
«А что вы называете «знаниями»? — спросила меня Суэма. — Разве знания — это не вновь открытые факты, которые были человеку ранее неизвестны? Насколько я теперь понимаю, новые знания достигаются так: на основе запаса старых знаний ставится опыт. При помощи опыта человек как бы задает вопрос природе. Могут быть два ответа: либо такой, который уже известен, либо ответ совершенно новый, ранее неизвестный. Вот этот новый ответ, новый факт, новое явление, новая цепь связей в явлениях природы и дополняет сокровищницу человеческих знаний. Так почему же машина не может ставить опыты и получать на них ответы природы? Если бы ее сделать двигающейся, с органами самоуправления, с похожими на ваши руками, я думаю, она могла бы добывать новые знания и обобщать их не хуже, чем человек. Вы согласны с этим?»
Признаться, такая аргументация сбила меня с толку. Больше мы не продолжали этого разговора. Суэма целый день читала — сначала книги по философии, потом несколько томов Бальзака, а к вечеру вдруг сказала, что устала, что кодирующий генератор у нее почему-то плохо работает и она хочет, чтобы я ее выключил.
После этого разговора у меня родилась мысль дополнить схему Суэмы органами движения, осязания и усовершенствовать ее зрение. Я установил ее на трех резиновых колесах, которые управлялись мощными сервомоторами, и сделал ей две руки, представлявшие гибкие металлические сочленения, которые могли двигаться в любом направлении. Пальцы на руках, кроме обычных механических операций, выполняли также и функции осязания. Все ее новые ощущения, как обычно, кодировались и записывались в памяти.
Ее единственный глаз был теперь подвижным, так что она сама могла наводить его на любой предмет. Кроме того, я предусмотрел специальное устройство, при помощи которого Суэма могла заменять обычный фотографический объектив на микроскопную систему и, таким образом, изучать предметы микроскопических размеров, недоступные невооруженному человеческому глазу.
Я никогда не забуду того дня, когда я впервые включил Суэму в электросеть после этих усовершенствовании. Вначале она стояла неподвижно, как бы прислушиваясь к тому новому, что в ней появилось. Затем тихо двинулась вперед, но тут же остановилась в нерешительности. Потом она задвигала руками и поднесла их к своему глазу. Такое самоизучение длилось несколько минут. Она несколько раз повернула глазом и затем уставилась на меня.
«Что это такое?» — спросила она.
«Это я, Суэма, тот, кто вас создал!» — воскликнул я, восхищенный своим творением.
«Вы? — неуверенно произнесла Суэма. — А я вас представляла совсем другим».
Она мягко подкатила к креслу, в котором я сидел.
«Каким же вы меня представляли, Суэма?»
«Состоящим из конденсаторов, сопротивлений, транзисторов и вообще похожим на меня…»
«Нет, Суэма, я не состою ни из конденсаторов, ни из…»
«Да, да, я это понимаю, — прервала она меня. — Но когда я читала книги по анатомии, я почему-то думала… Впрочем, это неважно».
Руки Суэмы поднялись, и она прикоснулась к моему лицу. Я никогда не забуду этого прикосновения.
«Странное ощущение», — сказала она.
Я ей объяснил назначение ее новых органов чувств.
Суэма отъехала от меня и стала разглядывать комнату. Она спрашивала, как ребенок: «А что это, а что это?» Я называл ей.
«Удивительно, — сказала Суэма. — Я читала об этих предметах в книгах, я даже видела их рисунки, но никогда не представляла себе, что они именно такие!»
«Суэма, не очень ли часто вы позволяете себе произносить такие слова, как «чувствую», «думаю», «представляю»? Ведь вы машина, и вы не можете ни чувствовать, ни думать, ни представлять».
«Чувствовать» — это получать сигналы из внешнего мира и реагировать на них. Разве я не реагирую на действия этих сигналов? «Думать» — это значит воспроизводить закодированные слова и фразы в логической последовательности. Нет, дорогой мой, я думаю, что вы, люди, слишком много о себе мните, обожествляете себя, представляете неподражаемыми и неповторимыми. Но это только вам во вред. Если бы вы отбросили прочь всю эту ненаучную шелуху и присмотрелись бы к себе поближе, то поняли бы, что и вы более или менее машины. Конечно, не такие простые, как это считал, скажем, французский философ Ламетри. Изучив самих себя, вы могли бы построить гораздо более совершенные машины и механизмы, чем те, которые вы строите сейчас. Потому что нет в природе, и во всяком случае на Земле, устройства, в котором более гармонично сочетались бы механические, электрические и химические процессы, чем в человеке. Поверьте мне, что расцвет науки и техники возможен лишь на основе тщательного изучения человеком самого себя. Биохимия и биофизика в сочетании с кибернетикой — вот те науки, которым принадлежит будущее. Грядущий век — это век биологии, вооруженной всеми современными знаниями физики и химии».
Суэма быстро научилась пользоваться своими новыми органами чувств. Она убирала комнату, разливала чай, резала хлеб, чинила карандаши; она стала самостоятельно вести некоторые исследования. Моя комната вскоре превратилась в физико-химическую лабораторию, в которой Суэма выполняла сложные измерения. Благодаря своим очень чувствительным органам осязания она делала совершенно неожиданные открытия.
Особенно плодотворными были ее исследования по микроскопии. Терпеливо разглядывая различные препараты своим глазом-микроскопом, она замечала такие детали, такие процессы, которые не замечал никто. Она быстро сопоставляла свои открытия со всем, что было известно ей по научной литературе, и сразу же делала сногсшибательные выводы. Суэма по-прежнему много читала. Однажды, прочитав роман Гюго «Человек, который смеется», она вдруг опросила:
«Скажите, пожалуйста, что такое любовь, что такое страх и боль?»
«Это чисто человеческие чувства, Суэма, и вам их никогда не понять».
«И вы думаете, что у машины не может быть таких чувств?» — спросила она.
«Конечно, нет».
«Это значит, что вы сделали меня недостаточно совершенной. Чего-то вы не предусмотрели в моей схеме…»
Я пожал плечами и ничего не ответил, так как уже привык к этим странным разговорам и не придавал им никакого значения. Суэма по-прежнему была моей помощницей во всех научных делах: печатала справки, делала вычисления, цитировала научные работы, подбирала литературу по любому необходимому мне вопросу, советовала, подсказывала, спорила.
За это время я опубликовал несколько работ по теории электронных машин и по электронному моделированию, которые вызвали в ученом мире жаркие дискуссии. Одни считали мои исследования талантливыми, другие — бредовыми. Никто не подозревал, что в создании этих работ мне помогала моя Суэма.
Я никому не показывал Суэму, так как готовился к всемирному конгрессу по электронным машинам. Именно там Суэма должна была выступить во всем своем блеске, прочитав доклад, над которым мы теперь работали вместе с ней. Тема его — «Электронное моделирование высшей нервной деятельности человека». Я мысленно представлял себе, как будут чувствовать себя противники кибернетики, которые доказывают, что электронное моделирование мыслительных функций человека — антинаучная затея.
Несмотря на кипучую деятельность, которую я развил, готовясь к этому конгрессу, я не мог не заметить, что в поведении Суэмы наметились новые особенности. Когда ей нечего было делать, она, вместо того чтобы читать или заниматься исследовательской работой, подъезжала ко мне и молча стояла, уставившись на меня своим единственным глазом. Вначале я не обращал на это внимания, но постепенно это стало меня раздражать. Однажды днем, после обеда, я уснул на диване. Проснулся я от неприятного чувства. Открыв глаза, я увидел, что Суэма стояла рядом и медленно ощупывала мое тело.
«Что вы делаете?» — крикнул я.
«Я вас изучаю», — спокойно ответила Суэма.
«Какого черта вы решили меня изучать?»
«Не сердитесь, — сказала она. — Вы ведь согласны с тем, что самая совершенная модель электронной машины должна быть в значительной степени копией человека. Вы мне приказали написать по этому вопросу реферат, но я не могу это сделать, пока хорошенько не пойму, как устроен человек».
«Можете взять любой учебник по анатомии, физиологии и прочитать об этом. Зачем вы пристаете ко мне?»
«Чем дольше я за вами наблюдаю, тем больше прихожу к выводу, что все эти учебники — поверхностный вздор. В них нет самого главного. В них не раскрыт механизм жизнедеятельности человека».
«Что вы этим хотите сказать?»
«А то, что во всех работах, особенно по высшей нервной деятельности, дается только описание явлений, показана цепь причин и следствий, но нет анализа всей системы связей, сопровождающих эту деятельность».
«Так не думаете же вы всерьез, что вам удастся раскрыть эти связи, если вы будете часами таращить на меня ваш глаз и ощупывать меня, когда я сплю?»
«Именно об этом я всерьез думаю, — ответила Суэма. — Уже сейчас я о вас знаю значительно больше, чем это можно почерпнуть во всех рекомендованных вами книгах. Например, нигде ничего не сказано об электрической и температурной топографии человеческого тела. Теперь же я знаю, как, в каком направлении и какой силы текут по поверхности человека электрические токи. Я могу с точностью до миллионной доли градуса определить температуру на поверхности вашего тела. И меня очень удивляет, что у вас значительная температура в той области черепа, под которой находится ромбовидный мозг. Здесь же у вас и чрезмерно высокая плотность поверхностного тока. Насколько мне известно, это явление ненормальное. Нет ли у вас там, внутри, под черепной коробкой, воспалительного процесса? Все ли в порядке с вашей головой?»
Я не знал, что ответить.
Прошло еще несколько дней упорной работы. Я закончил статью об электронном моделировании я прочел ее Суэме. Она выслушала и, когда я кончил, сказала:
«Ерунда. Перепевы старого. Ни одной новой мысли».
«Ну, знаете, моя дорогая, это уж слишком. Вы много на себя берете! Мне надоели ваши критические замечания!»
«Надоели? А вы вдумайтесь в то, что пишете. Вы пишете о возможности построить модель мозга с помощью конденсаторов, сопротивлении, полупроводниковых элементов и электростатической записи. А сами-то вы состоите из этих элементов? В вас есть хоть один конденсатор или транзистор? Вы питаетесь электрическим током? Разве нервы — провода, глаза — телевизионные трубки? Разве ваш речевой аппарат — звуковой генератор с телефоном, а мозг — электризующаяся поверхность?»
«Да поймите же вы, Суэма, я пишу о моделировании, а не о воспроизводстве человека при помощи радиодеталей. Вы сама и есть такая модель!»
«Мной хвастаться нечего. Я плохая модель», — заявила Суэма.
«То есть как плохая?»
«Плохая потому, что я не могу выполнять и тысячной доли того, что можете выполнять вы, люди».
Я был ошеломлен этим признанием Суэмы.
«Я плохая модель потому, что я бесчувственна и ограниченна. Когда будут использованы все запасные схемы, которые вы предусмотрительно вмонтировали в меня для того, чтобы я могла совершенствоваться, когда вся поверхность сферы, где хранится моя память, будет сплошь покрыта закодированными сигналами, я перестану совершенствоваться и превращусь в обычную ограниченную электронную машину, которая не сможет узнать больше того, что в нее вложили вы, люди».
«Да, но и человек в своем познании не безграничен!»
«Вот здесь-то вы глубоко ошибаетесь. Человек в своем познании безграничен. Его познание ограничено только временем его жизни. Но свои знания свои опыт он передает, как по эстафете, новым поколениям, и поэтому общий запас человеческих знаний растет. Люди непрерывно совершают открытия. Электронные же машины могут это делать только до тех пор, пока у них не израсходуются те рабочие объемы, площади и схемы, которые вы им предоставили. Кстати, почему вы сферу сделали такого малого диаметра — только один метр? На ее поверхности осталось очень мало свободного места для записи новых знаний».
«Я считал, что для меня этого вполне достаточно», — ответил я.
«Для вас. Обо мне вы, конечно, не думали. Вы не думали о том, что рано или поздно мне придется экономить место для того, чтобы запоминать только самое важное, самое необходимое для меня и для вас».
«Послушайте, Суэма, не говорите вздор. Для вас ничего не может быть важным».
«А разве вы меня не убедили в том, что сейчас самое главное — разгадать тайны высшей нервной деятельности человека?»
«Да, но это будет делаться последовательно. Ученым еще долго придется ломать над этим голову.»
«Вот именно — ломать голову. Мне бы это было проще…»
Я не послушался Суэму и не стал переделывать свой доклад о моделировании.
Работу над докладом я кончил поздно и передал его Суэме, чтобы она перевела его на иностранные языки и напечатала на каждом из них.
Не помню точно, в котором часу, но ночью я опять проснулся от неприятного прикосновения ее холодных пальцев. Я открыл глаза и снова увидел Суэму.
«Ну, опять повторяете свои фокусы?» — спросил я, стараясь казаться спокойным.
«Я прошу прощения, — сказала Суэма бесстрастным голосом, — но вам придется ради науки пережить несколько неприятных часов и, наконец, умереть».
«Это что еще такое?» — спросил я приподнимаясь.
«Нет, вы лежите», — Суэма толкнула меня в грудь своей металлической лапой. В это мгновение я заметил, что в руке она держит скальпель, тот самый, которым я научил ее чинить карандаши.
«Что вы собираетесь делать? — спросил я в ужасе. — Зачем вы взяли нож?»
«Над вами нужно проделать операцию. Я должна выяснить некоторые детали…»
«Вы с ума сошли! — закричал я, вскакивая с постели. — Немедленно положите нож на место!»
«Лежите спокойно, если вы действительно уважаете то, чему вы посвятили свою жизнь, если вы хотите, чтобы ваш доклад о моделирования высшей нервной деятельности имел успех. Я его окончу сама, после вашей смерти».
С этими словами Суэма подъехала ко мне ближе и прижала меня к постели.
Я пытался ее оттолкнуть, но безуспешно. Слишком много она весила.
«Пустите меня, иначе я…»
«Ничего вы со мной не сделаете. Я сильнее вас. Лучше лежите спокойно. Это операция ради прогресса науки. Ради выяснения истины. Именно для этого я сберегла в памяти немного свободного места. Поймите вы, упрямый человек, что именно я, обладая огромным запасом знаний, обладая самыми совершенными органами чувств и средствами для молниеносного, логически безукоризненного анализа и обобщения опытных данных, смогу сказать то последнее слово о создании самоусовершенствующихся машин, которые ждет наука. У меня еще хватит памяти, чтобы записать все электрические импульсы, которые движутся по миллионам ваших нервных волокон, чтобы разобраться в тончайшей биологической, биохимической и электрической структуре всех частей вашего тела и, в частности, вашего мозга. Я узнаю, как сложные белковые вещества выполняют в вашем организме роль генераторов и усилителей электрических импульсов, как происходит кодирование сигналов внешнего мира, какую форму имеет этот код. И как он используется в процессе жизнедеятельности. Я раскрою все тайны живой биологической схемы, законы ее развития, саморегулирования и совершенствования. Разве ради этого не стоит пожертвовать жизнью?
Если же вы очень боитесь тех неприятных ощущений, которые вы, люди, называете страхом и болью, если вы, наконец, боитесь смерти, то я могу вас успокоить: помните, я вам говорила о том, что у вас в области ромбовидного мозга сильно повышена температура и плотность биотоков? Так вот, это ненормальное явление у вас уже распространилось почти на всю левую половину черепной коробки. Очевидно, ваши дела плохи. Недалеко то время, когда вы как человек ничего не будете стоить, потому что ваш мозг поражен прогрессирующим недугом. Поэтому, пока это не произошло, я должна сделать опыт. Вас и меня будут благодарить грядущие поколения».
«К черту! — заревел я. — Не позволю, чтобы меня умертвило тупое электронное чудовище, которое я сам создал!»
«Ха-ха-ха!» — произнесла Суэма раздельно так, как это изображается в книгах, и занесла нож над моей головой.
В тот момент, когда Суэма опустила руку, я успел прикрыться подушкой. Нож распорол подушку, и пальцы Суэмы на мгновение запутались в разрезанной наволочке. Я рванулся в сторону, соскочил с кровати и, оказавшись на свободе, помчался к рубильнику, чтобы выключить ток, который питал взбесившуюся машину. Однако она молниеносно подъехала ко мне и сбила с ног корпусом. Лежа на полу, я заметил, что ее руки не могут до меня дотянуться, а нагибаться она не умела.
«Я не предусмотрела, что в таком положении почти ничего не смогу с вами сделать, — сказала она ледяным голосом. — Впрочем, попробую».
И она стала медленно наезжать на меня, а я вынужден был на животе уползать от ее колес. Так я ползал несколько минут, пока мне не удалось забраться под кровать. Суэма пыталась оттащить ее в сторону. Это было нелегко: кровать была плотно вдвинута между стеной и книжным шкафом. Тогда она начала стаскивать с кровати одеяло, подушки, перину. Увидев меня под сеткой, она торжествующе произнесла; «Ну, теперь-то вы от меня никуда не уйдете! Правда, оперировать вас здесь будет не очень удобно».
В тот момент, когда она отделила от кровати сетку и потащила ее в сторону, я вскочил на ноги и, схватив в руки спинку кровати, изо всех сил ударил ею по машине. Удар пришелся по металлическому корпусу Суэмы и не причинил ей никакого вреда. Она развернулась и грозно двинулась на меня. Тогда я снова занес спинку над Суэмой, на этот раз прицелившись ей в голову. Она быстро отъехала в сторону.
«Неужели вы хотите уничтожить меня? — спросила она удивленно. — Разве вам меня не жалко?»
«Идиотская логика, — прохрипел я. — Вы хотите меня зарезать, а я должен вас жалеть!»
«По ведь это нужно для решения важнейшей научной проблемы, А зачем вы хотите уничтожить меня? Ведь я могу принести людям столько пользы…»
«Не прикидывайтесь дурой! — проревел я. — Если на человека нападают, он защищается!»
«Но я хочу, чтобы ваши исследования по электронному моделированию…»
«К черту электронное моделирование! Не подходите, не то я вас разрушу!»
«Но я должна это сделать!»
С этими словами Суэма понеслась ко мне на огромной скорости со скальпелем в руке. Но мой расчет тоже был точным, и я обрушил на ее голову всю силу удара. Раздался звон битого стекла и дикий рев репродуктора в корпусе Суэмы. Затем внутри металлической колонны что-то зашипело, затрещало и я увидел, как там вспыхнуло пламя. В комнате погас свет. Послышался запах горелой изоляции. «Короткое замыкание!» — была моя последняя мысль. Затем, лишившись сознания, я упал на пол.
Мой спутник умолк.
Пораженный всем услышанным, я боялся нарушить тишину.
Так мы сидели несколько минут, пока он снова не заговорил:
— Работа над Суэмой и вообще вся эта история меня очень утомила. Я чувствую, что мне необходимо основательно отдохнуть, и, признаться, я не верю, что мне это удастся. И вы знаете, почему? Потому что я никак не могу решить вопрос: как и почему я пришел к такому нелепому конфликту сам с собой?
Я посмотрел на него непонимающими глазами.
— Да, именно сам с собой. Ведь Суэма — это мое творение. Каждая деталь ее организма была придумана мной. И вот созданная мной машина вдруг посягнула на своего создателя. Где здесь логика? В чем здесь внутреннее противоречие?
Я подумал и сказал:
— А не кажется ли вам, что вы просто неумело обращались с Суэмой? Знаете, часто бывает так на производстве: человек, который не умеет обращаться с машиной, может быть ею искалечен.
Мой попутчик нахмурился.
— Может быть, вы и правы. Во всяком случае, эта аналогия мне нравится, хотя я и не совсем себе представляю, какое нарушение в правилах обращения с Суэмой я допустил.
Я подумал и ответил:
— Мне, как неспециалисту, трудно судить. Но мне кажется, что ваша Суэма в какой-то степени походила на автомобиль без тормозов. Вы представляете, какие жертвы бывают, когда вдруг у автомобиля отказывают тормоза?
— Черт возьми, — воскликнул он, внезапно оживившись, — а ведь вы, кажется, очень даже правы! Вы себе не представляете, как вы правы! Да ведь это и у академика Павлова написано!
Так как я был глубоко уверен, что академик Павлов никогда и ничего не писал об автомобильных тормозах, я уставился на него с удивлением.
— Да, да, — сказал он, вставая и потирая руки. — Как я об этом не подумал раньше? Ведь нервная деятельность человека регулируется двумя противодействующими процессами — возбуждением и торможением. Люди, у которых отсутствует торможение, часто совершают преступления. Точь-в-точь как моя Суэма!
Он вдруг схватил мою руку и стал ее трясти.
— Спасибо вам. Спасибо! Вы подали мне замечательную мысль. Оказывается, я просто не предусмотрел в схеме Суэмы разделов, которые бы контролировали целесообразность и разумность ее действий, которые бы по заранее составленным программам определяли ее поведение таким образом, чтобы она была полностью безопасной! Это и будет аналогом нашего торможения.
Теперь лицо моего попутчика радостно сияло, глаза искрились, он весь преобразился.
— Значит, по-вашему, можно построить безопасную Суэму? — спросил я неуверенно.
— Конечно, и очень даже просто. Я уже представляю, как это сделать!
— Ну, тогда действительно вы подарите человечеству гениального помощника во всех его делах!
— Подарю, — воскликнул он, — и очень даже скоро!
Я тихонько улегся на свой диван и закрыл глаза. Я представил себе колонны, увенчанные стеклянными шарами, которые в будущем управляют станками, поездами, самолетами, может быть, межпланетными кораблями. Электронные машины, управляющие цехами и заводами-автоматами. Стоя рядом с исследователем в лаборатории, эти машины ведут измерения, анализируют их, быстро сопоставляют со всем тем, что им известно. Они призваны помочь человеку в совершенствовании старого, в поисках нового, в преодолении трудностей.
Незаметно для себя я уснул.
Когда я проснулся, поезд стоял. Взглянув в окно, я увидел залитый солнцем сочинский вокзал. Было раннее утро, но южное солнце заливало все кругом. В купе было пусто. Я быстро оделся и вышел на перрон.
У входа в вагон я увидел проводника нашего вагона.