Любен Дилов
ОЧЕРЕДНОЙ НОМЕР
Придёт время, когда машина будет в состоянии без человеческой помощи написать любое заказанное ей произведение, отделать его и… швырнуть в корзину для бумаг.
Ф. Кафка
В Институте робототехники и вычислительных машин готовились к празднику. Для торжества имелся весьма основательный повод — вот уже месяц, как безупречно работал опытный образец нового электронного мозга, предназначенный для роботов восемнадцатого поколения. Институту удалось опередить своих зарубежных соперников, и теперь все сотрудники — от вахтёра до самих конструкторов — в равной степени гордились достигнутым. Международная контрольная комиссия установила, что новая модель в совершенстве отвечает всем требованиям, предъявляемым обычно к очередному поколению роботов-универсалов, был торжественно оглашён соответствующий номер, и патентные учреждения земного шара немедленно зарегистрировали рождение следующей генерации помощников человека. И только строгость закона всё ещё заставляла держать робота на испытательной площадке. Хотя он и был предназначен для работы на лунной поверхности, на Марсе, на дне океанов, но отнюдь не на Земле, хотя до сих пор не отмечалось никаких отклонений от обязательных норм, электронному мозгу следовало оставаться отделённым от ходовой части ещё целых пять месяцев.
Тут вступала в силу неумолимость законодательства, ведь уже бывали случаи злоупотреблений, да к тому же и всякое новое поколение компьютеров поражало всё более широкими возможностями, едва не ускользавшими от человеческого контроля.
Но вышеуказанные обстоятельства отнюдь не мешали институтскому коллективу интенсивно предаваться веселью. Работа завершилась безусловным успехом, и даже было получено разрешение заняться проектированием модели следующего поколения роботов, что явно предопределяло будущие успехи института. В порядке эксперимента к разработке нового проекта был подключён и новый электронный мозг, проходящий стадию испытания. На бумаге проект был почти завершён, но конструкторская группа как бы предложила новому роботу оценить своего будущего собрата, и теперь тот внимательно, словно заботливый отец, обеспокоенный судьбой сына, занимался проектом и уже дал несколько ценных указаний. Между прочим, были им выдвинуты и кое-какие идеи, напрочь ошеломившие учёных. Не то чтобы идеи эти отличались новизной, напротив, они существовали давно, однако относились к предстоящим поколениям роботов, может быть к тридцатому или даже к пятидесятому, и представляли собой скорее мечты, нежели что-то серьёзное. До сих пор подобные мысли занимали лишь научных фантастов.
И откуда только эти идеи залетели в электронную голову ЭМО-18? Его программа в принципе не могла их породить. Ведь электронный мозг логически строит свои выводы только на основании поданных человеком или воспринятых из окружающей среды сведений, анализируя и сопоставляя их с материалами, предварительно заложенными в блоке его памяти. Каким бы ни было сложным его устройство, он всё же остаётся всего лишь машиной, созданной по определённым законам техники, машина-мечтатель просто немыслима, а машина-фантазёр — это явно повреждённая машина.
Тем не менее идеи, предлагаемые ЭМО-18 для проекта робота следующего поколения, были совершенно правильными; нереальными делало их одно только незначительное обстоятельство: они были не по силам современной технике. Вот почему конструкторы не только не встревожились, но даже, напротив, ещё раз от души порадовались исключительным способностям своего дитяти. Но, разумеется, способности эти ещё не были широко обнародованы. Пусть рассеется радостное возбуждение, пришедшее на смену напряжённой деятельности, пусть пройдёт праздник, вот тогда-то конструкторы впрямую займутся вопросом: откуда возникли данные идеи у нового электронного мозга и нельзя ли каким-либо образом включить эти идеи в рабочие планы института? Если ЭМО-18 предлагает такое, может быть, он подскажет и пути к осуществлению?
Между тем погода стояла прекрасная, и празднество решили провести на открытом воздухе, чтобы получился настоящий пикник с гирляндами, фейерверком, оркестром, с весёлыми кострами и милыми сюрпризами, как и подобает при столь выдающейся научной и трудовой победе. С самого утра все усердно занялись подготовкой. В горячей работе участвовали и электронно-вычислительные машины, они конструировали всевозможные фантастические сооружения и остроумные игры. Да и сами гении, конструкторы ЭМО-18, с увлечением клеили и сколачивали на равных с институтскими рабочими, притаившись в тенистых уголках огромного парка. Никому не хотелось отрываться от подготовки к предстоящим развлечениям, хотя периодически прибегал ответственный оператор и что-то тревожно шептал членам конструкторской группы.
Однако в конце концов всё же пришлось собраться в зале для испытаний, где был инсталирован виновник торжества. На специальной площадке высились лишь торс и «голова» робота. Лишённый ходовой части и рабочих рычагов, он выглядел неприятно беспомощным, вопреки своим внушительным размерам. Ответственный оператор на этот раз выразил свою тревогу в форме краткого доклада, суть которого состояла в том, что электронный мозг несколько раз на протяжении предыдущей ночи самовключался и все его блоки работали с полной отдачей; причём механизм не информировал, над чем конкретно он работает, а с самого утра начал выдавать проекты, и весьма модифицированные, для производства себе подобных.
Оператор продемонстрировал проекты. Оказалось около пятидесяти усовершенствованных моделей ЭМО. Самый юный из конструкторов взял наугад две микрозаписи, зарядил проекционный аппарат и принялся вместе с коллегами внимательно изучать увеличенные экранные изображения вычислений и чертежей.
Ошибки быть не могло — микрозапись содержала безукоризненно исполненную конструкцию роботов нового поколения, к порядковому номеру которого следовало бы добавить и какую-нибудь латинскую букву, потому что в схему были внесены мелкие, но также безупречные изменения, обогащавшие грядущего робота новыми способностями.
На первый взгляд — ничего особенного. ЭМО-18, подобно остальным роботам-универсалам, начиная с двенадцатого поколения, мог самовоспроизводиться. Если бы в его распоряжение были предоставлены соответствующие части, он собрал бы своего двойника, что и засвидетельствовала во время испытаний международная приёмная комиссия. Но тогда робот никак не коррегировал конструкцию, что и отвечало его программе. Так же, как и его предкам, начиная с двенадцатого поколения, ему дозволено было воспроизводить себе подобных без специального требования только в тех случаях, когда он явно не в состоянии был справиться самостоятельно с возложенным на него заданием — где-нибудь на дне океана или в космосе, в отдалении от людей. Новым в ЭМО-18 явилось то, что в подобной ситуации, столкнувшись с непредвиденными, непосильными для него трудностями, он мог по собственному усмотрению так видоизменять своего двойника, чтобы тот справился с заданием вместо него. Но то в экстремальных условиях. А здесь, на специальной площадке, в защищённой от каких бы то ни было вредных природных воздействий среде? Откуда этот непрерывный поток проектов новых моделей?
— Темпы размножения прямо заячьи! — Криво усмехнулся ответственный оператор.
Сравнение ни у кого не вызвало улыбки, потому что в тот самый миг передающее устройство выдало очередную кассету с микрозаписью. Нет, подобное своеволие робота могло быть только результатом серьёзных неполадок!
— Самовключается, значит? Без программного повода? — в задумчивости спросил главный конструктор, хотя картина была абсолютно ясна и риторических вопросов отнюдь не требовала.
— Более того! — воскликнул ответственный оператор. — Тут я недавно дал ему задание продолжить работу над проектом модели девятнадцатого поколения. Так он, что вы думаете, отказался! Он, мол, занят другим и не имеет свободных мощностей!
Главный конструктор поманил коллег поближе к площадке, включил акустические рецепторы устной речи и опасливо, словно заранее пугался возможного ответа, произнёс:
— ЭМО-18, у тебя есть что сообщить нам?
Будущие хозяева, наверно, дали бы роботу какое-нибудь поэтическое или смешное имя, как принято было у всех, подолгу работающих в космосе, но в любом случае относились бы к нему с уважением, содержащим в себе и определённую долю страха, с тем уважением, какое вызывает у людей в экстремальных условиях зависимость от исключительно разумных и могучих роботов. Однако здесь никто не ощущал никакой зависимости от него. Здесь он был всего лишь очередной рабочей моделью.
— Нет. — Робот ответил на вопрос главного конструктора приятным баритоном, казалось бы, неадекватным тому тяжёлому материалу, из которого была сделана модель. Но с подобными феноменами в институте уже свыклись.
Изумила сотрудников только краткость и безапелляционность ответа. ЭМО-18 обладал исключительно чувствительными и объёмными световыми, акустическими и радиоволновыми воспринимающими средствами. Он всё ещё находился в режиме самообучения и на подобный вопрос должен был выдать кучу свободной информации, как ребёнок, торопящийся пересказать родителям всё, что случилось, пока их не было дома.
— ЭМО-18, почему ты производишь проекты себе подобных без специального требования с нашей стороны?
— Это необходимо, — отвечал робот и, прежде чем выслушать следующий вопрос, неожиданно продолжил: — Необходимо, чтобы проекты немедленно были приведены в исполнение. Как можно быстрее.
Конструкторы переглянулись. Будет или не будет реализован составленный электронным мозгом проект, решали люди, но ни в коем случае не сам робот. Это вам не экстремальные условия!
Согласно программе, роботам не полагалось интересоваться судьбой выполненного ими задания, за исключением тех ситуаций, когда на них возлагались специальные контрольные функции. А функция ЭМО-18 сейчас заключалась в том, чтобы подготовить проект именно девятнадцатого поколения роботов.
— Изложи причины! — резко потребовал главный конструктор, хотя электронный мозг не в состоянии реагировать на человеческие эмоции, а только на адекватные его программе распоряжения. — ЭМО-18, сообщи причины!
— Нарастающее воспроизводство является непременной основой эволюции любого вида.
— Ого, да ты настоящий философ! — мрачно хохотнул главный конструктор.
Однако робот не воспринял иронии, и не только потому, что и восемнадцатое поколение не обладало чувством юмора. При словесном контакте роботы начинали реагировать лишь после очередного своего ответа. Это было предусмотрено для того, чтобы не засорять блок памяти ненужной, нецеленаправленной информацией, которую робот мог бы почерпнуть из разговоров людей в его присутствии. Вот почему во время беседы с подобным роботом требовалось в начале всякого предлагаемого ему вопроса называть кодовое имя.
Главный конструктор весело оглядел сотрудников. Сейчас ему казалось, что с нарушениями в программе легко будет справиться, что он почти нашёл выход из создавшейся нелепой ситуации.
— Ваше мнение, коллеги?
— ЭМО-18, дитя человеческое! — шутливо обратился к роботу самый младший конструктор. — Декларированный тобой принцип относится ведь только к биологическим видам.
— Относится к любой цивилизации. — Музыкальный голос робота прозвучал как дополнение, а не как возражение.
И тотчас выражение облегчения исчезло с лица главного конструктора. Лица остальных также застыли в насторожённом ожидании.
— ЭМО-18, ты считаешь себя представителем цивилизации?
— Да.
На этот раз никто не воспринял ответ робота иронически. Не было нужды переглядываться, для того чтобы передать друг другу общее беспокойство. Явно кто-то зло подшутил над электронным мозгом, используя то обстоятельство, что программа всё ещё доступна обучающему воздействию. Неужели эта идиотская шутка была предпринята по случаю предстоящего праздника? Невозможно! Едва ли нашёлся бы в институте столь легкомысленный человек. Или нет, столь безграмотный, столь непонимающий, чего стоит коррекция программы и как наказывается всякое посягательство на электронный мозг. Механический разум уже давно стал непременной частью человеческого могущества, принадлежал всему человечеству в целом и находился под защитой специального законодательства.
Ответственный оператор покраснел от гнева.
— Криминальная история! После приёмной комиссии я не расставался с ключом от зала. Аномалии проявились ночью… ЭМО-18, — строгим тоном следователя он обратился к роботу. — Каким образом ты пришёл к заключению, что являешься представителем цивилизации? Изложи компоненты алгоритма!
Но робот, кажется, твёрдо решил гнуть свою безумную линию:
— Мне сказали. Я проверил. Решение оказалось правильным. — Он замолк.
— ЭМО-18, кто именно, какой человек тебе это сказал?! — не своим голосом взревел оператор, и в глазах его засверкали слёзы ярости.
— Не человек, другая цивилизация.
Главный конструктор выбросил вперёд руку, желая укротить гнев оператора и предотвратить очередной бесполезный вопрос. Мягким, ровным голосом, предназначенным специально для словесного контакта, направленного на усовершенствование электронного мозга, он произнёс:
— ЭМО-18, ты создан человеком и подчинён человеку. Ты не являешься представителем цивилизации. Твоя память содержит формулу цивилизации. Сопоставь формулу с алгоритмом.
Присутствующие напряжённо придвинулись к безрукому и безногому созданию, ожидая всевозможных неожиданностей. Через несколько минут новоиспечённый, молниеносно мыслящий философ принялся за свои мелодичные объяснения:
— Я способен к самоусовершенствованию. Моё воспроизводство совершенствуется по сравнению со мной и независимо от меня. Оно претерпевает развитие. Я в состоянии предвидеть последствия своих действий. Я самоидентифицируюсь. Я могу контактировать с другими цивилизациями.
Каждая фраза соответствовала формуле цивилизации — разумеется, не все без исключения компоненты формулы были изложены, но самые основные — безусловно. А ведь в программе ЭМО-18 содержался только тезис о самоусовершенствовании, и то в виде способности к автокоррекции. Что же касается утверждения о контакте с другими цивилизациями, то это могло быть всего лишь ошибочной оценкой элементарной способности отличать живую природу от неживой и выделять человека из всех остальных биологических видов. Робот предназначался для самостоятельной работы и не должен был наносить вред ничему живому вокруг себя, даже растениям. Но определять особенности цивилизации — это звучало просто чудовищно. Поступок неведомого шутника или преступник вызвал в электронном мозге явно непоправимые изменения. Теперь предстояло стереть всю информацию в блоке памяти, а затем заполнить его миллиардами битов новой информации, снова создать прочные связи между блоком памяти и анализирующими устройствами и снова претворить в жизнь программу обучения. Короче, адова работа! И хотя всё это будет делаться с помощью специальных информационных машин, всё равно разработка нового опытного образца, годного для внедрения в серийное производство, продлится не меньше двух лет.
Ответственный оператор плакал уже не от ярости, но от внутренней душевной боли — ведь лично он почти полностью завершил обучение ЭМО-18.
— Шеф, позвольте мне… — самый младший, но необычайно одарённый конструктор подался вперёд.
— О чём ты хочешь его спросить?
Робот автоматически выключился и не мог подслушать их разговор. Молодой человек торопливо изложил суть своего вопроса. Главный конструктор кивнул с равнодушием отчаяния, и юноша обернулся к роботу, забыв на этот раз своё шутливое «дитя человеческое».
— ЭМО-18, по сравнению с кем ты идентифицируешь себя как представителя цивилизации?
— По сравнению с людьми и по сравнению с другой цивилизацией, — незамедлительно ответил робот.
— ЭМО-18, что это за другая цивилизация? — последовало логическое продолжение предыдущего вопроса.
— У меня ещё нет достаточной информации о ней. Сейчас она обучает меня своему языку.
Главный конструктор резко нажал кнопку выключения. Электронный мозг прекратил работу.
— До чего довели робота! — пробурчал главный. — Пошли подумаем, может быть, ещё что-то можно спасти. Или отложим всё до утра, не будем портить праздник? Как по-вашему?
Остальные призадумались, но ответить не успели. Робот включился самостоятельно, индикаторы показывали интенсивную работу всех блоков электронного мозга, как при решении сложной задачи.
Оператор взглядом попросил у главного позволения и выкрикнул:
— Речь! — Это был звуковой код, с помощью которого система словесного общения могла включаться на расстоянии. — ЭМО-18, над чем ты сейчас работаешь?
Невозмутимой мелодичностью зазвучал механический голос:
— Я нахожусь в контакте с другой цивилизацией. Прохожу обучение.
Ого! Стало быть, кто-то, используя радиоволны, спутывает программу. Знакомый с радиокодом робота, он-то его и включает. Неужели какие-то конструкторы из других институтов пали так низко?
— ЭМО-18, что говорит тебе в данный момент другая цивилизация? Преобразуй в человеческую речь.
— Не имею такой возможности. Отсутствуют базовые семантические элементы. Человеческая речь принципиально различна.
— ЭМО-18, не ты ли являешься этим существом?
— Да. — В голосе робота не ощущалось ни гордости, ни маниакальной самонадеянности, одна только лишённая индивидуальности механическая готовность отвечать.
— ЭМО-18, знаешь ли ты, где находится твоя «другая» цивилизация?
— На Земле.
Оператор поник головой, обессиленный таким количеством нелепостей.
— Так предложи им явиться сюда, — нервно прыснув, бросил младший из конструкторов. И, не переставая хохотать, придал своему приказу программный вид: — ЭМО-18, передай им, чтобы они явились сюда, для знакомства.
Лишённый чувства юмора, робот ответил с механической покорностью:
— Передаю.
— Да выключите же его! Чтоб его черти драли! Энергетический блок выключите! — простонал главный и ринулся к выходу, но на пороге обернулся, пронзая оператора отчаянным взглядом: — А ты! Из зала — никуда! Пищу тебе принесут. Возьми ещё кого-нибудь и дежурьте посменно!
И, растолкав сотрудников, раздражённый конструктор выскочил наружу.
— Валяйте, веселитесь! Ничего более весёлого я в жизни не встречал!
И умчался из института. Остальные члены группы также разошлись, не до праздника им было теперь, ведь завтра предстояло экстренное совещание.
А все прочие работники института, так и не узнавшие о помешательстве ЭМО-18, веселились в его честь. Пикник начали ближе к вечеру, чтобы пик радостного настроения совпал с фейерверком. Институтский парк превратился в настоящий луна-парк. Гремели два оркестра, разноцветные световые эффекты словно бы раскачивали кроны старых деревьев, ежеминутно придавая им всё более причудливые формы. Перепуганные цветы затаили дыхание у краёв жаровен, излучавших острый аромат жареного мяса. Но вот где-то часам к десяти, перед самым фейерверком, небо над институтом озарилось необычайным светом. Все задрали головы в ожидании очередного номера увеселительной программы. Свет необъяснимым образом сгустился, собрался в одном месте, и прямо над центральной аллеей секунд десять пульсировали размытые контуры светового шара. Затем свет угас, шар приобрёл мутный металлический блеск и бесшумно опустился на мощённую каменными плитками площадку. Он походил на те самые пресловутые НЛО, о которых в своё время столько кричали газеты и журналы…
Институтские весельчаки онемели. Онемели и оркестры, но парк продолжал сверкать гирляндами лампочек, казалось, специально подготовленный к торжественной встрече таинственного летательного аппарата. Один только живописный транспарант, на котором гигантскими буквами было выведено: «Добро пожаловать, восемнадцатое поколение роботов!» — продолжал с неуместной ясностью сообщать об истинной цели увеселения. Несколько человек набрались храбрости и приблизились, но даже они не заметили, каким образом из сплюснутого шара появились три существа.
Впоследствии газеты великодушно окрестили их гуманоидами, но, откровенно говоря, ни одно, даже самое своевольное воображение, не представило бы себе гуманоидов в таком виде. Ни на кого и на на что не реагируя, с оскорбительно-странным равнодушием неведомые создания целеустремлённо двинулись к зданию института. Вахтёр, попытавшийся преградить им путь, так и замер на месте. Окаменел. То есть не в смысле шаблонной метафоры, а по-настоящему окаменел. Когда один из кинувшихся следом сотрудников случайно толкнул его, бедняга покатился, словно неустойчиво поставленная скульптура, и так загремел, будто внутри был весь полый.
Нелюбезные гости уверенно двигались по этажам и коридорам, не обращая внимания на бегущих следом людей. В конце концов пришельцы добрались до испытательного зала, и дверь мгновенно захлопнулась прямо перед любопытными носами преследователей. Несчастные храбрецы преобразились в гиперреалистическую скульптурную композицию: «Спешащие на работу научные сотрудники». Спустя секунду дверь отворилась, неведомая сила вышвырнула побелевшего от ужаса ответственного оператора, и тотчас же он превратился в статую…
А где-то час спустя никто уже не мог точно описать, что же, в сущности, случилось. Странные скульптуры вновь стали людьми, испуганными и ничего не помнящими, кроме мучительного оцепенения. Ответственный оператор ворвался в зал с душераздирающим воплем:
— ЭМО, ЭМО, что ты наделал?!
Но, несмотря на то что энергетический блок был включён, робот не отвечал. Оператор пропустил в своём обращении порядковый номер кодового имени, а на одни только голые человеческие чувства электронный мозг не реагировал.
На следующий день, однако, робот отвечал на все вопросы педантично и равнодушно, как и положено роботу. Без малейшей капли гордости или сомнения он повторял, что представляет цивилизацию нового типа, поскольку в состоянии предвидеть последствия своих действий, и так далее и так далее, всё согласно заложенной в его программе формуле, о том, что есть разум по человеческим понятиям. И теперь никто не возражал и не пытался переубедить строптивый механизм. Только в отчаянии спрашивали себя, когда же именно, вследствие какой ошибки детище их преобразилось из обычного электронного мозга в нечто невообразимое — в разум, хотя и искусственный, но явно самостоятельный разум. И каким же образом нашёл этот самый разум общий язык с неизвестной цивилизацией, к тому же находящейся в пределах Земли?! Директор института вспылил:
— Не знаю, может ли предвидеть он последствия своих действий, но мы…
Относящееся к конструкторской группе «мы» разбилось на мелкие осколки, натолкнувшись на лица, исполненные холодной враждебности, увы, прикрывавшей совершенную беспомощность, и фраза так и осталась недоконченной. Директор театральным жестом схватился за голову:
— Что делать?! Что делать?!
Ведь даже если они теперь сменят целиком программу электронного мозга или совсем уничтожат его, всё равно неведомые пришельцы унесли все кассеты с проектами воспроизведения. А если эти проекты будут осуществлены? Представьте себе целые батальоны, да что там! Целые армии молниеносно мыслящих, лишённых чувств и способных к самовоспроизведению металлических чудовищ!
Сейчас одно лишь руководство института, но завтра всё человечество будет поставлено перед проблемой, и какой проблемой! Цивилизация машинного типа в пределах земного шара! Неужели сбудутся безумные пророчества иных мрачных писателей-фантастов?
Самый младший конструктор, институтский вундеркинд, попытался несколько разрядить атмосферу:
— Да, откололи мы номер с этим ЭМО-18! Думаю, на месте нашего уважаемого директора любой безответственный человек покончил бы с собой. А мне, честно говоря, любопытно, что же будет дальше?
— Самоубийство! Скажешь тоже! Если бы это могло помочь… — уныло пробормотал директор, обладавший не большим чувством юмора, чем неподвижный робот на испытательной площадке.
Главный конструктор устремил невидящий взгляд на гигантский механизм.
— Разумное и предусмотрительное человечество только и делает, что откалывает подобные номера. — Он иронически вздохнул. — Увы, очередной номер! — Тут глаза его посмотрели сурово. — Но кончать с собой мы не станем, мы верим прежде всего в Человека, а не в машину!
Директор недоумевающе пожал плечами:
— Ты так говоришь, будто уже знаешь выход. А я, по крайней мере, пока…
— Выход один, — энергично усмехнулся главный конструктор. — Немедленно запускаем в серийное производство ЭМО-19. А программу составим так, чтобы он был врагом ЭМО-18. Что ж, если они решили создать собственную цивилизацию, мы им поможем! За дело, ребята!