Страница:
---------------------------------------------------------------
Издательство ЭКСМО; Серия Шедевры фантастики; 2002 г.
Переводчики: Владимир Гольдич, Ирина Оганесова.
Сборник эссе
---------------------------------------------------------------
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis), 15 января 2003
-----------------------------------------------------
Механические люди, или роботы, если использовать универсально принятый
термин, придуманный Чапеком, являются темой, к которой снова и снова
возвращаются современные фантасты. Не существует другого неизобретенного
изобретения (возможно, за исключением космического корабля), столь же
надежно поселившегося в сознании такого огромного количества людей: пугающая
конструкция, огромная, металлическая, слегка напоминающая человека,
двигающаяся как машина и разговаривающая лишенным эмоций голосом.
Ключевым в данном описании является слово "пугающий", и в нем заключено
трагическое начало, поскольку ни одно научно-фантастическая тема не лишилась
настолько своей привлекательности, как тема роботов. Среднему писателю
оказался доступен только один сюжет, связанный с роботами: механический
человек становится угрозой, выступает против своего создателя, представляет
собой опасность для человечества. Почти все рассказы подобного рода имели
одинаковую мораль, намеренно или нет: "Есть вещи, которые человечеству не
следует знать".
Начиная с 1940 года ситуация заметно улучшилась. На книжных полках
появилось множество рассказов о роботах; родилась новая точка зрения, более
механистичная и менее морализованная. Некоторые люди (например, Грофф
Конклин в своем вступлении к антологии научной фантастики "Фантастические
разумные машины", опубликованной в 1954 году) посчитали возможным объявить,
что, по крайней мере отчасти, новый вид рассказов о роботах появился
благодаря моим произведениям, написанным начиная с 1940 года. Поскольку на
Земле скорее всего не найдется человека, меньше меня страдающего от ложной
скромности, я с удовольствием и без возражений принимаю это мнение. Хочу
лишь добавить еще одно имя - Джон У. Кэмпбелл-младший, редактор "Эстаундинг
сайенс фикшн", с которым мы провели много часов в чрезвычайно полезных и
плодотворных дискуссиях на тему рассказов о роботах.
Лично я считаю, что роботы - это не проклятая богом, святотатственная
имитация жизни, а всего лишь высокоразвитые машины. Машина не может
"выступить против своего создателя", если она правильно сконструирована.
Когда механизм, например электропила, случайно отгрызает своему владельцу
конечность, его достойная сожаления склонность к агрессии устраняется при
помощи установки специальных защитных устройств. Подобные защитные
устройства, очевидно, могут быть созданы и в роботах. А самым логичным
местом для размещения таких устройств являются электрические цепи "мозга"
робота.
Позвольте мне сделать паузу и объяснить вам, что мы, писатели,
работающие в жанре научной фантастики, не вступаем друг с другом в яростные
споры по поводу строения "мозга" роботов. Имеется некоторое механическое
устройство, которое приблизительно похоже на человеческий мозг и содержит
цепи, необходимые для того, чтобы робот обладал уровнем восприятия и
разумного реагирования, эквивалентным человеческому существу. Как это
сделать без использования механических приспособлений размером с молекулу
протеина или по крайней мере с клетку мозга, не объясняется. Кое-кто из
писателей рассуждает о транзисторах и печатных схемах. Большинство
предпочитает хранить молчание. Лично я обожаю делать слегка мистические
заявления о "позитронном мозге", предоставляя читателю возможность самому
решать, какое отношение позитроны имеют к предмету обсуждения, и рассчитываю
на то, что он не отложит книгу в сторону, даже если не сможет найти ответ на
этот вопрос.
Так или иначе, по мере написания рассказов о роботах идея об
устройствах, обеспечивающих безопасность людей, превратилась в Три закона
роботехники. Эти три закона впервые были подробно описаны в рассказе
"Хоровод". В утонченном и исправленном виде они выглядят следующим образом:
1. Робот не может причинить вред человеку или своим бездействием
допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые отдает человек,
кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это
не противоречит Первому и Второму законам.
Эти законы вносятся в мозг роботов или, точнее, в электрические цепи,
заменяющие им мозг. Естественно, я не собираюсь данные цепи описывать.
Правду говоря, я никогда не обсуждаю инженерные проблемы по очень простой
причине: я абсолютно невежествен относительно практических аспектов создания
роботов.
Первый закон, как вы видите, мгновенно покончил со старым, всем
надоевшим сюжетом, о котором я торжественно обещаю больше вам не напоминать.
Хотя на первый взгляд кажется, что такие строгие ограничения могут
повлиять на творческие способности, выяснилось, что Законы роботехники
послужили богатым источником для научно-фантастических произведений. И уж ни
в коей мере не загнали писателей-фантастов в тупик ограниченности.
Примером может послужить рассказ "Хоровод", о котором я уже говорил. В
этой истории робот, дорогая экспериментальная модель, создан специально для
работы на солнечной стороне планеты Меркурий. Третий закон был внедрен в его
сознание надежнее остальных по вполне понятным экономическим причинам. В
самом начале рассказа он отправляется в экспедицию с целью добыть жидкий
селен для очень важных и абсолютно необходимых ремонтных работ. (Можете мне
поверить: на солнечной стороне Меркурия, где самое настоящее пекло, жидкого
селена сколько хочешь.)
К несчастью, приказ, который получил робот, был сформулирован не
слишком четко, а цепи, отвечающие за Второй закон, оказались слабее, чем
обычно. Что еще хуже, селеновая лужа, к которой отправили робота, находилась
рядом с районом вулканической активности. В результате там возникла высокая
концентрация углекислого газа. Я пришел к выводу, что при высоких
температурах на солнечной стороне Меркурия углекислый газ быстро вступит в
реакцию с железом и образуется летучий карбонил железа, отчего пострадают
наиболее хрупкие детали сочленений у робота. Чем дальше он проникает на
опасную территорию, тем большей угрозе подвергает себя, а следовательно,
вступает в силу Третий закон, заставляющий его остановиться. Второй закон,
который при обычных обстоятельствах перевешивает Третий, толкает его вперед.
В определенной точке возникает ситуация, когда более слабый в данной
конкретной ситуации Второй закон и более сильный Третий достигают равновесия
и робот не может ни двигаться дальше, ни отступить. И потому он ходит в
районе селеновой лужи по эквипотенциальной траектории, отдаленно
напоминающей круг.
Тем временем наши герои отчаянно нуждаются в селене. Они надевают
специальные скафандры, находят робота, видят, какая сложилась ситуация, и
пытаются понять, что же им делать дальше. После нескольких неудач они
находят ответ на свой вопрос. Один из людей совершенно сознательно
подвергает себя опасности: если робот его не спасет, он обязательно
погибнет. За дело принимается Первый закон, который заставляет робота
покинуть свою бессмысленную орбиту, поскольку этот закон важнее двух других.
И все заканчивается благополучно.
Кстати, именно в рассказе "Хоровод" я впервые употребил термин
"роботехника" (наука конструирования, создания роботов и управления ими).
Много лет спустя мне сказали, что я изобрел новый термин и что до меня он
никогда не появлялся в печати. Не знаю, правда ли это. Если да, то я
счастлив, поскольку считаю данное слово логичным и полезным и потому с
удовольствием дарю его всем, кто работает в интересующей нас области.
Ни один из других моих рассказов не имеет такого прямого и
непосредственного отношения к Трем законам, как "Хоровод", но все они так
или иначе с ними связаны. Например, один из рассказов посвящен роботу,
который умел читать мысли и был вынужден лгать, поскольку не мог сказать
человеку того, что тот не хотел слышать. Видите ли, правда неминуемо
причинила бы ему "вред" - в виде огорчения, разочарования, горя, смущения,
потери иллюзий и прочих эмоций подобного рода.
Вот еще одна история: загадка человека, которого подозревали в том, что
он робот, иными словами, что у него квазипротоплазменное тело и "позитронный
мозг" робота. Доказать, что он человек, он мог только одним способом -
публично нарушить Первый закон. Он не стал отказываться и при свидетелях
ударил человека. Однако рассказ заканчивается сомнением, поскольку
существует подозрение, что другой "человек" тоже мог быть роботом, а в Трех
законах ничего не говорится о том, что один робот не может причинить вред
другому.
А еще у нас имеются идеальные роботы - модели такие продвинутые, что
они используются для предсказания погоды, размеров урожая, выпуска
промышленной продукции, поворотов в политической жизни и тому подобное. Они
нужны для того, чтобы мировая экономика была меньше подвержена воздействию
факторов, на которые человек влиять не в состоянии. Но эти поразительные
роботы тоже подчиняются первому закону. Они не могут допустить, чтобы
человек страдал в результате их бездеятельности, поэтому совершенно
сознательно дают ответы, которые не обязательно являются правдивыми и порой
вызывают локальные экономические кризисы, спланированные для того, чтобы
заставить человечество выйти на дорогу, ведущую к миру и процветанию. В
конце концов роботы начинают играть решающую роль, но люди от этого только
выигрывают.
Не следует недооценивать взаимоотношения человека и робота. На уровне
сознания люди могут знать о существовании Трех законов, однако это не мешает
им испытывать иррациональный страх и не доверять роботам на эмоциональном
уровне. Если бы вы хотели придумать соответствующий термин, это можно было
бы назвать "комплексом Франкенштейна". Кроме того, существует и еще одна
проблема - протесты профсоюзов, которые боятся, что роботы заменят людей и
те лишатся средств к существованию.
Вот вам еще одна тема для рассказов. Мой первый рассказ о роботах был
посвящен роботу-няне и ребенку. Как и следовало ожидать, ребенок обожал
своего робота, однако мать боялась его, что тоже вполне объяснимо. Конфликт
заключался в том, что мать пыталась избавиться от робота, а ребенок всячески
противостоял ее попыткам.
Мой первый длинный роман, посвященный роботам,- "Стальные пещеры"
(1954) - заглядывает в далекое будущее. Действие происходит в те времена,
когда на других планетах, населенных эмигрантами с Земли, развивается
роботизированная экономика, но сама Земля по экономическим и эмоциональным
причинам протестует против засилья металлических существ. Совершено
убийство, мотивом которого является ненависть к роботам. Оно разгадано парой
детективов - человеком и роботом с использованием дедуктивного метода
(являющегося главным во всех дедуктивных историях) и Трех законов.
Мне удалось убедить себя, что Три закона необходимы и достаточны для
безопасности человека, когда речь идет о роботах. Я искренне верю, что
наступит день, когда будут созданы сложные в техническом отношении роботы, в
"мозг" которых будет внесено что-нибудь вроде Трех законов. Я с
удовольствием сыграю роль пророка в данной области, только вот боюсь, что
вряд ли это произойдет при моей жизни*.
* Это эссе написано в 1956 году. С тех пор слово "роботехника"
действительно вошло в английский язык и стало широко использоваться, и мне
удалось дожить до тех времен, когда Три закона роботехники принимаются
всерьез.- Примеч. автора.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis), 15 января 2003
-----------------------------------------------------
Количество пожилых людей в мире увеличивается, а молодых, наоборот,
уменьшается. Эта тенденция будет неуклонно расти, если уровень рождаемости
станет падать, а достижения медицины будут продлевать продолжительность
жизни человека.
Чтобы пожилые люди не теряли воображения и творческих способностей и не
стали обузой для постоянно уменьшающегося числа активных молодых людей, я
часто выступал с предложениями модифицировать нашу систему образования таким
образом, чтобы человек продолжал учиться до конца жизни.
Но как это сделать? Откуда взять столько учителей?
А кто говорит, что учителя должны быть людьми или вообще живыми
существами?
Предположим, что в грядущем веке коммуникационных спутников станет
значительно больше, чем сейчас. Кроме того, они будут значительно сложнее и
"умнее". Предположим, что вместо радиоволн главным средством связи станут
лазерные лучи, которые обладают гораздо более широкими возможностями.
В таком случае появится возможность создать многие миллионы отдельных
каналов для звука и изображения, и уж совсем просто представить себе, что
каждый человек на Земле получит свой собственный телевизионный канал.
Каждый человек (ребенок, человек средних лет или старик) будет иметь
свой собственный выход, к которому он сможет в любое удобное для него время
подключать обучающую машину. Это будет гораздо более разносторонняя
интерактивная обучающая машина, чем те, что имеются у нас в настоящий
момент, поскольку компьютерные технологии тоже не стоят на месте.
Мы можем надеяться, что такие машины будут достаточно сложными и
гибкими, чтобы модифицировать свои программы (иными словами, "учиться") в
результате деятельности ученика.
Ученик будет задавать вопросы, отвечать на них, делать заключения,
высказывать свое мнение, благодаря чему машина оценит его прогресс и в
соответствии с этим будет менять скорость и интенсивность курса обучения и,
что еще важнее, ставить акценты на вопросах, которые больше всего занимают
ученика.
Однако персональная обучающая машина не должна быть очень большой.
Размером и внешним видом она может походить на телевизор. Возможно ли, чтобы
такое маленькое устройство содержало столько информации, сколько необходимо
учащемуся, которого интеллектуальное любопытство может завести достаточно
далеко? Нет, если речь идет об изолированной обучающей машине, - но в таких
машинах нет никакой необходимости.
В цивилизации с развитыми компьютерными технологиями, способной
производить обучающие машины, непременно будут существовать компьютеризиро-
ванные библиотеки. Они могут быть соединены единой сетью и подключены к
единой планетарной библиотеке.
Все обучающие машины будут иметь прямую связь с планетарной библиотекой
и смогут получить в свое распоряжение любую книгу, периодическое издание,
документ, звуковую или видеозапись в закодированном виде. Дальше ученик либо
увидит интересующий его материал на экране, либо получит в распечатанном
виде на бумаге, чтобы иметь возможность изучить его потом, в более спокойной
обстановке.
Разумеется, необходимость в учителях-людях не отпадет. Существуют
некоторые предметы, например занятия спортом, театральным и ораторским
искусством и тому подобное, где взаимодействие ученика с учителем просто
необходимо. Кроме того, определенную ценность и интерес представляют
групповые занятия студентов, когда они собираются вместе, чтобы обсудить
друг с другом и с преподавателем какую-нибудь проблему, поделиться своими
умозаключениями, сделать новые открытия.
После такого общения с себе подобными они могут с известным облегчением
вернуться к всезнающей, гибкой и бесконечно терпеливой машине.
Но кто будет учить обучающие машины?
Естественно, тот, кто учится у машины, будет одновременно и учить ее.
Люди, которые с удовольствием занимаются интересующими их вопросами, склонны
думать, наблюдать, размышлять, ставить эксперименты и время от времени
изобретать нечто новое, неизвестное до них.
Они будут делиться своими знаниями с машиной, которая в свою очередь
зафиксирует полученную информацию (не забыв, разумеется, указать имя
изобретателя) в планетарной библиотеке, где ей смогут получить другие
машины. Новые сведения останутся в памяти машины и послужат отправной точкой
для тех, кто придет следом. Таким образом, обучающие машины позволят людям
устремиться к достижениям, которые сейчас невозможно даже предсказать.
Я рассуждал здесь лишь о технической стороне обучения, а как насчет
содержания? Какие предметы будут изучать люди? Когда наступит век обучающих
машин? Поговорим об этом в следующем эссе.
----------------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis), 16 января 2003
----------------------------------------------------------
Трудности в решении вопроса о том, какие профессии появятся в
будущем, обусловлены тем, какое будущее мы для себя выберем. Если мы
позволим цивилизации погибнуть, единственной профессией будет борьба за
выживание, и сомневаюсь, что многие добьются в ней успеха.
Предположим, что нам удастся не только сохранить свою цивилизацию, но и
сделать е процветающей и владеющей развитыми технологиями. В таком случае
логичным кажется существование в будущем следующих областей деятельности:
программирование, добыча полезных ископаемых на Луне, атомная и космическая
инженерия, лазерные коммуникации, нейрофизиология и тому подобное.
Однако я не могу не думать о том, что развитие компьютеризации и
автоматизации положит конец известным видам деятельности человека - всем
этим отупляющим однообразным действиям, как физическим, так и умственным,
которые могут превосходно выполняться машинами, причем машинами не сложнее
тех, какие мы уже сейчас в состоянии создать.
Короче говоря, мир может стать настолько отлаженным, что потребуется
лишь небольшая горстка людей- прорабов , которые будут следить за тем, чтобы
население Земли было накормлено, имело уютные дома и было избавлено от
повседневных забот.
А что станет делать бoльшая часть человечества в практически полностью
автоматизированном будущем? Как насч т тех, у кого не окажется способности
или желания работать по одной из новых профессий будущего - или для кого не
найд тся в них места? Складывается впечатление, что из-за отсутствия работы
в нынешнем понимании этого слова им просто нечего делать.
Пугающая мысль. Что станут делать люди, когда у них не будет работы?
Будут сидеть и скучать? Или, что того хуже, станут раздражительны и
неуравновешенны? Существует поговорка, что дьявол всегда находит тех, кто
бездельничает, и творит зло их руками.
Но мы делаем выводы исходя из существующей в наше время ситуации, когда
люди, предоставленные сами себе, неминуемо скатываются в пропасть.
Вспомните, что истории известны времена, когда аристократия жила в
праздности, питаясь плодами труда живых машин из плоти и крови - иными
словами, рабов и крестьян. При высоком уровне развития культуры аристократия
занималась искусствами, литературой и философией. Разумеется, такое
времяпрепровождение нельзя рассматривать как полезную работу, но оно давало
пищу для ума, часто становилось темой интересных бесед и оживляло жизнь тех,
кто мог позволить себе тратить время на подобные вещи.
Речь ид т о гуманитарных науках, и ими занимались люди, которым не
нужно было ничего делать руками. Считалось, что такие занятия приносят
гораздо больше удовлетворения и что они значительно возвышеннее технических
наук - всего лишь полезных.
В таком случае, возможно, будущее увидит всемирную аристократию,
которой станут служить единственно возможные в данной ситуации рабы -
сложные машины. И тогда возникнет гораздо более широкая и интересная
программа развития гуманитарных наук, которые будут преподавать машины.
Люди выберут компьютерные технологии, или атомную инженерию, или
исследования лунной поверхности и добычу полезных ископаемых, или любую
другую профессию, которая в определ нный момент будет важной для процветания
мира. Почему бы и нет? Такие профессии, требующие от человека определ нных
умений и развитого воображения, станут привлекательны для многих, и я не
сомневаюсь, что желающих найд тся достаточно, чтобы заполнить все
необходимые места.
Впрочем, большинство людей займ тся более приземл нными делами. Они
могут собирать марки, глиняную посуду, живопись, готовить экзотические
блюда, пробовать себя в театральном искусстве и тому подобное. Иными
словами, будет предоставлен широкий выбор возможностей, и единственным
принципом станет следующий: Вс , что ты хочешь .
Каждый человек под руководством обучающих машин, достаточно сложных,
чтобы предложить ему разные варианты деятельности, сможет выбрать то, чем он
больше всего хотел бы заниматься.
Достаточно ли разумен человек, чтобы понимать, какое именно дело он
сможет делать лучше всего? Но почему бы и нет? Кто другой может это знать? А
если вам нравится ваше занятие, вы, естественно, добь тесь в нем успехов.
А если люди решат ничего не делать? Просто проспать свою жизнь?
Если они этого хотят - пусть так и поступают. Только я сомневаюсь, что
так будет. Ничего не делать - трудная работа, и лично мне кажется, е
выберут те, кто никогда не имел возможности извлечь из своей души нечто
более интересное и, следовательно, простое.
Получается, что в по-настоящему автоматизированном и образованном мире
машины будут оказывать на людей гуманитарное влияние. Машины будут делать
тяж лую работу и тем самым облегчат жизнь человеку, который сможет заняться
чем-нибудь более приятным и занимательным для себя.
---------------------------------------------------------------
Издательство ЭКСМО; Серия Шедевры фантастики; 2002 г.
Переводчики: Владимир Гольдич, Ирина Оганесова.
Scan & OCR: Гуцу Анатолий (Atlantis), 16 января 2003.
---------------------------------------------------------------
Термину робот всего шестьдесят лет. Его придумал и впервые употребил
в своей пьесе R. U. R. чешский драматург Карел Чапек - это слово на
чешском языке означает рабочий .
Однако сама идея значительно старше. Она родилась во времена, когда
люди впервые начали мечтать о слуге, надел нном умом, сильном, не знающем ни
усталости, ни скуки и не испытывающем разочарования. В греческих мифах богу
огня Гефесту помогали золотые девушки, казавшиеся живыми и созданными из
плоти и крови. А остров Крит охранял бронзовый великан по имени Талос,
который без устали обходил его берега, чтобы не допустить туда врага.
Возможно ли существование роботов? И если да, так ли нам это нужно?
Механические устройства с пружинами, разными приспособлениями и
храповиками, конечно, могут заставить похожие на людей машины действовать
похоже на людей, но суть хорошего робота заключается в его способностях
думать - прич м так, чтобы он мог быть полезным без постоянного надзора со
стороны человека.
Однако чтобы думать, нужен мозг. Человеческое существо состоит из
микроскопических нейронов, каждый из которых обладает невероятно сложной
субструктурой. В нашем мозгу имеется 10 миллиардов нейронов и 90 миллиардов
сопутствующих им клеток, соедин нных между собой исключительно сложным
образом. Разве можно повторить что-нибудь подобное в искусственном виде и
поместить в робота?
До изобретения электронного компьютера тридцать пять лет назад о н м
даже и помыслить было невозможно. Прошло некоторое время после его рождения,
и он становился вс компактнее и компактнее, с каждым годом вмещал в себя
вс больше информации, а места занимал вс меньше.
Вполне возможно, что через несколько десятилетий появится крошечный
компьютер размером с человеческий мозг, которым можно будет снабдить робота.
Совсем не нужно, чтобы такой компьютер был столь же продвинутым, как
человеческий мозг, достаточно, чтобы он мог руководить действиями робота, в
чью задачу входит, скажем, пылесосить ковры, управлять гидравлическим
прессом или наблюдать за лунной поверхностью.
Робот, естественно, должен иметь встроенный источник питания: не будем
же мы вечно привязаны к розетке на стене. Эту задачу решить совсем не
сложно. В определ нном смысле батарейка, нуждающаяся в периодической
подзарядке, ничем не отличается от живого существа, которому периодически
требуется пища.
Но зачем придавать роботам вид человека? Не разумнее ли сконструировать
специализированную машину, предназначенную для выполнения определ нных
заданий, не заставляя е страдать от неудобств вроде ног, рук и торса?
Предположим, вы создадите робота, который сможет, засунув палец в печку,
определить е температуру, а затем поддерживать е на одном уровне,
манипулируя переключателем. Вне всякого сомнения, простой термостат не хуже
такого робота справится с подобной задачей.
Однако подумайте вот о ч м: за тысячи лет развития человеческой
цивилизации мы создали технологию, приспособленную для удобств человека.
Предметы, используемые людьми, конструируются таким образом, чтобы они
Издательство ЭКСМО; Серия Шедевры фантастики; 2002 г.
Переводчики: Владимир Гольдич, Ирина Оганесова.
Сборник эссе
---------------------------------------------------------------
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis), 15 января 2003
-----------------------------------------------------
Механические люди, или роботы, если использовать универсально принятый
термин, придуманный Чапеком, являются темой, к которой снова и снова
возвращаются современные фантасты. Не существует другого неизобретенного
изобретения (возможно, за исключением космического корабля), столь же
надежно поселившегося в сознании такого огромного количества людей: пугающая
конструкция, огромная, металлическая, слегка напоминающая человека,
двигающаяся как машина и разговаривающая лишенным эмоций голосом.
Ключевым в данном описании является слово "пугающий", и в нем заключено
трагическое начало, поскольку ни одно научно-фантастическая тема не лишилась
настолько своей привлекательности, как тема роботов. Среднему писателю
оказался доступен только один сюжет, связанный с роботами: механический
человек становится угрозой, выступает против своего создателя, представляет
собой опасность для человечества. Почти все рассказы подобного рода имели
одинаковую мораль, намеренно или нет: "Есть вещи, которые человечеству не
следует знать".
Начиная с 1940 года ситуация заметно улучшилась. На книжных полках
появилось множество рассказов о роботах; родилась новая точка зрения, более
механистичная и менее морализованная. Некоторые люди (например, Грофф
Конклин в своем вступлении к антологии научной фантастики "Фантастические
разумные машины", опубликованной в 1954 году) посчитали возможным объявить,
что, по крайней мере отчасти, новый вид рассказов о роботах появился
благодаря моим произведениям, написанным начиная с 1940 года. Поскольку на
Земле скорее всего не найдется человека, меньше меня страдающего от ложной
скромности, я с удовольствием и без возражений принимаю это мнение. Хочу
лишь добавить еще одно имя - Джон У. Кэмпбелл-младший, редактор "Эстаундинг
сайенс фикшн", с которым мы провели много часов в чрезвычайно полезных и
плодотворных дискуссиях на тему рассказов о роботах.
Лично я считаю, что роботы - это не проклятая богом, святотатственная
имитация жизни, а всего лишь высокоразвитые машины. Машина не может
"выступить против своего создателя", если она правильно сконструирована.
Когда механизм, например электропила, случайно отгрызает своему владельцу
конечность, его достойная сожаления склонность к агрессии устраняется при
помощи установки специальных защитных устройств. Подобные защитные
устройства, очевидно, могут быть созданы и в роботах. А самым логичным
местом для размещения таких устройств являются электрические цепи "мозга"
робота.
Позвольте мне сделать паузу и объяснить вам, что мы, писатели,
работающие в жанре научной фантастики, не вступаем друг с другом в яростные
споры по поводу строения "мозга" роботов. Имеется некоторое механическое
устройство, которое приблизительно похоже на человеческий мозг и содержит
цепи, необходимые для того, чтобы робот обладал уровнем восприятия и
разумного реагирования, эквивалентным человеческому существу. Как это
сделать без использования механических приспособлений размером с молекулу
протеина или по крайней мере с клетку мозга, не объясняется. Кое-кто из
писателей рассуждает о транзисторах и печатных схемах. Большинство
предпочитает хранить молчание. Лично я обожаю делать слегка мистические
заявления о "позитронном мозге", предоставляя читателю возможность самому
решать, какое отношение позитроны имеют к предмету обсуждения, и рассчитываю
на то, что он не отложит книгу в сторону, даже если не сможет найти ответ на
этот вопрос.
Так или иначе, по мере написания рассказов о роботах идея об
устройствах, обеспечивающих безопасность людей, превратилась в Три закона
роботехники. Эти три закона впервые были подробно описаны в рассказе
"Хоровод". В утонченном и исправленном виде они выглядят следующим образом:
1. Робот не может причинить вред человеку или своим бездействием
допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые отдает человек,
кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это
не противоречит Первому и Второму законам.
Эти законы вносятся в мозг роботов или, точнее, в электрические цепи,
заменяющие им мозг. Естественно, я не собираюсь данные цепи описывать.
Правду говоря, я никогда не обсуждаю инженерные проблемы по очень простой
причине: я абсолютно невежествен относительно практических аспектов создания
роботов.
Первый закон, как вы видите, мгновенно покончил со старым, всем
надоевшим сюжетом, о котором я торжественно обещаю больше вам не напоминать.
Хотя на первый взгляд кажется, что такие строгие ограничения могут
повлиять на творческие способности, выяснилось, что Законы роботехники
послужили богатым источником для научно-фантастических произведений. И уж ни
в коей мере не загнали писателей-фантастов в тупик ограниченности.
Примером может послужить рассказ "Хоровод", о котором я уже говорил. В
этой истории робот, дорогая экспериментальная модель, создан специально для
работы на солнечной стороне планеты Меркурий. Третий закон был внедрен в его
сознание надежнее остальных по вполне понятным экономическим причинам. В
самом начале рассказа он отправляется в экспедицию с целью добыть жидкий
селен для очень важных и абсолютно необходимых ремонтных работ. (Можете мне
поверить: на солнечной стороне Меркурия, где самое настоящее пекло, жидкого
селена сколько хочешь.)
К несчастью, приказ, который получил робот, был сформулирован не
слишком четко, а цепи, отвечающие за Второй закон, оказались слабее, чем
обычно. Что еще хуже, селеновая лужа, к которой отправили робота, находилась
рядом с районом вулканической активности. В результате там возникла высокая
концентрация углекислого газа. Я пришел к выводу, что при высоких
температурах на солнечной стороне Меркурия углекислый газ быстро вступит в
реакцию с железом и образуется летучий карбонил железа, отчего пострадают
наиболее хрупкие детали сочленений у робота. Чем дальше он проникает на
опасную территорию, тем большей угрозе подвергает себя, а следовательно,
вступает в силу Третий закон, заставляющий его остановиться. Второй закон,
который при обычных обстоятельствах перевешивает Третий, толкает его вперед.
В определенной точке возникает ситуация, когда более слабый в данной
конкретной ситуации Второй закон и более сильный Третий достигают равновесия
и робот не может ни двигаться дальше, ни отступить. И потому он ходит в
районе селеновой лужи по эквипотенциальной траектории, отдаленно
напоминающей круг.
Тем временем наши герои отчаянно нуждаются в селене. Они надевают
специальные скафандры, находят робота, видят, какая сложилась ситуация, и
пытаются понять, что же им делать дальше. После нескольких неудач они
находят ответ на свой вопрос. Один из людей совершенно сознательно
подвергает себя опасности: если робот его не спасет, он обязательно
погибнет. За дело принимается Первый закон, который заставляет робота
покинуть свою бессмысленную орбиту, поскольку этот закон важнее двух других.
И все заканчивается благополучно.
Кстати, именно в рассказе "Хоровод" я впервые употребил термин
"роботехника" (наука конструирования, создания роботов и управления ими).
Много лет спустя мне сказали, что я изобрел новый термин и что до меня он
никогда не появлялся в печати. Не знаю, правда ли это. Если да, то я
счастлив, поскольку считаю данное слово логичным и полезным и потому с
удовольствием дарю его всем, кто работает в интересующей нас области.
Ни один из других моих рассказов не имеет такого прямого и
непосредственного отношения к Трем законам, как "Хоровод", но все они так
или иначе с ними связаны. Например, один из рассказов посвящен роботу,
который умел читать мысли и был вынужден лгать, поскольку не мог сказать
человеку того, что тот не хотел слышать. Видите ли, правда неминуемо
причинила бы ему "вред" - в виде огорчения, разочарования, горя, смущения,
потери иллюзий и прочих эмоций подобного рода.
Вот еще одна история: загадка человека, которого подозревали в том, что
он робот, иными словами, что у него квазипротоплазменное тело и "позитронный
мозг" робота. Доказать, что он человек, он мог только одним способом -
публично нарушить Первый закон. Он не стал отказываться и при свидетелях
ударил человека. Однако рассказ заканчивается сомнением, поскольку
существует подозрение, что другой "человек" тоже мог быть роботом, а в Трех
законах ничего не говорится о том, что один робот не может причинить вред
другому.
А еще у нас имеются идеальные роботы - модели такие продвинутые, что
они используются для предсказания погоды, размеров урожая, выпуска
промышленной продукции, поворотов в политической жизни и тому подобное. Они
нужны для того, чтобы мировая экономика была меньше подвержена воздействию
факторов, на которые человек влиять не в состоянии. Но эти поразительные
роботы тоже подчиняются первому закону. Они не могут допустить, чтобы
человек страдал в результате их бездеятельности, поэтому совершенно
сознательно дают ответы, которые не обязательно являются правдивыми и порой
вызывают локальные экономические кризисы, спланированные для того, чтобы
заставить человечество выйти на дорогу, ведущую к миру и процветанию. В
конце концов роботы начинают играть решающую роль, но люди от этого только
выигрывают.
Не следует недооценивать взаимоотношения человека и робота. На уровне
сознания люди могут знать о существовании Трех законов, однако это не мешает
им испытывать иррациональный страх и не доверять роботам на эмоциональном
уровне. Если бы вы хотели придумать соответствующий термин, это можно было
бы назвать "комплексом Франкенштейна". Кроме того, существует и еще одна
проблема - протесты профсоюзов, которые боятся, что роботы заменят людей и
те лишатся средств к существованию.
Вот вам еще одна тема для рассказов. Мой первый рассказ о роботах был
посвящен роботу-няне и ребенку. Как и следовало ожидать, ребенок обожал
своего робота, однако мать боялась его, что тоже вполне объяснимо. Конфликт
заключался в том, что мать пыталась избавиться от робота, а ребенок всячески
противостоял ее попыткам.
Мой первый длинный роман, посвященный роботам,- "Стальные пещеры"
(1954) - заглядывает в далекое будущее. Действие происходит в те времена,
когда на других планетах, населенных эмигрантами с Земли, развивается
роботизированная экономика, но сама Земля по экономическим и эмоциональным
причинам протестует против засилья металлических существ. Совершено
убийство, мотивом которого является ненависть к роботам. Оно разгадано парой
детективов - человеком и роботом с использованием дедуктивного метода
(являющегося главным во всех дедуктивных историях) и Трех законов.
Мне удалось убедить себя, что Три закона необходимы и достаточны для
безопасности человека, когда речь идет о роботах. Я искренне верю, что
наступит день, когда будут созданы сложные в техническом отношении роботы, в
"мозг" которых будет внесено что-нибудь вроде Трех законов. Я с
удовольствием сыграю роль пророка в данной области, только вот боюсь, что
вряд ли это произойдет при моей жизни*.
* Это эссе написано в 1956 году. С тех пор слово "роботехника"
действительно вошло в английский язык и стало широко использоваться, и мне
удалось дожить до тех времен, когда Три закона роботехники принимаются
всерьез.- Примеч. автора.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis), 15 января 2003
-----------------------------------------------------
Количество пожилых людей в мире увеличивается, а молодых, наоборот,
уменьшается. Эта тенденция будет неуклонно расти, если уровень рождаемости
станет падать, а достижения медицины будут продлевать продолжительность
жизни человека.
Чтобы пожилые люди не теряли воображения и творческих способностей и не
стали обузой для постоянно уменьшающегося числа активных молодых людей, я
часто выступал с предложениями модифицировать нашу систему образования таким
образом, чтобы человек продолжал учиться до конца жизни.
Но как это сделать? Откуда взять столько учителей?
А кто говорит, что учителя должны быть людьми или вообще живыми
существами?
Предположим, что в грядущем веке коммуникационных спутников станет
значительно больше, чем сейчас. Кроме того, они будут значительно сложнее и
"умнее". Предположим, что вместо радиоволн главным средством связи станут
лазерные лучи, которые обладают гораздо более широкими возможностями.
В таком случае появится возможность создать многие миллионы отдельных
каналов для звука и изображения, и уж совсем просто представить себе, что
каждый человек на Земле получит свой собственный телевизионный канал.
Каждый человек (ребенок, человек средних лет или старик) будет иметь
свой собственный выход, к которому он сможет в любое удобное для него время
подключать обучающую машину. Это будет гораздо более разносторонняя
интерактивная обучающая машина, чем те, что имеются у нас в настоящий
момент, поскольку компьютерные технологии тоже не стоят на месте.
Мы можем надеяться, что такие машины будут достаточно сложными и
гибкими, чтобы модифицировать свои программы (иными словами, "учиться") в
результате деятельности ученика.
Ученик будет задавать вопросы, отвечать на них, делать заключения,
высказывать свое мнение, благодаря чему машина оценит его прогресс и в
соответствии с этим будет менять скорость и интенсивность курса обучения и,
что еще важнее, ставить акценты на вопросах, которые больше всего занимают
ученика.
Однако персональная обучающая машина не должна быть очень большой.
Размером и внешним видом она может походить на телевизор. Возможно ли, чтобы
такое маленькое устройство содержало столько информации, сколько необходимо
учащемуся, которого интеллектуальное любопытство может завести достаточно
далеко? Нет, если речь идет об изолированной обучающей машине, - но в таких
машинах нет никакой необходимости.
В цивилизации с развитыми компьютерными технологиями, способной
производить обучающие машины, непременно будут существовать компьютеризиро-
ванные библиотеки. Они могут быть соединены единой сетью и подключены к
единой планетарной библиотеке.
Все обучающие машины будут иметь прямую связь с планетарной библиотекой
и смогут получить в свое распоряжение любую книгу, периодическое издание,
документ, звуковую или видеозапись в закодированном виде. Дальше ученик либо
увидит интересующий его материал на экране, либо получит в распечатанном
виде на бумаге, чтобы иметь возможность изучить его потом, в более спокойной
обстановке.
Разумеется, необходимость в учителях-людях не отпадет. Существуют
некоторые предметы, например занятия спортом, театральным и ораторским
искусством и тому подобное, где взаимодействие ученика с учителем просто
необходимо. Кроме того, определенную ценность и интерес представляют
групповые занятия студентов, когда они собираются вместе, чтобы обсудить
друг с другом и с преподавателем какую-нибудь проблему, поделиться своими
умозаключениями, сделать новые открытия.
После такого общения с себе подобными они могут с известным облегчением
вернуться к всезнающей, гибкой и бесконечно терпеливой машине.
Но кто будет учить обучающие машины?
Естественно, тот, кто учится у машины, будет одновременно и учить ее.
Люди, которые с удовольствием занимаются интересующими их вопросами, склонны
думать, наблюдать, размышлять, ставить эксперименты и время от времени
изобретать нечто новое, неизвестное до них.
Они будут делиться своими знаниями с машиной, которая в свою очередь
зафиксирует полученную информацию (не забыв, разумеется, указать имя
изобретателя) в планетарной библиотеке, где ей смогут получить другие
машины. Новые сведения останутся в памяти машины и послужат отправной точкой
для тех, кто придет следом. Таким образом, обучающие машины позволят людям
устремиться к достижениям, которые сейчас невозможно даже предсказать.
Я рассуждал здесь лишь о технической стороне обучения, а как насчет
содержания? Какие предметы будут изучать люди? Когда наступит век обучающих
машин? Поговорим об этом в следующем эссе.
----------------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis), 16 января 2003
----------------------------------------------------------
Трудности в решении вопроса о том, какие профессии появятся в
будущем, обусловлены тем, какое будущее мы для себя выберем. Если мы
позволим цивилизации погибнуть, единственной профессией будет борьба за
выживание, и сомневаюсь, что многие добьются в ней успеха.
Предположим, что нам удастся не только сохранить свою цивилизацию, но и
сделать е процветающей и владеющей развитыми технологиями. В таком случае
логичным кажется существование в будущем следующих областей деятельности:
программирование, добыча полезных ископаемых на Луне, атомная и космическая
инженерия, лазерные коммуникации, нейрофизиология и тому подобное.
Однако я не могу не думать о том, что развитие компьютеризации и
автоматизации положит конец известным видам деятельности человека - всем
этим отупляющим однообразным действиям, как физическим, так и умственным,
которые могут превосходно выполняться машинами, причем машинами не сложнее
тех, какие мы уже сейчас в состоянии создать.
Короче говоря, мир может стать настолько отлаженным, что потребуется
лишь небольшая горстка людей- прорабов , которые будут следить за тем, чтобы
население Земли было накормлено, имело уютные дома и было избавлено от
повседневных забот.
А что станет делать бoльшая часть человечества в практически полностью
автоматизированном будущем? Как насч т тех, у кого не окажется способности
или желания работать по одной из новых профессий будущего - или для кого не
найд тся в них места? Складывается впечатление, что из-за отсутствия работы
в нынешнем понимании этого слова им просто нечего делать.
Пугающая мысль. Что станут делать люди, когда у них не будет работы?
Будут сидеть и скучать? Или, что того хуже, станут раздражительны и
неуравновешенны? Существует поговорка, что дьявол всегда находит тех, кто
бездельничает, и творит зло их руками.
Но мы делаем выводы исходя из существующей в наше время ситуации, когда
люди, предоставленные сами себе, неминуемо скатываются в пропасть.
Вспомните, что истории известны времена, когда аристократия жила в
праздности, питаясь плодами труда живых машин из плоти и крови - иными
словами, рабов и крестьян. При высоком уровне развития культуры аристократия
занималась искусствами, литературой и философией. Разумеется, такое
времяпрепровождение нельзя рассматривать как полезную работу, но оно давало
пищу для ума, часто становилось темой интересных бесед и оживляло жизнь тех,
кто мог позволить себе тратить время на подобные вещи.
Речь ид т о гуманитарных науках, и ими занимались люди, которым не
нужно было ничего делать руками. Считалось, что такие занятия приносят
гораздо больше удовлетворения и что они значительно возвышеннее технических
наук - всего лишь полезных.
В таком случае, возможно, будущее увидит всемирную аристократию,
которой станут служить единственно возможные в данной ситуации рабы -
сложные машины. И тогда возникнет гораздо более широкая и интересная
программа развития гуманитарных наук, которые будут преподавать машины.
Люди выберут компьютерные технологии, или атомную инженерию, или
исследования лунной поверхности и добычу полезных ископаемых, или любую
другую профессию, которая в определ нный момент будет важной для процветания
мира. Почему бы и нет? Такие профессии, требующие от человека определ нных
умений и развитого воображения, станут привлекательны для многих, и я не
сомневаюсь, что желающих найд тся достаточно, чтобы заполнить все
необходимые места.
Впрочем, большинство людей займ тся более приземл нными делами. Они
могут собирать марки, глиняную посуду, живопись, готовить экзотические
блюда, пробовать себя в театральном искусстве и тому подобное. Иными
словами, будет предоставлен широкий выбор возможностей, и единственным
принципом станет следующий: Вс , что ты хочешь .
Каждый человек под руководством обучающих машин, достаточно сложных,
чтобы предложить ему разные варианты деятельности, сможет выбрать то, чем он
больше всего хотел бы заниматься.
Достаточно ли разумен человек, чтобы понимать, какое именно дело он
сможет делать лучше всего? Но почему бы и нет? Кто другой может это знать? А
если вам нравится ваше занятие, вы, естественно, добь тесь в нем успехов.
А если люди решат ничего не делать? Просто проспать свою жизнь?
Если они этого хотят - пусть так и поступают. Только я сомневаюсь, что
так будет. Ничего не делать - трудная работа, и лично мне кажется, е
выберут те, кто никогда не имел возможности извлечь из своей души нечто
более интересное и, следовательно, простое.
Получается, что в по-настоящему автоматизированном и образованном мире
машины будут оказывать на людей гуманитарное влияние. Машины будут делать
тяж лую работу и тем самым облегчат жизнь человеку, который сможет заняться
чем-нибудь более приятным и занимательным для себя.
---------------------------------------------------------------
Издательство ЭКСМО; Серия Шедевры фантастики; 2002 г.
Переводчики: Владимир Гольдич, Ирина Оганесова.
Scan & OCR: Гуцу Анатолий (Atlantis), 16 января 2003.
---------------------------------------------------------------
Термину робот всего шестьдесят лет. Его придумал и впервые употребил
в своей пьесе R. U. R. чешский драматург Карел Чапек - это слово на
чешском языке означает рабочий .
Однако сама идея значительно старше. Она родилась во времена, когда
люди впервые начали мечтать о слуге, надел нном умом, сильном, не знающем ни
усталости, ни скуки и не испытывающем разочарования. В греческих мифах богу
огня Гефесту помогали золотые девушки, казавшиеся живыми и созданными из
плоти и крови. А остров Крит охранял бронзовый великан по имени Талос,
который без устали обходил его берега, чтобы не допустить туда врага.
Возможно ли существование роботов? И если да, так ли нам это нужно?
Механические устройства с пружинами, разными приспособлениями и
храповиками, конечно, могут заставить похожие на людей машины действовать
похоже на людей, но суть хорошего робота заключается в его способностях
думать - прич м так, чтобы он мог быть полезным без постоянного надзора со
стороны человека.
Однако чтобы думать, нужен мозг. Человеческое существо состоит из
микроскопических нейронов, каждый из которых обладает невероятно сложной
субструктурой. В нашем мозгу имеется 10 миллиардов нейронов и 90 миллиардов
сопутствующих им клеток, соедин нных между собой исключительно сложным
образом. Разве можно повторить что-нибудь подобное в искусственном виде и
поместить в робота?
До изобретения электронного компьютера тридцать пять лет назад о н м
даже и помыслить было невозможно. Прошло некоторое время после его рождения,
и он становился вс компактнее и компактнее, с каждым годом вмещал в себя
вс больше информации, а места занимал вс меньше.
Вполне возможно, что через несколько десятилетий появится крошечный
компьютер размером с человеческий мозг, которым можно будет снабдить робота.
Совсем не нужно, чтобы такой компьютер был столь же продвинутым, как
человеческий мозг, достаточно, чтобы он мог руководить действиями робота, в
чью задачу входит, скажем, пылесосить ковры, управлять гидравлическим
прессом или наблюдать за лунной поверхностью.
Робот, естественно, должен иметь встроенный источник питания: не будем
же мы вечно привязаны к розетке на стене. Эту задачу решить совсем не
сложно. В определ нном смысле батарейка, нуждающаяся в периодической
подзарядке, ничем не отличается от живого существа, которому периодически
требуется пища.
Но зачем придавать роботам вид человека? Не разумнее ли сконструировать
специализированную машину, предназначенную для выполнения определ нных
заданий, не заставляя е страдать от неудобств вроде ног, рук и торса?
Предположим, вы создадите робота, который сможет, засунув палец в печку,
определить е температуру, а затем поддерживать е на одном уровне,
манипулируя переключателем. Вне всякого сомнения, простой термостат не хуже
такого робота справится с подобной задачей.
Однако подумайте вот о ч м: за тысячи лет развития человеческой
цивилизации мы создали технологию, приспособленную для удобств человека.
Предметы, используемые людьми, конструируются таким образом, чтобы они