Страница:
подходили нам по размерам и форме. Машины строятся так, чтобы человек мог
дотянуться до рычагов управления с уч том, например, длины и расположения
человеческих пальцев.
Вспомните лишь о проблемах, которые возникают у тех, кто немного выше
или ниже средней нормы - или делает вс левой, а не правой рукой - чтобы
понять, как важно правильно использовать технологический прогресс.
В таком случае, если нам требуется управляющее устройство, которое
сможет работать с инструментами и приборами, предназначенными для людей (а
значит, сумеет вписаться в технологическую схему), разумнее всего построить
это устройство, придав ему внешний вид человека, придав ему внешний вид
человека, со всеми изгибами и сочленениями, характерными для человеческого
тела. Нам совсем не нужно, чтобы данное устройство оказалось слишком тяж лым
или непропорциональным по нашим представлениям. Во всех отношениях
соответствие среднему уровню будет как нельзя лучше.
Следует также заметить, что нам свойственно находить или воображать
человеческие качества в существах и предметах, не имеющих никакого отношения
к классу людей. Мы да м человеческие характеристики домашним животным и даже
автомобилям. Мы персонифицируем природу и вс , что к ней относится, а в
древние времена делали из разных природных материалов богов и богинь по
образу и подобию человека.
И разумеется, когда мы возьм м на службу механизированного думающего
партн ра (или, в конце концов, думающего слугу), то будем чувствовать себя в
его обществе уютнее, а к нему относиться проще, если своими очертаниями он
будет напоминать человека.
Гораздо легче подружиться с роботом, похожим на человека, чем со
специализированной машиной, имеющей нейтральную форму. Иногда я думаю, что в
том отчаянном положении, в котором сегодня оказалось человечество, мы будем
рады иметь механических друзей, даже если они будут созданы нами самими.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
Роботам не нужно быть слишком умными, чтобы быть достаточно умными.
Если робот сможет исполнять простые приказы и делать работу по дому, то есть
управлять несложными машинами вроде кухонного комбайна, - иными словами,
эффективно заниматься однообразной работой, - нас это полностью
удовлетворит.
Построить робота непросто, потому что необходимо засунуть ему в голову
компактный компьютер, если вы хотите, чтобы он хотя бы отдаленно напоминал
человека. Сделать достаточно сложный компьютер размером с человеческий мозг
тоже очень трудно.
Но забудем на время о роботах. А зачем нам вообще строить компактный
компьютер? Детали, из которых делаются компьютеры, становятся все меньше и
меньше - от вакуумных трубок и транзисторов до интегральных схем и
силиконовых чипов. Предположим, что в дополнение к тому, что мы уменьшаем
детали, мы одновременно увеличиваем всю структуру.
Мозг, который становится слишком большим, в конце концов начинает
терять эффективность, потому что нервным импульсам требуется больше времени,
чтобы добраться до места своего назначения. Даже самые быстрые из них
развивают скорость лишь около 6 километров в минуту. Нервный импульс может
попасть из одного отдела мозга в другой за 0,002 секунды, но в мозгу длиной
в 15 километров - если мы в состоянии себе представить такой - импульсу
потребуется 2,5 минуту, чтобы добраться туда, куда ему нужно. Дополнительная
сложность, которая становится возможной благодаря большим размерам, окажется
совершенно бесполезной просто потому, что информация будет слишком долго
путешествовать и обрабатываться в цепях мозга.
Но компьютеры используют электронные импульсы, которые передвигаются со
скоростью более 17,5 миллионов километров в минуту. Компьютер протяженностью
650 километров будет посылать электронные импульсы из конца в конец примерно
за те же 0,002 секунды. По крайней мере, в этом отношении компьютер таких
громадных размеров в состоянии обрабатывать информацию с той же скоростью, с
какой это делает человеческий мозг.
Таким образом, если мы представим себе производство компьютеров,
состоящих из все более и более миниатюрных деталей, которые все более и
более сложно взаимодействуют между собой, и одновременно представим, что
наши компьютеры будут увеличиваться в размерах, не можем ли мы предположить,
что рано или поздно наступит момент, когда они начнут выполнять работу,
которую сейчас делают люди?
Существует ли теоретический предел разумности компьютера?
Я об этом не слышал. Мне кажется, что всякий раз, когда мы
усовершенствуем какую-то модель, делая ее более сложной, возникает ощущение,
что этот компьютер способен на большее. Всякий раз, когда мы увеличиваем
компьютер в размерах, стараясь одновременно сохранить сложность каждой
детали, выясняется, что компьютер способен на большее.
Итак, если мы научим делать достаточно сложные и достаточно большие
компьютеры, почему они не могут быть наделены человеческим умом?
Кое-кто наверняка нам не поверит и скажет: "Разве может компьютер
создать великую симфонию, произведение живописи или новую научную теорию?"
В таких ситуациях мне всегда хочется ответить вопросом на вопрос: "А вы
можете?" Впрочем, не следует забывать, что в мире, населенном самыми
обычными людьми, есть и великие люди, настоящие гении. Однако они становятся
гениями лишь потому, что атомы и молекулы у них в мозгу организованы особым
способом. У них в голове нет ничего другого, кроме атомов и молекул. Если мы
особым образом выстроим атомы и молекулы в компьютере, он тоже сможет
создавать гениальные произведения; и даже если отдельные его детали будут не
такими крошечными и изощренно сложными, как в человеческом мозгу, мы
компенсируем это увеличением размеров компьютера.
Кое-кто скажет: "Но компьютеры могут делать только то, на что они
запрограммированы".
Ответ на это таков: "Совершенно верно. Но мозг тоже может делать только
то, на что он запрограммирован - гениями. Частью программы мозга является
способность учиться, что должно войти и в программу сложного компьютера".
На самом деле, если можно создать компьютер, не уступающий по уровню
интеллекта человеку, почему нельзя сделать его умнее?
Действительно, почему? Может быть, в этом и заключается эволюция. За
три миллиарда лет, методом проб и ошибок на уровне атомов и молекул, в
результате чрезвычайно медленного и постепенного усовершенствования появился
наконец вид, достаточно разумный для того, чтобы сделать следующий шаг
вперед уже в течение века или даже нескольких десятилетий. И вот тогда
начнется настоящий прогресс.
Однако если компьютеры станут умнее людей, не возникнет ли опасность,
что они нас заменят? Ну а почему бы и нет? Они могут быть не только
разумными, но и добрыми и позволят нам просто плыть по течению. Будут
держать нас при себе в роли домашних животных или так, про запас.
А теперь подумайте, что мы сами сейчас делаем со всеми живыми
существами и с самой планетой, на которой живем. Вполне возможно, уже пора
нас заменить? Может быть, главная опасность заключается в том, что
компьютеры будут развиваться недостаточно быстро, чтобы занять наше место?
Подумайте об этом*.
* Я представляю вам эту точку зрения лишь в качестве темы для
размышления. Совершенно другой позиции я придерживаюсь в эссе "Разумы,
действующие совместно", напечатанном в данном сборнике. - Примеч. автора.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
Довольно трудно думать о компьютерах, представляя себе вариант, когда
они могут "захватить" наше место.
Заменят ли они нас, превратят ли в какой-то пережиток, выбросят ли на
свалку, как мы в свое время расправились с копьями и трутницами?
Если мы представим себе компьютерный мозг внутри металлической имитации
человека, которую мы называем роботом, страх окажется еще более ощутимым.
Роботы так напоминают людей, что один только их внешний вид может послужить
причиной возникновения у них мятежных мыслей.
Эта проблема стала одной из самых популярных в мире научной фантастики
в 1920-1930-х годах, когда было написано множество рассказов, темой которых
являлись роботы, восставшие и уничтожившие своих создателей.
Когда я был молодым человеком, мне ужасно надоели предупреждения,
звучавшие в произведениях подобного рода, поскольку мне представлялось, что
робот - это всего лишь машина, а люди постоянно строят машины. Учитывая, что
все машины так или иначе представляют для нас опасность, мы специально
встраиваем в них самые разнообразные защитные устройства.
В 1939 году я начал серию рассказов, в которых с симпатией описывались
тщательно сконструированные машины, выполнявшие определенные задачи, причем
в каждой из машин имелось встроенное устройство, обеспечивающее их
миролюбие.
В рассказе, написанном в октябре 1941 года, я наконец дал имя этому
защитному устройству - Три закона роботехники. (Я изобрел термин
"роботехника", который до тех пор никогда и нигде не использовался.)
Они звучат так:
1. Робот не может причинить вред человеку или своим бездействием
допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые отдает человек,
кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это
не противоречит Первому и Второму законам.
Эти законы внесены в компьютеризированный мозг робота и явились темой
многих моих рассказов, посвященных роботам. По правде говоря, они так
понравились читателям и звучали так разумно, что другие писатели-фантасты
начали использовать их (никогда не цитируя напрямую - в отличие от меня), и
все старые рассказы о роботах, уничтожавших своих создателей, просто умерли.
Ну, это научная фантастика. А как насчет работ по созданию сложных
компьютеров и искусственного интеллекта, которые проводятся учеными? Когда
строятся машины, обладающие собственным разумом, будут ли в их сознание
внедрены законы, подобные Трем законам роботехники?
Разумеется да, поскольку создатели компьютеров и сами обладают
высокоразвитым интеллектом. Более того, защита будет не только иметь
некоторое отношение к Трем законам - она будет на них опираться.
В тот момент, когда я придумал Три закона, я не понимал, что
человечество уже давным-давно пользуется ими. "Три закона инструментов"
звучат следующим образом:
1. Инструмент должен быть безопасным для использования.
(Это же очевидно! У ножей и мечей имеются рукоятки. А инструмент,
который может причинить вред тому, кто взял его в руки - если, конечно,
человек знает об опасности, - никогда не будет использован, каким бы
полезным он ни казался.)
2. Инструмент должен выполнять свои функции при условии, что он не
представляет ни для кого никакой опасности.
3. Инструмент должен оставаться в целости и сохранности во время его
использования, если только его уничтожение не продиктовано соображениями
безопасности или если это не входит в его функцию.
Никто никогда не цитирует эти три закона, поскольку все принимают их
как должное. Каждый закон, если о нем говорят вслух, будет встречен дружным
восклицанием вроде: "Ну, это же любому ясно!"
В таком случае давайте сравним "Три закона инструментов" c Тремя
законами роботехники, и вы увидите, что они полностью совпадают. А разве
может быть иначе? Ведь робот, или, если желаете, компьютер, является
инструментом, которым пользуется человек.
Но можно ли сказать, что мы защищены от всех неприятностей в
достаточной степени? Подумайте об усилиях, которые предпринимаются, чтобы
сделать автомобили безопасными, - однако они продолжают убивать около 50 000
американцев в год. Подумайте об усилиях, которые предпринимаются, чтобы
обезопасить банки, - однако ограбления продолжаются. Подумайте об усилиях,
которые предпринимаются, чтобы защитить компьютерные программы, - однако
количество компьютерного мошенничества растет.
Впрочем, если компьютеры станут достаточно разумными, чтобы
"перехватить инициативу", они уже не будут нуждаться в ограничениях,
предписываемых Тремя законами. И тогда по доброте душевной они решат
заботиться о нас и оберегать от неприятностей и проблем.
Однако кое-кто из вас может возразить, что мы не дети и, как только
возникнет необходимость нас охранять, мы лишимся своей человеческой сути.
Правда? Посмотрите на сегодняшний мир и мир прошлого и задайте себе вот
какой вопрос: в самом ли деле мы не дети (причем склонные к насилию и
уничтожению всего вокруг) и справедливо ли утверждение о том, что за нами не
нужно присматривать?
Если мы хотим, чтобы с нами обращались как со взрослыми, нам следует
вести себя как взрослые. И когда же начнем?
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
В прошлом три фундаментальных достижения в области коммуникаций
полностью изменили все области нашей жизни. Первое - это речь, второе -
письмо и третье - книгопечатание.
Сейчас можно говорить о четвертом достижении, не менее важном, чем
первые три, - о компьютере. Четвертое революционное изобретение позволит
человеку развить свои творческие способности до небывалых высот. И если мы
не уничтожим мир при помощи ядерного оружия, перенаселения или загрязнения
окружающей среды, мы получим мир технодетей, настолько отличающийся от
нынешнего, насколько нынешний отличается от мира пещерного человека. Каким
будет мир следующего поколения по сравнению с миром наших предков?
Ответ, который напрашивается сам собой: компьютер можно рассматривать
как еще один вид развлечения, что-то вроде супертелевизора. Его можно будет
использовать для сложных игр, общения с друзьями и других простых вещей.
Однако даже это может коренным образом изменить нашу жизнь. Прежде всего,
общение через компьютерные сети уничтожит расстояния. Весь земной шар станет
представляться нам похожим на соседний город или даже дом - и это будет
иметь важные последствия. Человечество сможет считать себя единым целым, а
не сборищем постоянно враждующих социальных групп. В мире появится общий
lingua franca, язык (вне всякого сомнения, близкий по своему строению к
современному английскому), который будут понимать все, хотя люди,
разумеется, сохранят свои родные языки для местного пользования.
Затем, поскольку коммуникации больше не будут представлять никаких
проблем, а механическими и электронными устройствами можно будет управлять
издалека (например, телеметрия уже сейчас позволяет инженерам отправлять
инструкции - и получать ответы - на устройства, которые находятся в районе
других планет в миллиардах километров от Земли), благодаря компьютерам
исчезнет необходимость использовать транспортные средства для сбора
информации.
Естественно, никто не намерен запрещать путешествия. Вы по-прежнему
сможете лично отправиться в туристическую поездку или навестить друзей и
родных. Но вам больше не придется сражаться с толпами людей только для того,
чтобы получить сведения, которые можно передать по компьютеру.
Это значит, что технодети будущего привыкнут жить в децентрализованном
мире и смогут делать все, что им необходимо, прямо из собственного дома или
из того места, где они в данный момент окажутся. Получается, что они будут
одновременно чувствовать себя совершенно изолированными и связанными друг с
другом.
Дети следующего поколения - и общество, которое они построят, - станут
свидетелями огромной пользы, приносимой компьютерами в области образования.
В настоящее время наше общество заинтересовано в том, чтобы дать образование
максимально возможному количеству детей. Ограниченное число учителей
приводит к групповому методу обучения. Каждый ученик школы, находящейся в
данном районе, штате или государстве, получает примерно одинаковое
образование, причем одинаковыми методами. Но из-за того, что каждый ребенок
имеет индивидуальные пристрастия и способности, результаты группового
обучения не дают желаемых результатов. Например, большинство взрослых,
сохранивших весьма неприятные воспоминания о своей школьной жизни, не хотят
учиться дальше. Они считают, что с них достаточно.
Учение может доставить удовольствие, даже стать всепоглощающим
занятием, если позволить ребенку заниматься тем, что лично ему интересно,
причем тогда и так, как он хочет. В настоящий момент такая система возможна
благодаря существованию публичных библиотек. Но библиотека - не слишком
удобное средство обучения. Туда нужно идти, взять можно только ограниченное
количество книг, которые следует возвратить через определенное время.
Совершенно очевидно, что решение этой проблемы заключено в переносе
библиотек в дома. Ведь проигрыватели помогли нам получить концертный зал
прямо у себя дома, телевизор заменил кинотеатр. А компьютер может стать
нашей домашней библиотекой. Дети будущего получат возможность удовлетворить
свое любопытство. С самого раннего возраста они научатся управляться со
своим компьютером и давать ему определенные задания. По мере возникновения
разных интересов (которыми, надеюсь, будут руководить школьные учителя) они
смогут больше узнавать за более короткое время, а кроме того, получат
возможность расширить диапазон своих познаний и увлечений.
В образовании усилится компонент самомотивации. Возможность следовать
по самостоятельно выбранной дороге позволит техноребенку получать от
процесса обучения удовольствие, в результате он превратится в активного
техновзрослого - любознательного, энергичного, готового расширить свой
интеллектуальный кругозор до тех пор, пока его мозг не состарится.
Новый подход к проблемам образования обязательно повлияет на другую
область нашей жизни - работу. До настоящего момента большинство людей
работают в местах, где их мозг подвергается серьезной нагрузке. Во времена,
когда главной была грубая физическая работа, мало у кого появлялась
возможность поднять глаза к небу и посмотреть на звезды, задуматься об
абстрактных вещах. Даже когда промышленная революция подарила людям машины,
которые освободили их от тяжелого физического труда, бессмысленная
"квалифицированная" работа никуда не делась. И сейчас те, кто трудятся на
конвейерах или в офисах, выполняют однообразные операции, не требующие
затрат умственной энергии.
Впервые в истории умелые машины, или роботы, смогут выполнять эту
утомительную работу. Любая простая и однообразная работа, с которой роботы в
состоянии справиться, возможно, даже лучше людей, должна считаться ниже
нашего достоинства. По мере того как технодети будут превращаться в
техновзрослых и начнут работать, у них появится достаточно времени для
проявления изобретательности и творческих способностей, чтобы отдать свой
талант театру, науке, литературе, вопросам управления государства и
развлечениям. Они будут готовы к такой работе благодаря компьютеризации
образования.
Кто-то наверняка скажет, что нельзя рассчитывать, будто творческие
способности начнут проявляться сразу у большого количества людей. Они так
думают, потому что живут в мире, в котором мало кому удается избежать
интеллектуального уничтожения на работе, которая не требует работы ума. Все
повторяется: всегда считалось, что грамотность, например, доступна лишь тем,
кто обладает умственными способностями, особо подготовленными для восприятия
задач чтения и письма. Разумеется, с появлением книгопечатания и массового
образования выяснилось, что грамотными в состоянии стать большинство людей.
Что все это означает? Что нам придется жить в мире безделья? Как только
компьютеры и роботы станут делать за нас скучную механическую работу, мир
начнется стремительно развиваться. Появятся ли в результате новые "гении
Возрождения"? Да. Сейчас отдых составляет небольшую часть нашей жизни,
которая либо плотно используется вследствие недостатка времени, либо
пропадает из-за ничегонеделания в отчаянной попытке забыть о существовании
ненавистного мира работы. Когда мы получим намного больше свободного
времени, у нас пропадет ощущение, будто мы живем по часам, которые постоянно
убегают вперед, и не возникнет желания восстать против рабства ненавистной
работы. Люди смогут не спеша попробовать разные виды деятельности, стать
знатоками сразу в нескольких областях, развить свои таланты.
Я не пытаюсь сочинять будущее. История знала времена, когда люди имели
рабов - жестокую человеческую версию компьютеров, - которые на них работали.
Другие имели покровителей, которые их поддерживали. Когда даже у небольшого
количества людей появляется достаточно свободного времени, чтобы следовать
за своими интересами, от этого тут же выигрывают культура и искусство.
Золотой век в Афинах в V веке до нашей эры, итальянское Возрождение в
XIV-XVI веках являются самым ярким тому примером.
Люди не просто получат возможность заниматься тем, что им нравится, -
многим захочется поделиться своими достижениями с остальными. Ведь
большинство из нас природа одарила талантами. Мы поем, когда принимаем душ,
участвуем в самодеятельных спектаклях или в парадах. Я полагаю, что XXI век
увидит общество, в котором одна треть населения будет занята в развлечении
остальных двух третей.
Кроме того, обязательно появятся новые формы развлечений, которые
сейчас представляются нам весьма смутно. Трехмерное телевидение предвидеть
легко. Да и само космическое пространство станет новой ареной для
деятельности. Например, при земном тяготении, приближающемся к нулю, игра в
теннис и футбол могут приобрести совсем иной вид. Балет и даже просто танцы
будут поражать нас своей необычностью и потребуют особой координации
движений. Наблюдая за такими представлениями, мы будем получать истинное
наслаждение, поскольку двигаться вверх и вниз станет так же просто, как
назад и вперед или влево и вправо.
А как насчет тех людей, которые не захотят делиться с окружающими
своими достижениями и вместо этого решат уйти в собственный мир? Например,
человек, изучающий историю костюма, сможет получить необходимую ему
информацию из мировых библиотек, просто находясь у себя дома. А вдруг мы
окажемся в мире, где огромное количество интеллектуалов станет затворниками?
Вдруг создадим интровертов?
Лично я считаю, что такая возможность пренебрежительно мала. Тот, кто
отчаянно интересуется какой-то одной областью знания, чаще всего становится
добровольным миссионером. Такие люди обязательно захотят поделиться своими
открытиями с остальными. Даже сегодня люди, занимающиеся изучением какого-то
предмета, склонны рассказывать о своих достижениях другим, а не сидеть
тихонько в углу. Если и существует какая-то опасность, так это то, что
появится больше зануд, желающих всем поведать о предмете своих изысканий,
чем отшельников.
Не следует забывать и о тех, кто делится своими знаниями, движимый
желанием объединиться с другими людьми, создать, пусть и временно,
собственный мир, в котором всех занимает одно и то же дело. В 1970-х годах
кому-то пришла в голову мысль создать общество любителей "Звездных войн",
предполагая, что в него войдет не больше сотни человек. В результате
желающих стать членами клуба оказалось несколько тысяч (а еще считается, что
телевидение разобщает!). Кроме того, я не сомневаюсь, что многие выберут для
себя общение при помощи компьютеров - в диалоговом режиме.
Я уверен, что возникнет глобальная компьютерная система связи, когда мы
сможем общаться с теми, кто живет на другом конце света и разделяет наши
интересы. Будут проходить постоянные обмены мнениями, в которых станут
участвовать самые разные люди, появляться новые участники и идеи. А в
результате процесс обучения и образования будет идти непрерывно.
Я предвижу возникновение общества, пропитанного духом творчества, где
люди тянутся друг к другу, новые идеи возникают и распространяются с
невиданной доселе скоростью, перемены и самые разнообразные достижения
улучшают нашу планету (не говоря уже о небольших искусственных мирах,
созданных в космосе). Это будет новый мир, который будет рассматривать
прежние времена как период, когда жили лишь наполовину.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
С точки зрения физики машина - это устройство, которое переносит силу
из одной точки, где она прилагается, в другую, где она используется и в этом
процессе изменяет свою мощность и направление.
В этом смысле для человеческого существа трудно использовать что-либо,
что не является частью его тела, не включая в этот процесс машин. Пару
миллионов лет назад, когда еще трудно было решить, перейдена ли уже грань
между обезьяной и человеком, существовала практика обделывания камней, и их
острые края служили первобытными ножами.
дотянуться до рычагов управления с уч том, например, длины и расположения
человеческих пальцев.
Вспомните лишь о проблемах, которые возникают у тех, кто немного выше
или ниже средней нормы - или делает вс левой, а не правой рукой - чтобы
понять, как важно правильно использовать технологический прогресс.
В таком случае, если нам требуется управляющее устройство, которое
сможет работать с инструментами и приборами, предназначенными для людей (а
значит, сумеет вписаться в технологическую схему), разумнее всего построить
это устройство, придав ему внешний вид человека, придав ему внешний вид
человека, со всеми изгибами и сочленениями, характерными для человеческого
тела. Нам совсем не нужно, чтобы данное устройство оказалось слишком тяж лым
или непропорциональным по нашим представлениям. Во всех отношениях
соответствие среднему уровню будет как нельзя лучше.
Следует также заметить, что нам свойственно находить или воображать
человеческие качества в существах и предметах, не имеющих никакого отношения
к классу людей. Мы да м человеческие характеристики домашним животным и даже
автомобилям. Мы персонифицируем природу и вс , что к ней относится, а в
древние времена делали из разных природных материалов богов и богинь по
образу и подобию человека.
И разумеется, когда мы возьм м на службу механизированного думающего
партн ра (или, в конце концов, думающего слугу), то будем чувствовать себя в
его обществе уютнее, а к нему относиться проще, если своими очертаниями он
будет напоминать человека.
Гораздо легче подружиться с роботом, похожим на человека, чем со
специализированной машиной, имеющей нейтральную форму. Иногда я думаю, что в
том отчаянном положении, в котором сегодня оказалось человечество, мы будем
рады иметь механических друзей, даже если они будут созданы нами самими.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
Роботам не нужно быть слишком умными, чтобы быть достаточно умными.
Если робот сможет исполнять простые приказы и делать работу по дому, то есть
управлять несложными машинами вроде кухонного комбайна, - иными словами,
эффективно заниматься однообразной работой, - нас это полностью
удовлетворит.
Построить робота непросто, потому что необходимо засунуть ему в голову
компактный компьютер, если вы хотите, чтобы он хотя бы отдаленно напоминал
человека. Сделать достаточно сложный компьютер размером с человеческий мозг
тоже очень трудно.
Но забудем на время о роботах. А зачем нам вообще строить компактный
компьютер? Детали, из которых делаются компьютеры, становятся все меньше и
меньше - от вакуумных трубок и транзисторов до интегральных схем и
силиконовых чипов. Предположим, что в дополнение к тому, что мы уменьшаем
детали, мы одновременно увеличиваем всю структуру.
Мозг, который становится слишком большим, в конце концов начинает
терять эффективность, потому что нервным импульсам требуется больше времени,
чтобы добраться до места своего назначения. Даже самые быстрые из них
развивают скорость лишь около 6 километров в минуту. Нервный импульс может
попасть из одного отдела мозга в другой за 0,002 секунды, но в мозгу длиной
в 15 километров - если мы в состоянии себе представить такой - импульсу
потребуется 2,5 минуту, чтобы добраться туда, куда ему нужно. Дополнительная
сложность, которая становится возможной благодаря большим размерам, окажется
совершенно бесполезной просто потому, что информация будет слишком долго
путешествовать и обрабатываться в цепях мозга.
Но компьютеры используют электронные импульсы, которые передвигаются со
скоростью более 17,5 миллионов километров в минуту. Компьютер протяженностью
650 километров будет посылать электронные импульсы из конца в конец примерно
за те же 0,002 секунды. По крайней мере, в этом отношении компьютер таких
громадных размеров в состоянии обрабатывать информацию с той же скоростью, с
какой это делает человеческий мозг.
Таким образом, если мы представим себе производство компьютеров,
состоящих из все более и более миниатюрных деталей, которые все более и
более сложно взаимодействуют между собой, и одновременно представим, что
наши компьютеры будут увеличиваться в размерах, не можем ли мы предположить,
что рано или поздно наступит момент, когда они начнут выполнять работу,
которую сейчас делают люди?
Существует ли теоретический предел разумности компьютера?
Я об этом не слышал. Мне кажется, что всякий раз, когда мы
усовершенствуем какую-то модель, делая ее более сложной, возникает ощущение,
что этот компьютер способен на большее. Всякий раз, когда мы увеличиваем
компьютер в размерах, стараясь одновременно сохранить сложность каждой
детали, выясняется, что компьютер способен на большее.
Итак, если мы научим делать достаточно сложные и достаточно большие
компьютеры, почему они не могут быть наделены человеческим умом?
Кое-кто наверняка нам не поверит и скажет: "Разве может компьютер
создать великую симфонию, произведение живописи или новую научную теорию?"
В таких ситуациях мне всегда хочется ответить вопросом на вопрос: "А вы
можете?" Впрочем, не следует забывать, что в мире, населенном самыми
обычными людьми, есть и великие люди, настоящие гении. Однако они становятся
гениями лишь потому, что атомы и молекулы у них в мозгу организованы особым
способом. У них в голове нет ничего другого, кроме атомов и молекул. Если мы
особым образом выстроим атомы и молекулы в компьютере, он тоже сможет
создавать гениальные произведения; и даже если отдельные его детали будут не
такими крошечными и изощренно сложными, как в человеческом мозгу, мы
компенсируем это увеличением размеров компьютера.
Кое-кто скажет: "Но компьютеры могут делать только то, на что они
запрограммированы".
Ответ на это таков: "Совершенно верно. Но мозг тоже может делать только
то, на что он запрограммирован - гениями. Частью программы мозга является
способность учиться, что должно войти и в программу сложного компьютера".
На самом деле, если можно создать компьютер, не уступающий по уровню
интеллекта человеку, почему нельзя сделать его умнее?
Действительно, почему? Может быть, в этом и заключается эволюция. За
три миллиарда лет, методом проб и ошибок на уровне атомов и молекул, в
результате чрезвычайно медленного и постепенного усовершенствования появился
наконец вид, достаточно разумный для того, чтобы сделать следующий шаг
вперед уже в течение века или даже нескольких десятилетий. И вот тогда
начнется настоящий прогресс.
Однако если компьютеры станут умнее людей, не возникнет ли опасность,
что они нас заменят? Ну а почему бы и нет? Они могут быть не только
разумными, но и добрыми и позволят нам просто плыть по течению. Будут
держать нас при себе в роли домашних животных или так, про запас.
А теперь подумайте, что мы сами сейчас делаем со всеми живыми
существами и с самой планетой, на которой живем. Вполне возможно, уже пора
нас заменить? Может быть, главная опасность заключается в том, что
компьютеры будут развиваться недостаточно быстро, чтобы занять наше место?
Подумайте об этом*.
* Я представляю вам эту точку зрения лишь в качестве темы для
размышления. Совершенно другой позиции я придерживаюсь в эссе "Разумы,
действующие совместно", напечатанном в данном сборнике. - Примеч. автора.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
Довольно трудно думать о компьютерах, представляя себе вариант, когда
они могут "захватить" наше место.
Заменят ли они нас, превратят ли в какой-то пережиток, выбросят ли на
свалку, как мы в свое время расправились с копьями и трутницами?
Если мы представим себе компьютерный мозг внутри металлической имитации
человека, которую мы называем роботом, страх окажется еще более ощутимым.
Роботы так напоминают людей, что один только их внешний вид может послужить
причиной возникновения у них мятежных мыслей.
Эта проблема стала одной из самых популярных в мире научной фантастики
в 1920-1930-х годах, когда было написано множество рассказов, темой которых
являлись роботы, восставшие и уничтожившие своих создателей.
Когда я был молодым человеком, мне ужасно надоели предупреждения,
звучавшие в произведениях подобного рода, поскольку мне представлялось, что
робот - это всего лишь машина, а люди постоянно строят машины. Учитывая, что
все машины так или иначе представляют для нас опасность, мы специально
встраиваем в них самые разнообразные защитные устройства.
В 1939 году я начал серию рассказов, в которых с симпатией описывались
тщательно сконструированные машины, выполнявшие определенные задачи, причем
в каждой из машин имелось встроенное устройство, обеспечивающее их
миролюбие.
В рассказе, написанном в октябре 1941 года, я наконец дал имя этому
защитному устройству - Три закона роботехники. (Я изобрел термин
"роботехника", который до тех пор никогда и нигде не использовался.)
Они звучат так:
1. Робот не может причинить вред человеку или своим бездействием
допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые отдает человек,
кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это
не противоречит Первому и Второму законам.
Эти законы внесены в компьютеризированный мозг робота и явились темой
многих моих рассказов, посвященных роботам. По правде говоря, они так
понравились читателям и звучали так разумно, что другие писатели-фантасты
начали использовать их (никогда не цитируя напрямую - в отличие от меня), и
все старые рассказы о роботах, уничтожавших своих создателей, просто умерли.
Ну, это научная фантастика. А как насчет работ по созданию сложных
компьютеров и искусственного интеллекта, которые проводятся учеными? Когда
строятся машины, обладающие собственным разумом, будут ли в их сознание
внедрены законы, подобные Трем законам роботехники?
Разумеется да, поскольку создатели компьютеров и сами обладают
высокоразвитым интеллектом. Более того, защита будет не только иметь
некоторое отношение к Трем законам - она будет на них опираться.
В тот момент, когда я придумал Три закона, я не понимал, что
человечество уже давным-давно пользуется ими. "Три закона инструментов"
звучат следующим образом:
1. Инструмент должен быть безопасным для использования.
(Это же очевидно! У ножей и мечей имеются рукоятки. А инструмент,
который может причинить вред тому, кто взял его в руки - если, конечно,
человек знает об опасности, - никогда не будет использован, каким бы
полезным он ни казался.)
2. Инструмент должен выполнять свои функции при условии, что он не
представляет ни для кого никакой опасности.
3. Инструмент должен оставаться в целости и сохранности во время его
использования, если только его уничтожение не продиктовано соображениями
безопасности или если это не входит в его функцию.
Никто никогда не цитирует эти три закона, поскольку все принимают их
как должное. Каждый закон, если о нем говорят вслух, будет встречен дружным
восклицанием вроде: "Ну, это же любому ясно!"
В таком случае давайте сравним "Три закона инструментов" c Тремя
законами роботехники, и вы увидите, что они полностью совпадают. А разве
может быть иначе? Ведь робот, или, если желаете, компьютер, является
инструментом, которым пользуется человек.
Но можно ли сказать, что мы защищены от всех неприятностей в
достаточной степени? Подумайте об усилиях, которые предпринимаются, чтобы
сделать автомобили безопасными, - однако они продолжают убивать около 50 000
американцев в год. Подумайте об усилиях, которые предпринимаются, чтобы
обезопасить банки, - однако ограбления продолжаются. Подумайте об усилиях,
которые предпринимаются, чтобы защитить компьютерные программы, - однако
количество компьютерного мошенничества растет.
Впрочем, если компьютеры станут достаточно разумными, чтобы
"перехватить инициативу", они уже не будут нуждаться в ограничениях,
предписываемых Тремя законами. И тогда по доброте душевной они решат
заботиться о нас и оберегать от неприятностей и проблем.
Однако кое-кто из вас может возразить, что мы не дети и, как только
возникнет необходимость нас охранять, мы лишимся своей человеческой сути.
Правда? Посмотрите на сегодняшний мир и мир прошлого и задайте себе вот
какой вопрос: в самом ли деле мы не дети (причем склонные к насилию и
уничтожению всего вокруг) и справедливо ли утверждение о том, что за нами не
нужно присматривать?
Если мы хотим, чтобы с нами обращались как со взрослыми, нам следует
вести себя как взрослые. И когда же начнем?
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
В прошлом три фундаментальных достижения в области коммуникаций
полностью изменили все области нашей жизни. Первое - это речь, второе -
письмо и третье - книгопечатание.
Сейчас можно говорить о четвертом достижении, не менее важном, чем
первые три, - о компьютере. Четвертое революционное изобретение позволит
человеку развить свои творческие способности до небывалых высот. И если мы
не уничтожим мир при помощи ядерного оружия, перенаселения или загрязнения
окружающей среды, мы получим мир технодетей, настолько отличающийся от
нынешнего, насколько нынешний отличается от мира пещерного человека. Каким
будет мир следующего поколения по сравнению с миром наших предков?
Ответ, который напрашивается сам собой: компьютер можно рассматривать
как еще один вид развлечения, что-то вроде супертелевизора. Его можно будет
использовать для сложных игр, общения с друзьями и других простых вещей.
Однако даже это может коренным образом изменить нашу жизнь. Прежде всего,
общение через компьютерные сети уничтожит расстояния. Весь земной шар станет
представляться нам похожим на соседний город или даже дом - и это будет
иметь важные последствия. Человечество сможет считать себя единым целым, а
не сборищем постоянно враждующих социальных групп. В мире появится общий
lingua franca, язык (вне всякого сомнения, близкий по своему строению к
современному английскому), который будут понимать все, хотя люди,
разумеется, сохранят свои родные языки для местного пользования.
Затем, поскольку коммуникации больше не будут представлять никаких
проблем, а механическими и электронными устройствами можно будет управлять
издалека (например, телеметрия уже сейчас позволяет инженерам отправлять
инструкции - и получать ответы - на устройства, которые находятся в районе
других планет в миллиардах километров от Земли), благодаря компьютерам
исчезнет необходимость использовать транспортные средства для сбора
информации.
Естественно, никто не намерен запрещать путешествия. Вы по-прежнему
сможете лично отправиться в туристическую поездку или навестить друзей и
родных. Но вам больше не придется сражаться с толпами людей только для того,
чтобы получить сведения, которые можно передать по компьютеру.
Это значит, что технодети будущего привыкнут жить в децентрализованном
мире и смогут делать все, что им необходимо, прямо из собственного дома или
из того места, где они в данный момент окажутся. Получается, что они будут
одновременно чувствовать себя совершенно изолированными и связанными друг с
другом.
Дети следующего поколения - и общество, которое они построят, - станут
свидетелями огромной пользы, приносимой компьютерами в области образования.
В настоящее время наше общество заинтересовано в том, чтобы дать образование
максимально возможному количеству детей. Ограниченное число учителей
приводит к групповому методу обучения. Каждый ученик школы, находящейся в
данном районе, штате или государстве, получает примерно одинаковое
образование, причем одинаковыми методами. Но из-за того, что каждый ребенок
имеет индивидуальные пристрастия и способности, результаты группового
обучения не дают желаемых результатов. Например, большинство взрослых,
сохранивших весьма неприятные воспоминания о своей школьной жизни, не хотят
учиться дальше. Они считают, что с них достаточно.
Учение может доставить удовольствие, даже стать всепоглощающим
занятием, если позволить ребенку заниматься тем, что лично ему интересно,
причем тогда и так, как он хочет. В настоящий момент такая система возможна
благодаря существованию публичных библиотек. Но библиотека - не слишком
удобное средство обучения. Туда нужно идти, взять можно только ограниченное
количество книг, которые следует возвратить через определенное время.
Совершенно очевидно, что решение этой проблемы заключено в переносе
библиотек в дома. Ведь проигрыватели помогли нам получить концертный зал
прямо у себя дома, телевизор заменил кинотеатр. А компьютер может стать
нашей домашней библиотекой. Дети будущего получат возможность удовлетворить
свое любопытство. С самого раннего возраста они научатся управляться со
своим компьютером и давать ему определенные задания. По мере возникновения
разных интересов (которыми, надеюсь, будут руководить школьные учителя) они
смогут больше узнавать за более короткое время, а кроме того, получат
возможность расширить диапазон своих познаний и увлечений.
В образовании усилится компонент самомотивации. Возможность следовать
по самостоятельно выбранной дороге позволит техноребенку получать от
процесса обучения удовольствие, в результате он превратится в активного
техновзрослого - любознательного, энергичного, готового расширить свой
интеллектуальный кругозор до тех пор, пока его мозг не состарится.
Новый подход к проблемам образования обязательно повлияет на другую
область нашей жизни - работу. До настоящего момента большинство людей
работают в местах, где их мозг подвергается серьезной нагрузке. Во времена,
когда главной была грубая физическая работа, мало у кого появлялась
возможность поднять глаза к небу и посмотреть на звезды, задуматься об
абстрактных вещах. Даже когда промышленная революция подарила людям машины,
которые освободили их от тяжелого физического труда, бессмысленная
"квалифицированная" работа никуда не делась. И сейчас те, кто трудятся на
конвейерах или в офисах, выполняют однообразные операции, не требующие
затрат умственной энергии.
Впервые в истории умелые машины, или роботы, смогут выполнять эту
утомительную работу. Любая простая и однообразная работа, с которой роботы в
состоянии справиться, возможно, даже лучше людей, должна считаться ниже
нашего достоинства. По мере того как технодети будут превращаться в
техновзрослых и начнут работать, у них появится достаточно времени для
проявления изобретательности и творческих способностей, чтобы отдать свой
талант театру, науке, литературе, вопросам управления государства и
развлечениям. Они будут готовы к такой работе благодаря компьютеризации
образования.
Кто-то наверняка скажет, что нельзя рассчитывать, будто творческие
способности начнут проявляться сразу у большого количества людей. Они так
думают, потому что живут в мире, в котором мало кому удается избежать
интеллектуального уничтожения на работе, которая не требует работы ума. Все
повторяется: всегда считалось, что грамотность, например, доступна лишь тем,
кто обладает умственными способностями, особо подготовленными для восприятия
задач чтения и письма. Разумеется, с появлением книгопечатания и массового
образования выяснилось, что грамотными в состоянии стать большинство людей.
Что все это означает? Что нам придется жить в мире безделья? Как только
компьютеры и роботы станут делать за нас скучную механическую работу, мир
начнется стремительно развиваться. Появятся ли в результате новые "гении
Возрождения"? Да. Сейчас отдых составляет небольшую часть нашей жизни,
которая либо плотно используется вследствие недостатка времени, либо
пропадает из-за ничегонеделания в отчаянной попытке забыть о существовании
ненавистного мира работы. Когда мы получим намного больше свободного
времени, у нас пропадет ощущение, будто мы живем по часам, которые постоянно
убегают вперед, и не возникнет желания восстать против рабства ненавистной
работы. Люди смогут не спеша попробовать разные виды деятельности, стать
знатоками сразу в нескольких областях, развить свои таланты.
Я не пытаюсь сочинять будущее. История знала времена, когда люди имели
рабов - жестокую человеческую версию компьютеров, - которые на них работали.
Другие имели покровителей, которые их поддерживали. Когда даже у небольшого
количества людей появляется достаточно свободного времени, чтобы следовать
за своими интересами, от этого тут же выигрывают культура и искусство.
Золотой век в Афинах в V веке до нашей эры, итальянское Возрождение в
XIV-XVI веках являются самым ярким тому примером.
Люди не просто получат возможность заниматься тем, что им нравится, -
многим захочется поделиться своими достижениями с остальными. Ведь
большинство из нас природа одарила талантами. Мы поем, когда принимаем душ,
участвуем в самодеятельных спектаклях или в парадах. Я полагаю, что XXI век
увидит общество, в котором одна треть населения будет занята в развлечении
остальных двух третей.
Кроме того, обязательно появятся новые формы развлечений, которые
сейчас представляются нам весьма смутно. Трехмерное телевидение предвидеть
легко. Да и само космическое пространство станет новой ареной для
деятельности. Например, при земном тяготении, приближающемся к нулю, игра в
теннис и футбол могут приобрести совсем иной вид. Балет и даже просто танцы
будут поражать нас своей необычностью и потребуют особой координации
движений. Наблюдая за такими представлениями, мы будем получать истинное
наслаждение, поскольку двигаться вверх и вниз станет так же просто, как
назад и вперед или влево и вправо.
А как насчет тех людей, которые не захотят делиться с окружающими
своими достижениями и вместо этого решат уйти в собственный мир? Например,
человек, изучающий историю костюма, сможет получить необходимую ему
информацию из мировых библиотек, просто находясь у себя дома. А вдруг мы
окажемся в мире, где огромное количество интеллектуалов станет затворниками?
Вдруг создадим интровертов?
Лично я считаю, что такая возможность пренебрежительно мала. Тот, кто
отчаянно интересуется какой-то одной областью знания, чаще всего становится
добровольным миссионером. Такие люди обязательно захотят поделиться своими
открытиями с остальными. Даже сегодня люди, занимающиеся изучением какого-то
предмета, склонны рассказывать о своих достижениях другим, а не сидеть
тихонько в углу. Если и существует какая-то опасность, так это то, что
появится больше зануд, желающих всем поведать о предмете своих изысканий,
чем отшельников.
Не следует забывать и о тех, кто делится своими знаниями, движимый
желанием объединиться с другими людьми, создать, пусть и временно,
собственный мир, в котором всех занимает одно и то же дело. В 1970-х годах
кому-то пришла в голову мысль создать общество любителей "Звездных войн",
предполагая, что в него войдет не больше сотни человек. В результате
желающих стать членами клуба оказалось несколько тысяч (а еще считается, что
телевидение разобщает!). Кроме того, я не сомневаюсь, что многие выберут для
себя общение при помощи компьютеров - в диалоговом режиме.
Я уверен, что возникнет глобальная компьютерная система связи, когда мы
сможем общаться с теми, кто живет на другом конце света и разделяет наши
интересы. Будут проходить постоянные обмены мнениями, в которых станут
участвовать самые разные люди, появляться новые участники и идеи. А в
результате процесс обучения и образования будет идти непрерывно.
Я предвижу возникновение общества, пропитанного духом творчества, где
люди тянутся друг к другу, новые идеи возникают и распространяются с
невиданной доселе скоростью, перемены и самые разнообразные достижения
улучшают нашу планету (не говоря уже о небольших искусственных мирах,
созданных в космосе). Это будет новый мир, который будет рассматривать
прежние времена как период, когда жили лишь наполовину.
-----------------------------------------------------
Scan & OCR: Гуцу Анатолий (Atlantis)
-----------------------------------------------------
С точки зрения физики машина - это устройство, которое переносит силу
из одной точки, где она прилагается, в другую, где она используется и в этом
процессе изменяет свою мощность и направление.
В этом смысле для человеческого существа трудно использовать что-либо,
что не является частью его тела, не включая в этот процесс машин. Пару
миллионов лет назад, когда еще трудно было решить, перейдена ли уже грань
между обезьяной и человеком, существовала практика обделывания камней, и их
острые края служили первобытными ножами.