Я прочел множество трудов и книг, абсолютизирующих возможность создания внечеловеческого интеллекта, но и не меньшее число неплохо мотивированных обоснований, в которых авторы пытаются доказать читателям, что эта концепция не может быть и никогда не будет реализована. Поистине трудно возвыситься над массой столь противоречивых и столь компетентно доказываемых мнений. Следует быть скромным, что означает, что мы находимся на дороге недалеко от нейронных сетей и уже знаем, что поставленная метазадача оказывается тем трудней для осуществления, чем дальше по этой дороге мы продвигаемся. Вместе с тем мы знаем, что здесь речь идет о чрезвычайно сложной конструкции, считающейся наиболее сложной во всей Вселенной и потому, когда говорится об искусственном интеллекте, следует благоразумно ограничиться парой простых образных метафор. Было время, не столь уж давнее, когда утверждение невозможности покорения человеком высочайшей вершины Гималаев без использования кислородных аппаратов считалось неоспоримым. Всего лишь через несколько лет после этого столь радикального суждения Эверест не только был покорен, но к сегодняшнему дню на него уже многократно взбирались без кислородной поддержки. Мы также знаем, что это не организм человека оказался способным на протяжении нескольких лет измениться до такой степени, что гималайские восхождения стали общедоступными, а упорство в достижении поставленных высоких целей смогло дать хорошие результаты. Я рассказываю о чем-то, чего мы хорошо не понимаем, так же как не понимаем, почему злокачественные новообразования, не только возникшие в одном месте человеческого организма, но и такие, которые дали уже множественные метастазы, в разных случаях и у различных людей имеют абсолютно неожиданный финал. Бывает, что врач встречает бывшего пациента, согласно всем медицинским показаниям считавшегося скорым покойником, прогуливающимся по парку в прекрасном здравии. Почему одним удается ускользнуть из-под лопаты гробовщика, а другим - нет, остается загадкой, о которой, по правде говоря, медицина предпочитает вспоминать не слишком часто.
Третий образ, относящийся к вопросу о возможности конструирования искусственного интеллекта, также касается медицины, но является, по крайней мере, более понятным. В настоящее время уже практикуются хирургические операции, требующие столь изощренной деликатности, что руки лучших хирургов не могут с ними справиться. Тогда человека заменяет соответствующий робот, управляемый программой и двигающий хирургическими инструментами. Речь идет о сфере, пока находящейся в границах довольно узкой специализации, и от нее еще далеко до нано-, пико- и фемтоинженерии. То есть до искусства манипулирования, соединения и разложения отдельных молекул, до сих пор не существующих полимеров, а также мельчайших элементов, из которых складываются жизненные процессы. При этом следует иметь в виду, что усилие, вложенное эволюционными процессами в такого рода производство вовсе не должно быть чем-то, чего мы не можем превзойти и перешагнуть. Мое антропоморфическое заключение в последнем предложении - следствие недостаточного еще богатства нашей биотехнологической лексики. Открытия, процессы или архитектоника, опускающиеся на атомный уровень материи, вынуждают нас придумывать многочисленные новые названия, так же как происходило тогда, когда электронная связь вместе с базами экспертной информации начали очаровывать людей и овладевать их миром. На пороге XXI столетия мы просто засыпаны лавинами новостей о поразительном множестве продуктов, выброшенных производителями электроники на рынок, и поощряемы к использованию плодов этого Древа Новостей. Как известно, в раю Змею удалось уговорить наших прародителей попробовать яблоко, что им дорого стоило. Сейчас нам предлагают настоящие сады электронных райских яблочек, что неизбежно будет иметь как хорошие, так и плохие стороны, поскольку такова двойственная природа вещей. Все же не бессмысленным было бы напоминание, что на протяжении последних двухсот с небольшим лет на арене человеческой истории выступали вновь открываемые и используемые технологии в могучем блеске обещаний нас изрядно осчастливить. Каждое изобретение оказывалось сенсацией, был ли это фонограф, или телефон, или первый подводный кабель, соединивший Европу с Америкой, или воздушный шар, или самолет. Все эти, по очереди открываемые элементы расширяющейся техносферы человека, послужили затем усовершенствованию как экономических, так и военных достижений человечества. Сейчас ученые, а в особенности исследователи микромира (в частности - квантового), не пользуются ни всеобщей известностью, ни широко простирающейся славой. Сегодня средства массовой информации прославляют скорей звезд экрана. Однако телесные прелести проходят, в то же время в науке происходит нарастающее ускорение, как у автокаталитического процесса. Поэтому возможно, что мы не раскроем в надвигающемся тысячелетии тайну интеллекта, но зато сумеем сымитировать его так удачно, что окруженные легионами и сонмами имитаций, все сильнее будем попадать под их заботливую опеку. Это означает, что суверенность личностей будет одновременно парадоксально и усиливаться, и уменьшаться, и параллельно свой действительный облик начнет проявлять так называемая глобализация. Глобализация есть не что иное, как ограничение суверенитета отдельных государств для защиты их от серьезных катастроф, направление которых одними обществами на другие представляет любимую забаву людей, особенно тех, кто у власти, поэтому необходимость появления всемирного правительства будет возрастать. Доминиканец Дюбарле (Dubarle), приветствовавший появление книги Норберта Винера о кибернетике в 1948 году статьей, представляющей возможность уже не фантастической машины для управления, будет иметь, вероятно, как пропагандистов, так и противников - антимашинных террористов, поскольку не только в единственном числе one man’s meat is another man’s poison.
Из моря статей, пытающихся осветить будущее, я выбираю одну из английского еженедельника «New Scientist», разрекламированную на обложке, в которой говорится, что каждый может стать гением. Из самой же статьи я узнаю, что дети, страдающие аутизмом, или иначе - умственно отсталые, иногда могут по способностям в какой-нибудь одной области быть на голову выше обычных людей. Собственно говоря, речь идет о явлении, изученном и описанном в психологической литературе как особый вид чрезвычайной психической работоспособности молодого индивида с общим очень низким уровнем интеллекта. Конкретно речь идет о феноменальных вычислителях, способных соревноваться с математическими машинами, об эйдетиках, которые, бросив взгляд на страницу, могут процитировать весь помещенный на ней текст, как будто сфотографировав его. Подобные явления могут быть также родственны отдельным и редким талантам в области игр, особенно шахмат. О действительных основах такого рода феноменов, которые могут гордиться узкими, часто интуитивными способностями, мы знаем очень мало. Может быть, главная трудность познания сводится к тому, что человеческий разум охватывается сознанием и что особенно у творцов, но в некоторой мере и у всех людей, уступает на пороге сознания визуализации или вербализации, после чего только на следующем этапе умственной деятельности оказывается введенным в поле сознания. Я не знаю, являюсь ли я характерным примером, что большинство беллетристических произведений писались мне в этом понимании "сами", что я писал, не зная заранее ни сюжетной схемы, ни ее узловых мест, ни, в конце концов, финала. Таким образом, я писал как будто диктант, только то, что я написал, было мне самому продиктовано такими функциональными сферами моего мозга, к которым я не имею никакого интроспективного входа. Как правило, таков был созидательный механизм, который я не намерен ни хвалить, ни критиковать, так как мне кажется, что в многообразных вариантах он может быть присущ всем. В особенности в снах, в гипоноических, гипобулических, гипнотических состояниях как будто бы обособляется какая-то функциональная способность мозга, над эффектами которой очень трудно, если вообще это возможно, взять верх актом воли. Что это значит? Я считаю, что расшифровка таких психических феноменов понемногу обнаружит их тривиальную природу и происхождение. Говоря как можно проще, речь идет о том, что мозг современного человека возникал, формируемый генными мутациями на протяжении последнего миллиона лет, не для того, чтобы мы музицировали, рисовали, рифмовали или занимались прозой, или физикой, или философией. Нам уже сейчас известно, как разветвлено и как раскидисто было древо пралюдей-троглодитов, как на нем быстро росли антропоидные ветви, как в боковых линиях или также ветвях появлялись создания, называемые homo afarensis, homo habilis, homo neandertalensis (уже называемый sapiens), как эти все генные мутации формировали тело и мозг, которые в конфронтациях с земным миром видимо показывали свою плохую стабильность, некий свой адаптационный недостаток, в результате чего эта генная игра, замирая в отдельных ответвлениях, как бы начинала партию заново, пока наконец не сформировался, как вершина, homo sapiens. Если бы сейчас повторить вкратце сказанное, речь шла просто о чем-то таком, что происходит в мастерской скульптора, который должен смоделировать, будучи глухим и слепым, некую фигуру. Этот скульптор, неоднократно недовольный результатами созидания, опять разминает глину и принимается за следующую попытку. Разумеется, в случае игры, ведущейся между генотипами и фенотипами, должны происходить несравненно более запутанные и во мраке веков уже погасшие связи.
Происходило таким образом, что мозг возникал действительно как целое, но построенное из отдельных модулей, которые необязательно сразу были согласованы друг с другом функционально, поскольку эту миллионнолетнюю антропогенетическую битву никто не проектировал и не контролировал. В результате этого различные умения, размещенные в разных частях мозга, на его различных уровнях, в удивительным образом соединенных центрах и ядрах в различной мере сохраняли свою автономию. В принципе это было действительно подобно, хотя в миллионы раз сложнее, такому тасованию и раздаче карт, при котором слепо и упорно стремятся достичь гомеостатической стабильности. Поэтому также не может быть даже речи о том, что велся один вид игры за человека и что управлял им один вид раздачи. Ответвлений было очень много, были australopithecinae, был pithecanthropus robustus, и это множество тогда сдало экзамен умения, когда, по меньшей мере четверть миллиона лет назад, человек, до этого времени живущий толпой, начал жить общественно и размножался, в результате чего расселился по всей Земле. И все же некоторые функционально необычные формирования неудачных прототипов, закодированных в генотипах, как бы продолжались и появлялись в разных местах и в разных условиях, один раз - удачно, другой раз - гибельно. Достаточно представить себе, какой должна была быть судьба человека с мозгом Эйнштейна, родившегося в пещерную эпоху. Суммировать все это можно следующим образом: мы возникли из составных частей в ходе игры, при этом эволюция тестировала фактические видовые способности, но в то же время она не занималась созданием интроспективных зондов, которые позволили бы нашему мышлению изучить самого себя, поэтому у нас есть интуиция, но нам ничего не известно о ее механизме, поэтому мы помним, говорим, пишем и понимаем, но не знаем, как это делается. Человеку достаточно посмотреть на самого себя, чтобы он понял, насколько ограничена его телесная сфера, подверженная автоконтролю. Мы устроены так, что раны заживают, но не знаем (кроме медиков), как это происходит. Одним словом, название старой книги Каррела (Carrel) «Человек - существо неизвестное» все еще актуально. Мы не только не знаем себя, но мы также не знаем, как будем поступать в непредвиденных ситуациях. Не знаю, пойдут ли нам на пользу (а хотелось бы) исследования, которые в конце сделают возможным создание искусственного интеллекта.
Перевел с польского Виктор Язневич
Третий образ, относящийся к вопросу о возможности конструирования искусственного интеллекта, также касается медицины, но является, по крайней мере, более понятным. В настоящее время уже практикуются хирургические операции, требующие столь изощренной деликатности, что руки лучших хирургов не могут с ними справиться. Тогда человека заменяет соответствующий робот, управляемый программой и двигающий хирургическими инструментами. Речь идет о сфере, пока находящейся в границах довольно узкой специализации, и от нее еще далеко до нано-, пико- и фемтоинженерии. То есть до искусства манипулирования, соединения и разложения отдельных молекул, до сих пор не существующих полимеров, а также мельчайших элементов, из которых складываются жизненные процессы. При этом следует иметь в виду, что усилие, вложенное эволюционными процессами в такого рода производство вовсе не должно быть чем-то, чего мы не можем превзойти и перешагнуть. Мое антропоморфическое заключение в последнем предложении - следствие недостаточного еще богатства нашей биотехнологической лексики. Открытия, процессы или архитектоника, опускающиеся на атомный уровень материи, вынуждают нас придумывать многочисленные новые названия, так же как происходило тогда, когда электронная связь вместе с базами экспертной информации начали очаровывать людей и овладевать их миром. На пороге XXI столетия мы просто засыпаны лавинами новостей о поразительном множестве продуктов, выброшенных производителями электроники на рынок, и поощряемы к использованию плодов этого Древа Новостей. Как известно, в раю Змею удалось уговорить наших прародителей попробовать яблоко, что им дорого стоило. Сейчас нам предлагают настоящие сады электронных райских яблочек, что неизбежно будет иметь как хорошие, так и плохие стороны, поскольку такова двойственная природа вещей. Все же не бессмысленным было бы напоминание, что на протяжении последних двухсот с небольшим лет на арене человеческой истории выступали вновь открываемые и используемые технологии в могучем блеске обещаний нас изрядно осчастливить. Каждое изобретение оказывалось сенсацией, был ли это фонограф, или телефон, или первый подводный кабель, соединивший Европу с Америкой, или воздушный шар, или самолет. Все эти, по очереди открываемые элементы расширяющейся техносферы человека, послужили затем усовершенствованию как экономических, так и военных достижений человечества. Сейчас ученые, а в особенности исследователи микромира (в частности - квантового), не пользуются ни всеобщей известностью, ни широко простирающейся славой. Сегодня средства массовой информации прославляют скорей звезд экрана. Однако телесные прелести проходят, в то же время в науке происходит нарастающее ускорение, как у автокаталитического процесса. Поэтому возможно, что мы не раскроем в надвигающемся тысячелетии тайну интеллекта, но зато сумеем сымитировать его так удачно, что окруженные легионами и сонмами имитаций, все сильнее будем попадать под их заботливую опеку. Это означает, что суверенность личностей будет одновременно парадоксально и усиливаться, и уменьшаться, и параллельно свой действительный облик начнет проявлять так называемая глобализация. Глобализация есть не что иное, как ограничение суверенитета отдельных государств для защиты их от серьезных катастроф, направление которых одними обществами на другие представляет любимую забаву людей, особенно тех, кто у власти, поэтому необходимость появления всемирного правительства будет возрастать. Доминиканец Дюбарле (Dubarle), приветствовавший появление книги Норберта Винера о кибернетике в 1948 году статьей, представляющей возможность уже не фантастической машины для управления, будет иметь, вероятно, как пропагандистов, так и противников - антимашинных террористов, поскольку не только в единственном числе one man’s meat is another man’s poison.
Из моря статей, пытающихся осветить будущее, я выбираю одну из английского еженедельника «New Scientist», разрекламированную на обложке, в которой говорится, что каждый может стать гением. Из самой же статьи я узнаю, что дети, страдающие аутизмом, или иначе - умственно отсталые, иногда могут по способностям в какой-нибудь одной области быть на голову выше обычных людей. Собственно говоря, речь идет о явлении, изученном и описанном в психологической литературе как особый вид чрезвычайной психической работоспособности молодого индивида с общим очень низким уровнем интеллекта. Конкретно речь идет о феноменальных вычислителях, способных соревноваться с математическими машинами, об эйдетиках, которые, бросив взгляд на страницу, могут процитировать весь помещенный на ней текст, как будто сфотографировав его. Подобные явления могут быть также родственны отдельным и редким талантам в области игр, особенно шахмат. О действительных основах такого рода феноменов, которые могут гордиться узкими, часто интуитивными способностями, мы знаем очень мало. Может быть, главная трудность познания сводится к тому, что человеческий разум охватывается сознанием и что особенно у творцов, но в некоторой мере и у всех людей, уступает на пороге сознания визуализации или вербализации, после чего только на следующем этапе умственной деятельности оказывается введенным в поле сознания. Я не знаю, являюсь ли я характерным примером, что большинство беллетристических произведений писались мне в этом понимании "сами", что я писал, не зная заранее ни сюжетной схемы, ни ее узловых мест, ни, в конце концов, финала. Таким образом, я писал как будто диктант, только то, что я написал, было мне самому продиктовано такими функциональными сферами моего мозга, к которым я не имею никакого интроспективного входа. Как правило, таков был созидательный механизм, который я не намерен ни хвалить, ни критиковать, так как мне кажется, что в многообразных вариантах он может быть присущ всем. В особенности в снах, в гипоноических, гипобулических, гипнотических состояниях как будто бы обособляется какая-то функциональная способность мозга, над эффектами которой очень трудно, если вообще это возможно, взять верх актом воли. Что это значит? Я считаю, что расшифровка таких психических феноменов понемногу обнаружит их тривиальную природу и происхождение. Говоря как можно проще, речь идет о том, что мозг современного человека возникал, формируемый генными мутациями на протяжении последнего миллиона лет, не для того, чтобы мы музицировали, рисовали, рифмовали или занимались прозой, или физикой, или философией. Нам уже сейчас известно, как разветвлено и как раскидисто было древо пралюдей-троглодитов, как на нем быстро росли антропоидные ветви, как в боковых линиях или также ветвях появлялись создания, называемые homo afarensis, homo habilis, homo neandertalensis (уже называемый sapiens), как эти все генные мутации формировали тело и мозг, которые в конфронтациях с земным миром видимо показывали свою плохую стабильность, некий свой адаптационный недостаток, в результате чего эта генная игра, замирая в отдельных ответвлениях, как бы начинала партию заново, пока наконец не сформировался, как вершина, homo sapiens. Если бы сейчас повторить вкратце сказанное, речь шла просто о чем-то таком, что происходит в мастерской скульптора, который должен смоделировать, будучи глухим и слепым, некую фигуру. Этот скульптор, неоднократно недовольный результатами созидания, опять разминает глину и принимается за следующую попытку. Разумеется, в случае игры, ведущейся между генотипами и фенотипами, должны происходить несравненно более запутанные и во мраке веков уже погасшие связи.
Происходило таким образом, что мозг возникал действительно как целое, но построенное из отдельных модулей, которые необязательно сразу были согласованы друг с другом функционально, поскольку эту миллионнолетнюю антропогенетическую битву никто не проектировал и не контролировал. В результате этого различные умения, размещенные в разных частях мозга, на его различных уровнях, в удивительным образом соединенных центрах и ядрах в различной мере сохраняли свою автономию. В принципе это было действительно подобно, хотя в миллионы раз сложнее, такому тасованию и раздаче карт, при котором слепо и упорно стремятся достичь гомеостатической стабильности. Поэтому также не может быть даже речи о том, что велся один вид игры за человека и что управлял им один вид раздачи. Ответвлений было очень много, были australopithecinae, был pithecanthropus robustus, и это множество тогда сдало экзамен умения, когда, по меньшей мере четверть миллиона лет назад, человек, до этого времени живущий толпой, начал жить общественно и размножался, в результате чего расселился по всей Земле. И все же некоторые функционально необычные формирования неудачных прототипов, закодированных в генотипах, как бы продолжались и появлялись в разных местах и в разных условиях, один раз - удачно, другой раз - гибельно. Достаточно представить себе, какой должна была быть судьба человека с мозгом Эйнштейна, родившегося в пещерную эпоху. Суммировать все это можно следующим образом: мы возникли из составных частей в ходе игры, при этом эволюция тестировала фактические видовые способности, но в то же время она не занималась созданием интроспективных зондов, которые позволили бы нашему мышлению изучить самого себя, поэтому у нас есть интуиция, но нам ничего не известно о ее механизме, поэтому мы помним, говорим, пишем и понимаем, но не знаем, как это делается. Человеку достаточно посмотреть на самого себя, чтобы он понял, насколько ограничена его телесная сфера, подверженная автоконтролю. Мы устроены так, что раны заживают, но не знаем (кроме медиков), как это происходит. Одним словом, название старой книги Каррела (Carrel) «Человек - существо неизвестное» все еще актуально. Мы не только не знаем себя, но мы также не знаем, как будем поступать в непредвиденных ситуациях. Не знаю, пойдут ли нам на пользу (а хотелось бы) исследования, которые в конце сделают возможным создание искусственного интеллекта.
Перевел с польского Виктор Язневич