Страница:
Приспособление к уже функционирующим видам технологий, промышленных комплексов и процессов в какой-то мере уже реализуется роботами первого поколения. Однако "системы программного управления требуют полного постоянства всех условий работы робота, включая его собственные свойства. Адаптивные
249
системы реагируют на изменение условий работы путем изменения алгоритма управления (включая настройку), что расширяет диапазон изменения условий работы, в котором обеспечивается работоспособность системы, и позволяет со временем улучшить качество работы путем самоусовершенствования алгоритма управления. Такие свойства адаптивных систем управления расширяются с увеличением числа уровней адаптации вплоть до уровня искусственного интеллекта" [97].
Совершенствование роботов идет главным образом по пути увеличения степени их адаптационного потенциала и информационных возможностей за счет усиления элементов искусственного интеллекта. При этом вырисовываются два пути создания адаптивных роботов, выделенные в литературе по робототехнике. Например, подчеркивается, что при создании "роботов в целом одним из естественных путей является копирование человека и живой природы вообще. Однако не менее важным, а в перспективе основным является поиск новых путей в рамках современной техники" [98].
Возникает вопрос: в чем причина производства роботов, копирующих поведение человека? Известно, что признак копирования человека даже положен в основу распространенной дефиниции понятия "робот". Так, в БСЭ робот определяется как машина с антропоморфным (человекоподобным) поведением, которая частично или полностью выполняет функции человека (иногда животного) при взаимодействии с окружающим миром.
На наш взгляд, антропоморфность роботов сопряжена не просто с копированием внешнего облика человека и его поведения, а с более глубокими причинами - с развитием общественного производства и с тем, что человек является главной производительной силой. Ведь современное, созданное человеком производство приспособлено к нему, и поэтому замена людей роботами в производственном процессе требует и создания человекоподобных роботов.
Вместе с тем важно отметить, что создание неантропоморфных роботов вполне реально на второй стадии роботизации производства, когда оно будет адаптироваться к совершенным роботам и тем самым будет создаваться "безлюдное" производство. В данном случае под совершенным роботом мы понимаем не робота, полностью копирующего человека, всесторонне имитирующего его поведение, органы чувств и интеллект, а робота, который сможет удовлетворять все потребности в нем человека и прежде всего потребности развития всесторонне роботизированного производства. Это дает повод и возможность более широкого определения понятия "робот", учитывая сразу оба пути развития робототехники. Под совершенным роботом будет пониматься автоматическое устройство, обладающее искусственным интеллектом и сенсорными органами, обеспечивающее в высшей степени адаптивное поведение с элементами самоорганизации, спо
250
собное непосредственно функционировать в производственном процессе и некоторых других сферах социальной деятельности, полностью заменяя человека.
В основе этого определения лежит, таким образом, не признак копирования функций и органов человека, а способность полностью заменить последнего в производственной и других видах социальной деятельности. Как конкретно произойдет эта замена - на антропоморфной или иной основе, будет определяться не соображениями копирования человека и животных, а требованиями социально-экономической и экологической эффективности и прежде всего тем, что роботы должны стать универсальными помощниками человека.
Развитие робототехнических систем с искусственным интеллектом позволяет преодолеть техническое отчуждение человека в производстве - принуждение к нетворческому труду, к его монотонности, к выполнению действий, которые можно передать машине". В результате у человека появляется возможность заняться творческой деятельностью. И в этом случае также могут использоваться профессионально и проблемно ориентированные интеллектуальные системы. "Ценность "искусственного интеллекта", - пишет В. Г. Афанасьев, - в конечном счете определяется степенью его умения "понимать" человеческий язык, переводить с человеческого языка на свой собственный" [100]. Задача создания машины, воспринимающей человеческую речь, - одна из актуальнейших в процессе становления социальной кибернетики. Решение ее (помимо чисто научного интереса) привело бы к общению людей с машиной на их собственном языке. Как заметил Э. Хант, "в качестве слуг человека ЭВМ имеют бесспорные недостатки, из которых наиболее неприятен тот, что хозяевам приходится разговаривать на языке своих слуг" [101]. Проблема разумного поведения в ответ на те или иные события связана с пониманием языка. ЭВМ в точности выполнит данные ей указания, если они выражены на очень формальном языке и в них нет неопределенности.
Создание диалоговых, человеко-машинных систем является одним из показателей кибернетизации общества. Однако попытки решения на этой основе проблемы искусственного интеллекта пока что не приводят к желаемым результатам. Вот как оценивает эту ситуацию Э. Хант. "Время от времени утверждается, - пишет он, - что люди способны чувствовать обещающий подход к решению задачи, но пасуют при необходимости механически применять на каждом шаге правила вывода. Если это так, то комбинация человека и машины должна привести к системе с известным свойством: целое больше, чем сумма частей. В ряде проектов делались попытки использовать эту идею, однако без большого успеха... Такие проекты уводят нас от области искусственного интеллекта в еще более неопределенную область человеко-машинного интеллекта" [102]. Следует заметить, что концепция полной автоматизации переработки информации в силу наличия
251
творческих задач оказывается неоправданной. На современном этапе развития кибернетики более предпочтительна концепция "гибридного интеллекта", о чем уже шла речь. "В целом уровень автоматизации пока таков, - констатирует В. М. Глушков, - что в одних компонентах, определяющих успех деятельности в соответствующей области, преимущество пока сохраняется за естественным (обычно незаурядным) интеллектом, хотя в других - уже перешло к искусственному интеллекту" [103].
Задача овладения естественным человеческим языком предполагает использование в программах ЭВМ процессов самоорганизации и самосовершенствования. Освоение принципов самоорганизации - необходимое условие создания высокоэффективных интеллектуальных систем. С учетом того, что механизмы самоорганизации можно воспроизвести в системах искусственного интеллекта, ныне осмысливаются принципиальные вопросы усиления человеческого интеллекта машинным. В этом контексте специалисты приходят к весьма любопытным оценочным суждениям. "Личность тем и отличается от автомата, пишет Н. М. Амосов, - что имеет собственные интересы, потребности, цели, оценки. Искусственный разум неизбежно превратится в личность, как только у него будет воспроизведена самоорганизация" [104].
Такие постановки философских вопросов, связанных с перспективами развития искусственного интеллекта, заслуживают серьезного осмысления и дальнейшего методологического обоснования. Развитие искусственного (машинного) интеллекта в русле идей социальной кибернетики ставит трудные социальные, психологические и этические проблемы.
3. Морально-этические аспекты проблемы искусственного интеллекта
Развитие работ по созданию искусственного интеллекта в ответ на потребности общественной практики вызывает подчас большое беспокойство. Оно связано с тем, что кибернетизация умственного труда приводит к передаче машинам областей деятельности человека, которые до сих пор были привилегией интеллектуальных работников. Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов аксиологического и морально-этического порядка. Какими целями человек может наделить системы искусственного интеллекта? Не приведет ли создание творческого автомата к ослаолению стимула творчества у людей? Не создаст ли снятие с человека ответственности за принятие решений угрозу самому существованию этой способности у человека? Должны ли (и смогут ли) люди ограничивать развитие систем искусственного интеллекта или, по крайней мере, держать их под контролем? Как заметил Н. Ви
252
нер, "если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать их под контролем. Иначе нельзя" [105].
Отношения между человеком и машиной в условиях развития кибернетики и систем искусственного интеллекта принимают сложный характер. Обращаясь к мифу о Прометее, Ю. Банька пишет: "Прометеизм XX века переступил границу статистической уверенности и сам стал зависимым от искры, которую высек у истоков рождения вида Homo sapiens ...С одной стороны, подчинение человека покоряющей силе прометейского прогресса техники, с другой - поворот к более глубокой ценности прометеизма в поисках ответа на вопрос: как пользоваться безопасно этим огнем?" [106] Кибернетические машины отличаются от всех прежних машин тем, что служат усилителями человеческого интеллекта. Будучи вовлеченными в человеческую деятельность, они включаются в систему общественных отношений. "Самой по себе машине, - считает М. Г. Макаров, чуждо... отношение ценности. Ценностное отношение приобретается техникой только при ее включении в кругооборот человеческой деятельности, в систему общественных отношений" [107]. От природы этой системы отношений, от ее качества зависят место и роль кибернетических машин в человеческом обществе. Характер общественных отношений, в которых создаются, функционируют и развиваются кибернетические машины, определяет те последствия, к которым приводит сравнительная самостоятельность машины по отношению к человеку. "Машина, - подчеркивает П. В. Копнин, - это опредмечивание человеческой сущности, а оно, как известно, в определенных условиях превращается в отчуждение. Машинный фетишизм - это разновидность товарного фетишизма. Фетишизация машины приводит к тому, что иногда некоторые представляют ее подлинным субъектом мышления и практической деятельности, более совершенным, чем лородившее ее человеческое общество" [108].
Создание все более сложных автоматов и кибернетических устройств демонстрирует высокую степень овладения человеком силами природы. Однако автоматизация и кибернетизация общественных процессов - это не самоцель, а средство обогащения человеческой жизни [109]. Существование интеллектуальных машин высвечивает многие теоретические проблемы. К ним относятся проблема "человек-машина", вечная проблема "духа и тела", вопрос о роли человека во вселенной. Системы искусственного интеллекта во многом способствуют лучшему пониманию природы социальных систем. "Перспективы кибернетики, - пишет Г. Клаус, - огромны. Кибернетические постановки вопросов проникают во все области материального и духовного бытия, и каждая отдельная наука рано или поздно будет иметь дело с кибернетикой. Именно эта универсальность новой науки делает особенно опасными философские, политические и экономические злоупотребления ею..." [110]
253
Моральные проблемы, связанные с разработкой мыслящих машин, приобретают нередко форму отчуждающих интерпретаций, авторы которых противопоставляют человека и машину, рассматривают развитие машин как враждебную для человека силу. "Мы окажемся, - считает, например, Н. Сатерленд, - творцами превосходящих нас по разуму созданий, которые заменят нас в роли хозяев Земли. Эти создания могут иметь более высокий моральный уровень, чем их творцы, ибо нет никаких оснований встраивать в них столь свойственный человеку эгоизм, который хотя и необходим нам для обеспечения выживания, но служит также причиной иррациональности в поведении человека" [111]. Такой подход к проблеме "человек-машина" не учитывает социальной сущности создаваемых человеком автоматов и их функций в конкретно-историческом человеческом обществе.
Сущность и функции автомата как машины состоят в том, чтобы быть помощником человека, вспомогательным средством в выполнении определенной деятельности. Автомат, который каким-либо образом будет действовать как человек, а не как его вспомогательное средство, окажется как бы самим человеком. Подобное развитие, если оно вообще возможно, как справедливо подчеркивают Ф. Лезер и Д. Шульце, было бы бессмысленным по двум причинам: 1) такой автомат не мог бы одновременно действовать как человек и быть вспомогательным средством; 2) человек как бы предписывал разработку эффективных методов своего воспроизведения, что привело бы к его саморазрушению [112].
Должен ли человек создавать автоматы, усиливающие его интеллектуальные способности? Вопрос этот достаточно актуален. И ответ на него может быть только положительным. Во-первых, потому, что человек без машины мыслит хуже и не способен решить те или иные задачи, которые ставит перед ним общественная практика и развитие науки. Во-вторых, потому, что создание таких машин обогащает человеческую жизнь, освобождает человека от выполнения утомительной (непосильной) интеллектуальной работы, которая может быть передана автоматам. В-третьих, потому, что системы искусственного интеллекта необходимы для научного познания, без них немыслима современная наука, опирающаяся на "тонкую" экспериментальную технику [113].
Социальные и морально-этические проблемы, возникающие при этом, требуют гуманистической ориентации всей исследовательской работы, ведущейся в русле создания мыслящих машин. Сама наука должна пониматься философски, достаточно широко, с учетом ее ценностных установок. "Гуманизм, - как отмечает И. Т. Фролов, - закономерно выводится из науки лишь в том случае, если последняя понимается не узко - как чистый поиск истины, а как социальный институт современного общества" [114]. Это значит, что исследовательский статус науки во всех случаях и в основном должен быть подчинен гуманистическим идеалам.
254
Ценностные аспекты современного естествознания возникают в той системе отношений, которая включает в себя целеполагающий фактор. Целевое (ценностное) регулирование научного познания становится необходимым условием общественного прогресса. Абсолютность и относительность такого регулирования сопряжены с абсолютностью и относительностью практики как критерия истины [115]. Ибо целеполагание зависит от конкретного уровня развития общества, включает в себя формирование глобальных моделей развития и своего рода подцелей, выражающих потребности текущего момента. Системы искусственного интеллекта участвуют в процессах целеполагания и прогнозирования, обеспечивая его формальнологическую, математическую и кибернетическую структуры. Присущая ЭВМ (в частности, обучающимся машинам) способность работать с неполной информацией делает их весьма мощным инструментом целеполагания и прогнозирования будущего с использованием, конечно, накопленного опыта. ЭВМ обеспечивает необходимую логическую глубину таких сугубо человеческих феноменов. Но означает ли это, что системы искусственного интеллекта могут иметь собственные цели?
Некоторые авторы положительно решают этот вопрос. "Моделируя среду, пишут, например, Л. Фогель, А. Оуэнc, М. Уолш, - машина проявляет свою "творческую способность" и "воображение". Это, безусловно, есть искусственный интеллект. С его появлением становится возможным серьезно рассматривать программы, которые придавали бы машинам самосознание и в конечном счете способность выбирать свои собственные цели" [116]. К аналогичному выводу приходит Н. А. Амосов: "Нельзя выполнить разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства - добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при наличии самоорганизации, т. е. способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности" [117].
Конечно, любая достаточно сложная программа (или самопрограмма) представляется уникальной. Машина, развивающаяся по такой программе, отличается определенной индивидуальностью, самоотнесенностью, относительной самостоятельностью поведения. В пределах последней и может идти речь о процессах переработки информации в машине, обладающих статусом телеономичности, целевого моделирующего подобия по отношению к целям человека. Иначе говоря, цели машины - это как бы подцели в системе "человек-машина". А цели системы "человек- машина", в свою очередь, следует рассматривать в качестве подцелей в системе общественных человеческих отношений. Эта (машинная) телеологическая релятивность задается системной природой социальных процессов. Следовательно, машинное целеполагание есть "включенное" целеполагание; машина может функционировать лишь в данном определенном отношении, что в структурном плане означает иерархичность, подчиненность сис
255
теме более общего и более высокого уровня. Машина обнаруживает процессы целеполагания и целеосуществления лишь в системах "машина - машина" и "человек - машина". В системе же "человек - человек" машинные целевые "намерения" отсутствуют. Правда, и в этой системе может быть представлено машинное целеполагание, но только в порядке усиления (логического обеспечения) человеческого целеполагания как первичного и доминирующего отношения.
Телеогенные процессы в машине имеют, таким образом, относительный характер. Их ценность определяется служебной ролью автомата в системе человеческих общественных отношений. Иногда, однако, такое положение вещей квалифицируется как проявление эгоизма со стороны человека. Так, Н. Сатерленд считает: "Если машины будут проектировать другие машины без существенного вмешательства с нашей стороны, то на определенном этапе мы должны будем решить, какую цель следует наметить для их деятельности. Если задать в качестве естественного мотива упрочение благосостояния человечества, то это будет слишком эгоистично с нашей стороны и, вероятно, ограничит возможности развития машин" [118].
Ограничивать развитие машин, надо полагать, не в интересах человека. Это обернулось бы для него нежелательной стороной - привело бы к ограничению развития сущностных сил самого человека. Ведь развитие человека проявляется, в частности, в том, что он творит все более совершенные искусственные системы. Задача создания искусственного интеллекта, пожалуй, самая трудная из всех научных задач, которые приходилось решать человеку до сих пор. Она требует от него напряжения всех духовных потенций. Человеческий разум в своей основе - это естественный разум, данный человеку от природы. По этому поводу Гегель справедливо писал: "Человек мыслит, и это дано ему от природы, это естественное качество человека..." [119]. Духовные потенции человеческого общества, что следует подчеркнуть, безграничны. Благодаря этой безграничности [120] человек способен в духовном развитии идти впереди своих созданий, которым он дарует иную - машинную - жизнь.
Функционирование кибернетических автоматов осуществляется во многих сферах деятельности человека, в том числе в таких, которые затрагивают жизненно важные интересы людей и государства. Не случайно, например, К. Штейнбух следующим образом заостряет этот вопрос: "Получается, что наша жизнь зависит от надежности какой-то вычислительной машины в какой-то чужой стране. Отказ каких-то ламп или транзисторов решает будущее нашей цивилизации. Решение о войне и мире правительство полностью передоверяет электронной аппаратуре и квалификации технических специалистов" [121]. Возникает острая проблема ответственности за последствия действий автоматов и за те решения, которые они, с согласия человека, могут принимать. Вы
256
ходит, что человек поручает машинам осуществление таких действий, за последствия которых он должен отвечать сам [122]. На этой основе в отношениях автомата и человека появляются некоторые противоречия, обусловленные своего рода "неподвластностью" автомата человеку. Человек в силу особенностей машинной деятельности, заключающейся в невозможности личной проверки принятых машиной решений и, следовательно, полного контроля за этой деятельностью, вынужден как бы перекладывать часть ответственности на машину [123].
С возрастанием трудности решаемых на машине задач и увеличением структурной и функциональной сложности машинных комплексов доля этой ответственности увеличивается. Однако здесь имеет место закономерность, состоящая в том, что человек создает средства решения любых срочных задач, используя технику передачи своих функций системам машинного интеллекта, чтобы сохранить за собой возможность решения общих задач. Обычно машине поручается анализ и обработка строгих, формальных (формально-логических) характеристик задачи, так как именно машина способна обеспечивать логическую глубину и необходимую точность в оперировании со знаковыми системами на понятном ей искусственном (математическом) языке. Тем самым человек освобождается от несвойственной ему машинообразной работы, оставляя за собой право размышлять и принимать решения в реальном масштабе времени, отвечающие интересам людей и насущным потребностям общественного развития. Подобное разделение труда между человеком и машиной призвано обеспечить тот необходимый уровень их отношений, на котором машина не может быть последним звеном, несущим ответственность за неправильные действия, им может быть только человек.
Кибернетизация современного производства изменяет характер труда и место человека в производстве. Человек как субъект труда возвышается над процессом производства, контролируя и регулируя его течение. Передача производственных функций машине обновляет сферу производства, освобождает сугубо человеческие качества для реализации их в иных, духовно-творческих, этических и эстетических отношениях. В свете этой объективной тенденции, действующей в сфере отношений человека и техники, понятно следующее положение Н. Винера: "Мы больше не можем оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека. В этом суть. Вся уйма работы, для которой мы сейчас используем людей, - это работа, в действительности делаемая лучше машинами" [124].
Социальная ценность человека приобретает важное значение в условиях научно-технического прогресса, воздействие которого на общество далеко не всегда имеет позитивные последствия [125]. Адаптация человека к научно-техническому прогрессу, ставшему своего рода "судьбой", также ставит ряд вопросов морально-этического содержания [126]. Иногда в качестве ответа на эти воп
257
росы предлагается принять точку зрения своеобразного аскетизма. Например, Г. Бек пишет: "Неотложным является формирование сознания необходимости современного аскетизма, согласно которому человек делает не все, что он (технически) может, а только то, на что он (этически) имеет право" [127]. Разумеется, подобная ценностная ориентация в развитии техники заслуживает внимания. Однако ее реализация в значительной мере определяется тем, что понимать под "этическим правом". В такой абстрактной постановке данный вопрос (как, впрочем, и некоторые другие этические вопросы) отмечен неопределенностью.
В связи с этим привлекает внимание прослеживающаяся в последнее время тенденция к математизации некоторых сторон этической науки, в частности экспликация средствами математики и кибернетики ее основных понятий и возожность моделирования на ЭВМ отдельных аспектов морального сознания. Перспективы, открывающиеся благодаря развитию искусственного интеллекта, наметились в связи с формированием этометрии - измерительной теории этики. Она занимается математическим моделированием моральных структур, включая такие, как, например, совесть. "Моделирование совести, - пишет Ф. Лезер, основывается на том, что она обладает функцией регулятора, который настраивает уровень поведения индивидуума (реальная величина) на уровень поведения, требуемого обществом (заданная величина). Говоря языком кибернетики, совесть сопоставляет значения заданной и реальной величин. До тех пор пока существует определенное равновесие этих величин, совесть выполняет "пассивную" функцию. В обиходе это состояние называют "спокойной совестью". Однако как только это равновесие нарушается, то есть изменяется значение разности между заданной и реальной величинами, мобилизуется "активная" функция совести: появляются "угрызения совести", которые затем (по достижении равновесия) исчезают" [128].
Ясно, что системы искусственного интеллекта могут отражать (воспроизводить с точностью до изоморфизма) лишь определенные стороны совести, однако это помогает познанию сложных явлений человеческой психики и сознания. Небезынтересно в данном контексте отметить также опыты по моделированию на ЭВМ такого социального феномена, как семья. Вступление в брак с учетом рекомендаций машины, просуммировавшей необходимую информацию о потенциальных супругах, входит в практику бракосочетаний. Причем, как утверждает В. Д. Пекелис, "лица, вступившие в брак с помощью вычислительной машины, почти никогда не разводятся!" [129].
249
системы реагируют на изменение условий работы путем изменения алгоритма управления (включая настройку), что расширяет диапазон изменения условий работы, в котором обеспечивается работоспособность системы, и позволяет со временем улучшить качество работы путем самоусовершенствования алгоритма управления. Такие свойства адаптивных систем управления расширяются с увеличением числа уровней адаптации вплоть до уровня искусственного интеллекта" [97].
Совершенствование роботов идет главным образом по пути увеличения степени их адаптационного потенциала и информационных возможностей за счет усиления элементов искусственного интеллекта. При этом вырисовываются два пути создания адаптивных роботов, выделенные в литературе по робототехнике. Например, подчеркивается, что при создании "роботов в целом одним из естественных путей является копирование человека и живой природы вообще. Однако не менее важным, а в перспективе основным является поиск новых путей в рамках современной техники" [98].
Возникает вопрос: в чем причина производства роботов, копирующих поведение человека? Известно, что признак копирования человека даже положен в основу распространенной дефиниции понятия "робот". Так, в БСЭ робот определяется как машина с антропоморфным (человекоподобным) поведением, которая частично или полностью выполняет функции человека (иногда животного) при взаимодействии с окружающим миром.
На наш взгляд, антропоморфность роботов сопряжена не просто с копированием внешнего облика человека и его поведения, а с более глубокими причинами - с развитием общественного производства и с тем, что человек является главной производительной силой. Ведь современное, созданное человеком производство приспособлено к нему, и поэтому замена людей роботами в производственном процессе требует и создания человекоподобных роботов.
Вместе с тем важно отметить, что создание неантропоморфных роботов вполне реально на второй стадии роботизации производства, когда оно будет адаптироваться к совершенным роботам и тем самым будет создаваться "безлюдное" производство. В данном случае под совершенным роботом мы понимаем не робота, полностью копирующего человека, всесторонне имитирующего его поведение, органы чувств и интеллект, а робота, который сможет удовлетворять все потребности в нем человека и прежде всего потребности развития всесторонне роботизированного производства. Это дает повод и возможность более широкого определения понятия "робот", учитывая сразу оба пути развития робототехники. Под совершенным роботом будет пониматься автоматическое устройство, обладающее искусственным интеллектом и сенсорными органами, обеспечивающее в высшей степени адаптивное поведение с элементами самоорганизации, спо
250
собное непосредственно функционировать в производственном процессе и некоторых других сферах социальной деятельности, полностью заменяя человека.
В основе этого определения лежит, таким образом, не признак копирования функций и органов человека, а способность полностью заменить последнего в производственной и других видах социальной деятельности. Как конкретно произойдет эта замена - на антропоморфной или иной основе, будет определяться не соображениями копирования человека и животных, а требованиями социально-экономической и экологической эффективности и прежде всего тем, что роботы должны стать универсальными помощниками человека.
Развитие робототехнических систем с искусственным интеллектом позволяет преодолеть техническое отчуждение человека в производстве - принуждение к нетворческому труду, к его монотонности, к выполнению действий, которые можно передать машине". В результате у человека появляется возможность заняться творческой деятельностью. И в этом случае также могут использоваться профессионально и проблемно ориентированные интеллектуальные системы. "Ценность "искусственного интеллекта", - пишет В. Г. Афанасьев, - в конечном счете определяется степенью его умения "понимать" человеческий язык, переводить с человеческого языка на свой собственный" [100]. Задача создания машины, воспринимающей человеческую речь, - одна из актуальнейших в процессе становления социальной кибернетики. Решение ее (помимо чисто научного интереса) привело бы к общению людей с машиной на их собственном языке. Как заметил Э. Хант, "в качестве слуг человека ЭВМ имеют бесспорные недостатки, из которых наиболее неприятен тот, что хозяевам приходится разговаривать на языке своих слуг" [101]. Проблема разумного поведения в ответ на те или иные события связана с пониманием языка. ЭВМ в точности выполнит данные ей указания, если они выражены на очень формальном языке и в них нет неопределенности.
Создание диалоговых, человеко-машинных систем является одним из показателей кибернетизации общества. Однако попытки решения на этой основе проблемы искусственного интеллекта пока что не приводят к желаемым результатам. Вот как оценивает эту ситуацию Э. Хант. "Время от времени утверждается, - пишет он, - что люди способны чувствовать обещающий подход к решению задачи, но пасуют при необходимости механически применять на каждом шаге правила вывода. Если это так, то комбинация человека и машины должна привести к системе с известным свойством: целое больше, чем сумма частей. В ряде проектов делались попытки использовать эту идею, однако без большого успеха... Такие проекты уводят нас от области искусственного интеллекта в еще более неопределенную область человеко-машинного интеллекта" [102]. Следует заметить, что концепция полной автоматизации переработки информации в силу наличия
251
творческих задач оказывается неоправданной. На современном этапе развития кибернетики более предпочтительна концепция "гибридного интеллекта", о чем уже шла речь. "В целом уровень автоматизации пока таков, - констатирует В. М. Глушков, - что в одних компонентах, определяющих успех деятельности в соответствующей области, преимущество пока сохраняется за естественным (обычно незаурядным) интеллектом, хотя в других - уже перешло к искусственному интеллекту" [103].
Задача овладения естественным человеческим языком предполагает использование в программах ЭВМ процессов самоорганизации и самосовершенствования. Освоение принципов самоорганизации - необходимое условие создания высокоэффективных интеллектуальных систем. С учетом того, что механизмы самоорганизации можно воспроизвести в системах искусственного интеллекта, ныне осмысливаются принципиальные вопросы усиления человеческого интеллекта машинным. В этом контексте специалисты приходят к весьма любопытным оценочным суждениям. "Личность тем и отличается от автомата, пишет Н. М. Амосов, - что имеет собственные интересы, потребности, цели, оценки. Искусственный разум неизбежно превратится в личность, как только у него будет воспроизведена самоорганизация" [104].
Такие постановки философских вопросов, связанных с перспективами развития искусственного интеллекта, заслуживают серьезного осмысления и дальнейшего методологического обоснования. Развитие искусственного (машинного) интеллекта в русле идей социальной кибернетики ставит трудные социальные, психологические и этические проблемы.
3. Морально-этические аспекты проблемы искусственного интеллекта
Развитие работ по созданию искусственного интеллекта в ответ на потребности общественной практики вызывает подчас большое беспокойство. Оно связано с тем, что кибернетизация умственного труда приводит к передаче машинам областей деятельности человека, которые до сих пор были привилегией интеллектуальных работников. Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов аксиологического и морально-этического порядка. Какими целями человек может наделить системы искусственного интеллекта? Не приведет ли создание творческого автомата к ослаолению стимула творчества у людей? Не создаст ли снятие с человека ответственности за принятие решений угрозу самому существованию этой способности у человека? Должны ли (и смогут ли) люди ограничивать развитие систем искусственного интеллекта или, по крайней мере, держать их под контролем? Как заметил Н. Ви
252
нер, "если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать их под контролем. Иначе нельзя" [105].
Отношения между человеком и машиной в условиях развития кибернетики и систем искусственного интеллекта принимают сложный характер. Обращаясь к мифу о Прометее, Ю. Банька пишет: "Прометеизм XX века переступил границу статистической уверенности и сам стал зависимым от искры, которую высек у истоков рождения вида Homo sapiens ...С одной стороны, подчинение человека покоряющей силе прометейского прогресса техники, с другой - поворот к более глубокой ценности прометеизма в поисках ответа на вопрос: как пользоваться безопасно этим огнем?" [106] Кибернетические машины отличаются от всех прежних машин тем, что служат усилителями человеческого интеллекта. Будучи вовлеченными в человеческую деятельность, они включаются в систему общественных отношений. "Самой по себе машине, - считает М. Г. Макаров, чуждо... отношение ценности. Ценностное отношение приобретается техникой только при ее включении в кругооборот человеческой деятельности, в систему общественных отношений" [107]. От природы этой системы отношений, от ее качества зависят место и роль кибернетических машин в человеческом обществе. Характер общественных отношений, в которых создаются, функционируют и развиваются кибернетические машины, определяет те последствия, к которым приводит сравнительная самостоятельность машины по отношению к человеку. "Машина, - подчеркивает П. В. Копнин, - это опредмечивание человеческой сущности, а оно, как известно, в определенных условиях превращается в отчуждение. Машинный фетишизм - это разновидность товарного фетишизма. Фетишизация машины приводит к тому, что иногда некоторые представляют ее подлинным субъектом мышления и практической деятельности, более совершенным, чем лородившее ее человеческое общество" [108].
Создание все более сложных автоматов и кибернетических устройств демонстрирует высокую степень овладения человеком силами природы. Однако автоматизация и кибернетизация общественных процессов - это не самоцель, а средство обогащения человеческой жизни [109]. Существование интеллектуальных машин высвечивает многие теоретические проблемы. К ним относятся проблема "человек-машина", вечная проблема "духа и тела", вопрос о роли человека во вселенной. Системы искусственного интеллекта во многом способствуют лучшему пониманию природы социальных систем. "Перспективы кибернетики, - пишет Г. Клаус, - огромны. Кибернетические постановки вопросов проникают во все области материального и духовного бытия, и каждая отдельная наука рано или поздно будет иметь дело с кибернетикой. Именно эта универсальность новой науки делает особенно опасными философские, политические и экономические злоупотребления ею..." [110]
253
Моральные проблемы, связанные с разработкой мыслящих машин, приобретают нередко форму отчуждающих интерпретаций, авторы которых противопоставляют человека и машину, рассматривают развитие машин как враждебную для человека силу. "Мы окажемся, - считает, например, Н. Сатерленд, - творцами превосходящих нас по разуму созданий, которые заменят нас в роли хозяев Земли. Эти создания могут иметь более высокий моральный уровень, чем их творцы, ибо нет никаких оснований встраивать в них столь свойственный человеку эгоизм, который хотя и необходим нам для обеспечения выживания, но служит также причиной иррациональности в поведении человека" [111]. Такой подход к проблеме "человек-машина" не учитывает социальной сущности создаваемых человеком автоматов и их функций в конкретно-историческом человеческом обществе.
Сущность и функции автомата как машины состоят в том, чтобы быть помощником человека, вспомогательным средством в выполнении определенной деятельности. Автомат, который каким-либо образом будет действовать как человек, а не как его вспомогательное средство, окажется как бы самим человеком. Подобное развитие, если оно вообще возможно, как справедливо подчеркивают Ф. Лезер и Д. Шульце, было бы бессмысленным по двум причинам: 1) такой автомат не мог бы одновременно действовать как человек и быть вспомогательным средством; 2) человек как бы предписывал разработку эффективных методов своего воспроизведения, что привело бы к его саморазрушению [112].
Должен ли человек создавать автоматы, усиливающие его интеллектуальные способности? Вопрос этот достаточно актуален. И ответ на него может быть только положительным. Во-первых, потому, что человек без машины мыслит хуже и не способен решить те или иные задачи, которые ставит перед ним общественная практика и развитие науки. Во-вторых, потому, что создание таких машин обогащает человеческую жизнь, освобождает человека от выполнения утомительной (непосильной) интеллектуальной работы, которая может быть передана автоматам. В-третьих, потому, что системы искусственного интеллекта необходимы для научного познания, без них немыслима современная наука, опирающаяся на "тонкую" экспериментальную технику [113].
Социальные и морально-этические проблемы, возникающие при этом, требуют гуманистической ориентации всей исследовательской работы, ведущейся в русле создания мыслящих машин. Сама наука должна пониматься философски, достаточно широко, с учетом ее ценностных установок. "Гуманизм, - как отмечает И. Т. Фролов, - закономерно выводится из науки лишь в том случае, если последняя понимается не узко - как чистый поиск истины, а как социальный институт современного общества" [114]. Это значит, что исследовательский статус науки во всех случаях и в основном должен быть подчинен гуманистическим идеалам.
254
Ценностные аспекты современного естествознания возникают в той системе отношений, которая включает в себя целеполагающий фактор. Целевое (ценностное) регулирование научного познания становится необходимым условием общественного прогресса. Абсолютность и относительность такого регулирования сопряжены с абсолютностью и относительностью практики как критерия истины [115]. Ибо целеполагание зависит от конкретного уровня развития общества, включает в себя формирование глобальных моделей развития и своего рода подцелей, выражающих потребности текущего момента. Системы искусственного интеллекта участвуют в процессах целеполагания и прогнозирования, обеспечивая его формальнологическую, математическую и кибернетическую структуры. Присущая ЭВМ (в частности, обучающимся машинам) способность работать с неполной информацией делает их весьма мощным инструментом целеполагания и прогнозирования будущего с использованием, конечно, накопленного опыта. ЭВМ обеспечивает необходимую логическую глубину таких сугубо человеческих феноменов. Но означает ли это, что системы искусственного интеллекта могут иметь собственные цели?
Некоторые авторы положительно решают этот вопрос. "Моделируя среду, пишут, например, Л. Фогель, А. Оуэнc, М. Уолш, - машина проявляет свою "творческую способность" и "воображение". Это, безусловно, есть искусственный интеллект. С его появлением становится возможным серьезно рассматривать программы, которые придавали бы машинам самосознание и в конечном счете способность выбирать свои собственные цели" [116]. К аналогичному выводу приходит Н. А. Амосов: "Нельзя выполнить разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства - добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при наличии самоорганизации, т. е. способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности" [117].
Конечно, любая достаточно сложная программа (или самопрограмма) представляется уникальной. Машина, развивающаяся по такой программе, отличается определенной индивидуальностью, самоотнесенностью, относительной самостоятельностью поведения. В пределах последней и может идти речь о процессах переработки информации в машине, обладающих статусом телеономичности, целевого моделирующего подобия по отношению к целям человека. Иначе говоря, цели машины - это как бы подцели в системе "человек-машина". А цели системы "человек- машина", в свою очередь, следует рассматривать в качестве подцелей в системе общественных человеческих отношений. Эта (машинная) телеологическая релятивность задается системной природой социальных процессов. Следовательно, машинное целеполагание есть "включенное" целеполагание; машина может функционировать лишь в данном определенном отношении, что в структурном плане означает иерархичность, подчиненность сис
255
теме более общего и более высокого уровня. Машина обнаруживает процессы целеполагания и целеосуществления лишь в системах "машина - машина" и "человек - машина". В системе же "человек - человек" машинные целевые "намерения" отсутствуют. Правда, и в этой системе может быть представлено машинное целеполагание, но только в порядке усиления (логического обеспечения) человеческого целеполагания как первичного и доминирующего отношения.
Телеогенные процессы в машине имеют, таким образом, относительный характер. Их ценность определяется служебной ролью автомата в системе человеческих общественных отношений. Иногда, однако, такое положение вещей квалифицируется как проявление эгоизма со стороны человека. Так, Н. Сатерленд считает: "Если машины будут проектировать другие машины без существенного вмешательства с нашей стороны, то на определенном этапе мы должны будем решить, какую цель следует наметить для их деятельности. Если задать в качестве естественного мотива упрочение благосостояния человечества, то это будет слишком эгоистично с нашей стороны и, вероятно, ограничит возможности развития машин" [118].
Ограничивать развитие машин, надо полагать, не в интересах человека. Это обернулось бы для него нежелательной стороной - привело бы к ограничению развития сущностных сил самого человека. Ведь развитие человека проявляется, в частности, в том, что он творит все более совершенные искусственные системы. Задача создания искусственного интеллекта, пожалуй, самая трудная из всех научных задач, которые приходилось решать человеку до сих пор. Она требует от него напряжения всех духовных потенций. Человеческий разум в своей основе - это естественный разум, данный человеку от природы. По этому поводу Гегель справедливо писал: "Человек мыслит, и это дано ему от природы, это естественное качество человека..." [119]. Духовные потенции человеческого общества, что следует подчеркнуть, безграничны. Благодаря этой безграничности [120] человек способен в духовном развитии идти впереди своих созданий, которым он дарует иную - машинную - жизнь.
Функционирование кибернетических автоматов осуществляется во многих сферах деятельности человека, в том числе в таких, которые затрагивают жизненно важные интересы людей и государства. Не случайно, например, К. Штейнбух следующим образом заостряет этот вопрос: "Получается, что наша жизнь зависит от надежности какой-то вычислительной машины в какой-то чужой стране. Отказ каких-то ламп или транзисторов решает будущее нашей цивилизации. Решение о войне и мире правительство полностью передоверяет электронной аппаратуре и квалификации технических специалистов" [121]. Возникает острая проблема ответственности за последствия действий автоматов и за те решения, которые они, с согласия человека, могут принимать. Вы
256
ходит, что человек поручает машинам осуществление таких действий, за последствия которых он должен отвечать сам [122]. На этой основе в отношениях автомата и человека появляются некоторые противоречия, обусловленные своего рода "неподвластностью" автомата человеку. Человек в силу особенностей машинной деятельности, заключающейся в невозможности личной проверки принятых машиной решений и, следовательно, полного контроля за этой деятельностью, вынужден как бы перекладывать часть ответственности на машину [123].
С возрастанием трудности решаемых на машине задач и увеличением структурной и функциональной сложности машинных комплексов доля этой ответственности увеличивается. Однако здесь имеет место закономерность, состоящая в том, что человек создает средства решения любых срочных задач, используя технику передачи своих функций системам машинного интеллекта, чтобы сохранить за собой возможность решения общих задач. Обычно машине поручается анализ и обработка строгих, формальных (формально-логических) характеристик задачи, так как именно машина способна обеспечивать логическую глубину и необходимую точность в оперировании со знаковыми системами на понятном ей искусственном (математическом) языке. Тем самым человек освобождается от несвойственной ему машинообразной работы, оставляя за собой право размышлять и принимать решения в реальном масштабе времени, отвечающие интересам людей и насущным потребностям общественного развития. Подобное разделение труда между человеком и машиной призвано обеспечить тот необходимый уровень их отношений, на котором машина не может быть последним звеном, несущим ответственность за неправильные действия, им может быть только человек.
Кибернетизация современного производства изменяет характер труда и место человека в производстве. Человек как субъект труда возвышается над процессом производства, контролируя и регулируя его течение. Передача производственных функций машине обновляет сферу производства, освобождает сугубо человеческие качества для реализации их в иных, духовно-творческих, этических и эстетических отношениях. В свете этой объективной тенденции, действующей в сфере отношений человека и техники, понятно следующее положение Н. Винера: "Мы больше не можем оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека. В этом суть. Вся уйма работы, для которой мы сейчас используем людей, - это работа, в действительности делаемая лучше машинами" [124].
Социальная ценность человека приобретает важное значение в условиях научно-технического прогресса, воздействие которого на общество далеко не всегда имеет позитивные последствия [125]. Адаптация человека к научно-техническому прогрессу, ставшему своего рода "судьбой", также ставит ряд вопросов морально-этического содержания [126]. Иногда в качестве ответа на эти воп
257
росы предлагается принять точку зрения своеобразного аскетизма. Например, Г. Бек пишет: "Неотложным является формирование сознания необходимости современного аскетизма, согласно которому человек делает не все, что он (технически) может, а только то, на что он (этически) имеет право" [127]. Разумеется, подобная ценностная ориентация в развитии техники заслуживает внимания. Однако ее реализация в значительной мере определяется тем, что понимать под "этическим правом". В такой абстрактной постановке данный вопрос (как, впрочем, и некоторые другие этические вопросы) отмечен неопределенностью.
В связи с этим привлекает внимание прослеживающаяся в последнее время тенденция к математизации некоторых сторон этической науки, в частности экспликация средствами математики и кибернетики ее основных понятий и возожность моделирования на ЭВМ отдельных аспектов морального сознания. Перспективы, открывающиеся благодаря развитию искусственного интеллекта, наметились в связи с формированием этометрии - измерительной теории этики. Она занимается математическим моделированием моральных структур, включая такие, как, например, совесть. "Моделирование совести, - пишет Ф. Лезер, основывается на том, что она обладает функцией регулятора, который настраивает уровень поведения индивидуума (реальная величина) на уровень поведения, требуемого обществом (заданная величина). Говоря языком кибернетики, совесть сопоставляет значения заданной и реальной величин. До тех пор пока существует определенное равновесие этих величин, совесть выполняет "пассивную" функцию. В обиходе это состояние называют "спокойной совестью". Однако как только это равновесие нарушается, то есть изменяется значение разности между заданной и реальной величинами, мобилизуется "активная" функция совести: появляются "угрызения совести", которые затем (по достижении равновесия) исчезают" [128].
Ясно, что системы искусственного интеллекта могут отражать (воспроизводить с точностью до изоморфизма) лишь определенные стороны совести, однако это помогает познанию сложных явлений человеческой психики и сознания. Небезынтересно в данном контексте отметить также опыты по моделированию на ЭВМ такого социального феномена, как семья. Вступление в брак с учетом рекомендаций машины, просуммировавшей необходимую информацию о потенциальных супругах, входит в практику бракосочетаний. Причем, как утверждает В. Д. Пекелис, "лица, вступившие в брак с помощью вычислительной машины, почти никогда не разводятся!" [129].