В результате действия машин вступают в противоречие с действиями людей. Зачастую ничего страшного в этом нет: если моя стиральная машина стирает белье не так, как я, какое мне дело – ведь в результате я получаю чистую одежду. Здесь автоматизация эффективна, поскольку мне нужно только загрузить белье и включить машину, а все остальное она делает сама. Она, так сказать, берет дело в свои руки, и, если я не вмешиваюсь, все работает без сбоев.
   Но как быть в ситуациях, когда люди и техника должны взаимодействовать? И что произойдет с моей стиральной машиной, если, включив ее, я захочу изменить режим? Как мне сообщить ей об этом? И когда она его изменит, если программа уже запущена – сразу же или при следующей стирке? Здесь различия между реакцией людей и машин становятся очень важными. Иногда кажется, что машина действует абсолютно волюнтаристски, хотя если бы она умела мыслить и говорить, то объяснила бы, что, с ее точки зрения, это я творю произвол. На человека, вовлеченного в процесс, эта борьба за превосходство может действовать угнетающе. А стороннего наблюдателя она ставит в тупик: не ясно, кто здесь главный и почему происходит то или иное действие. И не важно, кто в данном случае прав – человек или машина. Значение имеет сама несогласованность действий – ведь именно из-за нее возникают злость, раздражение, а порой даже поломки или травмы.
   Конфликт между действиями человека и машины возникает оттого, что машины, какими бы «умными» они ни были, плохо представляют себе внешние условия, цели и мотивы людей, а также особые обстоятельства, неизбежно сопутствующие тем или иным действиям. Машины прекрасно работают в заданных условиях, когда им не мешают назойливые люди и не происходит ничего неожиданного, то есть все можно точно спрогнозировать. Здесь автоматизация дает превосходные результаты.
   Но даже в заданных условиях, когда машины функционируют наилучшим образом, они не всегда действуют так, как действовали бы мы. Возьмем «умную» микроволновую печь. Она знает, сколько электроэнергии и времени необходимо, чтобы приготовить нужное блюдо. Если печка исправна, все очень просто и приятно: вы кладете в нее кусок сырого лосося и сообщаете, что ей предстоит готовить рыбу. Через некоторое время вы получаете готовое блюдо – нечто среднее между вареной рыбой и тушеной, но по-своему превосходное. В инструкции говорится: «Сенсор фиксирует избыточную влагу, выделяемую при готовке, и печь автоматически корректирует время приготовления в соответствии с типом и количеством пищи». Заметим, однако, что ни слова не сказано о том, что микроволновка готовит пищу так же, как человек. Человек проверил бы, стала ли рыба достаточно мягкой, приобрела ли нужный цвет, возможно, измерил бы внутреннюю температуру. Печка всего этого не умеет, поэтому делает, что может – следит за выделением влаги. Именно по уровню влажности она определяет, готово ли блюдо. Для рыбы и овощей этого достаточно, а для других продуктов – нет. Кроме того, сама сенсорная система не идеальна. Если после завершения программы блюдо оказалось сыроватым, включать печь еще раз не рекомендуется: «Не применяйте сенсорную функцию дважды при приготовлении одной и той же порции – это может привести к тому, что пища окажется пережаренной или подгоревшей». Вот вам и «умная» микроволновка!
   Помогает ли техника нам в быту? И да, и нет. Если можно говорить о том, что у нее есть «голос», она определенно говорит с нами свысока, не объясняя, как и зачем она что-то делает, что именно она делает, какой уровень прожарки, чистоты или сухости устраивает ее сенсоры и как быть, если что-то идет не так. Многие люди, на мой взгляд, совершенно оправданно чураются таких приборов. Они хотят знать, что происходит и почему, но прибор хранит молчание, да и инструкция к нему мало что объясняет.
   В лабораториях по всему миру ученые изобретают все новые способы внедрения искусственного интеллекта в нашу жизнь. Уже созданы экспериментальные образцы «умных» домов, чувствующих все, что делают их обитатели. Они автоматически включают и выключают свет, корректируют температуру и даже выбирают для вас музыку. Список проектов, находящихся в разработке, впечатляет: холодильники, не дающие вам есть неподходящую пищу, унитазы-«доносчики», тайно сообщающие вашему врачу о состоянии ваших биологических жидкостей. Казалось бы, между холодильником и унитазом мало общего, но они становятся компонентами системы, следящей за вашим питанием – первый контролирует то, что попадает внутрь, а второй измеряет и анализирует то, что выходит наружу. У нас уже есть весы-«ворчуны», следящие за избыточным весом, и тренажеры, требующие, чтобы ими пользовались. Даже чайники издают громкий свист, чтобы привлечь максимальное внимание.
   Окружая себя все большим количеством «умных» устройств, мы меняем нашу жизнь не только к лучшему, но и к худшему. Когда они работают нормально – это хорошо, но когда они дают сбой или превращают работоспособных творческих людей в прислужников, занятых исключительно заботой о них, их обслуживанием и ремонтом, ничего хорошего в этом нет. Так не должно быть, но так есть. Неужели уже поздно что-то изменить? Неужели мы ничего не можем сделать?

Нашествие «умных» машин

Вперед – к естественному симбиозу

   Есть надежда, что уже недалек тот день, когда человеческий мозг и вычислительные машины будут взаимодействовать весьма тесно, и мыслительные способности этого партнерства превзойдут все, на что способен человеческий ум.
Дж. Ликлайдер, «Симбиоз человека и компьютера» (1960)

   В 1950-х психолог Джозеф Ликлайдер попытался определить, каким образом люди и машины могли бы установить гармоничные, или, как он говорил, «симбиотические», отношения, чтобы в результате этого партнерства повысилось качество нашей жизни. Что такое гармоничный симбиоз людей и техники? Для этого необходимо естественное, непринужденное взаимодействие на уровне подсознания, чтобы контакт с обеих сторон происходил сам собой, без каких-либо усилий, и в результате человек и машина, совместно решая задачу, сливались бы в единое целое.
   В нашей жизни существует немало примеров «естественного взаимодействия». Возьмем четыре примера, демонстрирующих разные формы таких взаимоотношений: между людьми и традиционными орудиями труда, между лошадью и всадником, между водителем и автомобилем, между человеком и «рекомендательным» сервисом, предлагающим ему книги, музыку или фильмы.
   Искусный мастер взаимодействует с орудием своего труда так же, как музыкант со своим инструментом. Для художника или скульптора, краснодеревщика или музыканта инструмент – это продолжение руки. Кажется, что они не пользуются инструментом, а работают непосредственно с материалом – холстом и красками, камнем, деревом, звуками. Чувство материала, то гладкого и звонкого, то неподатливого и шершавого, обеспечивает обратную связь. Это взаимодействие непростое, но приятное. Правда, такого рода «симбиотические» отношения возможны лишь тогда, когда человек хорошо знает свое дело и инструменты у него хорошие. В этих случаях взаимодействие становится плодотворным, приятным и эффективным.
   Возьмем искусного наездника. Он понимает коня, а конь понимает всадника. И каждый из них передает другому информацию о том, что им предстоит. Лошадь общается с наездником с помощью языка тела, аллюра, готовности продолжать скачку и общей линии поведения. Она может быть настороженной, капризной, пугливой или, напротив, энергичной, живой и игривой. Всадник тоже общается с лошадью посредством языка тела, посадки, того, как он давит коленями, ступнями или шпорами на ее бока, команд, которые он отдает, натягивая или отпуская поводья. Конь отлично понимает, кто на нем сидит – опытный наездник, чувствующий себя непринужденно, или напряженный, не уверенный в себе новичок. Это еще один позитивный пример взаимодействия. Он особенно интересен тем, что в данном случае речь идет о двух системах – всаднике и коне, которые наделены чувствами, интеллектом, способны воспринимать окружающий мир и сообщать друг другу результаты этого восприятия.
   Третий пример похож на предыдущий, однако речь здесь идет о взаимодействии разумного существа со сложным, но неразумным механизмом. В идеале – это тонкая взаимосвязь между тем, как водитель ощущает машину и дорогу, и тем, как он действует.
   Я думаю об этом, сидя рядом с сыном, ведущим мою немецкую спортивную машину по гоночному треку, который мы арендовали на несколько часов. Мы приближаемся к резкому повороту, сын плавно тормозит, перемещая вес машины на нос, а затем поворачивает руль, переводя машину в состояние управляемого заноса. Завершив поворот, он возвращает руль в прежнее положение и увеличивает скорость, перемещая вес машины на задние колеса, и мы снова несемся по прямой, наслаждаясь приятным ощущением полного контроля над ситуацией. Это доставляет удовольствие всем участникам процесса: мне, сыну и автомобилю.
   Четвертый пример, с рекомендательными сервисами, сильно отличается от первых трех: здесь все происходит медленнее, не так изящно и носит более интеллектуальный характер. Тем не менее это прекрасная иллюстрация позитивного взаимодействия между людьми и сложными системами, прежде всего потому, что последние не управляют нами, а предлагают, и мы вольны принять или отклонить их рекомендации. Эти системы устроены по-разному, но все они рекомендуют различные изделия или виды деятельности, которые могут нам понравиться: анализируют то, что мы уже выбирали, ищут похожие вещи в своих базах данных и изучают предпочтения других людей, чьи интересы, как им кажется, напоминают наши. А поскольку эти рекомендации даются ненавязчиво (вы знакомитесь с ними и следуете им исключительно по собственному желанию), они могут быть полезны. Скажем, если вы ищете книгу в Интернете, возможность прочесть отрывки из текста, оглавление, указатель и рецензии помогает вам решить, стоит ли ее покупать.
   На некоторых сайтах вам даже объяснят, откуда взялись те или иные рекомендации, и предложат скорректировать методику выбора. В научных лабораториях мне приходилось сталкиваться с рекомендательными системами, которые следят за вашей деятельностью, и, когда вы что-то читаете или пишете, они рекомендуют вам статьи, похожие по содержанию на то, что выведено на экран вашего компьютера. Эффективность этих систем обусловлена несколькими причинами. Во-первых, они предлагают вам нечто ценное, их рекомендации часто актуальны и полезны. Во-вторых, сами рекомендации даются ненавязчиво, они не отвлекают вас от основного занятия и остаются доступными до тех пор, пока вы не пожелаете с ними ознакомиться. Не все подобные системы столь же эффективны, некоторые своей навязчивостью нарушают неприкосновенность вашей частной жизни. Но если они сделаны хорошо, то убедительно доказывают, что «умные» системы способны сделать наше взаимодействие с машинами полезным и приятным.

Пояснение

   Когда я езжу верхом, это занятие не доставляет удовольствия ни мне, ни лошади. Для непринужденного, спокойного взаимодействия с ней нужно немалое умение, которого у меня нет. Я плохо представляю себе, что делаю, и лошадь понимает это не хуже меня. Точно так же, наблюдая с пассажирского места, как неумелый и не уверенный в себе водитель борется с собственной машиной, я не чувствую себя в безопасности. Симбиоз – отличная идея, ведь речь идет о взаимовыгодном сотрудничестве. Но в некоторых случаях, в частности в первых трех из приведенных мной примеров, оно требует немалых усилий, подготовки и навыков. В других случаях, таких как четвертый пример, специальных навыков и обучения не требуется, но разработчики должны всегда помнить об уместности того или иного способа социального взаимодействия.
   Когда я разместил на своем сайте первый вариант этой главы, мне пришло письмо от группы ученых, изучающих возможность применения принципов взаимодействия лошади и всадника в системах управления автомобилями и самолетами. Они называют эту концепцию «метафорой Л», где Л обозначает лошадь. Чтобы понять, как могут быть созданы такие системы, усилия объединили специалисты из исследовательского центра НАСА в Лэнгли (штат Вирджиния) и ученые из Института транспортной системной техники Германского центра авиации и космонавтики (DLR) в Брауншвейге. Я специально побывал в Брауншвейге, чтобы поближе познакомиться с их работой (это потрясающие исследования, подробнее я расскажу о них в главе 3). Всадник регулирует степень контроля над ситуацией, делегируемого коню: отпустив поводья, он позволяет ему действовать самостоятельно, а натянув их, берет управление на себя. Искусные наездники постоянно ведут переговоры со своими лошадьми, приспосабливая степень своего контроля к конкретным обстоятельствам. Американские и немецкие ученые пытаются внедрить этот подход в сферу взаимодействия между человеком и машиной – причем это касается не только автомобилей, но также домов и бытовой техники.
   Симбиоз в том смысле, который полвека назад вкладывал в это понятие Ликлайдер, означает гармоничное и эффективное объединение двух компонентов – человеческого и механического, с тем чтобы возникающее в результате сотрудничество превосходило возможности каждого из них по отдельности. Нам необходимо понять, как достичь оптимального взаимодействия, как сделать его настолько естественным, чтобы оно не требовало ни усилий, ни особых навыков.

Норовистые кони, норовистые машины

   Что означает взаимодействие водителя и автомобиля, построенное по тому же принципу, что и взаимодействие умелого наездника и лошади? Что будет, если машина встает на дыбы или начинает артачиться, оказавшись слишком близко к впереди идущему автомобилю или сочтя, что скорость движения слишком высока? А если она движется плавно и ровно в ответ на правильные команды, но медленно и неохотно реагирует на неправильные? Можно ли сконструировать автомобиль, который будет физически реагировать на ситуацию, сообщая таким образом водителю об опасности?
   А как насчет вашего дома? «Норовистое» жилище – что это такое? Порой мой пылесос или плита начинают бунтовать. Я хочу, чтобы они делали одно, а они хотят делать что-то другое. Но дом! Сегодня инженеры уже готовятся превратить ваше жилище в автоматизированное существо, постоянно заботящееся о вашем благе, удовлетворяющее все ваши потребности и желания еще до того, как эти желания и потребности у вас возникли. Многие фирмы жаждут заняться оборудованием и управлением этими «умными» домами, которые меняют освещение в зависимости от своих представлений о вашем настроении, выбирают и включают для вас музыку, перемещают изображение с одного телеэкрана на другой, если вы бродите по дому. Эти системы так интеллектуальны, что возникает вопрос: сможем ли мы найти с ними контакт? Если вы хотите научиться ездить верхом, вам нужна практика, а еще лучше – обучение на специальных курсах. Так что же, нам теперь придется упражняться в обращении с собственным домом, идти на курсы, чтобы научиться ладить с собственной бытовой техникой?
   Что, если мы сможем придумать способ органичного взаимодействия между людьми и машинами? Пригодится нам для этого опыт взаимодействия умелого наездника с конем? Возможно. Мы должны найти поведенческие соответствия, возникающие в отношениях всадника с лошадью и водителя с автомобилем. Как машина проявляет нервозность? Что означает лошадиный норов применительно к машине? Если лошадь выражает свои эмоции, шарахаясь назад или напрягая шею, как в аналогичной ситуации должен вести себя автомобиль? Что, если он внезапно встанет на задние колеса и начнет раскачиваться из стороны в сторону?
   В научных лабораториях уже работают над аналогами сигналов, которые наездник посылает лошади. Ученые из исследовательских подразделений автомобильных компаний ставят эксперименты, измеряя уровни волнения и внимания, и минимум у одной модели автомобиля, уже поступившей в продажу, на рулевой колонке есть телекамера, которая следит за водителем, определяя, насколько он сосредоточен. Если машина приходит к выводу, что водитель отвлекся и столкновение неминуемо, она автоматически включает тормоза.
   Аналогичным образом разрабатываются «умные» дома, которые наблюдают за своими обитателями, оценивают их настроение и эмоциональное состояние, чтобы выбрать подходящие температуру, освещение и фоновую музыку. В исследовательском центре одного европейского университета группе испытуемых было предложено сыграть в напряженную видеоигру, а затем отдохнуть в специальной комнате с удобными креслами, красивой мебелью и мягким освещением, помогающим расслабиться. Я побывал в этой комнате, там действительно можно расслабиться и отдохнуть. Цель эксперимента – понять, как создать жилую среду, соответствующую эмоциональному состоянию человека. Может ли дом, определив, что хозяева находятся в состоянии стресса, автоматически его снять? Или, напротив, привести своих вялых обитателей в бодрое состояние духа, включив яркий свет, веселую музыку, изменив цветовую гамму?

Машинам легче думать, чем действовать; они воспринимают логику, но лишены эмоций

   «Следуй за мной», – говорит Манфред Макикс, герой книги Чарльза Стросса «Акселерандо», только что купленному чемодану. Так и происходит. Манфред поворачивается и уходит, а «новый чемодан катится за ним».
   Многие из нас выросли на фантастических романах, фильмах и телесериалах о всемогущих роботах и гигантских компьютерах. Порой они неуклюжи (вспомним Си Трипио из «Звездных войн»), порой всеведущи (как компьютер ЭАЛ из «Космической одиссеи»), а порой неотличимы от людей (непонятно, кто же такой Рик Декард, герой «Бегущего по лезвию», – человек или репликант). Реальность, однако, сильно отличается от фантастики. Роботы ХХI века не способны на осмысленное общение с людьми, более того – они и ходить-то умеют плохо, не говоря уж о способности обращаться с реальными предметами. В результате большая часть «умных» машин – особенно бытовых, которые должны быть недорогими, надежными и простыми в обращении, – предназначена для выполнения элементарных функций, вроде приготовления кофе, стирки, мытья посуды, регулирования освещения и отопления, кондиционирования воздуха, уборки дома и стрижки газонов.
   Если поставлена конкретная задача и ничего неожиданного не происходит, «умные» машины способны действовать логично и осмысленно. Они измеряют температуру и уровень влажности, количество жидкости, вес одежды или пищи и определяют, высохло ли белье и готова ли еда. Последние модели стиральных машин способны даже распознавать, из каких тканей сделано белье, каков его вес и степень загрязнения, и выбирать соответствующие настройки.
   Автоматизированные пылесосы (в том числе, моющие) прекрасно работают, если поверхность относительно гладкая и на их пути не встречается препятствий, но чемодан, следующий за хозяином, как в «Акселерандо», по-прежнему остается за пределами возможностей обычной бытовой техники. Хотя создать нечто подобное вполне возможно, ведь здесь не требуется реального взаимодействия с людьми – ни общения, ни специальных мер безопасности. Чемодан должен просто катиться за владельцем. На случай, если кто-то попытается его украсть, чемодан можно запрограммировать так, чтобы он реагировал на опасность громким воем. У Стросса чемодан еще и распознает «отпечатки пальцев хозяина – в оцифрованном виде и по фенотипическим признакам», украсть его можно, а вот открыть нельзя.
   Но способен ли такой чемодан реально передвигаться по многолюдным городским улицам? Ведь у него, в отличие от нас, нет ног. Он не сможет обходить препятствия или перешагивать через них, спускаться и подниматься по лестницам, переходить с дороги на тротуар и – со своими колесами – окажется в положении инвалида: ему придется искать специальные съезды на уличных перекрестках, а внутри зданий пользоваться пандусами и лифтами. Даже людям в инвалидных колясках зачастую нелегко преодолеть эти препятствия, а уж самодвижущемуся чемодану придется куда труднее. Кроме того, передвижение по улицам, скорее всего, ляжет непосильной нагрузкой на его системы обработки визуальных данных. Способность чемодана не упускать из виду хозяина, огибать препятствия, находить путь, пригодный для передвижения на колесах, избегая столкновения с автомобилями, велосипедистами и пешеходами, резко снизится.
   Существуют интересные расхождения в том, что люди и машины считают легким и сложным. В том, что касается мышления, некогда считавшегося привилегией человека, машины достигли наибольшего прогресса, особенно если речь идет о логике и внимании к деталям. А вот физические действия – когда надо стоять, ходить, прыгать, избегать препятствий – сравнительно легко даются людям, но для машин они сложны, а то и непосильны. Наконец, важнейшую роль в поведении людей и животных играют эмоции. Они помогают нам понять, что хорошо, а что плохо, что опасно, а что нет, и служат мощным коммуникативным средством для передачи друг другу чувств и убеждений, реакций и намерений. У машин же существуют лишь примитивные эмоции.
   Несмотря на эти ограничения, многие ученые по-прежнему пытаются воплотить в жизнь мечту об «умных» машинах, способных эффективно общаться с людьми. Ученые по природе оптимисты, им необходимо верить, что их работа важнее всего на свете, и более того, что они уже близки к прорыву исторического масштаба. В результате в СМИ появляются статьи такого содержания:
   По словам ученых, роботы скоро смогут выполнять для людей ряд важных задач – от ухода за детьми до вождения автомобиля за престарелых граждан. В субботу на ежегодное заседание Американской ассоциации развития науки собрались ведущие специалисты страны в области робототехники, чтобы рассказать о последних исследованиях в этой области и о нашей будущей жизни в окружении роботов…
   Например, у вас будет милый плюшевый мишка, обучающий детей испанскому или французскому языку, машина, которая сама отвезет вас на работу, пока вы будете дремать на сиденье, есть или готовить доклад на PowerPoint; динозаврик размером с чихуахуа, понимающий, когда нужно приласкаться и поиграть с вами, а когда оставить вас в покое; компьютер, меняющий положение экрана в зависимости от вашей позы, выполняемой работы или настроения; робот-мажордом, встречающий ваших гостей, представляющий их друг другу на случай, если вы забыли, кого как зовут, развлекающий собравшихся музыкой и анекдотами, разносящий закуски и напитки.
   Достижениям в создании «умной» среды обитания посвящено немало научных конференций. Приведу текст одного из приглашений на такое мероприятие:
   Симпозиум по проблемам создания эмоциональной «умной» среды обитания (Ньюкасл-на-Тайне, Великобритания).
   Бытовой искусственный интеллект – новая популярная сфера исследований, нацеленных на создание «умной» среды обитания, чутко, гибко и активно реагирующей на присутствие и действия человека, обеспечивая услуги, которые обитатели этой среды запрашивают или которые могут им понадобиться.
   Искусственный интеллект все больше проникает в наш быт. Многие привычные приборы, такие как телевизоры, кухонное оборудование или системы центрального отопления, уже оснащаются встроенными компьютерами, которые будут объединены в интегрированные сети… Датчики биологической активности позволят системе распознавать присутствие и состояние пользователей, а также определять их потребности с целью улучшения бытовых условий и повышения реального благополучия людей.
   Верите ли вы в то, что ваш дом лучше знает, что вам нужно? Хотите ли вы, чтобы ваша кухня консультировалась с вашими напольными весами, или чтобы ваш унитаз автоматически исследовал вашу мочу, а затем сообщал результаты вашему лечащему врачу? И как, собственно, кухня узнает, что именно вы ели? Как она поймет, что масло, яйца или сливки, которые вы вынули из холодильника, предназначены для вас, а не для других обитателей дома, гостей или, скажем, школьного проекта?
   Еще недавно надзор за вашим питанием был невозможен, но сегодня уже появились крохотные, едва видимые датчики, которые можно прикреплять к чему угодно – к одежде, товарам, продуктам, даже к людям и домашним животным – и отслеживать все, что с ними происходит. Их называют радиочастотными идентификационными метками (RFID). Им не нужны батарейки: метки получают энергию от считывателя, посылающего запрос об их назначении, идентификационном номере и других сведениях о человеке или объекте, которые в них заложены. Если все продукты снабжены такими метками, «умный» дом может проследить за вашим питанием. Наличие RFID-меток, а также телекамер, микрофонов и других сенсорных устройств равносильно приказам: «Ешь брокколи», «Не трогай масло», «Делай зарядку». Властная кухня? Это еще мягко сказано!