Поспелов Дмитрий Александрович. Моделирование рассуждений. Опыт анализа мыслительных актов

   Существует несколько типов вопросов, которые мы часто задаем другим людям или самим себе. Специалисты до сих пор не пришли к единому мнению о классификации всех возможных вопросов. Условно их пока делят на шесть типов в зависимости от того, какие процедуры требуются при ответе на них.
   1. ЧТО-вопросы. Это вопросы типа «Что ты знаешь о сотруднике Иванове?» или «Сообщи все, что тебе известно о малярии». ЧТО-вопросы для ответа на них требуют просмотра базы знаний и извлечения из нее всей информации, относящейся к тому, о чем спрашивается в вопросе. При реализации такой процедуры возникает немало сложностей. Информация в базе знаний хранится так, что между информационными единицами имеется немало разнообразных связей. Эту ситуацию мы описали, когда говорили о семантических сетях. «Вытаскивая» ответ на ЧТО-вопрос, надо решить проблему остановки, прекращения движения по связям. Надо уметь определять релевантное окружение той информации, которая является прямым ответом на поставленный вопрос.
   2. ЛИ-вопросы. Такие вопросы подразумевают конечное множество альтернативных ответов при условии, что сами ответы как бы присутствуют в вопросе. Вот примеры ЛИ-вопросов: «Петя ходит в школу или он еще дошкольник?», «Что мы будем делать после обеда: отдыхать, гулять или работать в саду?», «Перестала Маша по утрам ходить на музыку?».
   Для формирования ответов на ЛИ-вопросы необходима процедура проверки истинности альтернатив, перечисленных в них, и выбора той альтернативы, которая является истинной. Конечно, в базе знаний может не оказаться нужных данных. Это приводит к тому, что в качестве ответа на ЛИ-вопрос может быть выдано: «Не знаю» или «Не имею необходимой информации».
   Возможен и другой крайний случай (к сожалению, весьма часто встречающийся в больших информационных системах), когда возникает известная позиция Ходжы Насреддина в разрешении спора двух сторонников взаимно исключающих альтернатив. Выслушав первого, он сказал: «Ты прав», выслушав второго он снова сказал: «Ты прав», а на замечание прохожего, что так быть не может, Насреддин сказал и ему: «Ты прав». При заполнении баз знаний (особенно из различных источников) в них одновременно могут храниться взаимоисключающие факты. При обнаружении такого положения ответ на ЛИ-вопрос должен звучать примерно так: «Однозначного ответа дать не могу, верно и одно и другое».
   3. КАКОЙ-вопросы. Эти вопросы похожи на ЛИ-вопросы, но отличаются от них тем, что либо множество альтернатив является бесконечным, либо определяется не по самому вопросу, а требует выполнения специальных процедур по его нахождению. Типичными примерами КАКОЙ-вопросов могут служить: «Какие сотрудники института имеют детей в возрасте до пяти лет?» или «Какие следствия могут возникнуть из того, что министром обороны станет Д. Смит?». Ответ на первый из приведенных вопросов требует специального просмотра содержимого памяти системы, использующего атрибут «наличие детей до пяти лет». Такой поиск характерен для современных реляционных баз данных. Поэтому в литературе подобные КАКОЙ-вопросы часто называют типовыми запросами к реляционным базам данных или просто реляционными вопросами.
   Ответ на второй КАКОЙ-вопрос требует не только поиска, но и процедуры логического вывода следствий из того, что в множество истинных формул в качестве посылки включается новая формула, связанная с утверждением о том, что Д. Смит является министром обороны. Как и для ЛИ-вопросов, в этом случае возможно незнание ответа или неоднозначность его. КАКОЙ-вопросы второго типа есть вопросы о следствиях из принятия некоторого факта в базу знаний, что принципиально отличает их от КАКОЙ-вопросы первого типа.
   4. ПОЧЕМУ-вопросы. Вопросы подобного типа есть вопросы о причинах явлений или фактов, перечисленных в вопросе. Ответы на них требуют использования каузальных логик, о которых мы уже упоминали ранее, т.е. обращения к причинно-следственным и иным каузальным связям, отраженным в базе знаний. После этого моделируется рассуждение, схема которого и есть ответ на ПОЧЕМУ-вопрос.
   5. ЗАЧЕМ-вопросы. Это вопросы о целях. Ответ на них внешне похож на поиск ответа на ПОЧЕМУ-вопросы, но вместо каузальных связей в базе знаний используются связи типа «цель – средство» или «цель – подцель». Ответом служит найденный путь, ведущий от текущей ситуации к целевой или целевым. При невозможности найти соответствующий путь при ответах на ПОЧЕМУ-вопрос или ЗАЧЕМ-вопрос в качестве ответа может формироваться: «Не знаю» или «Отсутствует информация для ответа».
   6. КАК-вопросы. Эти вопросы предполагают, что в качестве ответа на них будут выданы пояснения о способах получения системой тех или иных результатов. Если, например, КАК-вопрос касается того, как получен тот или иной логический вывод, то в качестве ответа на него можно воспроизвести этот вывод или наиболее важные его части. Для этого удобно хранить в памяти системы «треки» ранее полученных выводов, пока вопрос типа КАК остается актуальным.
   Из приведенной типологии вопросов видно, что ответы на многие из них могут трактоваться как объяснения. Проблема объяснения в современных интеллектуальных системах стала одной из центральных. Мы уже говорили о том, что она обязательно должна иметь решение в экспертных системах. Пользователь такой системы должен быть уверен, что совет, данный интеллектуальной системой, действительно верен и получен из исходных данных с учетом всей информации о задаче, имеющейся у пользователя.
   В более широком смысле от интеллектуальной системы требуется не просто объяснение, а, скорее, обоснование того результата, который получен системой. Уверенность в правильности некоторого ответа у специалиста часто сочетается с неумением обосновать его строго логически. Один из специалистов археологов по этому поводу пишет: «Если опытному археологу показать обработанный камень или черепок глиняного сосуда, он довольно уверенно скажет, к какой эпохе или даже к какой культуре относится показанный предмет. Но если его спросить, каким образом он пришел к этому выводу, какова цепочка рассуждений, приведших его к ответу, то этот вопрос окажется для него более сложным, чем первый, поскольку подобные заключения, как правило, основаны на опыте и интуиции исследователя, а проверкой и обоснованием наших интуитивных заключений мы утруждаем себя не очень часто».
   Мы пришли к весьма важному моменту, когда становится очевидным, что в человеческих рассуждениях, выводах и методах обоснования появляется новый компонент, связанный с опытом и интуицией, еще не вылившимися в форму осознанных логических утверждений. В широком смысле обоснование некоторого факта или утверждения должно включать в себя наряду с его логической аргументацией и компонент, опирающийся на психологическую уверенность человека в справедливости или истинности тех или иных положений. Здесь теория человеческих рассуждений смыкается с психологией поведения людей. И именно об этом пойдет речь в последней главе книги.

Глава шестая. РАССУЖДЕНИЯ И ПОВЕДЕНИЕ

   Причины действий человеческих обыкновенно бесчисленно сложнее и разнообразнее, чем мы их всегда потом объясняем, и редко определенно очерчиваются.

Ф. М. Достоевский. Идиот

Рационален ли человек?

   Этот вопрос может показаться странным. Мы привыкли, что рациональность, целенаправленность поведения человека, внутренняя логика его рассуждений тем больше, чем сильнее в нас проявляются «интеллектуальные возможности», чем более строго и научно мы действуем. Глубокое уважение к науке, вера в ее силу и исключительность в объяснении окружающего мира, в торжество научно-технического прогресса настолько сильны в нас, что мы склонны считать, что лишь научные способы рассуждений, опирающиеся на формальные логические схемы, могут оказаться продуктивными и справедливыми.
   На предшествующих страницах этой книги была сделана попытка заронить сомнение в незыблемость этого расхожего мнения. Было показано, что строгие достоверные рассуждения, отвечающие самым полным ограничениям формальных логических систем, моделируют далеко не все виды рассуждений, которыми оперирует в своей деятельности человек. Многие виды научного знания базируются на рассуждениях нестрогих, носящих правдоподобный характер, или на выводах, использующих неполную исходную информацию. В этой главе обратим еще большее внимание на важность в моделировании человеческой деятельности и его поведения «нерациональных схем рассуждений».
   Но начнем с того, что попытаемся описать основные черты целенаправленной (рациональной) модели поведения. Такая модель может быть охарактеризована следующими девятью особенностями.
   1. В поведенческом акте четко разделяются конечные и промежуточные цели, средства достижения целей и результаты, возникающие при применении этих средств.
   2. Имеется эффективная процедура, которая позволяет сравнивать между собой результаты и цели, оценивать степень достигнутости цели.
   3. Имеется эффективная процедура, дающая возможность оценивать значимость достигаемых целей и сравнивать между собой различные цели по степени их важности.
   4. Задана структура промежуточных целей. Другими словами, проведена декомпозиция конечных целей на промежуточные и определен порядок движения от целей нижнего уровня к целям верхнего уровня (переход с уровня на уровень соответствует приближению к конечным целям).
   5. Средства сами по себе не имеют какой-либо ценности. Их ценность определяется лишь тем, насколько быстро идет движение к конечным целям.
   6. Заданы условия выбора средств, не зависящие от целей, определяемые теми или иными четко осознанными обстоятельствами или возможностями.
   7. Акт поведения оценивается по тому, насколько удалось в результате его совершения приблизиться к конечной цели.
   8. Имеются процедуры оценки ресурсных ограничений, необходимых при выборе тех или иных средств или достижении тех или иных целей.
   9. Ожидается, что в результате достижения конечной цели субъект получит некоторое «вознаграждение» (например, в виде морального удовлетворения).
   Можно ли считать, что эти основные особенности реализуются в любом человеческом рассуждении или поведении? Всегда ли мы осознанно ставим перед собой цели, проводим анализ средств их достижения, оцениваем возможные ресурсы и делаем все остальное, без чего рациональное поведение не является таковым? Разве не ловим мы себя время от времени на мысли о том, что наши действия ни на что не направлены, что мы «просто убиваем время» или «ловим кайф»? Разве время от времени мы не делаем вещей, которые сами потом не в силах объяснить?
   Но даже тогда, когда мы осознаем цель, которую хотим достичь, не начинаем ли мы действовать подобно Манилову, лишь рассуждая о пользе достижения этой цели, но не делая к этому никаких практических шагов. При тех или иных выводах мы часто прибегаем к некоторым утверждениям, в абсолютную истинность или ложность которых не верим. Когда мы говорим: «Ученье – свет, а неученье – тьма», мы, по-видимому, верим в истинность этой сентенции. Но в несколько иных обстоятельствах мы с той же внутренней убежденностью прибегаем к другой сентенции, явно противоречащей первой: «Век живи, век учись – дураком помрешь». В первой главе мы говорили о трех ипостасях человека: дитя, взрослый и родитель. И если рассуждения взрослого демонстрируют чисто логический характер, несомненно рациональный по особенностям, то рассуждения ребенка или родителя вовсе не преследуют рациональных целей. Дети часто получают удовольствие от самого процесса рассуждения, от тех эмоций, которые этот процесс вызывает, а рассуждающие в ипостаси «Родитель» часто как раз и занимаются тем, что «просто убивают время».
   Стереотипы социального поведения, мода, сложившиеся в обществе морально-этические нормы во многом определяют наши рассуждения и поведение. В итальянском фильме «Игра в карты по-научному» баснословно богатая и бесчеловечная старуха обыгрывает в карты бедняков, мечтающих о том, что они, выиграв, разбогатеют. Так как старуха при каждом проигрыше просто удваивает ставку, а запас ее денег неиссякаем, то логически совершенно очевидно, что наступит момент, когда она отыграет все свои проигрыши и разорит противника. Подобный вывод строг и обоснован, ибо игра продолжается без ограничений. Но рассуждения двух детей, героев картины, основаны на иных принципах. Между ними происходит такой диалог: «Как ты думаешь, старуха проиграет? – Конечно! – А почему? – Потому что она плохая, а он хороший».

«Ты прав, но это меня не убеждает»

   Факты для человека существуют не сами по себе. Они образуют взаимосвязанную и сложную структуру. Наличие того или иного факта, не подтверждаемого другими фактами, тесно связанными в сознании с ним, часто подвергается сомнению. И, наоборот, ненаблюдаемый факт может казаться истинным, если его релевантное окружение имеет место. Таким образом, для человека важен не только конкретный факт, но и тот контекст, в котором он существует в его сознании.
   В последнее время в науке об интеллектуальных системах все чаще и чаще используется термин «уверенность». Факты принимаются или не принимаются людьми не только в силу их логической обоснованности, но и в силу той или иной уверенности людей в этих фактах, совместимости их с ранее сформировавшимися у человека представлениями и связями. Конечно, эта уверенность может быть мнимой, приводить к ошибочным умозаключениям.
   «Выдергивание» фактов из контекста, оперирование ими вне релевантного окружения может приводить к их субъективному истолкованию. Вот как пишет о такой «операции» и ее последствиях для исторической науки писатель О. Сулейменов: «Я понял, что историческая ложь может оскорблять вещего так же, как историческая правда невежду. Мне приходилось видеть, как исторический факт мотается на качелях субъективной логики, возносясь на метафизические вершины и обрушиваясь в бездонные пропасти объективного незнания. Факт, взятый вне исторического контекста, превращается в мертвую игрушку ученых. Ибо факт – ядро эпохи, он живет в космосе обстоятельств своего времени, как земной шар в оболочке атмосферы».
   Проблему аргументации можно было бы сформулировать как проблему поиска тех фактов (из которых данный факт вытекает), которые могли бы обосновать проявление интересующего нас факта. Факты, привлекаемые для аргументации, должны быть убедительными либо для самого субъекта (если он убеждает сам себя), либо для его оппонентов. Как-то на экскурсии в Больших Вязёмах автор услышал следующую аргументацию экскурсовода по поводу факта причастности Бориса Годунова к убийству царевича Дмитрия. Экскурсовод, показывая на храм Преображенья, стоящий в Больших Вязёмах, сказал: «Посмотрите на храм внимательно. Многие его детали напоминают Архангельский собор в Кремле. Значит, строя его, Борис Годунов как заказчик давал строителям образцы для подражания. Он еще не был на престоле, но явно думал о нем. Косвенно это для меня лично весьма убедительно свидетельствует, что Дмитрия убили по приказанию Годунова». Автору это рассуждение показалось малоубедительным. Но в процессе дальнейшего разговора с экскурсоводом он услышал немало других аргументов в пользу высказанного. И хотя автор не стал сторонником мнения о причастности Годунова к убийству Дмитрия, но соображения его оппонента стали для него более убедительными.
   Таким образом, можно считать, что аргументация – это такой процесс, при котором одна из сторон пытается сменить систему аксиом у собеседника, «настроить» его на вывод из приведенной для аргументации совокупности фактов того утверждения, которое защищается. Но, чтобы добиться этого, необходимо сменить у собеседника систему ценностей, которая лежит в основе непринятия аргументации. Другими словами, при этом необходимо апеллировать не к чисто логическому содержанию утверждений, а к тем ценностным оценкам, которыми они обладают.
   Процессы такого рода в практике человеческого общения называются «споры». Споры бывают самыми различными по своим целям и формам. Опишем ряд типичных видов спора.
   1. Спорящий в процессе аргументации и ответов на нее хочет увеличить собственную уверенность в справедливости того тезиса, который он отстаивает. Возможно, что в процессе опровержения аргументации у лица, выдвинувшего тезис, произойдет смена аксиом, и он изменит свою точку зрения.
   2. Спор происходит с единственной целью убеждения оппонента в справедливости выдвигаемого тезиса. При этом лицо, выдвинувшее некоторый тезис, может считать его истинным, но может и не считать его таковым. Во втором случае оправданием спора для него служит убеждение, что если оппонент примет тезис (хотя он и неверен), то оппоненту будет лучше. Например, происходит убеждение друга, что ему надо жениться на его новой знакомой, но стремление навязать ему этот брак проистекает вовсе не из того, что верен обосновываемый в споре тезис «Она лучше других тебе подходит», а потому, что «Жениться просто необходимо». И когда «Добрыня крестил огнем, а Путята мечом», то они были, по-видимому, уверены в том, что для язычников крещение было благом.
   Два указанных вида спора исчерпывают то, что можно было бы назвать рациональным спором. Спорящие в них имеют свои четко осознаваемые цели и добиваются их, используя приемы, не содержащие обмана. Наверное, имитация таких споров в современных интеллектуальных системах – вещь вполне возможная. По крайней мере, ясно, как это делать принципиально, используя процедуры решателя и возможности базы знаний. Остальные виды спора, перечисленные ниже, реализовать в интеллектуальных системах намного труднее (да и с прагматической точки зрения целесообразность такой реализации требует особых обоснований).
   3. Спор происходит ради победы в нем. Наградой за одержанную победу является укрепление личной установки, получение эмоционального подкрепления своей «всесильности». В таких спорах часто используются всевозможные обманы, подмены одних тезисов другими, отказ от ранее принятых положений и т.п. Споры такого рода представляют своеобразную психологическую игру, в которой целью является не истина, а доказательство своего превосходства над другим человеком.
   4. Спор может использоваться «для убивания времени». Часто люди спорят просто ради любви к спору, к тем эмоциям, которые его сопровождают. В грибоедовское время жил в Москве Алексей Михайлович Пушкин, который ежедневно с утра искал кого-нибудь, чтобы начать с ним спорить, все равно о чем. Иногда в процессе спора он мог сменить тезис на противоположный, если видел, что оппонент уже согласен принять его тезис, и продолжал столь же красноречиво и яростно убеждать оппонента в верности антитезиса.
   5. Спор ради обучения спору, когда не слишком опытный спорщик в процессе спора обучается приемам аргументации, уловкам и ловушкам и другим способам вести спор. Такие споры использовались в философских школах Античности для обучения учеников. Сократические диалоги являются одним из видов такого спора. Еще раз напомним, что вся силлогистика Аристотеля выросла из практики споров подобного типа.
   6. Спор ради оскорбления оппонента, стремления унизить его, доказать, что его система ценностей намного хуже той, которой пользуется спорщик. В таком споре люди редко прислушиваются к аргументам оппонента. Иногда они попросту их не слышат. Об одном таком спорщике М.Ю. Лермонтов пишет в первой главе «Княжны Мэри»: «Спорить с ним я никогда не мог. Он не отвечает на ваши возражения, он вас не слушает. Только что вы остановитесь, он начинает длинную тираду, по-видимому, имеющую какую-то связь с тем, что вы сказали, но которая на самом деле есть только продолжение его собственной речи».
   В процессе спора спорящий может слушать лишь себя, но может имитировать рассуждения своего оппонента. Во втором случае он пользуется схемами, получившими название схем рефлексии.

«Он думает, что…»

   21-го августа 1974 года на шестнадцатой полосе «Литературной газеты» появилась миниатюра А. Жукова, имеющая непосредственное отношение к тому, о чем тут пойдет речь. Поэтому приведем ее полностью.

   Личное мнение
   «Да» или «нет»? – вот в чем вопрос. Если «да», не подумает ли Он, что я говорю «да» лишь потому, что я думаю, что так думает Он? То есть что я подхалим. А если «нет», не подумает ли Он, что, несмотря на то, что я думаю, что Он думает «да», я тем не менее говорю «нет», то есть что я не в меру строптив? Но если «да», Он подумает, что я говорю «да» потому, что мне показалось невыгодным говорить «нет». А если «нет», Он может подумать, что я говорю «нет» лишь для того, чтобы показать, что у меня есть собственное «Я», то есть что у меня его нет. А все таки «да» или «нет»? «Нет» или «да»? А почему это я вдруг решил, что Он думает «да»? А если Он думает наоборот? И тогда, если я скажу «нет»…

   Мучения героя миниатюры по-человечески понятны. Знать мнение своего начальника – мечта многих поколений подчиненных. Еще во времена Римской империи был в ходу принцип Ipse dixit, который по-русски звучит весьма внушительно: «Сам сказал!». Но как узнать, что же Сам сказал? Нельзя же просто так спросить Самого. Выход из этого положения – моделирование предполагаемого мнения начальства. Основа такого моделирования – рефлексивные рассуждения.
   При рефлексивном рассуждении мы как бы становимся не собой, а моделируемым персонажем, проводим рассуждение за него, глядим на мир и ситуацию его глазами. Для того, чтобы это было возможно, надо знать ту систему посылок и критериев, которые моделируемое лицо использует. Если таких знаний недостаточно или их нет, то существует лишь один выход: считать, что Он и Я одинаковы. Другими словами, считать, что Он обладает такими же посылками и критериями, как и Я, а его знания не больше моих.
   Если внимательно прочитать эту юмореску, то можно заметить, что рефлексивные рассуждения очень напоминают вложенные друг в друга матрешки. Рекурсивный процесс вложения можно продолжать бесконечно, становясь попеременно на место моделируемого персонажа и свое. С этим вложением связано понятие ранга рефлексии, введенного в научный оборот В.А. Лефевром, впервые описавшим модель рефлексивных рассуждений. Понятие ранга рефлексии удобно проиллюстрировать на примере, использованном ранее тем же Лефевром.
 

   Рис. 37.
 
 
   На рис. 37 показана ситуация погони. Персонаж X пытается удрать от персонажа Y. Зная, что Y бегает быстрее его, X решает воспользоваться рефлексивным рассуждением, считая, что Y к нему не способен. Он вбегает в пещеру, показанную на рисунке, и при наличии двух коридоров А и В выбирает коридор В. Почему он это делает? Схема его рассуждений такова. Коридор А более приспособлен для передвижения, в нем можно бежать, а в узком коридоре В придется пробираться почти ползком. Другими словами, АВ, где знаком обозначено, что коридор А предпочтительнее В. И персонаж Y об этом тоже знает. Но поскольку Y не умеет рефлективно рассуждать (это соответствует тому, что Y обладает нулевым рангом рефлексии), то схема рассуждений Y будет иметь следующий вид:
   X и я знаем, что АВ, следовательно, Х_А и, следовательно, Y_A.
   Здесь Х_A и Y_A обозначают соответственно то, что X и Y выбирают движение по коридору А. Но для X такая ситуация никуда не годится. Не слишком умный, но быстроногий Y его догонит либо в пещере, либо после выхода из нее через выход А. Именно поэтому X прибегает к рефлексивному рассуждению. Оно выглядит следующим образом:
   Y думает, что АВ, следовательно, Y_A и, следовательно, Х_B. Пусть теперь Y попробует догнать X, ведь выход В расположен совсем в другом месте, чем выход А! В этом рассуждении персонаж X продемонстрировал наличие первого ранга рефлексии. Прежде чем принять решение, он провел рассуждение за Y, предположив, что его знания таковы, что он обладает нулевым рангом рефлексии.