Статус Великой головоломки вышел за рамки замкнутого мира математики. В 1958 году Великая теорема Ферма проникла даже в легенду о Фаусте. В сборнике «Как иметь дело с дьяволом» была опубликована новелла Артура Порджеса «Дьявол и Саймон Флэгг». В ней дьявол обращается к профессору математики Саймону Флэггу с предложением задать ему, дьяволу, какой-нибудь вопрос. Если дьяволу удастся найти ответ за двадцать четыре часа, то он получает душу Саймона. В случае неудачи дьявол обязуется уплатить Саймону 100000 долларов. Саймон задает дьяволу вопрос: «Верна ли Великая теорема Ферма?» Дьявол исчезает и носится по свету, собирая по крохам все достижения математики. На следующий день он возвращается и признает свое поражение: «Вы выиграли, Саймон, — сказал дьявол, почтительно глядя на профессора. — Даже мне не под силу выучить всю математику, которая необходима для решения столь трудной задачи за столь короткое время. Чем глубже я погружаюсь в проблему, тем труднее она становится. Неединственное разложение на множители, идеальные числа… Да что зря говорить! Знаете, — признался дьявол, — даже самые лучшие математики на других планетах, а они, должен вам сказать, намного опередили ваших, не решили ее. Взять хотя бы того парня на Сатурне, что очень похож на гриб на ходулях. Он в уме решает дифференциальные уравнения в частных производных. Так даже он не справился с этой задачей».

Глава 3. Позор математики

   Математика — не церемониальный марш по гладкой дороге, а путешествие по незнакомой местности, где исследователи часто рискуют заблудиться. Строгость должна стать указанием для историка о том, что данная местность нанесена на карту, а настоящие исследователи отправились дальше.
У.С. Энглин

   «С тех пор, как я еще мальчиком впервые столкнулся с Великой теоремой Ферма, она стала моим увлечением на всю жизнь, — вспоминает Эндрю Уайлс, и его дрогнувший голос выдает тот трепет, с которым он относится к этой задаче. — Я обнаружил, что эта проблема оставалась нерешенной на протяжении трех столетий. Не думаю, чтобы многие из моих школьных друзей подхватили математическую лихорадку, поэтому я не стал обсуждать проблему Ферма с моими одногодками. Но мой учитель математики сам занимался исследованиями, и он дал мне книгу по теории чисел, из которой я почерпнул кое-какие указания относительно того, как приступить к решению проблемы. Прежде всего я решил (и принял это в качестве исходной гипотезы), что Ферма не мог знать намного больше математики, чем я. И я попытался найти его утерянное доказательство, используя те разделы математики, которые мог использовать он сам».
   Уайлс был наивным ребенком, преисполненным честолюбивых замыслов, который мечтал достичь успеха там, где потерпели неудачу поколения математиков. Кому-нибудь другому такое намерение могло бы показаться глупой мечтой, но юный Эндрю был совершенно прав, полагая, что он, двенадцатилетний школьник, живущий в XX веке, знает математику в ничуть не меньшем объеме, чем Пьер де Ферма — гений, живший в XVII веке. В своей наивности он действительно мог наткнуться на доказательство, которое пропустили Другие, более искушенные, математики.
   Но, несмотря на весь энтузиазм Эндрю, все его попытки доказать Великую теорему Ферма неизменно оканчивались неудачей.
   Изрядно поломав голову и подробнейшим образом изучив школьные учебники, он не сумел добиться ничего. После года бесплодных поисков Эндрю решил изменить стратегию и попытаться извлечь что-нибудь полезное для себя из ошибок известных математиков. История Великой теоремы Ферма была необычайно романтичной. Много людей размышляли над ней, и не один великий математик в прошлом пытался доказать ее и потерпел неудачу, отчего Великая проблема становилась все большим вызовом и все большей тайной. «Многие математики XVIII и XIX веков. пытались самыми различными способами доказать Великую теорему Ферма, и я, мальчишка, решил изучить все эти методы и понять, что делали великие математики прошлого».
   Юный Уайлс принялся изучать методы всех, кто когда-либо делал серьезную попытку доказать Великую теорему Ферма. И начал он с изучения трудов одного из наиболее плодовитых математиков в истории, которому удалось осуществить первый прорыв в битве с Великой теоремой Ферма.

Математик-циклоп

   Создание математики — занятие мучительное и таинственное. Объект доказательства часто бывает ясен, но путь к доказательству теряется в тумане, и математик бредет наощупь, производя выкладки и опасаясь, что каждый шаг может увлечь ход рассуждений в совершенно неверном направлении. Кроме того, всегда существует возможность того, что пути к доказательству вообще не существует. Решив, что некоторое утверждение истинно, математик может годами пытаться доказать его, хотя в действительности это утверждение ложно. По существу, математик в этом случае пытается доказать невозможное.
    За всю историю математики лишь горстке математиков удалось избежать такого рода сомнений, которые страшили их коллег. Возможно, наиболее известным из математиков, не ведающих страха и упрека, был живший в XVIII веке математический гений Леонард Эйлер. Именно ему удалось совершить первый крупный прорыв к доказательству Великой теоремы Ферма. Эйлер обладал столь невероятной интуицией и такой обширной памятью, что, по преданию, мог держать в голове весь объем производимых вычислений, не прикасаясь пером к бумаге. Вся Европа называла его «прирожденным аналитиком», а французский академик Франсуа Араго сказал о нем: «Эйлер вычислял без видимых усилий, как люди дышат или как орлы парят в поднебесье».
   Леонард Эйлер родился в Базеле в 1705 году в семье кальвинистского пастора Пауля Эйлера. Хотя юный Эйлер проявил недюжинный математический талант, его отец решил, что сын должен изучать теологию, и готовил ему церковную карьеру. Леонард повиновался отцовской воле и стал изучать теологию и древнееврейский язык в Базельском университете.
   К счастью для Эйлера, Базель был родиной знаменитого клана Бернулли. Бернулли могли бы с полным основанием претендовать на звание самого математического рода: восемь представителей семьи Бернулли принадлежали к числу самых выдающихся умов Европы на протяжении всего лишь трех поколений. Говорили, что семья Бернулли стала для математики тем же, чем семья Баха была для музыки. Слава рода Бернулли распространилась за пределы математического сообщества, и одна легенда ярко рисует «профиль» семейства. Однажды Даниил Бернулли путешествовал по Европе и вступил в беседу с незнакомцем. Спустя какое-то время он скромно представился своему собеседнику: «Я — Даниил Бернулли». «А я, — саркастически ответил тот, — Исаак Ньютон». Даниил охотно вспоминал этот случай несколько раз, считая его самым искренним признанием своих заслуг, которое ему когда-либо довелось получать.
   Даниил и Николай Бернулли были близкими друзьями Леонарда Эйлера, и они первыми поняли, что на их глазах происходит превращение блестящего математика в самого заурядного теолога. Они обратились к Паулю Эйлеру и упросили его разрешить Леонарду оставить теологию ради чисел. Эйлер-старший сам в прошлом изучал математику у старшего Бернулли, Якоба, и испытывал к семье Бернулли глубочайшее почтение. С большой неохотой Пауль Эйлер был вынужден признать, что его сын рожден не для молитв, а для вычислений.
   Вскоре Леонард Эйлер покинул Швейцарию, сменив родной Базель на дворцы Берлина и Санкт-Петербурга, где он и провел б?льшую часть своей творческой жизни. В эпоху Ферма математиков считали любителями жонглировать числами, но к началу XVIII века их уже рассматривали как профессиональных «решателей задач». Культура чисел резко изменилась, и произошло это отчасти благодаря сэру Исааку Ньютону и его научным результатам.
   Ньютон полагал, что математики лишь впустую тратят время, поддразнивая друг друга пустыми и никчемными задачами-головоломками. Вместо этого он вознамерился применять математику к физическому миру и вычислять все, что только можно, — от орбит планет до траекторий пушечных ядер. К тому времени, когда Ньютон умер (это произошло в 1727 году), в Европе произошла научная революция. В тот же год Эйлер опубликовал свою первую работу. И хотя она содержала изящные и свежие математические идеи, ее главная цель состояла в описании решения одной технической проблемы, связанной с постановкой мачт на парусных кораблях.
   Европейские державы не были заинтересованы в использовании математики для изучения эзотерических и абстрактных понятий; математика была им необходима для решения практических проблем, и правительства состязались в привлечении к себе на службу лучших умов. Эйлер начал свою математическую карьеру в России, затем его пригласил в Берлинскую академию король Пруссии Фридрих Великий. В царствование Екатерины Великой Эйлер вернулся в Россию, где он и провел последние годы жизни. За годы своей деятельности Эйлер решил множество задач из самых различных областей — от навигации до финансов, от акустики до ирригации. Практический мир решения насущных проблем не притупил математические способности Эйлера. Наоборот, для решения каждой новой проблемы Эйлер изобретал новый остроумный математический подход. Столь «односторонняя» направленность его ума приводила к тому, что в иной день Эйлеру случалось писать по несколько работ. Рассказывают, что между первым и вторым приглашением к обеденному столу Эйлер как-то раз попытался выполнить вычисления, заслуживающие публикации. Эйлер не терял ни минуты. Укачивая одной рукой младенца в колыбели, он другой рукой набрасывал доказательство теоремы.
   Одним из величайших достижений Эйлера стала разработка алгоритмического мышления. Отличительная особенность эйлеровских алгоритмов состояла в том, что они предназначались для решения проблем, казавшихся неразрешимыми. Одной из таких проблем было высокоточное предсказание фаз Луны — информация о фазах Луны имела жизненно важное значение для составления таблиц, необходимых для мореплавания. Еще Ньютон показал, что можно сравнительно легко предсказывать орбиту одного тела, обращающегося вокруг другого, но в случае Луны ситуация не столь проста.
   Луна обращается вокруг Земли, но третье тело — Солнце — существенно усложняет картину. Земля и Луна притягивают друг друга, а Солнце возмущает положение Земли и сталкивает Луну с ее идеальной орбиты вокруг Земли. Уравнения позволяли описать поведение Земли и Луны, но математики XVIII века не умели учитывать в своих вычислениях влияние третьего тела. Даже сегодня невозможно предсказать, как будет вести себя точное решение этой задачи (класс таких задач называется «задачей трех тел»). Эйлер понял, что мореплавателям нет необходимости знать фазу Луны с абсолютной точностью — вполне достаточно такой точности, которая позволяет определить положение судна с точностью до нескольких морских миль. И он разработал рецепт, позволяющий получать не идеальное, а достаточно точное решение. Такой рецепт, называемый алгоритмом, позволяет получить сначала весьма приближенное, грубое решение. Затем это решение можно ввести в качестве исходных данных в тот же алгоритм и получить уже более точное решение. В свою очередь, уточненное решение, если его также ввести в алгоритм, порождает еще более точное решение, и т. д. После ста или около того итераций Эйлер получил возможность определить положение Луны с точностью, достаточной для нужд мореплавания. Свой алгоритм Эйлер представил британскому Адмиралтейству и получил награду в триста фунтов стерлингов.
   Эйлер заслужил репутацию человека, способного решить любую поставленную ему задачу, причем не только математическую. В бытность свою при дворе Екатерины Великой он встретил великого французского философа Дени Дидро. Тот был убежденным атеистом и пытался обратить в атеизм представителей русской знати. Разгневанная этим Екатерина обратилась к Эйлеру с просьбой пресечь деятельность французского безбожника.
   Эйлер поразмыслил над просьбой императрицы и объявил, что располагает алгебраическим доказательством существования Бога. Екатерина Великая пригласила Эйлера и Дидро во дворец и собрала на теологический спор всех придворных. Эйлер встал перед аудиторией и заявил:
   «Сир! ( a+ b n)/ n= x, следовательно Бог существует. Что Вы имеете возразить?»
   Дидро не был силен в алгебре и не мог ничего возразить величайшему математику Европы. Ему оставалось только безмолвствовать. Потерпев унизительное поражение, он покинул Санкт-Петербург и вернулся в Париж. Эйлер же на какое-то время вернулся к занятиям теологией и опубликовал еще несколько шутливых доказательств относительно природы Господа Бога и человеческого духа.
   Более «земная» задача, привлекшая внимание Эйлера, большого любителя головоломных проблем, связана с прусским городом Кёнигсбергом (ныне — российский город Калининград). Город стоит на берегах реки Прегили и состоит из четырех частей, соединенных между собой семью мостами. План города схематически изображен на рис. 7. Некоторые из любопытных жителей Кенигсберга заинтересовались, можно ли обойти все семь мостов, не переходя ни по одному из них дважды. Кое-кто из обитателей Кенигсберга попытался проложить различные маршруты, но ничего хорошего из этого не вышло. Эйлеру также не удалось обойти все семь кёнигсбергских мостов, побывав на каждом только один раз, но зато он сумел объяснить, почему сделать это невозможно.
   Рис. 7. Река Прегиль делит Кёнигсберг на четыре несвязанные части A, B, C и D. Различные части города соединены между собой семью мостами. Можно ли обойти все семь мостов побывав на каждом один и только один раз?
 
    Рис. 8. Упрощенная схема семи кёнигсбергских мостов
 
   Эйлер взял план города и заменил его упрощенной схемой, на которой части города изображены точками (узлами), а мосты — линиями (ребрами), как на рис. 8. Затем Эйлер стал рассуждать так. Чтобы существовал маршрут, позволяющий обойти ровно по одному разу все мосты, каждая точка на схеме должна принадлежать четному числу линий. Это связано с тем, что в середине обхода путешественник, проходя какую-то из частей города, должен войти в нее по одному мосту, а выйти — по другому. Из этого правила существуют лишь два исключения: когда путешественник начинает или завершает обход. В самом начале обхода путешественник покидает некую часть города, и для выхода из нее необходим только один-единственный мост. Если обход начинается и заканчивается в различных частях города, то число мостов, ведущих к каждой из них нечетно. Но если обход начинается и заканчивается в одной и той же части города, то соответствующая ей точка на схеме, как и все другие точки, должна принадлежать четному числу линий (т. е. эта часть города должна быть соединена с другими частями четным числом мостов).
   Таким образом, заключил Эйлер, какой бы ни была сеть мостов, обойти все мосты, побывав на каждом по одному и только одному разу, можно только в том случае, если все части города соединены с другими четным числом мостов или если ровно две части города соединены с другими частями нечетным числом мостов. В Кенигсберге город подразделяется всего на четыре части, — и все они соединены с другими частями нечетным числом мостов. На схеме Кенигсберга три точки принадлежат трем линиям, а одна — пяти линиям. Тем самым Эйлер не только сумел объяснить, почему все семь кёнигсбергских мостов невозможно обойти, побывав на каждом один и только один раз, но и придумал правило, применимое к любой сети мостов в любом городе мира. Рассуждения Эйлера отличаются замечательной красотой. По-видимому, такого сорта логические задачи Эйлер и любил решать за обедом.
   Задача о семи кёнигсбергских мостах принадлежит к числу так называемых задачах о графах в прикладной математике. Именно она побудила Эйлера к рассмотрению более абстрактных графов. В ходе своих исследований Эйлер открыл фундаментальную истину, относящуюся ко всем графам, — так называемую формулу Эйлера для графов, которую ему удалось доказать за несколько логических шагов. Формула Эйлера для графов выражает незыблемое соотношение между тремя элементами любой графа:
V — R+ L= 1,
   где
    V— число вершин (узлов, или пересечений) в графе,
    R— число линий (ребер) в графе,
    L— число замкнутых областей в графе.
   Таким образом, по утверждению Эйлера, если к числу вершин любого графа прибавить число замкнутых областей и вычесть число его ребер — результат всегда окажется равен единице. Например, все графы на рис. 9 удовлетворяют формуле Эйлера.
 Вершины  = 4
Области = 3
Линии = 6
 Вершины  = 6
Области = 1
Линии = 6
 Вершины  = 5
Области = 10
Линии= 6
   Рис. 9. Различные графы, удовлетворяющие формуле Эйлера
 
   Рис. 10. Эйлер доказал свою формулу для графов, продемонстрировав, что она выполняется для простейшего графа, а затем показав, что формула остается верной при любых «дополнениях» к единственной вершине
 
   Можно проверить формулу Эйлера на целой серии графов, и всякий раз она оказывается верной; возникает искушение предположить, что формула Эйлера верна для всех графов. И хотя такой проверки было бы достаточно для физической теории, для обоснования математической теории ее совершенно недостаточно. Единственный способ показать, что формула Эйлера остается в силе для любого мыслимого графа, — построить безупречное с точки зрения логики доказательство. Именно так и поступил Эйлер.
   Свое доказательство Эйлер начал с простейшего из графов — с графа, состоящего из одной единственной вершины (рис. 10 а). Ясно, что для такого графа формула Эйлера верна: имеется всего одна вершина, линий и областей нет, поэтому
    V+ R — L= 1 + 0–0 = 1.
   Затем Эйлер рассмотрел вопрос о том, что произойдет в том случае, если он что-нибудь добавит к этому простейшему графу. Любое добавление к нему требует добавления линии. Любая линия может соединять существующую вершину либо с самой собой, либо с какой-нибудь новой вершиной.
   Во-первых, рассмотрим случай, когда дополнительная линия соединяет существующую вершину с самой собой. Как видно из рис. 10 б, при добавлении линии в этом случае добавляется также новая область. Следовательно, формула Эйлера для графов остается в силе, так как добавление одной области (+) компенсируется добавлением одной линии (—). При добавлении новых линий того же типа формула Эйлера для графов также останется в силе, так как каждая новая линия порождает новую область.
   Во-вторых, рассмотрим, что произойдет, если дополнительная линия соединит существующую вершину с новой вершиной, как на рис. 10 в. И в этом случае формула Эйлера остается в силе, так как новая вершина (+) компенсирует новую линию (—). При добавлении новых линий того же типа формула Эйлера также остается в силе, поскольку каждая дополнительная линия рассматриваемого типа заканчивается в новой вершине.
   Вот и все, что требовалось Эйлеру для его доказательства. Он рассуждал так. Формула верна для простейшего из всех графов — одной-единственной вершины. Все остальные графы, сколь бы сложными они ни были, могут быть построены из простейшего путем прибавления линий — по одной линии за один раз. Всякий раз при добавлении к графу новой линии формула остается верной, потому что вместе с линией добавляется либо новая вершина, либо новая область, и тем самым компенсируется добавление линии. Эйлер разработал простую, но мощную стратегию. Он доказал, что его формула верна для простейшего графа, состоящего из одной-единственной вершины, и что любая операция, приводящая к усложнению графа, не нарушает формулу для графов. Следовательно, формула верна для бесконечного множества всех возможных графов.
   Впервые столкнувшись с Великой теоремой Ферма, Эйлер, должно быть, понадеялся на то, что ему удастся найти доказательство, если он будет придерживаться аналогичной стратегии. Великая теорема Ферма и формула Эйлера для графов уходят своими корнями в весьма различные области математики, но одна особенность у них была общей: они обе нечто утверждали относительно бесконечно многих объектов. Формула Эйлера утверждает, что для бесконечно многих графов, которые только существуют на свете, число вершин плюс число областей минус число линий всегда равно единице. Великая теорема Ферма утверждает, что бесконечно много уравнений не допускают решения в целых числах. Напомним, что теорема Ферма утверждает следующее: уравнение
x n+ y n= z n, где n— любое целое число большее 2,
   не допускает решения в целых числах.
   Это уравнение в действительности представляет собой бесконечную систему уравнений
    x 3+ y 3= z 3,
    x 4+ y 4= z 4,
    x 5+ y 5= z 5,
    x6+ y 6= z 6,
    x 7+ y 7= z 7,
    . . . . . .
   Эйлер попытался выяснить, нельзя ли доказать, что одно из уравнений не допускает решений в целых числах, а затем экстраполировать полученный результат на все остальные уравнения (точно так же, как он доказал свою формулу для всех графов).
   Первый шаг к осуществлению задуманного Эйлер совершил, когда обнаружил ключ к доказательству в кратких записях на полях «Арифметики» Диофанта. Хотя Ферма не оставил развернутого доказательства Великой теоремы, он в другом месте того же экземпляра «Арифметики» написал в зашифрованном виде доказательство для случая n=4, включив его в решение совершенно другой задачи. Это были самые подробные вычисления, которые Ферма когда-либо доверил бумаге, но всё же детали всё ещё были обрывочны и расплывчаты, а в заключение доказательства Ферма ссылается на то, что недостаток времени и места не позволяют ему дать более полное объяснение. Несмотря на отсутствие многих важных деталей в беглых заметках Ферма, в них отчетливо просматривался один из способов доказательства от противного, известный под названием метода бесконечного спуска.
   Чтобы доказать, что уравнение x 4+ y 4= z 4не допускает решения в целых числах, Ферма начал с предположения о существовании гипотетического решения в целых числах
    x= X 1, y= Y 1, z= Z 1.
   При изучении свойств чисел ( X 1, Y 1, Z 1) Ферма показал, что если бы такое гипотетическое решение действительно существовало, то существовало бы меньшее решение ( X 2, Y 2, Z 2). Рассматривая это новое решение, Ферма смог показать, что если бы оно существовало, то существовало бы еще меньшее решение ( X 3, Y 3, Z 3) и т. д.
   Ферма обнаружил нисходящую лестницу решений, которая теоретически могла бы продолжаться неограниченно, порождая все меньшие и меньшие решения. Но x, yи zдолжны быть целыми положительными (так называемыми натуральными) числами, поэтому нескончаемая нисходящая лестница невозможна, потому что должно быть наименьшее целочисленное решение. Полученное противоречие доказывает, что начальное предположение о существовании решения ( X 1, Y 1, Z 1) было ложным. Итак, используя метод бесконечного спуска, Ферма доказал, что при n=4 уравнение x n+ y n= z nне может иметь целочисленных решений.
   Эйлер попытался воспользоваться методом бесконечного спуска в качестве исходного пункта при построении общего доказательства для всех других степеней в уравнении Ферма. Он хотел получить доказательство для всех nвплоть до бесконечности, но прежде всего он хотел «опуститься на одну ступень» и получить доказательство при n=3. В письме к прусскому математику Христиану Гольдбаху в августе 1753 года Эйлер сообщил, что ему удалось приспособить метод бесконечного спуска и успешно доказать Великую теорему Ферма для случая n=3. Так через сто лет после смерти Ферма впервые удалось сделать первый шаг на пути к решению его проблемы.
   Чтобы распространить предложенное Ферма доказательство со случая n=4 на случай n=3, Эйлеру пришлось ввести в игру довольно причудливое понятие так называемого мнимого числа — величины, открытой европейскими математиками в XVI веке. Говорить о новых числах, что они были «открыты» довольно странно, но ощущение необычности возникает главным образом потому, что мы настолько привыкаем к постоянно и широко используемым числам, что забываем о временах, когда некоторые из этих чисел не были известны. И отрицательные, и иррациональные — все эти числа в свое время приходилось открывать, и мотивация в каждом случае сводилась к необходимости решить задачу, неразрешимую в уже известных числах.