«Энигма». Как был взломан немецкий шифратор

Лев Давыдович Лайнер, 2021

Книга посвящена истории взлома немецкого шифратора «Энигма» англичанами и американцами. В ней содержится ответ на самый важный вопрос, который долгое время оставался невыясненным: действительно ли роль взломавших «Энигму» английских и американских дешифровальщиков в достижении победы над Германией в ходе Второй мировой войны была столь значительна? В книге также дается объективная оценка важности для взлома «Энигмы» специальных англо-американских операций по захвату ключей к «Энигме», предательства высокопоставленного сотрудника немецкой шифровальной службы и многочисленных просчетов самих немцев.

Промахи немцев

В начале мая 1940 года Германия начала активную подготовку к решительному наступлению в Западной Европе. Одновременно операторы «Энигмы» получили приказ больше не шифровать дважды повторенный трехбуквенный разовый ключ к «Энигме» и не помещать полученные в результате шесть букв (так называемый индикатор) в начало каждой шифровки. Отныне разовый ключ необходимо было шифровать единожды (исключение было сделано только для немецких операторов в Норвегии, которые продолжали придерживаться старой процедуры). Таким образом немцы устранили брешь в своей системе обмена шифрованными сообщениями с помощью «Энигмы». Эта брешь позволяла читать значительную часть шифровок армии и авиации на протяжении последних семи лет.

Тем временем в английский дешифровальный центр в Блетчли-Парке продолжало прибывать молодое пополнение, которому предстояло принять активное участие в чтении немецких шифровок в новых условиях. В составе этого пополнения был и молодой математик Давид Риз. В декабре 1939 года его научный руководитель в Кембридже Гордон Уэлчмен, совмещавший преподавание в университете с работой в Блетчли-Парке, предложил своему ученику занять вакансию в государственном учреждении. Поначалу Уэлчмен отказывался информировать Риза не только о характере предлагаемой ему работы, но даже о том, где размещалось это учреждение. И только когда Риз, принявший предложение Уэлчмена, резонно заметил, что не сможет явиться на работу, если не будет точно знать, куда приходить, Уэлчмен соизволил распорядиться, чтобы через несколько дней он прибыл дневным поездом из Лондона на станцию Блетчли в графстве Букингемпшир.

Еще одним рекрутом Уэлчмена стал 21-летний математик Джон Херивел, который тоже был учеником Уэлчмена в Кембридже. Херивел появился в Блетчли-Парке в январе 1940 года. Вместе с Ризом Херивелу было поручено проверять ключевые установки для «Энигмы», которые англичане научились довольно оперативно вскрывать при помощи перфокарточного метода, разработанного в 30-е годы поляками. Затем Риз и Херивел были переведены на работу, связанную с соединениями на коммутационной панели «Энигмы». Процесс чтения немецких шифровок был весьма трудоемким и утомительным. Поэтому Херивел всерьез задумался над тем, как его можно упростить и, следовательно, ускорить. Однажды вечером после работы Херивелу в голову пришла блестящая идея, которой было суждено коренным образом изменить представление о процессе вскрытия ключевых установок для «Энигмы».

Вместо того чтобы пытаться по крупицам извлечь хоть какую-то полезную информацию о ключевых установках для «Энигмы» из текстов перехваченных немецких шифровок, Херивел попробовал представить себе, какие манипуляции с «Энигмой» проделывал немецкий оператор, прежде чем выбрать исходное угловое положение дисков и приступить к шифрованию первого за текущие сутки сообщения. Здравый смысл подсказывал Херивелу, что если угловое положение колец на дисках «Энигмы» задавалось, скажем, трехбуквенным сочетанием ABS, то оператор первым делом устанавливал в нее диски, а затем выполнял одну и ту же процедуру для каждого из этих дисков. Он вращал кольцо с буквами, надетое на диск, до тех пор, пока искомая буква (сначала А, потом В и, наконец, S) на кольце не оказывалась напротив красной точки на специальной защелке, которая фиксировала кольцо на диске в нужном угловом положении, а также служила в качестве маркера. Удобнее всего сделать это можно было в том случае, когда и нужная буква на кольце, и сама защелка находились вверху.

Со стороны Херивела вполне разумно было предположить, что в спешке или из лени немецкий оператор мог оставить диски именно в таком исходном угловом положении, закрыть лицевую панель «Энигмы» и приступить к шифрованию сообщения. А это в свою очередь означало, что исходное угловое положение дисков «Энигмы», информацию о котором, начиная с 1 мая 1940 года, немецкие операторы должны были в незашифрованном виде ставить в начало каждого сообщения, было таким же или примерно таким же, как и угловое положение колец на дисках «Энигмы». Поскольку все немецкие операторы единой сети связи должны были использовать одно и то же угловое положение колец на дисках своих экземпляров «Энигмы», проанализировав данные об исходном угловом положении дисков, которые эти операторы вставляли в самое начало своего первого отправляемого сообщения за сутки, можно было сделать обоснованное предположение относительно углового положения колец на дисках их «Энигм».

Идея Херивела не сразу нашла свое воплощение на практике. В течение нескольких месяцев английские криптоаналитики безрезультатно искали в перехваченных немецких шифровках информацию об угловом положении колец «Энигмы». Но после того как 1 мая 1940 года немцы внесли изменения в свою индикаторную систему, поток прочитанных немецких шифровок в Блетчли-Парке почти иссяк, поскольку там могли читать только перехваченные сообщения сети связи армии и авиации в Норвегии, где индикаторная система осталась неизменной. Предложению Херивела было уделено больше внимания, поскольку других идей, как восстановить утраченный источник важной разведывательной информации, было немного. Через три недели Херивела ждал первый успех. Придя утром на работу в секцию № 6, где трудились над взломом «Энигмы», которая использовалась в армии и в авиации, Херивел узнал, что ночной смене удалось идентифицировать правильное угловое положение колец на дисках «Энигмы», исходя из информации об исходных положениях ее дисков, почерпнутой из перехваченных немецких шифровок. Поздравить Херивела с успехом пришел сам Уэлчмен. Отведя в сторону своего ученика, он сказал, что это событие надолго запомнится. И действительно, придуманный Херивелом метод вскрытия ключевых установок «Энигмы» вошел в историю как «подсказка Херивела».

Несмотря на существенное ускорение процесса чтения шифровок «Энигмы», одной «подсказки Херивела» было недостаточно. Английским криптоаналитикам приходилось проверять найденное угловое положение колец для всех 60 возможных вариантов порядка следования дисков «Энигмы». К счастью для англичан, неудачные приемы обращения с «Энигмой» со стороны немцев, один из которых метко подметил Херивел, на этом не исчерпывались. Например, они нередко выбирали тривиальные разовые ключи для своих сообщений, которые в Блетчли-Парке прозвали «глупышками». С их помощью англичане довольно успешно научились определять порядок следования дисков в «Энигме».

После того как были найдены угловое положение колец (за счет «подсказки Херивела») и порядок следования дисков «Энигмы» (при помощи «глупышек»), читать перехваченные немецкие шифровки не составляло особого труда. 22 мая 1940 года было прочитано первое сообщение люфтваффе с момента внесения немцами изменения в индикаторную систему. Оно было датировано 20 мая 1940 года и относилось к так называемой «красной» сети шифрованной связи немцев, которая получила свое название из-за цвета карандаша, которым Уэлчмен делал пометки на перехваченных шифровках этой сети.

Взлом «красной» сети был очень важным событием. В Блетчли-Парке очень рассчитывали на свои «Бомбы» — электромеханические устройства, предназначенные для ускорения процесса вскрытия ключевых установок «Энигмы». Однако, чтобы использовать «Бомбу», необходимо было найти «подстрочник» — содержание небольшого отрывка из текста перехваченной немецкой шифровки. А «подстрочник» в свою очередь можно было отыскать, только прочитав шифровку. Таким образом, именно «подсказки Херивела» и «глупышки» позволили взломать «Энигму» и читать зашифрованные с ее помощью сообщения.

31 мая 1940 года у берегов Англии была потоплена немецкая субмарина У-13. Вместе с ней на морском дне оказались военно-морская модификация «Энигмы» и документы к ней. 8 июня 1940 года командующий подводным флотом Германии адмирал Карл Дениц, обеспокоенный тем, что секретные документы, имевшиеся на борту У-13, могут попасть в руки англичан, позвонил в Службу связи немецких военно-морских сил, которая ведала вопросами безопасности связи, и поинтересовался, не следует ли внести коррективы в процедуру использования «Энигмы», установленной на подводных лодках. Ему ответили, что никаких корректив вносить не требуется и что процедура остается прежней. Тем не менее Служба связи еще раз проанализировала эту процедуру на предмет выявления в ней возможных недочетов, которыми мог воспользоваться противник. В отчете, подготовленном по итогам проведенной проверки, особо подчеркивалось, что документы с ключевыми установками для «Энигмы» напечатаны типографской краской, которая растворяется в морской воде. Более того, утверждалось, что даже если бы эти документы попали к противнику, толку от них не было бы никакого, поскольку содержавшиеся в них ключевые установки подвергнуты дополнительному преобразованию с помощью таблиц, которые запрещалось брать на борт субмарин. По мнению составителей доклада, без этих таблиц противник не может восстановить истинное значение ключевых установок для «Энигмы».

Однако Деницу ответ, полученный из Службы связи, показался неубедительным. 17 июня 1940 года он опять позвонил туда и сообщил о подозрительном маневре английского морского каравана. Дениц полагал, что внезапное изменение курса каравана было вызвано информацией, которую англичане получили, прочитав немецкие шифровки с помощью документов, найденных на У-13. В Службе связи снова заверили Деница, что это невозможно. Даже если команда У-13 не успела уничтожить «Энигму» и секретные документы к ней, англичанам пришлось бы определить преобразование, которому были подвергнуты содержащиеся в этих документах ключевые установки (например, проанализировав ключевые установки «Энигмы», находившейся на борту У-13). И наконец, использовать полученную информацию для чтения немецких шифровок, имевших отношение к английскому морскому каравану. Вывод, к которому пришли криптографы из Службы связи, был однозначен: «Выполнение любого из этих условий, и особенно выполнение всех их одновременно, в наивысшей степени маловероятно».

Служба наблюдения, дешифровальный центр немецких военно-морских сил, который летом 1940 года читал шифрованную переписку английского флота, не отметили никаких изменений в процедуре обмена сообщениями у англичан. В Службе наблюдения сочли это признаком того, что англичанам не удалось взломать военно-морскую «Энигму». Тем не менее 12 июня немцы предприняли попытку уничтожить затонувшую подводную лодку У-13. Несколько немецких самолетов сбросили бомбы в месте ее затопления, а пилоты, выполнив задание, доложили, что место было отмечено буями, которые вряд ли были бы поставлены, если бы англичане успели поднять и отбуксировать У-13.

Впервые с начала войны немцы усомнились в надежности своей «Энигмы». Еще в феврале 1940 года, после захвата англичанами подводной лодки У-33, капитан Людвиг Стаммель из Службы связи проанализировал методы обеспечения безопасности связи на флоте и гордо заявил, что благодаря «Энигме» «они лучше любого другого метода, в том числе и используемого противником».

Озабоченность у немцев вызвал не только факт затопления врагом подводной лодки. Еще больше они были обеспокоены пропажей С-26 у берегов Норвегии — ведь секретные документы к «Энигме», находившиеся на борту надводного корабля, было значительно проще захватить в качестве трофея, чем на подводной лодке. В мае 1940 года Служба наблюдения проанализировала содержание всех немецких шифровок, посланных 26 апреля, — в день, когда исчез С-26. В одной из них сообщалось время прибытия С-26 к месту назначения. Однако гипотеза о том, что благодаря именно этой шифровке англичане смогли обнаружить С-26, не подтвердилась, поскольку выяснилось, что эта шифровка была отправлена спустя час после того, как английский эсминец «Грифон» засек немецкое судно. В итоговом отчете, подготовленном Службой наблюдения 21 мая 1940 года, говорилось, что команда С-26 была должным образом проинструктирована о необходимости уничтожить секретные документы, имевшие отношение к находившейся на его борту «Энигме». По мнению составителей отчета, поскольку на С-26 не было документов с ключевыми установками для «Энигмы» за июнь 1940 года, можно было не опасаться, что англичанам удастся прочесть немецкие шифровки, датированные этим месяцем.

В мае 1940 года войска Германии вторглись на территорию Франции. Два дня спустя польские криптоаналитики, которые после разгрома Польши в сентябре 1939 года бежали во Францию и, начиная с октября, трудились в дешифровальном центре в Арменвильере, были спешно привезены во французскую столицу — в здание штаб-квартиры Второго бюро на улице Турвийя. Наибольший интерес для французов представляли шифровки люфтваффе, имевшие отношение к боевым действиям во Франции. Примерно через неделю полякам удалось наладить чтение этих шифровок. Работа велась день и ночь. В здании круглосуточно дежурили французские офицеры, которые сразу же забирали дешифрованные немецкие сообщения, чтобы без промедления доставить их в Генеральный штаб. Поляки воспользовались двумя ошибками, допущенными немецкими операторами «Энигмы» в люфтваффе. Во-первых, польские криптоаналитики с успехом применили на практике «подсказку Херивела». А во-вторых, взломав код, который немцы использовали для засекречивания своих сводок погоды, заметили, что суточный ключ к нему всегда совпадал с соединениями на коммутаторной панели «Энигмы», используемой в люфтваффе. Поэтому, вычислив ключ к «погодному» коду, можно было установить и эти соединения.

Однако через некоторое время поляки с огорчением были вынуждены признать, что их успехи почти не оказывают влияния на ход боевых действий во Франции. 3 июня 1940 года Париж подвергся первой бомбардировке немецкой авиации. А за неделю до этого польский криптоаналитик Мариан Режевский из прочитанной немецкой шифровки узнал о планах люфтваффе совершить налет на парижские заводы. В ней перечислялось количество участвующих в рейде бомбардировщиков и истребителей сопровождения, маршрут и высота полета, точные дата и время налета — словом, все, что необходимо знать, чтобы его отразить. Режевский немедленно довел полученную информацию до сведения французов и испытал настоящий шок, когда увидел, что немецкие самолеты, атаковавшие Париж, не встретили ровно никакого сопротивления со стороны французских военно-воздушных сил.

По мере приближения немецких войск к Парижу дешифровальную работу в здании на улице Турвийя пришлось приостановить. 22 июня 1940 года польские криптоаналитики были эвакуированы в Тулузу, а затем морем переправлены в город Оран на побережье Алжира. Однако вскоре начальник шифровального отдела Второго бюро Густав Бертран предпринял шаги для того, чтобы поляки смогли возобновить работу над взломом «Энигмы» на территории Франции, еще свободной от немецкой оккупации. Для этих целей он присмотрел поместье Фузее на юге Франции между городами Монпелье и Авиньон. Поляки перебрались туда 1 октября 1940 года.

Англичане были крайне этим недовольны. Бертран, естественно, хотел, чтобы поляки, как и прежде, продолжали трудиться над чтением немецких шифровок. А Деннистон в свою очередь опасался, как бы они не попали в плен к немцам. Ведь Германия в самое короткое время могла оккупировать всю Францию и узнать о дешифровальных успехах своего противника, что называется, из первых рук.

Помимо польских криптоаналитиков, на территории Франции находился еще один человек, который ни в коем случае не должен был попасть в руки немцев. Этим человеком был Рудольф Лемуан, куратор французского агента Ганса Шмидта, который в 30-е годы регулярно передавал французам ключевые установки для «Энигмы» и другие секретные документы, похищенные из шифрбюро министерства обороны Германии. Лемуан, арестованный немецкой контрразведкой в 1938 году, обещал сотрудничать с ней и был выпущен на свободу. Свое обещание Лемуан не сдержал и вряд ли так легко отделался бы, арестуй его немцы еще раз. Лучшим выходом из создавшегося положения было бы тайно переправить Лемуана в Англию.

23 июня 1940 года Лемуан встретился с Бертраном и начальником французской контрразведки Полем Пейолем. Лемуан пожаловался, что его попытка перебраться в Англию закончилась неудачей, и поведал свою историю. Он обратился к английскому консулу во французском курортном городе Биарриц. Консул попросил Лемуана на следующий день явиться вместе с женой к 5 часам утра на один из мысов в заливе недалеко от Биаррица, где их должен был взять на борт английский минный тральщик. Явившись в назначенное место точно в срок, Лемуан с удивлением обнаружил там поляков, которые тоже рассчитывали попасть на этот корабль, чтобы отправиться в Англию. Командир тральщика попросил Лемуана прийти вечером. Придя к тральщику во второй раз, Лемуан увидел, что поляки уже успели взобраться на его борт. Он попросил дежурного офицера выделить ему место поспокойнее и поудобнее, однако тот обругал Лемуана последними словами и заявил, что терпеть не может французов. На что Лемуан ответил, что предпочитает умереть во Франции, чем терпеть оскорбления в Англии, и покинул корабль.

Во время встречи с Пейолем и Бертраном Лемуан клятвенно пообещал сразу же отправиться в город Сан-Рафаэль и ждать там дальнейших инструкций. При этом он открыл свой портфель, и Пейоль с изумлением увидел там кипу кодовых книг на различных языках, а также пустые бланки паспортов и удостоверений личности почти всех европейских стран. Заметив удивление на лице Пейоля, Лемуан сказал, что получил кодовые книги от Шмидта еще в августе 1938 года. Пейоль поинтересовался, не оставил ли Лемуан в своей парижской квартире каких-либо конфиденциальных документов, которые могли бы скомпрометировать Шмидта. Лемуан заверил Пейоля, что был очень осторожен и забрал все секретные документы с собой. У Пейоля не было другого выбора, кроме как поверить Лемуану на слово и отпустить его на все четыре стороны в надежде, что тот появится в Сан-Рафаэле, где можно будет устроить его дальнейшую судьбу таким образом, чтобы немцы по-прежнему продолжали пребывать в полной уверенности относительно неуязвимости своей «Энигмы».

Серьезные проблемы с «Энигмой» возникли не только в континентальной Европе, но и в Англии. Наиболее неотложная из них была связана со станциями перехвата шифровок. Эти станции играли ключевую роль в процессе взлома «Энигмы». В августе 1940 года в английском дешифровальном центре в Блетчли-Парке с удивлением узнали о том, что от перехвата немецких сообщений планировалось отстранить опытных специалистов, работавших в городе Чатем в графстве Кент. Взамен предполагалось создать новую станцию перехвата в местечке Чиксендс недалеко от города Бедфорда и подобрать для нее новый персонал. 26 августа 1940 года руководство дешифровального центра написало письмо, в котором выразило решительный протест против принятого решения. Это письмо интересно еще и тем, что позволяет получить представление об обыденных проблемах, с которыми английским криптоаналитикам приходилось сталкиваться в Блетчли-Парке.

Авторы письма назвали решение закрыть станцию перехвата в Чатеме исключительно неразумным, поскольку оно могло самым неблагоприятным образом сказаться на выполняемой в Блетчли-Парке работе. По их мнению, граница между успешным чтением шифровок «Энигмы» и невозможностью это делать была мала, поскольку объем перехваченных сообщений «Энигмы» слишком незначителен. Эта граница еще более сузилась в мае 1940 года, когда немцы ввели в действие новую, более совершенную индикаторную систему.

Далее в письме говорилось, что, несмотря на достигнутые успехи, вопрос о дальнейшем чтении сообщений «Энигмы» висит на волоске, что время для реорганизации службы перехвата выбрано весьма неудачно, учитывая ожидавшееся со дня на день вторжение немецких войск на территорию Англии, и что английским криптоаналитикам необходимо обеспечить бесперебойное чтение немецких шифровок, чтобы заблаговременно получить информацию относительно характера изменений, которые немцы наверняка внесут в свою систему обеспечения безопасности связи перед самым вторжением.

В письме упоминался случай, который произошел 5 мая 1940 года. В Блетчли-Парке не смогли правильно определить ключевые установки «Энигмы», использовавшейся немцами в Норвегии, только потому, что была искажена всего одна буква в индикаторной части перехваченной шифровки. Также в письме сообщалось о том, что добрую половину немецких шифровок, перехваченных в сентябре 1939 года, не удалось прочесть лишь из-за того, что их запись была сделана с ошибками.

Для успешного взлома «Энигмы» английским криптоаналитикам требовались немецкие сообщения, обладавшие определенными отличительными признаками. Но, к сожалению, такие сообщения было довольно непросто отыскать. Еще более существенную роль в работе над взломом «Энигмы» играл «подстрочник». Чтобы его найти, необходимо было точно знать, было ли отправлено перехваченное сообщение из вышестоящего звена нижестоящему или наоборот. А для этого в свою очередь нужно иметь специальные навыки, которые вырабатывались только путем длительной работы.

По наблюдениям составителей письма операторам станции перехвата в Чатеме удавалось получать правильный ответ в четырех случаях из пяти, тогда как их менее опытные коллеги на другой станции перехвата вообще умудрялись пропускать все сигналы, которые идентифицировали приемную и передающую станции, и не могли сказать ничего о том, откуда и кем отправлена перехваченная ими шифровка. Когда немцы переходили с одной частоты на другую, операторы в Чатеме четко отслеживали эти перемещения, поскольку хорошо знали индивидуальный почерк немецких связистов. Таким образом, закрытие станции перехвата в Чатеме ставило под угрозу всю дешифровальную работу в Блетчли-Парке.