«Энигма». Как был взломан немецкий шифратор

Лев Давыдович Лайнер, 2021

Книга посвящена истории взлома немецкого шифратора «Энигма» англичанами и американцами. В ней содержится ответ на самый важный вопрос, который долгое время оставался невыясненным: действительно ли роль взломавших «Энигму» английских и американских дешифровальщиков в достижении победы над Германией в ходе Второй мировой войны была столь значительна? В книге также дается объективная оценка важности для взлома «Энигмы» специальных англо-американских операций по захвату ключей к «Энигме», предательства высокопоставленного сотрудника немецкой шифровальной службы и многочисленных просчетов самих немцев.

Ценные трофеи

4 февраля 1940 года адмирал Карл Дениц, командующий немецким подводным флотом, прибыл на военно-морскую базу в Вильгельмсхейвене, чтобы пожелать удачи экипажу подлодки У-33, которая должна была отправиться в район западного побережья Шотландии и установить там несколько мин. Задание было очень опасным, поскольку У-33 предстояло не только забраться глубоко в тыл противника, но и действовать на мелководье, где у нее практически не было шансов скрыться от преследования. А это, в свою очередь, означало, что шифровальная машина «Энигма», которой была оснащена У-33, могла попасть в руки англичан.

Дениц прекрасно понимал, как он рискует, посылая У-33 на это задание. Еще слишком свежи были воспоминания о пережитой тревоге, когда в условленное время на связь не вышла подводная лодка У-26, которая минировала прибрежные воды вблизи военно-морской базы на юге Англии. И хотя в тот раз все обошлось, Дениц распорядился, чтобы подводные лодки, занимающиеся установкой мин, оставляли «Энигмы» на берегу. В своем дневнике Дениц написал: «Это означает, что они должны отправиться прямо в то место, где им предстоит осуществить минирование, и возвратиться обратно на базу сразу по завершении операции. С ними нельзя будет связаться используя «Энигму», как с другими подводными лодками».

Позднее Дениц сделал еще одну запись в дневнике: «Поскольку риск попадания секретных документов и шифров в руки противника слишком велик, если лодка будет потоплена на мелководье, следует смириться с вытекающими отсюда недостатками и трудностями»…

Однако в случае с У-33 указанное правило соблюдено не было. Дениц решил, что оно не распространяется на океанские подводные лодки, подобные У-33, которая была не специализированной субмариной для установки мин, а ударным боевым кораблем, оснащенным смертоносными торпедами. Таких субмарин у Деница было всего 27, и он посчитал, что У-33 сможет сделать кое-что полезное помимо простой установки нескольких мин у побережья противника. Ведь только за первые пять месяцев войны немецкий подводный флот потопил 154 корабля общим водоизмещением в 530 тысяч тонн. Однако на плаву у англичан оставалось около 3 тысяч судов, водоизмещение которых превышало 17 миллионов тонн. И Дениц надеялся, что У-33 поможет сократить это число. Все надежды Деница едва не перечеркнула авария, которая произошла 4 февраля 1940 года. Во время погрузочных работ У-33 вдруг стала стремительно уходить под воду, и только своевременные решительные действия дежурного офицера, который распорядился удалить воду из балластных отсеков, помогли предотвратить катастрофу. При тщательном осмотре подводной лодки в ее обшивке были обнаружены две дыры, однако не было никакой уверенности, что именно они стали причиной аварии.

Вильгельм Дрески, 30-летний капитан У-33, планировал прибыть к месту установки мин в ночь с субботы на воскресенье 11 февраля 1940 года. Там субмарина должна была лечь на дно, переждать дневные часы, а после наступления сумерек всплыть и выполнить минирование. Затем под покровом ночи У-33 следовало отбыть в открытый океан, где она была бы в относительной безопасности. Однако планам Дрески не суждено было осуществиться. У-33 прибыла на место с опозданием на сутки. Начав всплытие, она чудом избежала столкновения с кораблем, следовавшим в противоположном направлении. Это был английский разведчик «Смотрящий», который Дрески ошибочно принял за противолодочный крейсер. На самом «Смотрящем» всплывающую вражескую подлодку не заметили. Однако примерно в 3 часа ночи оператор гидрофона на «Смотрящем» услышал характерный звук дизельного двигателя. Капитан «Смотрящего» Хью Прайс приказал изменить курс и включить прожекторы. Около 4 часов утра на «Смотрящем» засекли У-33 с помощью сонара, и Прайс распорядился сбросить первую глубинную бомбу.

Сначала Дрески планировал переждать атаку английского корабля, отлежавшись на дне. Затем изменил свое решение и отдал приказ освободиться от части воды в балластных танках подлодки и начать частичное всплытие. Но выяснилось, что лодка получила повреждения и всплыть не может. Оставалось только попытаться сдвинуть У-33 с места, полностью продув ее балластные танки. Но такие действия привели бы к полному всплытию подлодки. И если бы У-33 удалось сразу после всплытия начать обратное погружение, она благополучно ушла бы от преследования, так как разрывы глубинных бомб вывели из строя сонар на «Смотрящем» и англичане уже не смогли бы отслеживать перемещения немецкой подлодки под водой.

В 5.22 Дрески отдал приказ продуть балластные танки и У-33 начала всплытие. Дрески распорядился, чтобы после всплытия команда покинула лодку. Одновременно он велел инженерам поджечь бикфордовы шнуры, чтобы привести в действие взрывные устройства, установленные по периметру У-33. Дрески также приказал троим подводникам забрать диски «Энигмы», чтобы при первой же возможности выбросить их в море. Двое сделали все именно так, как им было приказано, а третий, Фридрих Кумпф, забыл избавиться от дисков, которые положил в карман брюк. После того как Кумпф был поднят на борт «Смотрящего», он подошел к Хайнцу Роттманну, офицеру с У-33, и растерянно сказал: «Господин лейтенант, кажется, я забыл выбросить диски».

Когда Кумпф и Роттманн подошли к месту на палубе, где валялись мокрые брюки Кумпфа, которые он снял, взобравшись на борт «Смотрящего», дисков в них уже не было. Их передали Прайсу, причем человек, сделавший это, явно никогда раньше не имел дела с шифраторами, поскольку позднее рассказал своему товарищу, что нашел в карманах брюк одного из спасенных немецких подводников «что-то вроде шестеренок от велосипеда».

С подводной лодки У-33 было захвачено три диска «Энигмы», что существенно облегчило задачу английским криптоаналитикам, бившимся над взломом ее военно-морской модификации. Дело в том, что немецкая армия и авиация были оснащены «Энигмами», в которые можно было устанавливать любые три диска из пяти, прилагавшихся к каждому ее экземпляру. А немецкие военные моряки довели общее число используемых дисков до восьми, чтобы обеспечить более высокий уровень защиты для своих сообщений.

Однако, прежде чем попытаться наладить чтение немецких военно-морских шифровок, в Блетчли-Парке предстояло разобраться с индикаторной системой, применявшейся для того, чтобы отправитель сообщения мог довести до сведения получателя разовый ключ, который был использован для зашифрования сообщения. Индикаторная система, взятая на вооружение немецким военным флотом, была значительно более сложной, чем принятая в армии и авиации.

С 1 мая 1937 года военные моряки отказались от двукратного шифрования разовых ключей, которым в армии и авиации все еще продолжали пользоваться в начале 1940 года. В отличие от своих коллег в других родах войск, которые выбирали разовый ключ по собственному усмотрению, оператор военно-морской «Энигмы» должен был взять трехбуквенную группу (на языке криптографов ее принято именовать триграммой) из специальной книги. Остановив свой выбор на какой-то триграмме (скажем, ABC), он обращался к списку суточных ключей, брал оттуда другую триграмму (пусть это будет DEF) и с ее помощью шифровал ABC. Получившаяся в результате триграмма (к примеру, XYZ) представляла собой искомый разовый ключ для шифрования текущего сообщения. Такой метод шифрования был достаточно надежным, поскольку исключал ситуацию, при которой ленивый или чрезмерно торопливый оператор «Энигмы» мог выбрать тривиальный разовый ключ (типа AAA).

В дополнение к ABC от оператора «Энигмы» требовалось выбрать вторую триграмму (допустим, GHI). Затем необходимо было расположить первую триграмму под второй, добавив в начало верхней строки и в конец нижней по одной случайно выбранной букве:

На следующем шаге каждая колонка, или биграмма, подлежала преобразованию в другую биграмму в соответствии со специальной таблицей биграмм. Результат этого преобразования мог выглядеть, например, так:

Далее полученные буквы менялись местами следующим образом:

Это и был так называемый индикатор, который оператор ставил в незашифрованном виде в начале и в конце каждого сообщения. Получатель сообщения проделывал все перечисленные манипуляции в обратном порядке и, вычленив триграмму ABC, использовал в качестве ключа DEF, чтобы путем расшифрования ABC узнать разовый ключ (XYZ), который применялся для шифрования полученного сообщения, и прочесть это сообщение.

В конце 1939 года Тьюринг сумел составить общее представление об индикаторной системе. В качестве рабочего материала для проверки своих гипотез Тьюринг использовал семь ключевых установок для военно-морской «Энигмы». Эти ключевые установки своим английским коллегам передали поляки в ходе встречи, которая состоялась в июле 1939 года в Варшаве. Уже после того, как в мае 1937 года в индикаторную систему были внесены изменения, поляки сумели вскрыть несколько ключевых установок для военно-морской «Энигмы», воспользовавшись двумя оплошностями, допущенными немцами.

Во-первых, изменив индикаторную систему, немцы неосмотрительно оставили прежним порядок следования дисков «Энигмы» и положение на них колец. А во-вторых, в качестве исключения, на одном из немецких торпедных катеров оператору «Энигмы» некоторое время было разрешено одновременно применять и старую, и новую индикаторные системы. Благодаря этим оплошностям в самом начале мая 1937 года поляки смогли вскрыть несколько разовых ключей, которые затем вместе с соответствующими индикаторами передали Тьюрингу. Проанализировав их, Тьюринг догадался, как получатель сообщения преобразовывал индикатор в разовый ключ, который затем использовался для расшифрования этого сообщения.

Однако разобраться в сути индикаторной системы еще не означало, что полученные знания можно применить для чтения немецких шифровок. Необходимо было реконструировать таблицу биграмм. 1 ноября 1939 года Тьюринг написал докладную записку, озаглавленную «Ситуация с военно-морской «Энигмой». В этой записке говорилось, что работа над взломом военно-морской «Энигмы» зашла в тупик. При наличии «подстрочника» с помощью «Паука» можно было вскрыть таблицу биграмм, что позволило бы читать немецкие шифровки, пока эта таблица использовалась немцами. Однако для нахождения «подстрочника» необходимо было прочесть некоторое число шифрованных сообщений. В результате выходило, что без «подстрочника» читать немецкие шифровки невозможно, а без чтения шифровок нельзя найти «подстрочник». Единственным выходом из создавшейся ситуации, по мнению Тьюринга, могла стать удачная военно-морская операция по захвату самой «Энигмы» и ключевых установок для нее. В апреле 1940 года англичане упустили хорошую возможность захватить немецкую подводную лодку вместе с экипажем и секретными документами. 15 апреля 1940 года недалеко от побережья Норвегии два английских эсминца засекли У-49, подкрадывавшуюся к войсковому конвою, который они сопровождали. С помощью глубинных бомб эсминцы вынудили У-49 всплыть на поверхность. Однако надеждам англичан взять немецкую подводную лодку на абордаж, прежде чем ее покинет команда, не суждено было сбыться. Для этого в первую очередь следовало все имевшиеся на борту английских эсминцев орудия направить на рубку У-49, чтобы немцы и носа высунуть из нее не могли. Если бы немецкие подводники оказались блокированы внутри У-49, призовая команда^[1] англичан могла попытаться захватить «Энигму» и ключевые установки для нее до того, как они были выброшены в море.

Один из английских моряков попытался было воспрепятствовать немцам выбраться на поверхность, открыв по У-49 ураганный огонь из пулемета. Однако другой моряк посчитал, что его товарищ сошел с ума, и ударом кулака свалил его с ног. Возможность заполучить «Энигму» вместе с ключевыми установками была упущена. К тому времени, когда капитан эсминца снарядил на У-49 призовую команду, было слишком поздно — команда немецкой подводной лодки успела избавиться и от самой «Энигмы», и от секретных документов к ней.

Инцидент с У-49 побудил Чарльза Форбса, командующего английским военно-морским флотом, издать 5 июня 1940 года приказ с изложением тактики, которой должны придерживаться капитаны эсминцев, увидевшие немецкую подводную лодку. В приказе, в частности, говорилось: «До последнего времени мы не принимали достаточно решительных мер, чтобы не давать немецким подводникам покидать свои лодки или уничтожать документы. Действия, которые следует предпринять, если была замечена всплывающая немецкая подводная лодка, должны быть направлены на взятие под контроль люка рубки на капитанском мостике, прежде чем команде удастся подняться наверх. Для этого ближайший к лодке эсминец должен на полной скорости проследовать мимо подводной лодки, одновременно открыв огонь из пулемета по вражеским подводникам по мере того, как они будут вылезать из люка, а не по людям, которые уже выбрались из него и помышляют только о том, как бы сдаться в плен или сбежать. Лучше всего будет, если в самом начале в выходном отверстии люка застрянет тело».

Аналогичным образом Форбс советовал поступать, если экипаж немецкой подводной лодки попытается выбросить за борт какие-либо документы: «Единственный способ помешать этому — немедленно открыть огонь на поражение по экипажу, пытающемуся избавиться от секретных документов».

Через 11 дней после неудачной попытки взять на абордаж У-49 у побережья Норвегии англичанам удалось захватить документацию к «Энигме» на немецком траулере. 26 апреля 1940 года в 10: 30 по местному времени впередсмотрящий на английском эсминце «Грифон» заметил рыболовецкое судно. На его борту красовалась надпись «Поларис», а на корме развевался голландский флаг. Судно выглядело вполне безобидно, однако капитан «Грифона» Джон Ли-Барбер только что получил сообщение с другого английского эсминца, который подвергся торпедной атаке со стороны примерно такого же траулера. Поэтому Ли-Барбер приказал догнать «Поларис» и обыскать его. Когда командир абордажной команды, отправленной с «Грифона» на вельботе, подошел поближе к «Поларису», то заметил на нем пулемет и обратил внимание на столпившихся на палубе молодых мужчин крепкого телосложения, что было совсем не характерно для обычного рыболовецкого траулера. Попав на борт «Полариса», англичане обнаружили две пусковые торпедные установки, спрятанные под рыболовными снастями.

На самом деле это было немецкое судно С-26, которое использовалось в качестве морского транспорта для перевозки оружия и боеприпасов. Капитан С-26 не рискнул затопить свое судно, однако попытался избавиться от секретных документов, находившихся на борту. Две сумки с документами были выброшены за борт. К одной было привязано грузило, и она камнем пошла на дно. А вторая осталась на плаву, была своевременно замечена с борта «Грифона» и вытащена из воды.

«Грифон» отконвоировал С-26 на ближайшую английскую военно-морскую базу. Причем Джон Ли-Барбер распорядился, чтобы на захваченном судне был поднят немецкий флаг. Это было ошибкой. С-26 следовало без всяких опознавательных знаков привести в порт под покровом темноты и пришвартовать в самом дальнем углу. Вместо этого немецкое судно среди бела дня прибыло под развевающимся флагом со свастикой в сопровождении флагмана английского флота. Когда пленные немцы покидали С-26, невесть откуда появившаяся съемочная группа зафиксировала этот эпизод для очередного выпуска кинохроники. И только вмешательство Форбса, который распорядился конфисковать отснятую пленку, помогло избежать дальнейшей широкой огласки факта захвата немецкого военного судна.

Лейтенант Пеннелл, посланный адмиралом Форбсом проинспектировать С-26, доложил, что судно разграблено мародерами и что с превеликим трудом ему удалось отыскать «несколько шифровальных таблиц и листов из блокнота для шифрования. Эти листы были разбросаны по всему судну, а один лист был найден под миной на верхней палубе».

Однако повторная инспекция, проведенная лично Форбсом, опровергла выводы, сделанные Пеннеллом. По ее итогам Форбс заявил, что из-за перенапряжения Пеннелл был на грани нервного срыва и в результате несколько приукрасил свой доклад. Форбс не обнаружил на С-26 никаких следов мародерства, а члены абордажной команды с «Грифона» подтвердили, что все захваченные документы были переданы в целости и сохранности.

Масла в огонь подлил капитан «Грифона» Ли-Барбер, который сказал, что мародерство действительно имело место, но только после того, как абордажная команда покинула С-26.

Кто был прав — Форбс или Пеннелл с Ли-Барбером, неизвестно. Вполне возможно, что если бы не воцарившийся на С-26 хаос, там удалось бы найти значительно больше материалов по «Энигме». Тем не менее того, что в конечном итоге попало в Блетчли-Парк, хватило, чтобы прочесть перехваченные немецкие военно-морские шифровки за 22–27 апреля 1940 года. Сначала была прочитана шифровка, датированная 23 апреля 1940 года. Она стала первой немецкой военно-морской шифровкой, прочитанной англичанами в годы войны. Сделать это удалось лишь 11 мая 1940 года. Задержка произошла по вине самих англичан, которые не сразу осознали, что к ним в руки попала информация о соединениях на коммутационной панели военно-морской «Энигмы» от 23 и 24 апреля. Они поначалу просто не обратили внимания на клочок бумаги, на котором была записана эта информация.

Определив ключевые установки для военно-морской «Энигмы» от 23 и 24 апреля, в Блетчли-Парке довольно быстро нашли к ним так называемые парные ключевые установки — от 22 и 25 апреля. Парными они назывались потому, что в эти пары дней порядок следования дисков военно-морской «Энигмы» и угловое положение колец на них были одинаковыми. Поэтому, зная ключевые установки для военно-морской «Энигмы», скажем, от 23 апреля, можно было довольно легко восстановить ключевые установки для нее от 22 апреля и наоборот. Через две недели с помощью «Бомбы» и «подстрочника» были вскрыты ключевые установки для военно-морской «Энигмы» от 26 апреля, а какое-то время спустя — и парные им ключевые установки от 27 апреля. При этом большая часть времени была потрачена на то, чтобы преобразовать «подстрочник» в форму, пригодную для ввода в «Бомбу».

Знание англичанами содержания немецких шифровок не имело особого значения для ведения боевых действий, поскольку эти шифровки были прочитаны слишком поздно. Однако именно благодаря им, а также при помощи документов, найденных на С-26, Тьюринг наконец полностью разобрался в сути индикаторной системы, используемой немецкими военными моряками, и разработал метод оперативного вскрытия ключевых установок для военно-морской «Энигмы» с помощью таблиц. Свой метод Тьюринг назвал бенберийским в честь города Бенбери в английском графстве Оксфордшир, где были изготовлены таблицы. Используя бенберийский метод, английские криптоаналитики могли исключить из рассмотрения большую часть из 336 возможных вариантов порядка следования дисков военно-морской «Энигмы». Варианты, оставшиеся после применения бенберийского метода, можно было за приемлемое время проверить на «Бомбе».

Бенберийский метод предполагал знание таблицы биграмм. Документы, захваченные на С-26, помогли Тьюрингу разработать довольно трудоемкий алгоритм, позволявший реконструировать эту таблицу. После того как ключевые установки для военно-морской «Энигмы», которые использовались для шифрования всех сообщений, отосланных немцами за сутки, были вычислены или захвачены в качестве трофея, вскрытие каждого разового ключа позволяло восстановить три неизвестных величины в таблице биграмм. Поскольку немцы поочередно использовали одну из девяти таблиц биграмм, достаточно было вскрывать по крайней мере три разовых ключа за день.

Лишь в ноябре 1940 года с помощью бенберийского метода удалось вскрыть ключевые установки для военно-морской «Энигмы» от 14 апреля, 8 мая и 26 июня этого же года. Чтение шифровок, датированных 26 июня, показало, что, начиная с 1 июня 1940 года, немцы ввели в действие новый набор из девяти биграммных таблиц. Поэтому дальнейшее использование бенберийского метода пришлось отложить на неопределенный срок — до тех пор, пока не были реконструированы действующие таблицы биграмм. Опять получился замкнутый круг: реконструировать таблицы биграмм можно было, только прочитав немецкие военно-морские шифровки, а прочитать их не удавалось, поскольку таблицы биграмм были неизвестны. Оставалось надеяться только на то, что либо удастся захватить новые материалы по военно-морской «Энигме», либо отыщется постоянный источник для составления «подстрочника». А пока этого не случилось, английские криптоаналитики принялись подсчитывать, сколько «Бомб» понадобится, чтобы взломать военно-морскую «Энигму», если вдруг к ним в руки попадут ключевые установки для нее, «подстрочники» или таблицы биграмм. Например, в меморандуме, подписанном первым заместителем директора Правительственной криптографической школы Эдуардом Тревисом, утверждалось, что потребуется не меньше 12 новых «Бомб». Однако эти расчеты никак не способствовали решению основной проблемы — каким способом регулярно добывать ключевые установки для военно-морской «Энигмы», «подстрочники» и таблицы биграмм.

Примечания

1

Используется для высадки на захваченное вражеское судно.