Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Кейд Метц, 2021

В этой книге журналист New York Times из Кремниевой долины Кейд Метц рассказывает о том, как создавался искусственный интеллект, как он внедрялся в бизнес, социальную сферу и в повседневную жизнь. Перед читателем раскрывается драматичный конфликт между корпоративными и научными интересами и защитой частной жизни. Книга, как настоящий роман, наполнена эксцентричными, сложными персонажами и ставит перед читателем сложнейшие нравственные вопросы.

Часть первая

Машина нового типа

Глава 1

Генезис. «Мыслящее чудовище Франкенштейна, родившееся в недрах ВМС»

Седьмого июля 1958 года несколько человек³ собрались в офисе Бюро погоды США, расположенного в Вашингтоне, в пятнадцати кварталах от Белого дома. Они обступили электронную машину шириной и высотой с холодильник, но вдвое большую по глубине. Впрочем, это была лишь одна из частей огромного компьютера, другие части которого заполняли комнату, словно мебельный гарнитур. Машина была покрыта серебристым пластиком, отражавшим свет, а передняя панель — усеяна рядами маленьких круглых лампочек, красных квадратных кнопок и толстых пластиковых тумблеров, частично белого, частично серого цвета. Обычно эта электронно-вычислительная машина стоимостью в 2 миллиона долларов⁴ выполняла расчеты для Бюро погоды, предшественника нынешней Национальной метеослужбы, но в тот день ее позаимствовали⁵ специалисты из научно-исследовательского управления ВМС и тридцатилетний профессор Корнеллского университета по имени Фрэнк Розенблатт.

Как сообщает присутствовавший там газетный репортер, Розенблатт и сопровождавшие его военно-морские инженеры⁶ вставили в машину две белые карточки, одна из которых была помечена маленьким квадратиком слева, а другая — таким же квадратиком справа. Поначалу машина не могла их различить⁷, но после прочтения еще полусотни таких карточек⁸ ситуация изменилась. Почти в каждом случае машина правильно определяла, где расположена отметка — слева или справа. Как объяснил Розенблатт, машина освоила этот навык вполне самостоятельно⁹ — благодаря математической системе, моделирующей работу человеческого мозга. Он назвал эту систему «Перцептроном»¹⁰. В будущем, говорил он, эта система научится распознавать¹¹ печатные буквы, слова, написанные от руки, голосовые команды и даже человеческие лица. Она сможет переводить¹² слова и тексты с одного языка на другой. И теоретически, добавлял он, она сможет сама себя клонировать¹³ на сборочном конвейере, исследовать далекие планеты и перейдет границу, разделяющую электронные компьютеры и живой разум.

«ВМС представили эмбрион¹⁴ будущего электронного компьютера, который, как ожидается, научится ходить, разговаривать, видеть, писать, размножаться и осознавать свое существование», — говорится в статье, которая наутро появилась в New York Times. Вторая статья¹⁵, уже в воскресном номере, утверждала, что инженеры ВМС даже сомневаются, правильно ли называть это творение машиной — «настолько она будет похожа на человека, пусть и неживая». Розенблатту не очень нравилось¹⁶ то, как это событие трактовалось прессой, — особенно заголовок одной из газет Оклахомы: «Мыслящее чудовище Франкенштейна, родившееся в недрах ВМС». В последующие годы его пыл поугас, и он, как в кругу коллег, так и в СМИ, описывал этот проект в гораздо более сдержанных красках¹⁷. Он настаивал¹⁸ на том, что речь не шла о попытке создания искусственного интеллекта и что он прекрасно сознавал весьма ограниченные возможности этой системы. И однако сама идея выскользнула из его пальцев и перестала быть его идеей.

«Перцептрон» был одной из первых нейронных сетей, ранним воплощением той самой технологии, которую Джефф Хинтон продал за огромные деньги на аукционе более чем полвека спустя. Но прежде чем цена этой идеи достигла 44 миллионов долларов, не говоря уже о наступлении того экстравагантного будущего, предсказанного на страницах New York Times, она была надолго засунута в темный чулан науки. К началу 1970-х, когда все эти громкие прогнозы разбились о недостатки, присущие технологии Розенблатта, идея практически умерла.

* * *

Фрэнк Розенблатт родился¹⁹ в 1928 году в городе Нью-Рошелл, в штате Нью-Йорк чуть севернее Бронкса. Учился он в Bronx Science²⁰, элитной муниципальной школе, из которой вышли восемь лауреатов Нобелевской премии²¹, шесть лауреатов Пулитцеровской премии, восемь лауреатов Национальной научной медали США²² и трое лауреатов премии Тьюринга²³, самой престижной награды за достижения в области информатики. Этот щуплый коротышка с пухлыми щеками и коротко стриженными черными курчавыми волосами, носивший очки в черной оправе, получил диплом в области психологии, но сфера его интересов была гораздо шире. В 1953 году в New York Times вышла статья²⁴ с описанием тогдашнего компьютера, который он использовал для обработки данных — а именно психологических профайлов своих пациентов — при работе над докторской диссертацией. Это был ЕРАС — «электронная вычислительная машина для анализа профайлов». С годами он все больше утверждался во мнении, что такого рода машины могут в еще большей степени помочь разгадать тайны разума. Защитив диссертацию, он поступил на работу в Корнеллскую лабораторию аэронавтики²⁵, расположенную в Буффало, почти в ста пятидесяти милях от главного кампуса Корнеллского университета в Итаке. Переданный Корнеллскому университету компанией, производившей в годы Второй мировой войны боевые самолеты, этот авиационный научно-исследовательский центр в послевоенные годы приобрел более разносторонний характер и обладал в отношениях с Итакой значительной автономией. Именно там Розенблатт создал свой «Перцептрон», выполняя заказ научно-исследовательского управления ВМС.

Розенблатт рассматривал этот проект²⁶ как окно, позволяющее заглянуть во внутреннее устройство мозга. Если бы удалось создать компьютерную модель человеческого мозга, полагал он, это помогло бы разгадать многие тайны «естественного интеллекта», как он его называл. Опирающийся на идеи, высказанные десятилетием ранее двумя учеными из Чикагского университета, «Перцептрон» анализировал объекты и искал в них устойчивые качества, позволяющие эти объекты идентифицировать (например, карточка имеет отметку слева или справа). Это достигалось путем серии математических вычислений, которые моделировали (в самом широком смысле) сеть нейронов в мозгу. Когда «Перцептрон» анализирует и пытается идентифицировать объект, его попытки иногда оказываются удачными, а иногда нет. Но он способен учиться на своих ошибках, методично корректируя все эти математические расчеты, так что ошибки случаются все реже. Подобно нейронам в мозгу, каждое вычисление само по себе практически ничего не значит, это лишь скромный винтик в общем алгоритме. Но алгоритм в целом — своего рода математический рецепт — может быть очень даже значимым и полезным. По крайней мере, именно на это возлагалась надежда. Во время той демонстрации в Бюро погоды летом 1958 года Розенблатт показал лишь самые зачатки этой методики²⁷ — имитацию работы «Перцептрона» с использованием принадлежащего Бюро погоды компьютера IBM 704, самой распространенной коммерческой ЭВМ на то время. Вернувшись в свою лабораторию в Буффало, он вместе с командой инженеров приступил созданию совершенно новой машины, основанной на той же самой идее. Машина получила название Mark I. В отличие от других компьютеров того времени, эта электронная машина должна была научиться видеть мир вокруг себя — в этом была ее главная задача. «Впервые в истории небиологическая система²⁸ научится подстраиваться под организацию внешней среды», — заявил он репортерам позже в том же году, когда опять отправился в Вашингтон на встречу со своими спонсорами.

Его главный куратор от научно-исследовательского управления ВМС²⁹, с которым он непосредственно сотрудничал, не разделял его слишком оптимистичных и даже экстравагантных взглядов на «Перцептрон», но Розенблатт не сдавался. «Мой коллега не одобряет³⁰ всех этих нынешних разговоров о механическом мозге, — признался он одному журналисту за чашечкой кофе, — но все так и есть». Он взял в руки маленькую серебряную солонку³¹, стоявшую перед ним на столике. Вот я эту солонку первый раз вижу³², объяснял Розенблатт, но все равно знаю, что это солонка. «Перцептрон» способен делать то же самое³³. Он способен делать умозаключения³⁴, позволяющие, скажем, отличить собаку от кошки. При этом Розенблатт признавал³⁵, что этой технологии нужно пройти еще долгий путь, прежде чем она сможет иметь какое-то прикладное значение: пока что «Перцептрону» недостает глубины восприятия и «тонкости суждений». Но в его потенциале Розенблатт не сомневался. Однажды, говорил он³⁶, «Перцептрон» отправится в космос и будет сообщать на Землю свои наблюдения. Когда журналист спросил³⁷, есть ли на свете то, на что «Перцептрон» не способен, Розенблатт поднял руки. «Любовь. Надежда. Отчаяние³⁸. Человеческая природа, короче говоря. Если мы сами не понимаем природу человеческого полового влечения, то как можно ждать этого от машины?»

В декабре того же года журнал New Yorker восславил³⁹ творение Розенблатта как способное всерьез соперничать с человеческим мозгом. Незадолго до этого авторы журнала⁴⁰ изумлялись способности компьютера IBM 704 играть в шахматы. А теперь они описывали⁴¹ «Перцептрон» как еще более удивительную машину, как компьютер, который способен научиться «мыслить по-человечески». Хотя ученые утверждают⁴², что видеть, чувствовать и мыслить способны только биологические системы, говорилось в журнале, «Перцептрон» ведет себя так «словно он видит, чувствует и мыслит». Правда, машину эту Розенблатт еще не построил⁴³, но это казалось пустяком. «Ее непосредственное создание лишь вопрос времени⁴⁴ (и денег)», — утверждал журнал.

Процесс создания Mark I был завершен⁴⁵ в 1960 году. Компьютер представлял собой шесть шкафов, наполненных всяческим электрическим снаряжением, и каждый шкаф был размером с большой холодильник. К компьютеру было присоединено также нечто вроде огромного студийного фотоаппарата. Это и был фотоаппарат, только пленку инженеры заменили небольшим квадратным устройством, которое было усеяно четырьмя сотнями черных точек. Это были фоторезисторы, реагирующие на изменение освещенности. Розенблатт и его инженеры напечатали на больших листах картона буквы — A, B, C, D и т. д., — и, когда одну из этих букв располагали на подставке перед объективом фотоаппарата, фоторезисторы отличали черный цвет букв от белого фона. При этом компьютер учился распознавать форму букв — примерно так же, как это происходило с помеченными карточками во время показа в Бюро погоды. Разумеется, первоначально процесс учебы не обходился без помощи человека: по мере того как машина распознавала буквы, оператор сообщал ей, правильный ответ она дает или нет. Но с течением времени компьютер учился и сам на своих ошибках, постепенно выявляя определенные характеристики, отличавшие одну букву от другой: наклонную линию буквы А, двойную дугу буквы В… При демонстрации способностей машины Розенблатту нужно было доказать, что она действительно самообучаемая. Он открывал один из шкафов и отсоединял какие-то провода, разрывая таким образом контакт между моторами, исполнявшими роль псевдонейронов. Когда провода возвращались на место, машине приходилось заново учиться распознавать буквы, но, просмотрев новую серию карточек, она успешно восстанавливала утраченный навык и снова работала так же, как прежде.

Это хитроумное изобретение работало достаточно хорошо, чтобы интерес к нему проявили не только в научно-исследовательском управлении ВМС. В течение следующих нескольких лет разработкой тех же самых идей занялись в Стэнфордском научно-исследовательском институте, а кроме того, лаборатория Розенблатта заручилась контрактами с почтовой службой США и военно-воздушными силами. Почтовая служба нуждалась в устройстве, способном автоматически прочитывать адреса на конвертах, а интерес ВВС заключался в возможности идентификации объектов на аэрофотоснимках. Но все это было делом далекого будущего. Система, разработанная Розенблаттом на тот момент, едва справлялась с распознаванием печатных букв, что было сравнительно простой задачей. Когда система анализировала карточки с изображением буквы А, каждый из фоторезисторов реагировал на определенный участок на карточке. Скажем, один из резисторов отвечает за нижний правый угол. Если в этом месте черный цвет появляется чаще, чем белый, машина придает этому участку больший «весовой коэффициент», а это означает, что он играет более значимую роль в тех математических расчетах, которые в конечном счете определяют, что является буквой А, а что нет. При прочтении новой карточки машина сможет узнать букву А, если большинство наиболее весомых участков черные. Вот и вся технология. И конечно, такая система была совершенно не приспособлена для распознавания рукописного текста, где уловить закономерности значительно сложнее.

Несмотря на очевидные недостатки своей системы, Розенблатт продолжал смотреть в будущее с оптимизмом. Другие тоже верили в то, что в последующие годы эта технология усовершенствуется и позволит решать более сложные задачи. Но вскоре она наткнулась на очень серьезное препятствие в лице Марвина Мински.

* * *

Фрэнк Розенблатт и Марвин Мински⁴⁶ учились в Bronx Science в одно и то же время. Правда, в 1945 году родители Марвина⁴⁷ перевели его в другую школу, частную Академию Филлипса в Эндовере, которая, как считалось, давала наилучшую подготовку для поступления в вузы, а после окончания войны он поступил в Гарвард. Но впоследствии он говорил⁴⁸ о том, что нигде ему не было так хорошо учиться, как в Бронксе: там и сложность заданий постоянно держала в тонусе, и учащиеся были более амбициозные: «с ними ты мог обсуждать свои самые замысловатые идеи, и никто не смотрел на тебя свысока», — говорил он. После смерти Розенблатта Мински назвал своего старого однокашника⁴⁹ воплощением того творческого мышления, к которому приучает школа Bronx Science. Как и Розенблатт, Мински был одним из первопроходцев в разработках искусственного интеллекта. Но смотрел он на эти разработки через совсем другую призму.

Будучи студентом Гарвардского университета⁵⁰, Мински из трех с лишним тысяч радиоламп и нескольких деталей от бомбардировщика В-52 построил устройство, которое он назвал SNARC, — возможно, первую в истории искусственную нейронную сеть. Затем, поступив в аспирантуру в начале 1950-х⁵¹, он продолжал изучать математические концепции, которые, среди прочего, привели к созданию «Перцептрона». Однако он видел в искусственном интеллекте значительно более широкое понятие. Он принадлежал к той небольшой группе ученых⁵², которые, собравшись летом 1956 года на конференцию в Дартмутском колледже, решили выделить изучение ИИ в отдельную, самостоятельную научную дисциплину. Ранее дартмутский профессор Джон Маккарти тщетно призывал ученых поддержать его усилия в «исследованиях автоматов», как он это называл, но для большинства это был пустой звук. И тогда он ввел в обращение понятие «искусственный интеллект» и организовал в Дартмуте конференцию, куда съехались несколько его единомышленников и другие ученые, проявившие интерес. В повестке Дартмутской научной конференции по искусственному интеллекту⁵³ упоминались не только «нейронные сети», но и такие понятия, как «автоматические компьютеры», «абстрагирование» и «самосовершенствование». Среди участников этой конференции были ученые, которые стали лидерами этого направления научных поисков в 1960-е годы. Особенно следует отметить Маккарти, который со временем перебрался на Западное побережье, в Стэнфордский университет, Герберта Саймона и Аллена Ньюэлла, которые создали свою лабораторию в Университете Карнеги — Меллона на Среднем Западе, и Мински, который обосновался на Востоке, в Массачусетском технологическом институте. Они стремились создать искусственную версию человеческого интеллекта, используя любые методы, которые могли бы привести к цели, и были уверены в том, что это не должно занять много времени⁵⁴; некоторые утверждали, что в течение десяти лет удастся создать машину, которая победит чемпиона мира по шахматам, а также сформулирует и докажет новые теоремы в математике. Лысоватый смолоду, с большими ушами и вечной ехидной улыбкой, Мински стал увлеченным проповедником ИИ, но его проповедничество не распространялось на нейронные сети. Искусственные нейронные сети рассматривались лишь как один из способов построения ИИ, и Мински, как и многие его коллеги, сосредоточился на других путях. К середине 1960-х, когда его вниманием завладели другие технологии, он начал открыто сомневаться, способны ли нейронные сети в принципе на что-то большее, нежели на решение тех простейших задачек, которые демонстрировал Розенблатт у себя в Буффало.

Мински был лишь частью кампании, развернутой против идей Розенблатта. Как писал сам Розенблатт в своей книге, вышедшей в свет в 1962 году, его «Перцептрон» вызывал противоречивые оценки⁵⁵ в научном сообществе, и значительную долю вины за это он возлагал на прессу. Журналисты, писавшие о его исследованиях⁵⁶ в конце 1950-х годов, утверждал Розенблатт, «делали свое дело с задором и беззаботностью своры жизнерадостных собак». В частности, он сетовал⁵⁷ на кричащие заголовки — особенно выделяя одну из оклахомских газет, — которые подрывали у публики доверие к его деятельности как к серьезным научным исследованиям. Через четыре года после вызвавшей шум презентации в Вашингтоне он отзывал обратно свои прежние заявления и настаивал на том, что «Перцептрон» вовсе не был попыткой⁵⁸ создания искусственного интеллекта — по крайней мере не в том смысле, который вкладывают в понятие «искусственный интеллект» ученые вроде Мински. «Основная цель проекта “Перцептрон”⁵⁹ заключается не в изобретении механизмов, обладающих “искусственным интеллектом”, но скорее в изучении физических структур и нейродинамических принципов, лежащих в основе “естественного интеллекта”, — писал он. — Его польза в том, что он позволяет нам определить физические предпосылки для проявления различных психологических качеств». Иными словами, он хотел лишь понять, как работает человеческий мозг, а вовсе не пытался одарить мир новой разновидностью мозга. Человеческий мозг — настолько таинственная вещь, что воссоздать его искусственным путем невозможно, полагал Розенблатт, но можно использовать машины с тем, чтобы эту тайну исследовать, а может быть, даже и раскрыть.

Границы, отделявшие искусственный интеллект как научную дисциплину от информатики, психологии и нейробиологии, с самого начала были размытые, поскольку этой новой дисциплиной занимались представители самых разных научных школ, рассматривавшие эту тематику с разных углов и в разном контексте. Некоторые психологи, нейробиологи и даже ученые, работавшие в сфере информатики, смотрели на эти умные электронные машины так же, как смотрел на них Розенблатт: как на моделирование человеческого мозга. Другие ученые относились к этой идее с неприятием, утверждая, что компьютеры с человеческим мозгом не имеют ничего общего и что даже если они будут способны имитировать интеллект, то будут делать это по-своему. Никто из них, однако, даже близко не подошел к созданию того, что можно было бы по праву назвать «искусственным интеллектом». Основоположники этой науки, считавшие, что путь к воссозданию мозга будет достаточно быстрым, заблуждались: он оказался очень даже долгим. Их первородный грех как раз и состоял в том, что они назвали свою дисциплину «искусственным интеллектом». Это создавало у непосвященной публики впечатление, что ученые вот-вот научатся искусственно воссоздавать могущество человеческого разума, тогда как на самом деле они были очень далеки от этого.

В 1966 году несколько десятков ученых съехались в столицу Пуэрто-Рико Сан-Хуан⁶⁰. Они собрались⁶¹ в местной гостинице Hilton, чтобы обсудить последние достижения в области «распознавания паттернов», как они это называли. Речь шла о технологии выявления закономерностей и шаблонов в изображениях и других данных. Если Розенблатт видел в «Перцептроне» модель мозга, другие видели в нем средство распознавания паттернов. Впоследствии некоторые комментаторы изображали дело так, будто Розенблатт и Мински постоянно бодались на научных конференциях, включая сан-хуанскую, открыто споря о будущем «Перцептрона», но на самом деле их соперничество было неявным. Розенблатта в Сан-Хуане вообще не было. Страсти на конференции накалились после выступления молодого ученого по имени Джон Мэнсон. Он работал в Стэнфордском научно-исследовательском институте и проникся идеями Розенблатта после появления Mark I. В составе большой группы разработчиков он пытался построить искусственную нейронную сеть, способную различать не только печатные, но и рукописные буквы, и в своем докладе на конференции хотел рассказать о достигнутом прогрессе. Но когда Мэнсон закончил свое выступление и предложил задавать вопросы, слово взял Мински: «Как может такой умный молодой человек, как вы, тратить свое время на подобную чепуху?»

Это вызвало гневную реакцию со стороны сидевшего в аудитории Рона Свонгера, инженера из Корнеллской лаборатории аэронавтики, где компьютер Mark I как раз и был создан. Возмутившись тональностью, с которой был задан вопрос, он выразил недоумение, каким образом выпад Мински вообще связан с темой доклада. Мински возразил, что он не против распознавания рукописных букв как такового, а против самой концепции «Перцептрона». «У этой идеи нет будущего», — сказал он. Ричард Дуда, еще один участник команды, работавшей над технологией распознавания рукописного текста, был уязвлен смехом, прозвучавшим в зале, когда Мински иронично отозвался об утверждениях, что «Перцептрон» является попыткой моделирования сети нейронов мозга. Вообще это выступление было типично для Мински, которому нравилось расшевеливать улья. Однажды, выступая перед физиками, он заявил, что в области искусственного интеллекта всего за несколько лет был достигнут более значимый прогресс, чем физики достигли за века. Но Дуда полагал, что у профессора МТИ были свои практические резоны подвергать нападкам деятельность сотрудников Стэнфорда и Корнелла: их лаборатории конкурировали за государственные заказы. Позже на той же самой конференции, когда еще один докладчик представил новую систему, предназначенную для создания компьютерной графики, Мински рассыпался в похвалах — и не преминул еще раз пнуть идеи Розенблатта. «А “Перцептрон” на такое способен?» — спросил он.

По итогам конференции Мински и его коллега по МТИ Сеймур Пейперт опубликовали книгу, посвященную искусственным нейронным сетям⁶², которая получила название «Персептроны»^[1]. Многие считали, что эта книга практически похоронила идеи Розенблатта на следующие пятнадцать лет. Мински и Пейперт описали «Перцептрон» во всех подробностях, во многих случаях утрируя то, что говорил о нем сам Розенблатт. Они хорошо понимали, на что «Перцептрон» способен, но так же хорошо видели его недостатки. Они показали, что «Перцептрон»⁶³ был неспособен выполнять логическую операцию, которую математики называют «исключающее или», и что это имеет очень серьезные последствия. Если нанести на карточку две метки, «Перцептрон» мог бы сказать, что они обе черные. Так же он мог бы правильно назвать две белые метки. Но он был неспособен ответить на такой прямой вопрос: «Эти две метки разного цвета?» Это означало, что в некоторых случаях «Перцептрон» был не в состоянии распознать даже простейшие паттерны, не говоря уже о сложнейших паттернах, которые характерны для аэрофотоснимков или голосовых команд. Некоторые ученые, и Розенблатт в их числе, уже занимались разработкой новых модификаций «Перцептрона», пытаясь решить эту проблему. И все же выход в свет книги Мински повлиял на то, что реки бюджетных денег, выделяемых государством на науку, потекли в другие русла, а идеи Розенблатта были на время позабыты. Вслед за Мински большинство ученых сосредоточились на исследовании так называемого «символического ИИ».

Фрэнк Розенблатт пытался создать систему, которая бы училась самостоятельному поведению примерно так же, как учится человеческий мозг. В последующие годы ученые назвали этот подход «коннекционизмом», поскольку, как и мозг, такая система опирается на большое число взаимосвязанных расчетов. Но система Розенблатта была гораздо проще по сравнению с человеческим мозгом, и процесс обучения ограничивался сущими пустяками. Подобно многим другим ведущим специалистам в этой области знаний, Мински считал, что ученые не смогут создать искусственный разум, пока не проявят готовность отказаться от идей коннекционизма со всеми их ограничениями и переключиться на совершенно иной, куда более прямолинейный подход к построению искусственного интеллекта. Если нейронные сети учатся самостоятельному решению задач через анализ большого количества данных, то символическому ИИ это не нужно. Он ведет себя в соответствии с предельно конкретными инструкциями, которые вводятся в него инженерами; в этих конкретных правилах предусматривается все, что машина должна делать в каждой мыслимой ситуации, в которой она может оказаться. Такую форму ИИ назвали символической, потому что эти инструкции сообщали машине, какие конкретные операции она должна выполнять, получая определенный набор символов, то есть букв и цифр. На протяжении следующего десятилетия именно это направление доминировало в исследованиях ИИ. Это научное движение достигло своего пика⁶⁴ в середине 1980-х, когда началась реализация проекта Cyc, идея которого заключалась в попытке наделить машину здравым смыслом с помощью набора логических правил. Небольшая команда компьютерщиков, базировавшаяся в Остине, штат Техас, день за днем вводила в память машины такие базовые истины, как «невозможно находиться в двух местах одновременно» или «когда пьют кофе из чашки, ее держат дном книзу». Они понимали, что этот процесс займет десятки, может быть, даже сотни лет. Но, подобно многим другим ученым, они были уверены, что другого пути просто нет.

Розенблатт пытался развить идею «Перцептрона», чтобы возможности машины не ограничивались распознаванием образов. Еще в Корнелле он в сотрудничестве с другими учеными создал систему распознавания произносимых голосом слов. Эта система получила название «Тобермори» в честь говорящего кота из рассказа английского писателя Саки, однако она так и не заработала по-настоящему. К концу 1960-х, вернувшись в Итаку, Розенблатт переключился на совершенно иную область исследований⁶⁵ и стал проводить эксперименты на крысах. Дав время одной группе крыс научиться ориентироваться в лабиринте, он впрыскивал их мозговое вещество в мозг другой группы крыс, после чего запускал их в лабиринт, чтобы посмотреть, способны ли они абсорбировать знания первой группы крыс вместе с их мозгом. К какому-то определенному выводу эксперименты не привели.

Летом 1971 года⁶⁶ в свой сорок третий день рождения Розенблатт трагически погиб, катаясь на яхте в Чесапикском заливе. В прессе не сообщали, что именно произошло. Но по свидетельству одного из его коллег, с Розенблаттом на борту были двое студентов, которые не умели управлять яхтой, и, когда резкий поворот паруса сбросил Розенблатта в воду, они не сумели развернуться, чтобы подобрать его. Яхта продолжала движение вперед, а он утонул.

Глава 2

Обещание. «Старые идеи — это новые идеи»

Однажды в середине 1980-х группа из примерно двадцати ученых собралась в особняке, выстроенном в старофранцузском стиле на окраине Бостона, который служил местом отдыха для преподавателей и студентов Массачусетского технологического института, откуда Марвин Мински продолжал руководить международным сообществом разработчиков ИИ. Они сидели за большим деревянным столом в центре комнаты, и Джефф Хинтон вручил каждому экземпляр заполненной математическими выкладками научной статьи, описывающей то, что он назвал «машиной Больцмана». Названная в честь австрийского физика и философа, эта «машина» представляла собой нейронную сеть нового типа, призванную преодолеть те недостатки «Перцептрона», на которые указал Мински пятнадцатью годами ранее. Мински снял скрепку, соединявшую листы статьи, и разложил их перед собой на столе, в то время как Хинтон вернулся во главу стола и сделал короткий доклад, объясняющий свое новое математическое творение. Мински молчал и просто разглядывал разложенные перед ним листы. Когда доклад закончился, он встал и вышел из комнаты, оставив разложенные аккуратными рядами листы на столе.

Хотя нейронные сети выпали из фавора ученых, после выхода в свет книги Мински «Перцептроны», Хинтон, к этому времени занявший должность профессора информатики в Университете Карнеги — Меллона в Питтсбурге, сохранял им верность. «Машину Больцмана» он создал в сотрудничестве с Терри Сейновски, нейробиологом из Университета Джонса Хопкинса в Балтиморе. Они принадлежали к числу «нейросетевых подпольщиков», как назвал их один из современников. Остальные ученые, занимавшиеся искусственным интеллектом, сосредоточились на символьных методах, в том числе на проекте Сус. Хинтон же и Сейновски продолжали видеть будущее ИИ в самообучающихся системах. Бостонская конференция дала Хинтону возможность поделиться своими новыми результатами с широким научным сообществом.

Хинтона реакция Мински не удивила. Они познакомились пятью годами ранее, и Хинтон видел в Мински очень любознательного и творчески мыслящего ученого, но это сочеталось с удивительным ребячеством и безответственностью. Хинтон часто рассказывал историю о том, как Мински учил его, каким образом получить «идеальный черный цвет» — то есть цвет, полностью лишенный цвета. Достичь такого совершенства с помощью черных пигментов невозможно, объяснял Мински, потому что эти пигменты все равно будут отражать свет. Добиться этого можно с помощью нескольких бритвенных лезвий, установленных V-образно, так чтобы свет, попав в эту ловушку, бесконечно отражался от лезвий, не находя выхода наружу. Мински, правда, реально это фокус не продемонстрировал, а Хинтон так и не попробовал его осуществить. Это было типично для Мински — делать интересные и заставляющие задуматься заявления, но при этом случайные и непроверенные. И это свидетельствовало о том, что он не всегда говорил то, что думал. Во всяком случае, когда речь заходила о нейронных сетях, Мински на словах критиковал их и сетовал на их ограниченные возможности — да еще и книгу написал, которая широко цитировалась и как будто бы окончательно доказывала их бесперспективность, — но его истинное отношение к ним было не столь уж твердокаменным. Хинтон видел в нем «бывшего нейросетевика», то есть человека, который изначально принимал идею о машинах, ведущих себя подобно сети нейронов в мозге, потом разочаровался в этой идее, не оправдавшей его ожиданий, но все-таки продолжал таить в себе призрачную надежду на то, что эта идея еще проявит себя. После того как Мински покинул заседание в Бостоне, Хинтон собрал оставленные им листы и переслал их в офис Мински, сопроводив короткой запиской, в которой говорилось: «Возможно, вы оставили их случайно».

* * *

Джеффри Эверест Хинтон родился в английском городе Уимблдон сразу после Второй мировой войны. Он является одновременно прапраправнуком Джорджа Буля, математика и философа девятнадцатого столетия⁶⁷, чья «булева алгебра» является математическим фундаментом всех существующих компьютеров, и Джеймса Хинтона, хирурга⁶⁸, жившего в том же столетии, который написал историю Соединенных Штатов Америки. Его прадедом был Чарльз Говард Хинтон, математик и писатель-фантаст⁶⁹, чье представление о «четвертом измерении» — включая так называемый «тессеракт» — продолжает будоражить умы любителей научной фантастики вот уже сто тридцать лет. Своего пика в поп-культуре эта идея достигла в 2010-е годы в марвеловской серии фильмов о супергероях. Его двоюродный дедушка Себастьян Хинтон изобрел серию тренажерных снарядов для детей⁷⁰, а его кузина Джоан Хинтон, физик-ядерщик, была одной из немногих женщин, участвовавших в проекте «Манхэттен». Он рос в Лондоне, а потом в Бристоле в обществе брата и двух сестер, мангуста, дюжины дальневосточных черепах и двух гадюк, которые жили в яме в задней части гаража. Его отцом был энтомолог Говард Эверест Хинтон, член Лондонского королевского общества, чей круг интересов отнюдь не ограничивался насекомыми. Как и отец, своим вторым именем Джеффри был обязан еще одному своему родственнику, Джорджу Эвересту, главному геодезисту Индии⁷¹, в честь которого названа также высочайшая вершина мира. В том, что Джеффри пойдет по стопам отца и тоже станет ученым, в семье никто не сомневался. Вопрос был лишь в том, что именно он будет изучать.

Ему захотелось изучать человеческий мозг. Интерес к этой теме, по его собственным словам, пробудился в нем еще в подростковом возрасте, когда кто-то из друзей сказал ему, что мозг можно уподобить голограмме: в своей сети нейронов он хранит обрывки воспоминаний примерно так же, как голографическая пластина хранит элементы трехмерного изображения. Аналогия, конечно, упрощенная, но эта идея увлекла Хинтона. Став студентом Кингс-колледжа в Кембридже, он надеялся лучше изучить устройство и работу человеческого мозга. Проблема была в том, что мало кто разбирался в этом лучше, чем он сам. Ученым были известны функции отдельных участков мозга, но не было понимания того, как эти части взаимодействуют друг с другом и как они в конечном счете наделяют человека способностью видеть, слышать, запоминать, учиться и мыслить. В поисках ответа Хинтон пробовал обращаться к физиологии и химии, к физике и психологии, но ни одна из этих научных дисциплин не содержала в себе ответы, которые он искал. Он занялся было подготовкой диссертации по физике, но скоро понял, что для этого недостаточно силен в математике, и переключился на философию. Потом он и философию забросил, сменив ее на экспериментальную психологию. В конце концов, несмотря на давление со стороны отца, который хотел, чтобы сын продолжал учебу, — а может быть, благодаря этому давлению, — Хинтон вообще оставил научную стезю. Еще будучи ребенком, он видел в отце не только ученого-интеллектуала, но и физически очень сильного мужчину: этот член Лондонского королевского общества мог отжиматься на одной руке. «Упорно трудись и, быть может, когда станешь вдвое старше, чем я сейчас, достигнешь хотя бы половины того, чего достиг я», — говорил он сыну без тени иронии. Поэтому после окончания Кембриджа Хинтон, желая выйти из тени отца, перебрался в Лондон и стал плотником. «Я занимался этим не ради развлечения, — говорит он. — Я зарабатывал этим на жизнь».

В том же году он прочитал книгу канадского психолога Дональда Хебба «Организация поведения». В своей книге автор пытался объяснить базовые биологические процессы⁷², позволяющие мозгу учиться. Процесс учебы, полагал Хебб⁷³, происходит в форме цепочки крошечных электрических сигналов между нейронами мозга, в результате которых меняется физическая картина соответствующих нейронных связей. Между одновременно возбуждающимися нейронами формируются прочные связи. Эта теория, получившая название «закон Хебба», в 1950-е годы вдохновила таких ученых, как Фрэнк Розенблатт, на создание искусственных нейронных сетей⁷⁴. И для Джеффа Хинтона она тоже стала источником вдохновения. Каждую субботу он приходил с блокнотом в библиотеку — а жил он тогда в Ислингтоне, в северной части Лондона, — и до обеда строчил свои собственные теории, объясняющие — на основе идей Хебба, — как работает мозг. Эти субботние записи он делал исключительно для себя, но со временем они побудили его вернуться в науку. По времени это совпало с первой волной финансирования разработок искусственного интеллекта со стороны британского правительства и расширением приема в аспирантуру Эдинбургского университета.

В те годы печальная реальность была такова, что как нейробиологи и психологи плохо понимали, как работает мозг, так и разработчикам искусственного интеллекта было еще далеко до успешной имитации работы человеческого мозга. Но, во многом подобно Фрэнку Розенблатту, Хинтон был убежден в том, что только изучение обеих сторон этого уравнения — принципов работы как биологического мозга, так и искусственного интеллекта — поможет лучше разобраться в том и в другом. Он видел в разработках ИИ возможность проверить свои теории о мозге, что в конечном счете даст шанс раскрыть его тайны. И если он сможет проникнуть в тайны мозга, это, в свою очередь, поможет ему создать более эффективные формы ИИ. Поэтому, проработав год плотником в Лондоне, он на короткое время устроился психологом в Бристольский университет, где работал его отец, и это послужило трамплином для того, чтобы стать участником программы разработки ИИ, которая в то время как раз разворачивалась в Эдинбургском университете. Годы спустя один коллега, представляя его на одной из конференций, назвал Хинтона человеком, который потерпел неудачу в физике, ушел из психологии и в конце концов нашел себя в области исследований, где не было никаких стандартов: в разработке ИИ. Эту историю любил рассказывать сам Хинтон, но с одним уточнением: «Я не потерпел неудачу в физике и ушел из психологии; я потерпел неудачу в психологии и ушел из физики — это намного солиднее звучит».

В Эдинбурге он попал в лабораторию, которой руководил Кристофер Лонге-Хиггинс. Долгое время Лонге-Хиггинс занимался теоретической химией⁷⁵ в Кембридже и считался восходящей звездой в этой области, но в конце 1960-х его увлекла идея искусственного интеллекта. Поэтому он переехал из Кембриджа в Эдинбург и занялся изучением той разновидности ИИ, которая имела немало общего с методами, на которых был построен «Перцептрон». Его коннекционистский подход вполне согласовывался с теми теориями, которые разрабатывал по субботам в ислингтонской библиотеке Хинтон. Но эта интеллектуальная гармония оказалась скоротечной. За время, прошедшее между днем, когда Хинтон принял приглашение занять место аспиранта в лаборатории Лонге-Хиггинса, и днем, когда он туда прибыл, взгляды руководителя лаборатории успели кардинально измениться. Прочитав книгу Мински и Пейперта «Перцептроны» и статью о системах обработки текстов на естественных языках, написанную одним из студентов Мински в МТИ, он отказался от идеи искусственного интеллекта, моделирующего структуру мозга, и переключился на идею символического ИИ — что укладывалось в общий тренд того времени. Это привело к тому, что все годы, проведенные в аспирантуре, Хинтон занимался исследованиями в тех направлениях, которые отвергались не только его коллегами, но и непосредственным научным руководителем. «Мы встречались раз в неделю, — говорит Хинтон. — Иногда встречи заканчивались перепалками, но не каждый раз».

У Хинтона было очень мало опыта в области информатики, и он совершенно не интересовался математикой, включая линейную алгебру, на которую опирается теория нейронных сетей. Иногда он практиковал то, что сам называл «дифференцированием на доверии». Он придумывал идею, включая систему дифференциальных уравнений, на которые она опиралась, и просто предполагал, что математически там все безупречно, предоставляя другим трудиться над расчетами, необходимыми для того, чтобы удостовериться, что это действительно так, и лишь в крайних случаях снисходил до того, чтобы решать уравнения самостоятельно. Но он имел твердую уверенность в том, как работает мозг — и как машины могли бы имитировать работу мозга. Когда он сообщал кому-нибудь из научного сообщества, что занимается нейронными сетями, его собеседники неизменно ссылались на книгу Мински и Пейперта. «Нейронные сети опровергнуты, — говорили ему. — Лучше бы вам заняться чем-нибудь другим». Но если других ученых книга Мински и Пейперта все дальше отталкивала от нейронных сетей, то на Хинтона она оказала противоположное действие. Он прочитал эту книгу, уже будучи в Эдинбурге. Ему казалось, что «Перцептроны», описанные Мински и Пейпертом, были скорее карикатурой на работу Розенблатта. Они отказывались признать, что Розенблатт и сам видел в своей технологии те же самые недостатки и ограничения, которые видели они. Другое дело, что Розенблатту недоставало их мастерства в описании этих недостатков, и, возможно, именно по этой причине он не мог к ним подступиться. Он был не из тех, кого остановит неспособность доказать справедливость своих теорий. Хинтон полагал, что, четко и красноречиво указав на ограничения, присущие технологии Розенблатта, Мински и Пейперт облегчили будущим исследователям задачу преодоления описанных ими проблем.

Но для этого потребуется еще десять лет.

* * *

В 1971 году, в тот самый год, когда Хинтон поступил в аспирантуру Эдинбургского университета, британское правительство заинтересовалось прогрессом, достигнутым в разработках искусственного интеллекта, и заказало соответствующее исследование⁷⁶. Результат оказался неутешительный. «Большинство сотрудников, занимающихся искусственным интеллектом⁷⁷ или работающих в смежных областях, признаются, что разочарованы тем, чего им удалось достичь за последние двадцать пять лет, — говорится в отчете. — Ни в одном из направлений не были достигнуты сколько-нибудь существенные результаты, которые бы соответствовали ожиданиям». По этой причине правительство решило урезать финансирование, и наступила «зима искусственного интеллекта», как впоследствии назвали этот период. Оправдываясь тем, что, несмотря на ажиотаж, поднятый вокруг тематики ИИ, научно-технические достижения в этой области оставались более чем скромными, государственные чиновники отказывали ученым в дополнительных инвестициях, что ввергло большую часть таких исследований в «спячку» и в еще большей степени замедлило прогресс. Название этому периоду было дано по аналогии с «ядерной зимой» — последствием ядерной войны, когда небо затягивается дымом и пеплом и солнечные лучи на протяжении многих лет не могут пробиться к поверхности земли. К тому времени, когда Хинтон закончил работу над своей диссертацией, от той научной дисциплины, где он работал, осталось практически пепелище. Тогда же умер его отец. «Старый хрыч умер до того, как я добился успеха, — говорит Хинтон. — Да еще у него был рак с высоким уровнем риска передачи по наследству. Таким образом, он напоследок и меня решил поскорее уморить».

«Зима искусственного интеллекта» становилась все холоднее, и закончивший аспирантуру Хинтон принялся за поиски работы. Только один университет пригласил его на собеседование, и у него не осталось другого выбора, как обратить свой взор на заграничные вузы, включая американские. В США исследования ИИ тоже угасли, поскольку американские чиновники пришли к тем же неутешительным выводам, что и их британские коллеги, и сократили финансирование университетов. Но на самом юге Калифорнии, к своему изумлению, Хинтон нашел-таки небольшую группу людей, которые верили в ту же идею, что и он сам.

Они называли себя «группой PDP». Понятие PDP, что расшифровывалось как «параллельно распределенная обработка», служило фактически синонимом для таких понятий, как «перцептроны», «нейронные сети» или «коннекционизм». И здесь еще имелась игра слов. В те годы — в конце 1970-х — аббревиатурой PDP обозначался компьютерный чип, который использовался в самых мощных машинах того времени. Но люди, называвшие себя «группой PDP», компьютерщиками не были. Они даже разработчиками ИИ себя не считали. Группа включала в себя нескольких специалистов с кафедры психологии Калифорнийского университета в Сан-Диего и, как минимум, одного нейробиолога, Фрэнсиса Крика из Института биологических исследований имени Солка, расположенного буквально через дорогу от университетского городка. Прежде чем обратить свое внимание на исследования мозга, Крик удостоился Нобелевской премии за открытие структуры молекулы ДНК. Осенью 1979 года он опубликовал на страницах журнала Scientific American призыв к широкому научному сообществу⁷⁸ хотя бы попытаться понять, как работает человеческий мозг. Хинтон, занявший место постдока в Калифорнийском университете в Сан-Диего, испытал своего рода культурно-научный шок. Если в научном сообществе Великобритании царила интеллектуальная монокультура, то в США хватало место для приверженцев самых разных научных взглядов. «Здесь способны уживаться между собой самые разные точки зрения», — говорит он. Здесь, если он сообщал кому-то, что занимается нейронными сетями, его слушали.

Между Фрэнком Розенблаттом и тем, чем занимались в Сан-Диего, существовала прямая связь. В 1960-е годы Розенблатт и другие ученые рассчитывали создать искусственную нейронную сеть нового типа, которая бы состояла из нескольких «слоев» нейронов. В 1980-е годы на это же надеялись ученые, работавшие в Сан-Диего. «Перцептрон» был однослойной нейронной сетью, то есть был только один слой нейронов между входящей информацией (большая буква А, напечатанная на картоне) и выходящей (сообщение компьютера, что он видит букву А). Но Розенблатт полагал, что, если удастся построить многослойную сеть, где информация будет передаваться с одного слоя на другой, эта система сможет научиться распознавать гораздо более сложные паттерны, чем мог «Перцептрон». Иными словами, эта система будет в большей мере походить на человеческий мозг. Когда «Перцептрон» анализировал картонку с напечатанной на ней буквой А, каждый из нейронов изучал одну из точек на изображении, пытаясь понять, является ли данная точка частью трех линий, составляющих букву А. Но для многослойной сети это было бы только отправным моментом. Покажите этой системе, скажем, фотографию собаки, и за этим последует гораздо более сложный анализ. Первый слой нейронов сканирует каждый пиксель изображения. Он черный или белый, коричневый или желтый? Затем этот первый слой передает ту информацию, которую он идентифицировал, второму слою. Нейроны второго слоя высматривают в полученной информации определенные паттерны. Например, отрезок прямой линии или дугу. Третий слой выискивает паттерны в паттернах. Он уже может свести концы с концами и увидеть ухо или зуб. В конечном счете такая многослойная сеть может научиться идентифицировать собаку. По крайней мере, такая была идея. Никто в реальности не пытался ее осуществить и проверить. И вот в Сан-Диего решили попробовать.

Конец ознакомительного фрагмента.

Примечания

1

Под таким названием книга выходила в русском переводе в 1971 г. (М. Минский, С. Пейперт, Персептроны. «Мир», 1971). Однако сегодня одноименную компьютерную модель, а также аппарат принято называть «перцептроном» (от лат. perceptio — восприятие, перцепция), поэтому дальше по тексту будет использоваться данный вариант. — Прим. ред.