2062: время машин

Тоби Уолш, 2018

2062 год – что это за дата? Ведущие эксперты по искусственному интеллекту и робототехнике предсказывают: в 2062 году мы сможем создать искусственный разум, который превзойдет возможности человека. Еще в начале 1990-х Гарри Каспаров уверен, что «в классических шахматах на серьёзном уровне компьютерам ничего не светит в XX веке»… и в 1997 году проигрывает компьютеру Deep Blue. А двадцать лет спустя AlphaGo выигрывает партию у лучшего в мире игрока в го. В интервью ВВС Стивен Хокинг заметил, что «полноценный искусственный интеллект может стать концом человеческой расы, поскольку будет самостоятельно и стремительно совершенствоваться, а люди, зависящие от медленной биологической эволюции, неспособны с ним конкурировать». Так ли это? Что же нас ждет теперь? На этот вопрос отвечает Тоби Уолш, признанный специалист по искусственному интеллекту. В своей книге он внимательно и последовательно изучает каждую сторону нашего «светлого будущего»: от мировой экономики до новой человеческой идентичности. Уже поздно обсуждать, хорош или плох будет мир в этом очень недалеком будущем. Сейчас главное – понять, как к нему готовиться. В формате a4.pdf сохранен издательский макет книги.

Посвящается A и B, наполняющим мою жизнь смыслом.

© Toby Walsh, 2018

© А.И. Стрельцов, перевод, 2018

© ООО «Издательство АСТ», 2019

1. Homo digitalis

Человек — удивительное создание. Несмотря на изобилие различных форм жизни на планете, мы, вероятно, наиболее удивительная из всех, которые когда-либо на ней существовали. Мы поворачивали вспять реки, создавали острова и прочими способами меняли природу для своих целей. Мы построили невероятные сооружения.

Монументальные пирамиды в Гизе. Невероятной протяженности Великая Китайская стена^[1]. Изумительная Саграда-Фамилия. Мы пересекали жаркие пустыни, покоряли высочайшие горы. Мы отправили Tesla Roadster в космос^[2]. Мы даже покинули Землю, чтобы прогуляться по Луне.

Мы создали научные теории, объясняющие загадки Вселенной: от ее рождения тринадцать миллиардов лет назад до ее смерти, которая наступит через один гугол лет в будущем^[3]. Мы покорили огонь, мы уничтожили оспу и объединялись, чтобы свергнуть деспотов и диктаторов. Мы создали искусство, заставляющее людей прослезиться от осознания его грандиозности. Величественные мелодии «Страстей по Матфею» Баха. Чистая красота «Давида» Микеланджело. Сокрушающая печаль Тадж-Махала.

Но, несмотря на все эти удивительные достижения, мы вскоре будем заменены. Почти все следы homo sapiens будут стерты с лица Земли так же, как были стерты следы существования наших предков, homo neanderthalensis. Эволюция никогда не закончится.

Около 50 000 лет назад homo neanderthalensis не смогли противостоять появлению homo sapiens. Мы точно не знаем, когда и как вымерли неандертальцы. Возможно, они не смогли адаптироваться к переменам в климате; отголоски этой проблемы доносятся до нас и сегодня. Может быть, они не выдержали конкуренцию с homo sapiens, которые не оставили им экологической ниши для выживания.

В чем бы ни заключалась причина, неандертальцы вымерли и на их место пришли мы. Так же, как и все виды, существовавшие до нас, мы уступим место кому-то новому и более успешному. Поскольку мы умны — не забывайте, что слово sapiens (разумный) входит в название нашего вида, — мы можем даже предугадать, кто именно нас заменит.

Нашим преемником станет homo digitalis — биологический род Homo, эволюционировавший в цифровую форму. Все наши занятия станут по большей части (а в некоторых случаях и совсем) цифровыми. Человеческий разум будет заменен искусственным, а человеческую деятельность в реальном мире заменит цифровая деятельность в виртуальном мире. Это и есть наше искусственно-интеллектуальное будущее.

Моя прошлая книга рассказывала историю искусственного интеллекта, которая начинается с Древней Греции и закончится примерно через 45 лет, в 2062 году^[4]. В центре внимания были технологии: интеллект машин, которые мы создаем сегодня, достигнет нашего уровня как раз около 2062 года. Там, где заканчивается моя предыдущая книга, начинается эта^[5]. Она рассказывает о том, где окажется человечество через пару веков после изобретения думающих машин. Здесь я пишу не о технологиях, а о нас самих. Исследую влияние искусственного интеллекта на человечество.

О том, как будут выглядеть технологии через сто или двести лет, мы говорить не станем. Как Артур Ч. Кларк однажды сказал, технологии такого далекого будущего все равно будут казаться волшебством^[6]. Важнее то, что мы с ними сделаем, ведь это будет самая сильная магия, на которую способен человек.

Путь homo sapiens

Почему мы, Homo sapiens, так преуспели? Почему именно мы (к счастью или к сожалению) хозяева этой планеты? Почему homo sapiens заменили homo neanderthalensis?

Неандертальцы не так уж сильно от нас отличались. Их ДНК совпадало с нашим на 99,7 процента. Они были немного ниже и крепче нас, что давало им меньшее отношение поверхности к объему и делало их более адаптированными к сезонному климату. Несмотря на миф о примитивности неандертальцев, их мозг был крупнее нашего. Если принять во внимание разницу в размере тел, мозг неандертальца был вполне сравним с мозгом homo sapiens.

Так что же дало нам преимущество? Возможно, мы никогда этого не узнаем. Самый вероятный кандидат на эту роль — язык. Около ста тысяч лет назад у homo sapiens стала развиваться сложная разговорная речь. Для сравнения: неандертальцы, скорее всего, имели только примитивный протоязык. Этот протоязык был, вероятно, ближе к музыке, чем к речи.

Трудно быть уверенным, что именно в этом состояла причина нашего успеха. Большую часть двадцатого века в научной среде не принято было обсуждать происхождение языка. Учитывая крайне малое количество конкретных фактов на тот момент, споры на эту тему имели в основном спекулятивный характер. Многие считали, что дискуссия о том, как появился язык, не несет никакой практической пользы. Когда в 1866 году было образовано Парижское лингвистическое общество, одно из его правил звучало так: «Общество не принимает никаких обсуждений на тему происхождения языка или создания универсального языка». Подобный запрет приняло и Лондонское филологическое общество в 1872 году.

На протяжении большей части двадцатого века лингвисты изучали строение современного языка, не уделяя особого внимания тому, как он стал таким. Но этот вопрос важен. Как так вышло, что только homo sapiens сумели создать развитую языковую систему? Какое влияние этот факт оказал на процесс эволюции?

Даже в 1970-е, когда вопрос о происхождении языка вновь стал обсуждаться, споры на эту тему сосредоточились в основном на том, как язык возник, а не когда это произошло или как повлияло на наше развитие. Лингвисты спорили, был ли язык нашим врожденным свойством, как убеждал нас Ноам Хомский^[7], или развивался из протоязыка на протяжении какого-то времени. Гораздо меньше внимания уделялось тому колоссальному значению, которое язык имел для нашей способности доминировать на планете.

Влияние языка

До того, как появилась разговорная речь, наша способность обучаться была сильно ограничена. Каждому поколению приходилось переучиваться с нуля. Разумеется, некоторые знания и навыки в процессе обучения можно просто продемонстрировать. Я могу показать вам ядовитые растения, как изготовить деревянное копье или как пить воду из листьев в тропическом лесу. Но такой процесс обучения может быть очень долгим и болезненным. Один человек должен показать другому все, что тому нужно знать, а значит, многие сведения умирали вместе с их обладателями.

Эволюция — это тоже процесс обучения, но еще более медленный и эффективный, нежели демонстрация. Гены, обеспечивающие поведение, которое повышает способность к выживанию, имеют больше шансов на то, чтобы быть переданными следующему поколению. Но такое развитие имеет свои пределы. Коровы до сих пор не научились производить сено. Акулы не научились разводить тюленей. Разумеется, этого и не произойдет.

Язык поменял все правила игры. Благодаря ему я получил возможность объяснить вам, какие растения можно есть, а какие нельзя: «Не ешьте грибы с пятнами или эти аппетитные красные ягоды». Я также могу объяснить вам, как поймать оленя: «Всегда подходите с подветренной стороны и следите, чтобы солнце было у вас за спиной. Рассвет или закат — лучшее для этого время». Могу рассказать вам, как выращивать пшеницу: «Сажайте весной, собирайте урожай в конце лета. Прежде чем начать сажать зерно, подождите, пока закончатся холода».

Но язык не только упростил для следующих поколений процесс охоты, уборки урожая и возделывания земли. Он подарил нам истории, мифы, религии. Язык дал нам астрономию и астрологию, географию, историю, экономику, политику. Сделал возможными науку, технологии и медицину. Именно язык добавил слово sapiens в название нашего вида.

Общества развивались и становились сильнее благодаря языку. Он помогал нам работать вместе, разрешать конфликты и доверять друг другу. Язык дал нам возможность развивать экономику обмена, а затем и денежную экономику. Язык помог людям начать специализироваться в определенных сферах. Он дал толчок образованию и привел к формированию наших политических систем.

Важно то, что язык позволил нам обучаться не только индивидуально, но и как части общества. Наша сила стала коллективной. Знания больше не исчезали со смертью человека. Теперь они легко и быстро могли быть переданы от поколения к поколению.

У неандертальцев не было ни единого шанса.

Влияние письменности

Homo sapiens совершили еще один рывок тогда, когда язык обрел не только устное, но и письменное воплощение. Это стало второй ступенью на пути к завоеванию власти над планетой.

Письменность появилась на территории Китая около 5000 лет до н. э. и, независимо от этого, в Месопотамии около 3100 лет до н. э. Она дала возможность обществам еще больше усложнить свою структуру. Города становились центром общественной жизни, а письменность помогла кодифицировать законы, которые этой жизнью управляли. Теперь люди могли письменно фиксировать сделки и право на собственность, создавать уголовное право. Письменность позволила городам существовать более упорядоченно.

Ее появление означало, что образование теперь не ограничивается временны́ми и пространственными рамками. Устная речь давала возможность учиться только у того, чью речь можно было услышать, а значит, привязывала человека к конкретной социальной группе. Но теперь, когда знание могло быть записано, желающему открывался доступ к гораздо большему числу учителей.

Поначалу письменность, разумеется, была слишком медленной и дорогой. Писцы старательно копировали тексты вручную. К примеру, чтобы переписать Библию, требовалось более ста дней. Основная часть населения оставалась неграмотной и к плодам появления письменности имела косвенное отношение.

Сделанный человечеством сравнительно недавно третий шаг — это печать. Иоганн Гутенберг изобрел печатный станок примерно в 1440-м. В следующем году в Европе было напечатано чуть меньше ста тысяч книг. В следующем веке это число выросло до трехсот тысяч. Еще спустя век оно удвоилось и дошло почти до семисот тысяч книг. Сегодня книгопечатание превратилось в миллиардную индустрию, в которой трудятся сотни тысяч людей, выпускающих миллионы книг каждый год^[8].

Неудивительно, что, после того как печатный станок сильно сократил цену и время, необходимые для создания книги, наступил период, который мы называем Возрождением. Идеи и учения теперь могли распространяться проще и быстрее. Сегодня интернет позволяет делиться информацией со всей планетой почти даром. Знание стало дешевым и изобильным. Люди, в свою очередь, стали умнее.

Колёрнинг

Следующий шаг человечество делает прямо сейчас. Он заключается в том, что я называю колёрнингом. Это идея, близкая к коллективному образованию, но все же немного от него отличающаяся.

Социологи, антропологи и другие ученые описывают, как homo sapiens двигались вперед группами, на протяжении многих поколений учились вместе. Это и есть «коллективное образование». Каждое поколение коллективно перенимает знания у предыдущего. Как группа мы умнее последнего поколения, но это не значит, что любой отдельно взятый индивид умнее. Колёрнинг же предполагает не групповое обучение, а индивидуальное обучение внутри группы. В колёрнинге каждый человек усваивает все то, что и другие члены группы. Все индивиды владеют одинаковыми знаниями, и потому каждый член группы становится умнее.

Благодаря устной речи колёрнинг возможен внутри группы, насчитывающей от десяти до ста человек. Человеку что-то объясняют — он это учит. Письменность дает возможность расширить группу до миллиона или даже миллиарда человек. Любое записанное знание человек сможет перенять, если у него будет к нему доступ. Однако есть множество навыков, которые мы не в силах передать другим людям. Всем одинаково тяжело учиться езде на велосипеде. Мало что можно сказать или написать, чтобы облегчить этот процесс.

Язык, на котором мы разговариваем, не только не является идеальным посредником для колёрнинга, он, вероятно, не является даже языком нашего мыслительного процесса. Одному человеку приходится переводить свои мысли на язык, затем записывать или озвучивать эти идеи. Другой человек должен перевести этот язык обратно в мысли.

Это медленный и сложный процесс.

Он приводит нас к последней ступени в процессе передачи знаний, той, которая дает homo digitalis неоспоримое преимущество. Колёрнинг начинает осуществляться не средствами языка, а с помощью компьютерного кода. Компьютерный код — гораздо более подходящий способ передачи знания, его можно просто копировать. Нет необходимости переводить его туда и обратно, этот процесс легко и быстро выполним. К тому же, в отличие от наших воспоминаний, код не стирается со временем. Если однажды он был усвоен, его невозможно забыть. Трудно придумать лучший способ для колёрнинга, чем обмен компьютерными кодами.

Всемирное обучение

Такие компании, как Tesla и Apple, уже осваивают колёрнинг в глобальных масштабах. Например, Apple использует эту методику, чтобы улучшить систему распознавания голоса. Каждый смартфон компании учится у других смартфонов и улучшает коды для распознавания речи. Tesla похожим образом использует колёрнинг, чтобы сделать лучше автономное управление автомобилем. Любая машина может совершенствовать как собственную систему беспилотного вождения, так и системы других автомобилей. Каждую ночь автомобили Tesla могут загрузить последние обновления и поделиться ими. Если одна машина научилась объезжать брошенные тележки для шопинга, другие машины быстро перенимают этот навык.

Колёрнинг — одна из причин, почему у homo sapiens нет ни одного шанса против homo digitalis. Кроме того, это одна из причин, почему homo digitalis появятся на горизонте раньше, чем мы думаем. Мы привыкли учиться всему самостоятельно, «с нуля». У нас нет опыта одновременного глобального приобретения новых знаний.

Представьте себе ситуацию, при которой мы имели бы возможность учиться как компьютеры, просто запоминая нужные коды. Мы бы смогли говорить на всех языках мира, играть в шахматы, как Гарри Каспаров, или в го, как Ли Седоль^[9]. Мы бы смогли доказывать теоремы так же легко, как Эйлер, Гаусс или Эрдёш^[10]. Мы могли бы создавать поэзию не хуже, чем Вордсворт^[11] или Шекспир. Мы могли бы играть на всех музыкальных инструментах. Проще говоря, наши способности достигли бы максимально возможного на нашей планете уровня. Более того, мы смогли бы их совершенствовать. Это звучит пугающе, но таково будущее, которое ждет homo digitalis, когда они начнут делиться компьютерными кодами.

Чтобы лучше осознать преимущества колёрнинга, необходимо понять две важные идеи. Во-первых, компьютеры — это универсальные машины, которые могут запустить любую программу. Во-вторых, программы могут совершенствоваться. В частности, программа может улучшить собственные характеристики, чтобы успешнее справляться с поставленной задачей. Позвольте мне объяснить более детально, почему эти концепты имеют такое большое значение и почему они дают homo digitalis такое весомое преимущество.

Универсальные машины

Алан Тьюринг^[12] был одним из прародителей ИИ. Его интересовало, что случится, если компьютер сможет мыслить. Кроме того, он заложил основы самой идеи компьютера. Ему пришла в голову простая, но гениальная мысль: универсальная вычислительная машина. Машина, которая сможет вычислить все, что можно вычислить. Да, вы поняли меня правильно. С тех пор как Тьюрингу пришла в голову эта идея, мы смогли создать такой компьютер.

Центральными для идеи универсальной вычислительной машины являются концепты «программ» и «данных», которыми эти программы оперируют^[13]. Программы — это последовательности инструкций, которые компьютер выполняет при решении проблемы. Можно представить их в виде своеобразных рецептов. Данные — это разная информация, с которой работает программа, как, например, ингредиенты, используемые во время конкретного процесса приготовления.

Представьте себе проблему обновления чьего-то банковского счета в тот момент, когда этот человек совершает электронный платеж. Мы можем написать программу, которая будет это делать вне зависимости от суммы платежа или личности человека, совершающего его. Данные, с которыми работает программа, — это база клиентов, включающая их имена, номера счетов и суммы платежей.

Программа для совершения электронного платежа работает следующим образом: сначала она находит имя клиента и баланс счета в базе, затем вычитает платеж из баланса и, наконец, обновляет баланс в базе. Просто, как все гениальное. Изменив данные, мы можем вычесть платеж из счета другого клиента или даже клиента другого банка. Изменив программу, мы можем заставить компьютер делать что-то другое. Например, если мы заставим его прибавлять сумму, а не вычитать, то получим программу, которая позволяет вносить электронные депозиты.

Таким образом, компьютер — образец универсальной машины, способной выполнить любую программу. В этом и заключается секрет смартфона, который лежит в вашем кармане. В него можно загрузить приложения, позволяющие выполнять задачи, о которых создатели смартфона даже подумать не могли. В этом смысле смартфон стал гораздо большим, чем просто телефон: он стал навигатором, календарем, будильником, калькулятором, блокнотом, музыкальным проигрывателем, игровой консолью и постепенно становится еще и личным помощником. Продвинутые технологии могут дать нам компьютеры, способные работать быстрее, но не могут дать компьютеры, способные вычислить больше, чем универсальная вычислительная машина, о которой Тьюринг впервые подумал еще в тридцатых годах прошлого века. Любопытно то, что Тьюрингу пришла в голову эта мысль еще до того, как был создан первый компьютер.

Более того, компьютеры — единственная универсальная машина, которую человек изобрел. Вообразите, что дала бы нам универсальная машина для путешествий. Она позволила бы нам летать, плавать под водой и путешествовать по земле. Она могла бы ехать по рельсам, по шоссе, по траве и даже через зыбучие пески. Она бы смогла вмещать сколько угодно человек. Черт возьми, она бы довезла нас даже до Луны. Представьте себе трансформеров на стероидах.

Для того чтобы выполнить новую задачу, компьютеру просто нужна новая программа. Это делает компьютеры бесконечно приспосабливаемыми. Те машины, которые у нас есть, обладают гораздо большим потенциалом. Они даже способны стать искусственно разумными. Нам нужно лишь найти нужную программу.

Еще одна невероятная идея заключается в том, что нам даже не нужно искать новую программу, потому что компьютер способен сделать это сам. Он сам может научиться решать новые задачи. Даже научиться вести себя разумно.

Машины, которые учатся

Как компьютер может научиться делать что-то новое? По сути, программа — это просто устойчивая последовательность инструкций в виде компьютерного кода. Вообще говоря, термин «компьютерный код» представляется довольно удачным, учитывая, что инструкции программы действительно прописаны шифром. На компьютерах с процессором Z80, например, код 87 означает прибавление одного числа к другому, а 76 — окончание работы программы. На компьютере с процессором 6800 код 8B выполняет функцию прибавления, а DD — функцию закрытия программы^[14].

Важная вещь, связанная с кодом, заключается не в том, что он зашифрован, а в том, что это обычные данные — последовательность чисел. Это очень впечатляющая идея. Если мы хотим поменять программу, нужно просто загрузить новые коды в качестве данных. Еще больше впечатляет тот факт, что программа может поменять собственные данные, а значит, поменять сама себя. В этом и заключается суть обучения машины: компьютер может поменять собственные данные и собственный код, чтобы улучшить свои характеристики.

Не столь важно знать, как именно алгоритмы обучения решают, что именно поменять в коде. Некоторые изменения вызваны эволюцией, мутациями и скрещиванием кодов, такими же, как генные мутации и скрещивания в человеческой репродукции. Другие обусловлены самим мозгом, обновляющим связи между искусственными нейронами так же, как наш мозг укрепляет подобные связи в процессе нашего обучения.

В любом случае компьютер оставляет те изменения, которые улучшают его работу, и избавляется от других, которые этого не делают. Это происходит медленно, но компьютеры развиваются.

У нас уже есть один хороший пример создания интеллекта — homo sapiens. Наш интеллект — вещь в большой степени приобретенная. Мы были рождены без языка. Мы не умели читать и писать. У нас не было никаких знаний об арифметике, астрономии или истории Древнего мира. Но мы выучились всему этому и не только.

Обучение станет, вероятно, одной из важнейших характеристик думающих компьютеров. Это затрагивает феномен «бутылочного горлышка», проблему освоения компьютером всех знаний, которые человечество приобрело на протяжении нескольких тысяч лет. Программирование всех этих знаний вручную, факт за фактом — очень долгий и сложный процесс. Но нам и не нужно этого делать, компьютеры могут освоить все это самостоятельно.

Теперь нам окончательно ясно, что компьютеры превосходят людей в обучаемости. Они способны написать программу, которая может улучшить их собственный код, а также поделиться им с другими компьютерами. Так просто! Одновременно это гораздо эффективнее человеческого процесса обучения.

В следующий раз, когда вы попытаетесь научить ребенка вычислять максимум математической функции или склонять немецкий глагол, представьте, насколько проще это можно было бы сделать, если бы он был компьютером. Вы просто дали бы ему нужный код.

Компьютеры делают больше, чем мы от них требуем

Компьютерное обучение стало причиной многих недавних технологических прорывов, связанных с ИИ. Оно позволило AlphaGo от Google победить лучших игроков в го на планете. В нем заключается секрет успеха переводчика Google. Оно породило множество программ, которые теперь лучше нас умеют диагностировать рак кожи или играть в покер.

Распространенное мнение относительно обучения машин заключается в том, что компьютеры могут делать только то, для чего они запрограммированы. И на элементарном уровне это действительно так. Компьютеры целиком и полностью детерминированы^[15].

Они следуют инструкциям, прописанным в их коде. Они не могут от них отклоняться. Однако на более глубоком уровне компьютеры способны делать вещи, для которых не запрограммированы. Они могут осваивать новые программы. Даже могут быть креативными. Как и мы, они учатся новому, основываясь на собственном опыте.

AlphaGo не была запрограммирована для того, чтобы обыгрывать в эту древнюю китайскую игру чемпионов мира. Она научилась это делать благодаря тому, что постоянно практиковалась. Она сыграла партий в го больше, чем человек способен сыграть за всю жизнь. И в процессе игры программа понемногу становилась креативной. Она использовала ходы, которых от нее не ожидали даже самые искусные мастера, открывала новые возможности для игры в го.

И пример AlphaGo — не исключение. Компьютеры теперь превосходят людей во многих играх, таких как короткие нарды, покер, скребл или шахматы. Если кто-то говорит мне, что компьютеры могут делать только то, для чего они запрограммированы, я обычно перечисляю десяток игр, в которых компьютеры уже стали чемпионами мира. Почти во всех подобных случаях программы были написаны средними игроками, а превосходство программы над людьми достигалось за счет ее обучаемости.

Преимущество машин

Для того чтобы понять, почему homo sapiens необратимо будут вытеснены, нужно осознать, как много преимуществ имеет компьютер по сравнению с человеком, а цифровой мир по сравнению с аналоговым. Колёрнинг — одно из таких преимуществ, но есть и другие.

Во-первых, компьютеры обладают куда большей запоминающей способностью, чем люди. Все, что мы помним, хранится внутри нашего черепа. Мы, несомненно, должны быть благодарны за тот размер черепа, который имеем. Еще совсем недавно деторождение было одной из главных причин женских смертей. Ширина родового канала все еще не позволяет нам иметь большие головы. У компьютера такой проблемы нет. Его память можно расширять бесконечно.

Во-вторых, компьютеры могут работать гораздо быстрее людей. Мозг работает со скоростью чуть меньше ста герц, а нейронам требуется около одной сотой секунды, чтобы передать сигнал. Наш мозг обладает одновременно химическими и электрическими свойствами, что только замедляет его работу. Для перемещения химических веществ и для осуществления реакций между ними нужно время. Компьютеры же ограничены только законами физики. Скорость их работы выросла с 5 МГц в 1981 году (то есть возможность выполнения пяти инструкций каждую миллионную долю секунды) до сегодняшних 5 ГГц (возможность выполнения пяти инструкций каждую миллиардную долю секунды). Однако скорость — не главный критерий оценки. Сама по себе она несильно выросла за последнее время. Компьютеры теперь работают быстрее, потому что могут совершать большее количество действий одновременно. Так же, как и человеческий мозг, компьютер способен выполнять несколько задач сразу. Как бы то ни было, преимущество в скорости, которое дает кремний по сравнению с биологией, остается.

В-третьих, человек, в отличие от компьютеров, имеет ограниченный источник питания. Наш мозг использует около 20 из 100 Вт, производимых взрослым человеческим телом^[16]. Эволюционное преимущество, которое дает нам ум, оправдывает вложение в мозг такого большого количества энергии из наших ограниченных запасов. Однако дело в том, что никакой дополнительной энергии для повышения мыслительных способностей у нас не остается. Среднестатистический ноутбук же может использовать до 60 Вт. В случае если потребуется бо́льшая мощность (или объем вычислений), можно просто использовать облачные сервисы. Семь миллиардов человеческих мозгов потребляют совместно около 14 ГВт. Для сравнения: компьютеры по всему миру уже используют в десять раз больше энергии. В частности, работа компьютеров сегодня составляет десять процентов от общего использования электричества, то есть более 200 ГВт. В дальнейшем эта цифра будет только расти.

Четвертое преимущество компьютеров заключается в том, что человеку нужен сон и отдых. Компьютеры же могут работать двадцать четыре на семь и не уставать. Как было отмечено ранее, AlphaGo стала так хорошо играть в го именно потому, что могла сыграть в эту игру больше раз, чем любой человек. Разумеется, сон для человека может быть полезен не только в качестве отдыха и восстановления сил. Он помогает освежить память, затрагивает проблемы на уровне подсознания. Кто знает, вдруг компьютерам это тоже будет полезно? Мы можем запрограммировать их так, чтобы они время от времени спали в течение дня.

Пятое преимущество компьютеров состоит в том, что они, в отличие от людей, не забывчивы. Подумайте, как часто мы тратим время на поиск потерянных вещей или забываем дни рождения. Это качество, конечно, может быть полезным: оно помогает нам не уделять внимания незначительным деталям. Однако запрограммировать компьютер на это также не составит никакого труда.

Шестое преимущество — человеческие эмоции, которые могут мешать процессу мышления. Компьютеры не испытывают эмоций и, следовательно, не могут быть сбиты ими с толку. С другой стороны, эмоции играют важную роль в нашей жизни и часто оказывают положительное влияние на процесс принятия решений. Вероятно, они имели значение в ходе эволюции. В будущем у нас появится возможность наделять компьютер эмоциями. Подробнее эта тема раскрывается в третьей главе вместе с другими важными темами, такими, например, как совесть.

В качестве седьмого преимущества можно назвать факт, обнаруженный нами ранее: люди ограничены в средствах и способах передачи знаний. Компьютеры же могут обмениваться кодами друг с другом без всяких ограничений. Если один компьютер научился переводить с китайского на английский, этот навык можно передать всем остальным компьютерам. Если один компьютер научился диагностировать меланому, этой способностью можно наделить все остальные машины. Компьютер — идеальное воплощение колёрнинга.

Восьмое преимущество заключается в том, что люди, на самом деле, довольно плохо умеют принимать решения. Мы достаточно развили этот навык, чтобы выжить, но несильно продвинулись дальше. Например, мы плохо высчитываем точные значения вероятностей. Если бы мы были в этом сильнее, то никогда бы не стали покупать лотерейные билеты. Компьютеры, однако, можно запрограммировать так, чтобы они добились в этом бо́льших успехов. Область поведенческой экономики изучает наши субоптимальные решения. К примеру, ситуации, в которых мы стремимся минимизировать расходы, вместо того чтобы увеличивать прибыль. Экономисты называют этот феномен «неприятие потерь». Существует много подобных примеров субоптимального поведения. Многие из нас боятся летать, хотя дорога на машине до аэропорта на деле куда опаснее. Мы знаем, что должны сбросить пару килограммов, но выбираем аппетитный пончик с джемом.

Разумеется, все не так однозначно. Компьютеры не во всем нас превосходят. В сравнении человек имеет пару серьезных преимуществ. Наш мозг все еще сложнее, чем самый мощный суперкомпьютер. Мы быстро учимся, невероятно креативны, обладаем эмоциональным интеллектом и способны к эмпатии. Однако есть повод для сомнений в том, что этими преимуществами мы будем обладать еще долго. Уже сейчас есть некоторые доказательства креативности компьютера, его способности испытывать эмоции и быть эмпатичным. В перспективе шансы homo sapiens победить в противостоянии с машинами не очень велики.

Наш преемник

Кто же тогда такой этот превосходящий нас homo digitalis, который заменит человека?

Вид определяется тем, что он собой представляет и в какой плоскости действует. Оба этих параметра в случае с homo digitalis будут перенесены в цифровой мир. Это будет наша цифровая версия. Компьютеры будут становиться умнее, мы будем перепоручать им все больше наших интеллектуальных задач. Мы освободимся от оков нашего сложного, нелепого и все-таки ограниченного мозга. Избавимся от тел, которые нуждаются в отдыхе и сне, разлагаются и умирают. Мы сможем наблюдать и действовать в нескольких местах одновременно. Мы будем сразу везде.

Homo digitalis будут гораздо умнее homo sapiens благодаря тому, что наш мозг будет помещен в цифровую среду. В конце концов, трудно будет отличить наши мысли от единого облачного разума ИИ. Homo digitalis избавятся от физической оболочки, будут одновременно биологическими и цифровыми существами. Мы будем жить одновременно в собственном мозгу и в общем цифровом пространстве.

Homo digitalis будут проводить совсем немного времени в медленном, сложном и опасном аналоговом мире. Со временем мы начнем жить и действовать исключительно в цифровом мире. После века климатических изменений, финансовых кризисов и терроризма он станет гостеприимным, правильным и хорошо организованным местом. Там не будет неопределенности, которая так часто осложняет нам жизнь в реальном мире. Не будет землетрясений или оползней. Никакой чумы. Все будет следовать точным и справедливым правилам. Homo digitalis будут хозяевами этой цифровой вселенной. В некотором смысле мы станем цифровыми богами.

Таков хороший сценарий — мы сами решим, как строить свое будущее. В этом смысле мы действительно можем быть богоподобны. Мы можем сделать этот цифровой мир будущего честным, справедливым и прекрасным. Или позволить тому, что правит современным миром, определить наше будущее, наполнить его неравенством, несправедливостью и страданиями. Выбор за нами. И делать его нужно уже сегодня.

Будущее не предопределено. Оно — результат тех решений, которые мы принимаем в настоящем. Однако кажется, что именно сейчас мы находимся на перепутье. Существует масса факторов, по вине которых мы можем оказаться на очень скользкой дорожке, ведущей к непростому и страшному миру.

Прямо сейчас у нас есть шанс принять такие решения, которые избавят человечество от подобного финала, направив его к светлому цифровому будущему. Некоторые из этих решений дадутся легко, некоторые — не очень. Они могут потребовать от нас ви́дения, решительности, самоотверженности и, возможно, даже самопожертвования.

Нам очень повезло: мы управляли этой планетой, этой удивительной зелено-голубой точкой, вращающейся вокруг ничем не примечательной звезды на небольшом рукаве Млечного Пути, последние несколько сотен тысяч лет. Ради наших внуков, которые будут в конце концов теми самыми homo digitalis, мы не должны испортить следующие несколько десятилетий.

Для кого эта книга?

Эта книга написана для всех, кому интересно, куда приведет нас ИИ. Здесь действительно есть над чем задуматься. Лишит ли ИИ людей работы, даже такой, которая требует креативности? Будет ли он обладать сознанием? Что появление ИИ значит для концепции свободной воли? Какими этическими качествами будет (или должен) обладать ИИ? Поможет ли он обществу или навредит? Изменит ли наше представление о себе? Какое влияние окажет на саму суть человечества?

Ответы на эти вопросы я буду давать по мере обсуждения социальных и этических аспектов нашего перехода в цифровой мир. Частично я буду опираться на тренды, которые заметны уже сегодня, и экстраполировать свои выводы на будущую ситуацию. Однако настоящее не определяет будущее раз и навсегда. Только решения, которые мы принимаем сейчас, сформируют мир далекого будущего. Поэтому я буду рассматривать как хорошие, так и плохие возможные варианты развития событий. От нас зависит, какой итог мы получим.

Эта книга сосредоточена на 2062 годе. В следующей главе я буду ссылаться на мнение большинства экспертов в сфере ИИ, которое заключается в следующем: существует пятидесятипроцентный шанс, что к этому времени мы создадим машины, способные мыслить так же, как мы. Возможно, эта дата чересчур оптимистична и нам придется ждать этого до 2220 года. Большинство экспертов считают, что с вероятностью в девяносто процентов дело обстоит именно так. Вне зависимости от конкретной даты, самое интересное начнется, когда компьютеры нас превзойдут.

Эта книга предназначена для интересующегося читателя, который тем не менее не является экспертом в данной области. В ней содержится парочка графиков, но нет никаких уравнений. Я не рассказываю здесь ни что такое ИИ, ни в каком он состоянии на данный момент. Если вам это интересно, читайте мою предыдущую книгу «Оно живое!». В примечаниях вы найдете ссылки, дополнительные объяснения и просто забавные наблюдения, но если вы их пропустите, то ничего не потеряете^[17]. Однако если вы хотите побольше узнать о технической стороне вопроса, примечания снабдят вас дополнительными подробностями и списком литературы по теме.

Философ Ник Бостром предположил в 2015 году, что «искусственный интеллект будет иметь большое значение, являясь, возможно, самой важной вещью из когда-либо созданных человечеством». Если он прав, то необходимо изучить, к каким последствиям это приведет.

Примечания

1

Вопреки распространенному мнению, Великую Китайскую стену нельзя увидеть из космоса. Пирамиды в Гизе можно, но с низкой околоземной орбиты.

2

Спортивный электромобиль американского предпринимателя Илона Маска, запущенный в 2018 году в космос с целью продемонстрировать, что ракета-носитель Falcon Heavy сверхтяжелого класса с возможностью повторного использования первой ступени может запускать полезную нагрузку до орбиты Марса. (См. также примечание 4.) — Здесь и далее примеч. пер.

3

Один гугол равен 10¹⁰⁰, или единице с сотней нулей. Компания Google получила свое название в результате изменения написания этого термина.

4

В Австралии моя последняя книга вышла под заголовком «Оно живое! Искусственный интеллект от логического пианино к роботам-убийцам». В Великобритании же (что актуально в контексте Брекзита) она была издана с другим названием: «Сны андроидов: прошлое, настоящее и будущее ИИ». В США она имела заголовок «Думающие машины: будущее искусственного интеллекта».

5

Вот несколько забавных фактов о 2062 годе. Илон Маск предположил, что к этому времени на Марсе будет построен город с населением около миллиона человек. Действие «Джетсонов», популярного телевизионного мультсериала с роботами-горничными и летающими машинами, происходит через сто лет после его запуска в эфир в 1962 году. Все, кто не увидел комету Галлея в 1986-м, смогут сделать это в 2062 году. Правда, только в том случае, если мир не закончит свое существование к тому моменту, ведь Исаак Ньютон предсказывал, что апокалипсис случится в 2060-м.

6

Когда я был ребенком, мечтающим о том, чтобы построить думающую машину, Артур Ч. Кларк был одним из моих любимых фантастов. Он однажды сказал, что любая передовая технология неотличима от магии.

7

Avram Noam Chomsky (Ноам Хомски), р. 1928. Американский лингвист, политический публицист, философ и теоретик. Профессор лингвистики Массачусетского технологического института (МТИ), автор классификации формальных языков, называемой иерархией Хомского. — Примеч. ред.

8

Мы скоро будем говорить об экспоненциальных изменениях, но книгоиздание — одно из первых таких изменений, оказавших серьезное влияние на общество.

9

Гарри Каспаров (1963–) — советский гроссмейстер, один из величайших шахматистов в истории. Ли Седоль (1983–) — корейский чемпион по го.

10

Леонард Эйлер (1707–1783), Карл Фридрих Гаусс (1777–1855), Пал Эрдёш (1913–1996) — известные математики.

11

Уильям Вордсворт — английский поэт-романтик, основной автор сборника «Лирические баллады», условно относимый к т. н. «озерной школе».

12

Алан Тьюринг (1912–1954) — английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. — Примеч. ред.

13

Универсальная машина Тьюринга — это более абстрактное и в то же время более механическое, чем современные компьютеры, изобретение. Тем не менее оно ничуть не хуже. Машина состоит из бумажной ленты, на которой написаны символы, из головки, которая может их читать, писать новые символы на бумажной ленте или перемещать ленту вправо и влево, а также из электроники, которая производит различные действия (такие, как чтение ленты, написание символов или движение ленты) в зависимости от внутреннего состояния и последнего прочитанного символа. Впервые такую машину Тьюринг описал в 1937 году. См. Alan Turing, ‘On Computable Numbers, with an Application to the Entscheidungsproblem’, Proceedings of the London Mathematical Society, vol. 42, pp. 230–265. («О вычислимых числах, применительно к проблеме разрешения», труды Лондонского математического общества, т. 42, с. 230–265.)

14

Инструкции для Z80-х и для 6800-х микропроцессоров существуют в виде шестнадцатеричных чисел). Десятичная система существует по целочисленному основанию 10: после 9 идет 10, затем 11, 12 и т. д. В шестнадцатеричной системе после 9 идет A (=10), B (=11), C (=12), D (=13), E (=14), F (=15), потом 10 (=16), 11 (=17), 12 (=18) и т. д. Инструкция DD для 6800-го микропроцессора известна как «остановись и гори». До создания таких микропроцессоров компьютеры были большими и ненадежными, а при остановке их работы всегда существовала небольшая угроза воспламенения.

15

Забавный факт заключается в том, что, хотя компьютеры — детерминированные машины, наука о них редко повторяет уже поставленные эксперименты. Компьютеры превратились в очень сложные системы. В результате воспроизвести условия предыдущего эксперимента становится практически невозможно.

16

Мозг использует больше энергии, чем другие наши органы. Сердце, например, использует меньше 5 Вт.

17

Как я говорил в своей предыдущей книге, вы действительно можете игнорировать примечания!