ИИ-2041. Десять образов нашего будущего

Кай-фу Ли, 2021

Искусственный интеллект станет определяющим событием XXI века. В течение двух десятилетий все аспекты повседневной жизни станут неузнаваемыми. ИИ приведет к беспрецедентному богатству, симбиоз человека и машины приведет к революции в медицине и образовании и создаст совершенно новые формы общения и развлечений. Однако, освобождая нас от рутинной работы, ИИ также бросит вызов организационным принципам нашего экономического и социального порядка. ИИ принесет новые риски в виде автономного оружия и неоднозначных интеллектуальных технологий. ИИ находится в переломном моменте, и людям необходимо узнать как его положительные черты ИИ, так и экзистенциальные опасности, которые он может принести. В этой провокационной, совершенно оригинальной работе Кай-Фу Ли, бывший президент Google China и автор книги «Сверхдержавы искусственного интеллекта», объединяется со знаменитым романистом Чэнь Цюфанем, чтобы представить наш мир в 2041 году и то, как он будет формироваться с помощью ИИ. В десяти захватывающих рассказах они познакомят читателей с возможными новыми реалиями 2041 года: • В Сан-Франциско появляется индустрия «перераспределения рабочих мест», поскольку ИИ с глубоким обучением вызывает массовое перемещение рабочих мест; • В Токио меломан погружается в захватывающую форму поклонения знаменитостям, основанную на виртуальной и смешанной реальности; • В Мумбаи девочка-подросток бунтует, когда сжатие больших данных ИИ мешает романтике; • В Сеуле виртуальные компаньоны с совершенными навыками обработки естественного языка (НЛП) предлагают близнецам-сиротам новые способы общения; • В Мюнхене ученый-мошенник использует квантовые вычисления, компьютерное зрение и другие технологии искусственного интеллекта в заговоре мести, который ставит под угрозу весь мир Глядя на не столь отдаленный горизонт, AI 2041 предлагает срочное понимание нашего коллективного будущего, напоминая читателям, что, в конечном счете, человечество остается автором своей судьбы. Для кого эта книга Для новаторов, руководителей и предпринимателей, которые изучают тему искусственного интеллекта и его развития, чтобы быть первыми в своей сфере. Для всех, кто интересуется будущим человечества. На русском языке публикуется впервые.

Оригинальное название

AI 2041. Ten visions of our future

Научный редактор Михаил Бурцев

Все права защищены.

Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

В тексте неоднократно упоминаются названия социальных сетей, принадлежащих Meta Platforms Inc., признанной экстремистской организацией на территории РФ.

© Copyright © 2021 by Kai-Fu Lee and Chen Qiufan. This translation published by arrangement with Currency, an imprint of Random House, a division of Random House LLC and with Synopsis Literary Agency.

© Перевод на русский язык, издание на русском языке, оформление. ООО «Манн, Иванов и Фербер», 2022

Что нам нужно, так это машина, способная учиться на собственном опыте.

Алан Тьюринг

Любую достаточно развитую технологию не отличить от магии.

Артур Ч. Кларк

Вступление Кай-Фу Ли. Реальная история искусственного интеллекта

Искусственный интеллект (ИИ) — это так называемое умное аппаратное и программное обеспечение. Оно способно выполнять задачи, для решения которых обычно требуется участие человеческого разума. ИИ — это разъяснение процесса обучения, количественное выражение человеческого мыслительного процесса, объяснение человеческого поведения и понимание причин существования интеллекта как такового. ИИ — это заключительный шаг человечества на пути к пониманию самого себя, и я очень надеюсь внести свой вклад в эту новую многообещающую науку.

Это написал я, наивный и восторженный студент, в заявке на участие в программе докторантуры в Университете Карнеги — Меллона. С того дня прошло почти 40 лет.

Термин «искусственный интеллект» предложил американский ученый Джон Маккарти еще раньше, в 1956 году, во время исторического Дартмутского летнего исследовательского проекта по искусственному интеллекту^[1].

Сегодня многие считают искусственный интеллект типичной технологией XXI века, однако его концепция возникла в середине века двадцатого, правда, тогда мало кого заинтересовала. Первые 35 лет моего путешествия в область ИИ ограничивались практически чистой наукой, исключение составили пара-тройка успешных коммерческих адаптаций.

Долгие годы практическое применение ИИ пробуксовывало, но в последние пять лет он превратился в самую популярную технологию в мире. Все перевернулось в один момент — в 2016 году компьютерная программа для игры в го AlphaGo (создана в компании Google DeepMind^[2]) со счетом 4: 1 обыграла в пятираундовом чемпионате южнокорейского профессионала 9-го дана Ли Седоля^[3]. Матч вошел в историю как Google DeepMind Challenge Match.

Го — это настольная игра, сложнее шахмат в миллион триллионов квадриллионов раз. Энтузиасты-фанаты го считают, что, в отличие от шахмат, эта игра требует подлинного ума, мудрости и интеллектуальной дзен-утонченности. Так что победа искусственного интеллекта над чемпионом-человеком при игре в го многих повергла в шок.

AlphaGo, как и большинство коммерческих прорывов в области ИИ, основана на глубоком обучении, технологии самообучения системы с использованием датасетов (огромных наборов данных). Технологию придумали много лет назад, но вычислительные мощности для наглядной демонстрации ее эффективности появились относительно недавно. Примерно тогда же накопилось достаточное количество обучающих данных, что позволило получить значимые результаты.

Если сравнить с ситуацией сорокалетней давности, когда я только начал заниматься ИИ, сегодня в нашем распоряжении примерно в триллион раз больше вычислительных мощностей, а хранение необходимых данных обходится в 15 миллионов раз дешевле. Словом, тенденция очевидна и сомневаться не приходится — глубокое обучение и связанные с ним ИИ-технологии со временем затронут практически все аспекты существования человечества.

Сейчас мы переживаем переломный момент в развитии ИИ. Искусственный интеллект наконец-то покинул башню из слоновой кости и перестал быть исключительно научной концепцией. Дни неспешного прогресса окончились.

За последние пять лет ИИ не только победил чемпионов-людей в го, покер и Dota 2^[4], но и развился настолько, что через четыре часа обучения шахматам его не одолеть никакому гроссмейстеру. Но ИИ, конечно же, хорош не только в играх.

Над загадкой сворачивания белка биологи всего мира бились на протяжении полувека — ИИ разгадал ее в 2020 году. Он превзошел нас в деле распознавания речи и объектов; преподнес нам «цифровых людей» потрясающей реалистичности — как по внешнему виду, так и по умению говорить; умудрился успешно сдать вступительные экзамены в колледж и «получил» медицинскую лицензию.

ИИ решительно обходит судей по справедливости и логичности вынесенных приговоров, врачей-радиологов — в точности диагностики рака легких. ИИ чрезвычайно эффективно используется в беспилотниках, которым суждено изменить будущее доставки товаров, а также сельского хозяйства и военного дела. И наконец, благодаря ИИ автомобили без водителя могут ездить по скоростным трассам — поездки в них безопаснее, чем с шоферами-людьми.

Что же нам сулит дальнейшее развитие ИИ и применение этой замечательной технологии в новых областях?

В книге «Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок»^[5] я писал о разрастании данных — этой «новой нефти», «топливе», на котором работает искусственный интеллект.

Сегодня революцию в области ИИ возглавляют США и Китай. Соединенные Штаты лидируют в исследованиях, Китай с огромной скоростью использует всё большие массивы данных для практического применения технологий ИИ во всей Поднебесной. В предыдущей книге в 2018 году я прогнозировал новые достижения — от принятия важных решений на основе массивов данных до машинного восприятия^[6] и автономных роботов самых разнообразных видов и специализаций, в том числе упомянутого выше автономного (беспилотного) транспорта.

Четыре волны применения ИИ-технологий, повлиявшие практически на все отрасли

Я предсказывал, что новые способы применения ИИ-технологий приведут к беспрецедентному росту экономической ценности в цифровой, финансовой и транспортной отраслях и в сфере розничной торговли, однако создадут проблемы, связанные, к примеру, с массовым сокращением рабочих мест. ИИ представляет собой универсальную технологию, поэтому со временем она проникнет практически во все отрасли и области деятельности.

К сегодняшнему дню влияние ИИ на жизнь человечества проявилось четырьмя последовательными волнами: сначала в сфере интернета; затем в бизнесе (область финансовых услуг), далее в сфере восприятия (вспомните о концепции умного города) и, наконец, в автономных приложениях, таких как беспилотные автомобили.

К тому времени, когда вы будете читать эту книгу (в конце 2021 года или даже позже), многие прогнозы из моей предыдущей книги, скорее всего, уже подтвердятся. Так что теперь устремим взор вперед. Я много путешествую, рассказываю об искусственном интеллекте в разных уголках мира, и меня постоянно спрашивают: «А что же дальше? Что будет через пять, десять, двадцать лет? К чему готовиться человечеству?»

Это чрезвычайно важные для текущего исторического момента вопросы. У всех, кто связан со сферой высоких технологий, есть на этот счет собственное мнение. Некоторые убеждены, что мы находимся в эпицентре «пузыря ИИ» — он со временем лопнет или как минимум сдуется.

Сторонники более радикальных и антиутопических теорий, вообще склонные верить во что угодно, полагают: реальна любая идея. Разброс — от «ИИ-гиганты “захватят наш разум” и сформируют новую утопическую расу киборгов-машинолюдей» до «коварный ИИ доведет нас до апокалипсиса». Подобные гипотезы порождены живой и искренней любознательностью или вполне оправданным страхом перед будущим. Однако все они, как правило, спекулятивны или как минимум сильно преувеличивают опасность. И все они совершенно точно не формируют полной картины.

Имеющиеся гипотезы и теории сильно разнятся: ИИ — явление чрезвычайно сложное и малоизученное. Пытаясь понять, что же он такое, люди, как правило, используют три источника — научную фантастику, новостные ленты и «лидеров мнений».

В фантастических книгах и сериалах часто присутствуют роботы, которые вдруг начинают управлять людьми и контролировать их, или как минимум стараются объегорить двуногих; суперинтеллект же зачастую вообще предстает в виде вселенского зла.

Медиа обычно ярко и подробно описывают отдельные негативные примеры: взахлеб рассказывают, как беспилотный автомобиль сбил пешеходов, как технологические компании с помощью ИИ подтасовывают результаты политических выборов, как злодеи используют искусственный интеллект для распространения дезинформации и фейков. Техническому прогрессу как таковому внимания уделяют мало, если только он не приводит к каким-то выдающимся результатам.

Наилучшим вариантом может показаться доверие в данном вопросе лидерам мнений и популярным авторам из соцетей. Однако большинство из них если и являются экспертами, то в какой угодно области — в бизнесе, физике или политике, но только не в ИИ-технологиях. Так что с виду весомым и аргументированным прогнозам на деле нередко недостает научности.

Ситуация усугубляется еще и тем, что журналисты, желая придать своим публикациям веса и убедительности, а заодно привлечь внимание аудитории, частенько цитируют эти «интернет-источники», да еще и вырывают слова автора из контекста.

Словом, удивляться тому, что люди относятся к ИИ настороженно, а то и негативно, не приходится — мнение даже самых думающих и стремящихся быть объективными основано в лучшем случае на полуправде.

Разумеется, многие аспекты дальнейшего развития искусственного интеллекта заслуживают пристального внимания и максимальной осторожности, но чрезвычайно важно уравновесить возможные проблемы пониманием полной картины и великого потенциала ИИ.

Как большинство технологий в мире, искусственный интеллект не является ни добром, ни злом. Как большая часть новых технологий, он в конечном счете окажет на нашу цивилизацию скорее позитивное, чем негативное влияние.

На протяжении всей истории люди поначалу относились к новым технологиям с опаской: всегда казалось, что они нарушат статус-кво и породят хаос. Но сегодня никто не вспоминает, как неоднозначно поначалу воспринималось электричество, мобильные телефоны и интернет — они удобны, это очевидно и сегодня даже не обсуждается. Технологии со временем органично вплетались в ткань жизни, существенно ее улучшали — и страхи рассеивались.

По моему убеждению, уже есть (и еще найдется) немало областей применения ИИ. Также возможно немало сценариев, в которых он имеет шанс существенно улучшить наше общество. Прежде всего это чисто экономическая выгода. По оценкам PricewaterhouseCoopers, к 2030 году она составит 15,7 триллиона долларов — это, конечно же, здорово поможет в борьбе с голодом и бедностью.

Новые эффективные ИИ-сервисы вернут нам самый ценный ресурс — время. Искусственный интеллект возьмет на себя однообразные повседневные задачи, освободив нас для более творческой или сложной работы.

Люди, наконец, начнут работать в симбиозе с ИИ: он станет выполнять количественный анализ, оптимизацию и рутинные задания, а мы, люди, сосредоточимся на креативности, критическом мышлении и страсти. Наша продуктивность резко возрастет, а это позволит человеку полнее реализовывать свой потенциал. Словом, вероятный вклад ИИ в будущий прогресс человечества необходимо исследовать так же глубоко и всесторонне, как и связанные с этой технологией проблемы.

Мы сегодня очутились внутри своего рода петли обратной негативной связи, нам важно понять: а что будет дальше? И я решил написать еще одну книгу об искусственном интеллекте, на этот раз несколько расширив горизонты. Я попытался представить себе и описать будущее нашего мира и общества через 20 лет, то есть в 2041 году.

Моя цель — составить «реальную» потенциальную историю ИИ, откровенную и сбалансированную, но в то же время конструктивную и с надеждами на лучшее. Обратите внимание: эта книга основана на реальном представлении об ИИ — в ней идет речь либо о существующих технологиях, либо о тех, появления и вызревания которых вполне обоснованно ожидать в течение следующих двух десятков лет.

Если еще точнее, истории, вошедшие в эту книгу, рисуют портрет нашего мира в 2041 году. Мир этот будет основан на технологиях, вероятность появления которых к тому времени составляет не менее 80 процентов. Конечно, я могу переоценить или недооценить некоторые из них, но, по-моему, книга представляет собой набор ответственных и максимально вероятных сценариев.

Что же вселяет в меня такую уверенность? Последние сорок лет я занимался исследованиями в области ИИ и разработкой продуктов в Apple, Microsoft и Google и инвестировал в новые технологии три миллиарда долларов. Так что некоторый опыт работы с процессами, необходимыми для превращения технологии из темы для научной статьи в универсальный продукт, у меня имеется. Я также в состоянии приблизительно оценить, сколько времени для этого потребуется.

Будучи советником разных правительств по стратегическим вопросам развития ИИ, я могу делать прогнозы, основанные на знаниях в области политики и нормативно-правовой базы. Я старательно избегаю любых спекулятивных прогнозов относительно фундаментальных технологических прорывов и полагаюсь в основном на экстраполяцию на будущее уже существующих технологий.

На сегодня ИИ проник менее чем в 10 процентов наших отраслей, у нас масса шансов представить себе будущее с учетом применения этой технологии в новых сферах. Я убежден: ИИ окажет на наше общество огромное влияние, даже если серьезных прорывов будет совсем мало, а то и не случится вовсе. Эта книга — мое официальное письменное заявление.

Мне не раз говорили: моя предыдущая книга оказала большое влияние на читателей, она понятна даже тем, кто практически ничего не знает об ИИ. Приступая к работе над новой книгой, я решил рассказать об ИИ еще более понятно и увлекательно, обратившись к помощи хорошего рассказчика. Я связался со своим бывшим коллегой по Google Чэнем Цюфанем.

Уйдя из Google, я основал собственную венчурную компанию, а этот парень сделал нечто еще более авантюрное — стал писателем-фантастом. Его произведения заметили и даже отметили престижными наградами. К моему великому восторгу, Чэнь согласился поработать вместе, объединить свой творческий потенциал с моими оценками того, какими будут технологии через двадцать лет.

И мы решили, что попробуем представить возможности ИИ через два десятка лет и встроим свои обоснованные фантазии в истории — должно получиться нечто весьма увлекательное. Ведь привлечь и увлечь читателя можно не только телепортацией и инопланетянами!

Скажу без ложной скромности: наш подход к работе над этой книгой уникален. Для начала я составил «технологическую карту», отобразив, когда созреет та или иная технология, сколько времени потребуется на сбор данных и итерацию ИИ, насколько легко будет разработать соответствующий продукт в разных отраслях.

Я учел всевозможные внешние факторы: проблемы, регламенты, тормозящие моменты, а также достойные упоминания конфликты и дилеммы, которые могут возникнуть попутно с появлением этих технологий. Затем, отталкиваясь от чисто технарского компонента, Чэнь проявил свой писательский талант во всей красе — придумал персонажей, обстановку и сюжетные линии и воплотил их в своих рассказах.

Каждый эпизод мы постарались сделать максимально увлекательным, технологически точным и провокационным. После каждой истории Чэня вы сможете прочесть ее экспертный анализ — я углубляюсь в описанную в рассказе форму ИИ и детально объясняю ее значение для жизни человека и общества.

Созданные таким образом десять рассказов с послесловиями-анализом охватывают все ключевые аспекты ИИ и выстроены в книге в определенном порядке — от самых простых, базовых технологий к наиболее сложным и продвинутым. Мы надеемся, что отдельные части нашей книги составят что-то вроде уникального и понятного букваря по ИИ.

Мы с Чэнем назвали книгу «ИИ-2041», потому что с момента ее первой публикации^[7] именно в 2041 году пройдет двадцать лет. Мы выбрали этот год еще и потому, что начертание цифр 41 немного напоминает английскую аббревиатуру AI (artificial intelligence — «искусственный интеллект», ИИ).

Многие читатели наверняка обожают научную фантастику, но я отдаю себе отчет: тех, кто после окончания колледжа ни разу не взял в руки ни романа, ни сборника рассказов, тоже немало. Не беда — если вы из этого лагеря, отнеситесь к нашей книге не как к научной фантастике, а как к «научным фактам в форме беллетристики».

Действие рассказов происходит в разных местах планеты. В некоторых сюжетах вы без труда узнаете мир, который не слишком отличается от вашего собственного, — в них описаны события, основанные на реально существующих традициях и обычаях. В других историях описаны ситуации радикального вмешательства ИИ в человеческую жизнь, не всегда позитивного. Так что и адептам ИИ, и скептикам наша книга подкинет пищи для размышлений.

Создавая научный труд с заметной художественной частью, мы рисковали гораздо сильнее, чем если бы просто написали научно-популярную книгу, — описали настоящее и задали вопросы о будущем. Мы с Цюфанем постарались быть смелыми — мы верим, что наши истории найдут отклик у каждого непредубежденного читателя с фантазий и воображением. Мы надеемся, их окажется достаточно, чтобы заставить задуматься о будущем человечества.

В первых семи рассказах мы описали применение ИИ в различных отраслях и сферах по мере возрастания его технологической сложности, а также социально-этические последствия этого процесса. Последние три истории (плюс глава 6 «Святой возница») больше сконцентрированы на социальных и геополитических проблемах, связанных с ИИ: сокращении и исчезновении традиционных рабочих мест, беспрецедентном изобилии, дальнейшем расслоении общества, гонке автономных вооружений, компромиссе между приватностью и счастьем и стремлении человека к высшей цели.

Человечество ждут большие и глубокие изменения. Люди могут принять их и использовать во благо или во зло, смиренно капитулировать перед ними или вдохновиться и заново обрести себя.

В последних четырех историях мы привели четыре возможных варианта и разных пути развития событий. Мы хотели подчеркнуть: будущее еще не написано.

Мы искренне надеемся: наши истории не только развлекут вас, но и углубят понимание ИИ и проблем, связанных с этой замечательной технологией. Мы также рассчитываем, что представленная в книге дорожная карта на ближайшие два десятилетия поможет вам подготовиться к благоприятным возможностям и эффективному противостоянию вызовам будущего.

Но больше всего нам хочется получить от вас подтверждение, что эти истории придали вам сил. Мы надеемся, вы убедились: люди — хозяева своей судьбы, все зависит от нас и никакая техническая революция этого не изменит.

А теперь — вперед, в 2041 год!

Примечания

1

Дартмутский летний исследовательский проект по искусственному интеллекту (1956) — основополагающее событие в области ИИ как научной области. Прим. ред.

2

Британская компания, занимается искусственным интеллектом. Основана в Лондоне в 2010 году под названием DeepMind Technologies; в 2014-м приобретена Google. Прим. ред.

3

На момент этого матча Ли Седоль занимал 2-е место по количеству выигранных чемпионатов мира; считался 4-м игроком го в мире (официального рейтинга нет). Прим. ред.

4

Продолжение популярной игры DotA; киберспортивная дисциплина с миллионными призовыми фондами профессиональных турниров. Прим. ред.

5

Ли Кай-Фу. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. Москва: Манн, Иванов и Фербер, 2019. Прим. ред.

6

Способность компьютерной системы интерпретировать данные таким же образом, каким люди используют свои чувства для связи с окружающим миром. Прим. ред.

7

На английском книга вышла в сентябре 2021 года. Прим. ред.