Искусственный разум и новая эра человечества

Генри Киссинджер, 2021

В 2017 году нейронная сеть AlphaZero стала самым лучшим игроком в шахматы. Зная лишь правила игры, она смогла разработать уникальную выигрышную тактику всего за 4 часа. Спустя три года программа искусственного интеллекта в Массачусетском технологическом институте смогла решить более сложную задачу – разработать новый вид антибиотика, халицин. Он способен уничтожать бактерии, устойчивые ко всем остальным лекарственным препаратам. Программное обучение проникает во все сферы жизни: его используют в транспортной отрасли, медицине, торговле, финансах, правоохранительной деятельности и других областях. Нейросети способны быстро придумывать идеи и инновации, на разработку которых людям потребовались бы десятилетия, если не вся жизнь. Ученые надеются, что благодаря ИИ мы сможем решить глобальные проблемы: найти лекарства от смертельных болезней, справиться с голодом и низким уровнем образования в отдельных регионах, безопасно освоить Мировой океан и космос. Но использование искусственного разума может иметь и негативные последствия, ведь многие процессы в его работе остаются непостижимыми для человека. Авторы этой книги собрали рассуждения о возможностях и проблемах, связанных с появлением ИИ. Они объясняют, какие радикальные изменения могут произойти в нашей истории, понимании мира и собственной роли в нем, и помогают осознать влияние ИИ на будущее нашего общества. Зачем читать • понять, как работает машинное обучение; • узнать, как будет выглядеть будущее, в котором люди сотрудничают с разумными машинами; • подготовиться к потенциальным опасностям, которые могут возникнуть из-за неправильного использования ИИ; • понять, как трансформируется безопасность и мировой порядок. Вы узнаете • какие социальные, политические, философские и этические проблемы возникнут перед человечеством в связи с распространением ИИ; • как ИИ будет влиять на международные отношения и развитие оборонной отрасли; • как будет выглядеть война с использованием ИИ; • чем поколение «ИИ-аборигенов» будет отличаться от современных людей. Для кого Для философов, политиков, социологов, общественных деятелей, инженеров и всех, кто интересуется развитием искусственного интеллекта.

В книге упоминаются социальные сети Instagram и/или Facebook, принадлежащие компании Meta Platforms Inc., деятельность которой по реализации соответствующих продуктов на территории Российской Федерации запрещена.

Переводчик Камилл Ахметов

Редактор Евгения Якимова

Руководитель проекта А. Туровская

Дизайн обложки Т. Саркисян

Корректор Е. Якимова

Компьютерная верстка О. Щуклин

© 2021 by Henry A. Kissinger, Eric Schmidt, and Daniel Huttenlocher

© Издание на русском языке, перевод, оформление. ООО «Альпина ПРО», 2022

Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

* * *

Авторы посвящают эту книгу Нэнси Киссинджер.

Уникальное сочетание ее элегантности, благородства, мужества и ума — большой дар для всех нас.

Введение

Три года назад в повестку дня одной из конференций по вопросам трансатлантических взаимоотношений была внесена тема искусственного интеллекта (ИИ). Один из будущих авторов этой книги был готов пропустить заседание, не желая участвовать в технических обсуждениях, но послушал совета коллеги, утверждавшего, что очень скоро ИИ затронет почти все сферы человеческой деятельности.

Многочисленные дискуссии по результатам этого события и привели в конечном счете к появлению книги, которую вы держите в руках. Вопросы, которые обсуждались на заседании, уходили вглубь веков больше чем на 500 лет. Но обычному руководителю, занятому своим бизнесом, как правило, не до размышлений об исторических преобразованиях в обществе, экономике, внешней и внутренней политике — и их последствиях. И мы при поддержке наших друзей из разных технологических и гуманитарных сфер организовали серию неформальных обсуждений этих тем.

Популярность ИИ растет с каждым днем, это происходит повсеместно. Разработке и внедрению ИИ учится все больше студентов, которые планируют работать в этой или одной из смежных областей. В 2020 г. американские ИИ-стартапы привлекли почти $38 млрд финансирования, китайские — $25 млрд, европейские — $8 млрд^[1]. Правительства США, Китая и Европейского cоюза (ЕС) созвали комиссии высокого уровня для изучения ИИ. Политические и корпоративные лидеры регулярно объявляют о своих целях «победить» в области ИИ или по крайней мере внедрить ИИ и адаптировать его для решения своих задач.

Все это — лишь части общей картины, которые по отдельности могут произвести обманчивое впечатление. ИИ — это не отрасль и тем более не отдельный продукт. Говоря стратегически, это даже не «область». ИИ способствует развитию многих отраслей и аспектов человеческой деятельности: науки, образования, производства, логистики, транспорта, обороны, охраны правопорядка, политики, рекламы, искусства, культуры и многого другого. Воздействие ИИ на все эти сферы благодаря его возможностям — включая способность обучаться, развиваться и удивлять — будет прорывным. Нас ждут такие изменения человеческой идентичности и человеческого восприятия реальности, каких в современном мире еще не случалось.

Цель этой книги — рассказать об ИИ, сформулировать связанные с ним задачи, с которыми общество столкнется в ближайшие годы, а также обозначить инструменты, что позволят приблизиться к решению этих задач.

ИИ ставит огромное количество вопросов:

● Что такое война с использованием ИИ?

● Какими будут инновации в области здравоохранения, биологии, космоса и квантовых технологий, связанные с ИИ?

● Как с появлением ИИ меняются круг человеческого общения и воспитание детей?

● Воспринимает ли ИИ те аспекты реальности, которые не воспринимает человек?

● Как меняет людей участие ИИ в координации и управлении?

● Что значит «быть человеком» в эпоху ИИ?

Обсуждение этих и других вопросов мы вели в течение последних трех лет, пытаясь осмыслить возможности и проблемы, связанные с появлением ИИ. Мы хотели понять, что такое ИИ, чего он может достичь и во что это выльется. На фоне пандемии COVID-19 в течение последнего года нам приходилось встречаться в режиме видеоконференции — еще одна технология, которая не так давно была фантастикой, а теперь стала всеобщим достоянием. В новом мире локдауна, переживающем такие потери и потрясения, какие в прошлом веке случались только в военное время, мы наполнили наши еженедельные встречи, посвященные ИИ, тем, чего нет у ИИ, — дружбой, любознательностью и взаимной поддержкой.

Нельзя сказать, что все мы смотрим на ИИ одинаково оптимистично. Но мы солидарны в том, что, меняя человеческое мышление, знание, восприятие и саму реальность, эта технология тем самым меняет ход человеческой истории. Мы не собираемся прославлять ИИ и не пытаемся его проклинать. ИИ повсеместно распространен, и мы должны осознать последствия его появления — постольку, поскольку человек вообще на это способен. Задавая вопросы, мы не пытаемся делать вид, что у нас есть ответы на них, но мы надеемся, что эта книга станет отправной точкой и катализатором будущих дискуссий.

Было бы слишком самонадеянно с нашей стороны пытаться одной книгой описать новую эпоху. Ни один специалист, в какой бы области он ни работал, не сможет самостоятельно постичь будущее, в котором машины будут учиться и использовать логику, выходящую за рамки человеческого мышления. Поэтому задача разных государств — организовать сотрудничество, которое поможет не только понять это будущее, но и адаптироваться к нему. Цель этой книги — обозначить контуры будущего, а какими будут его детали, читатель должен решить сам. Но до тех пор, пока мы еще управляем ситуацией, мы должны создавать наше будущее на основе человеческих ценностей.

Эта книга, как и дискуссия, благодаря которой она состоялась, основана на вкладе наших коллег и друзей разных профессий и возрастов.

Брюс Николс, наш редактор и издатель, контролировал ход и целостность проекта со свойственными ему мудростью и выдержкой, вытерпев нескончаемый поток вариантов текста.

Ида Ротшильд отредактировала книгу с присущей ей точностью. Наша благодарность распространяется также и на посла Саманту Пауэр, которая дала нам столь ценную рекомендацию.

Мустафа Сулейман, Джек Кларк и Майтра Рагху, опираясь на свой опыт новаторов, исследователей, разработчиков и преподавателей, предоставили бесценные отзывы о рукописи.

Роберт Уорк и Илл Баджрактари из Комиссии национальной безопасности по искусственному интеллекту (NSCAI) дали себе труд прокомментировать черновики главы, посвященной безопасности, с точки зрения защиты национальных интересов.

Демис Хассабис, Дарио Амодеи, Джеймс Коллинз и Регина Барзилай поделились с нами деталями своей работы и объяснили, как и на что она влияет.

Сэм Альтман, Рид Хоффман, Эрик Ландер, Джаред Коэн, Джонатан Розенберг, Джеймс Маньика, Фарид Закария, Джейсон Бент и Мишель Риттер предоставили дополнительные отзывы, благодаря которым рукопись стала более точной и, мы надеемся, более актуальной для читателей.

Ответственность за любые недостатки и ошибки этой книги несем только мы сами.

Примечания

1

. https://www.privateequitywire.co.uk/2020/11/19/292458/ai-startups-raised-usd734bn-total-funding-2020, ссылка проверена 1 марта 2022 г.