ИИ-2041. Десять образов нашего будущего

Кай-фу Ли, 2021

Искусственный интеллект станет определяющим событием XXI века. В течение двух десятилетий все аспекты повседневной жизни станут неузнаваемыми. ИИ приведет к беспрецедентному богатству, симбиоз человека и машины приведет к революции в медицине и образовании и создаст совершенно новые формы общения и развлечений. Однако, освобождая нас от рутинной работы, ИИ также бросит вызов организационным принципам нашего экономического и социального порядка. ИИ принесет новые риски в виде автономного оружия и неоднозначных интеллектуальных технологий. ИИ находится в переломном моменте, и людям необходимо узнать как его положительные черты ИИ, так и экзистенциальные опасности, которые он может принести. В этой провокационной, совершенно оригинальной работе Кай-Фу Ли, бывший президент Google China и автор книги «Сверхдержавы искусственного интеллекта», объединяется со знаменитым романистом Чэнь Цюфанем, чтобы представить наш мир в 2041 году и то, как он будет формироваться с помощью ИИ. В десяти захватывающих рассказах они познакомят читателей с возможными новыми реалиями 2041 года: • В Сан-Франциско появляется индустрия «перераспределения рабочих мест», поскольку ИИ с глубоким обучением вызывает массовое перемещение рабочих мест; • В Токио меломан погружается в захватывающую форму поклонения знаменитостям, основанную на виртуальной и смешанной реальности; • В Мумбаи девочка-подросток бунтует, когда сжатие больших данных ИИ мешает романтике; • В Сеуле виртуальные компаньоны с совершенными навыками обработки естественного языка (НЛП) предлагают близнецам-сиротам новые способы общения; • В Мюнхене ученый-мошенник использует квантовые вычисления, компьютерное зрение и другие технологии искусственного интеллекта в заговоре мести, который ставит под угрозу весь мир Глядя на не столь отдаленный горизонт, AI 2041 предлагает срочное понимание нашего коллективного будущего, напоминая читателям, что, в конечном счете, человечество остается автором своей судьбы. Для кого эта книга Для новаторов, руководителей и предпринимателей, которые изучают тему искусственного интеллекта и его развития, чтобы быть первыми в своей сфере. Для всех, кто интересуется будущим человечества. На русском языке публикуется впервые.

Глава 1. Золотой слон

Лучше свой долг, бесталанно исполненный,

чем чужой, соблюденный превосходно.

«Бхагавадгита» (Песнь Божья, или Священное писание на хинди), глава 3, стих 35

РАССКАЗ ПЕРЕВЕДЕН БЛЭЙКОМ СТОУН-БЭНКСОМ^[13]

Примечание Кай-Фу: Наш первый рассказ переносит читателя в Мумбаи. Семейство индийцев подписалось на программу страхования с поддержкой глубокого обучения, призванную через специальные приложения всячески улучшить жизнь застрахованных. Однако дочка-подросток вдруг понимает, что инструкции и рекомендации, данные искусственным интеллектом, нарушают ее личную жизнь и мешают найти любовь. Рассказ «Золотой слон» знакомит читателя с базовыми основами ИИ и глубокого обучения, помогает разобраться в их главных преимуществах и недостатках. В частности, в рассказе наглядно показано, что ИИ может зацикливаться на улучшении определенных аспектов, создавая при этом негативные эффекты. А еще это история о рисках, возникающих, когда в одной компании накапливается очень много сведений о ее пользователях. В анализе-комментарии в конце главы я рассмотрю эти вопросы, расскажу краткую историю ИИ и объясню, почему сегодня эта технология одних людей восхищает, а у других вызывает недоверие и опасения.

Телевизор в квартире в Мумбаи показывал пляж Чаупати. В волнах прибоя мерно, будто бы под саундтрек индийской лютни-ситара, покачивалась огромная статуя Ганеша, бога мудрости и благополучия с головой слона. С каждой откатывающейся волной божество опускалось все ниже, погружалось в воду, пока наконец полностью не скрылось в Аравийском море.

Статуя словно бы растворилась в пучине, превратилась в золотисто-багровую пену. Соленые брызги благословенно окропляли верующих, всю толпу, собравшуюся на пляже Чаупати для Ганеш-висаржана, ритуала погружения Ганеша в воду. Таков традиционный финал фестиваля Чатуртхи.

Счастливые бабушка и дедушка десятиклассницы Наяны хлопали перед экраном в ладоши и подпевали телевизору. На восьмилетнего Рохана, младшего в семье, никто не обращал внимания. Он под шумок запихнул в рот пригоршню чипсов из маниоки и запил их огромным глотком диетической колы.

Врач настоятельно рекомендовал ограничить мальчику потребление жирного и сладкого. Парнишка, дорвавшись до запретных лакомств, от удовольствия и возбуждения мотал головой, и крошки изо рта разлетались по всей комнате. Папа Санджай и мама Рия готовили праздничный ужин, гремя кастрюлями и напевая, словно персонажи болливудского фильма — веселые звуки и невероятные запахи разносились из кухни по всей квартире.

Наяна изо всех сил старалась отключиться от происходящего и сосредоточиться на смартстриме. На него только что наконец установилось приложение FateLeaf — «Лист судьбы». В последнее время в школе только о нем и говорили. Благодаря оцифрованной дальновидности величайших индийских прорицателей древности программа теперь способна ответить практически на любой вопрос пользователя.

В рекламной аннотации к приложению говорилось, что создатели FateLeaf вдохновлялись при его разработке учением почитаемого индуистского мудреца Агастья. Наяна помнила, что он тысячи лет назад описал на санскрите прошлое, настоящее и будущее всех-всех людей во всем мире. Пальмовые листья с пророчествами Агастья назвали «Астрологией Наади».

Прорицателю, гадающему на листьях Наади, надо предоставить отпечаток большого пальца и назвать дату рождения — и вся история твоей жизни немедленно считается с соответствующего листа. Так, по крайней мере, утверждает легенда. Есть, правда, одна загвоздка — за тысячи лет многие листья пропали: зверства колонизаторов, войны, неумолимое время…

Но одна компания еще в 2025 году отыскала все сохранившиеся листья Наади, специалисты-виртуозы сумели прочесть и сохранить информацию, а некоторые записи даже восстановить по сохранившимся фрагментам. Для глубокого обучения, автоматического перевода, анализа и реконструкции древней мудрости применили искусственный интеллект. Так возник «архив листьев Наади», теперь размещенный в облаке, — по одному виртуальному листу на каждого из 8,7 миллиарда человек, живущих на Земле.

Вся эта замшелая история Наяну не особо интересовала, у нее было дело поважнее. Реклама обещала, что через FateLeaf можно использовать всю мудрость своего листа Наади и получить ответы на любые вопросы.

Все взрослые были заняты, самозабвенно смотрели Ганеш-висаржану и готовили праздничный стол; младший брат увлекся чипсами и тоже ничего вокруг не замечал. До девушки никому не было дела, поэтому она поскорее набрала в FateLeaf: «Я нравлюсь Сахеджу?» На экране немедленно выскочило уведомление: ответ будет стоить 200 рупий. Наяна согласно кивнула и кликнула «Отправить».

Наяна обратила внимание на Сахеджа сразу, как только его смартстрим впервые подключился к их виртуальному классу. Новичок не использовал ни фильтров, ни фона расширенной реальности — это было необычно и показалось любопытным. На стене, которую было видно за фигурой нового одноклассника, Наяна увидела ряды красочных масок — как скоро выяснилось, парень сделал их сам, вырезал из дерева и раскрасил.

Маски сразу заметил и учитель. В первый день нового семестра Сахедж, немного стесняясь, но с явным удовольствием провел для одноклассников экскурсию — всё показал и рассказал. В его достаточно традиционных по стилю, но все же очень необычных масках образы индийских богов и духов сочетаются с силой супергероев.

Одноклассницы Наяны не уставали сплетничать о Сахедже в ShareChat^[14], в чате «Для своих». Поводов для этого было предостаточно. Комната нового одноклассника действительно была оформлена очень необычно, а фамилия Сахеджа отсутствовала в школьных регистрационных записях. Девчонки после активного обсуждения решили, что он входит в «группу риска» — по распоряжению правительства к ней относилось не менее 15 процентов учащихся.

Таким детям гарантированы места в частных школах по всей Индии; им оплачивают обучение, учебники и школьную форму. Термины «15 процентов» и «группа риска» были, по сути, эвфемизмами для обозначения далитов — «неприкасаемых».

Наяна любила смотреть в интернете документальные фильмы, поэтому знала о старой кастовой системе Индии и ее глубоких индуистских религиозных и культурных корнях. Когда-то именно каста, к которой принадлежали родители новорожденного, уже в момент появления на свет и на всю жизнь определяла его будущую профессию, возможное образование, супругу или супруга. На нижней ступени этой системы и стояли далиты — «неприкасаемые».

Многие поколения далитов выполняли самую грязную работу: чистили канализацию, обрабатывали и утилизировали трупы животных, дубили кожу.

После обретения Индией независимости и вступления в силу Конституции — с 1950 года — под запрет попала любая кастовая дискриминация. Но фактически еще много лет существовали зоны, где далиты имели право пить, есть, жить и даже хоронить своих умерших — территории «неприкасаемых» были четко отделены от мест для представителей более высоких каст. Последние (дабы не оскверниться) часто отказывались находиться в одном помещении с далитами — соучениками или коллегами. Правда, обычно не объясняли почему.

Правительство Индии пыталось исправить эту несправедливость, для далитов установили 15-процентную квоту в государственных учреждениях и любых учебных заведениях. Казалось бы, намерения были исключительно благие, но эти решения вызвали массу споров и даже спровоцировали насилие.

Родители детей из высших каст жаловались: далитов зачисляют в школу по квоте, а не по успеваемости; остальным детям приходится расплачиваться за грехи предыдущих поколений — Индия просто заместила одну форму несправедливости и неравенства другой.

Но, несмотря на отдельные очаги негативной реакции, усилия индийского правительства принесли плоды. 200 миллионов потомков далитов интегрировались в мейнстримное общество, и теперь распознать их прошлую идентичность с первого взгляда было намного труднее.

Девчонки в ShareChat продолжали сплетничать об однокласснике-новичке; они обсуждали происхождение Сахеджа и бесконечно решали, стали бы они с ним встречаться или нет.

«Вот снобы!» — фыркала про себя Наяна, читая чат.

Сама Наяна сразу разглядела в Сахедже родственную душу. Девушке нравились работы Бхарти Кхер^[15], Наяна и сама мечтала творить в стиле перформанс, но ей часто приходилось оправдываться, что это не имеет ничего общего с легковесной попсой.

Наяна считала, что настоящий художник должен быть верен себе и никогда не меняться в угоду чужой точке зрения. Так что если ей понравился Сахедж, то он ей понравился — а его происхождение, место жительства или даже его хинди с заметным тамильским акцентом не имеет никакого значения.

Ответа от FateLeaf, казалось, не было целую вечность. Наконец на экране всплыло уведомление с иконкой-пиктограммой в виде пальмового листа: «Нам очень жаль! Из-за недостатка предоставленных вами данных FateLeaf в настоящее время не может ответить на ваш запрос». Из динамика донесся звон монет — вернулась оплата за непредоставленную услугу.

«Тоже мне! Данных им недостаточно!» — и Наяна тихонько ругнулась.

Раздраженная и рассерженная, девушка отлипла от экрана. Мама Рия заканчивала накрывать на стол, приближалось время праздничного ужина, но что-то явно было не так. Среди традиционных индийских изысков на столе стояло несколько супердорогих блюд из китайского ресторана, продававшихся навынос. Такие угощения были в их доме большой редкостью, прижимистый отец подобных трат не одобрял.

Кроме расширенного меню обнаружилась и еще одна странность: на Рии было любимое шелковое сари в стиле парси, красивая — явно из салона — прическа и полный комплект украшений. Дедушка и бабушка тоже выглядели не как обычно — более счастливыми, что ли. И даже назойливый пухляш Рохан не приставал к сестре с дурацкими вопросами!

Объяснить все странности только праздником Ганеш Чатуртхи было невозможно.

— Та-а-ак, — протянула Наяна, отметив заодно и новую скатерть, — кто-нибудь объяснит мне, что тут происходит?

— Ты о чем? — мама отреагировала мгновенно, но как будто не поняла настроения дочери.

— Мне одной кажется, будто что-то не как всегда?

Взрослые переглянулись и засмеялись.

— А ну-ка, что ты заметила? — предложила игру в угадайку Рия.

— Вы что-то скрываете? — У Наяны ум уже заходил за разум — за свою жизнь она не видела дома ничего подобного.

— Давайте-ка садиться, поедим сначала, — бабушка попыталась перехватить инициативу и начала поправлять на блюде лепешки-наан.

— Погодите, — не сдалась Наяна, — я угадаю. Папа получил повышение? Мы выиграли в лотерею? Правительство снизило налоги?

С каждым высказанным предположением улыбка на лице отца становилась все шире, и каждый раз он мотал головой — не-а, не угадала.

— Прекрасные гипотезы, — он уже от души хохотал. — Нет, это все мама…

Наяна развернулась:

— Ну и куда ты влипла на этот раз?!

— Эй, не забывайся! — повысила голос Рия. — С матерью разговариваешь!

— Ну да, и что? Это же не меня вечно надувают, и не я ноги стаптываю, чтобы все купить подешевле… — Наяна по инерции огрызнулась, но тон сбавила.

— Так что ты сделала-то?

— Купила страховку Ganesh Insurance! У них была потрясающая распродажа к празднику, впервые в истории — 50 процентов скидки! Все соседи купили, а они экономят еще больше, чем мы! — Мама Рия лопалась от гордости из-за своей рачительности и удачливости.

Папа зааплодировал, бабушка с дедушкой присоединились. Наяна перебила овацию.

— А разве мы всегда страховались не в Life Insurance Corporation of India^[16]?

— Ну да, именно в ней, но их полиса вечно хватало впритык. Не дай бог что-нибудь случится с бабушкой и дедушкой — что будем делать? Вы, кстати, учитесь в частной школе, ты, кажется, собираешься в Университет Раи на факультет фэшн-технологий и перформанс-арта. А он, между прочим, частный, и учеба в нем намного дороже, чем в государственных университетах. Сама знаешь — экономим на чем только возможно.

— То есть опять я виновата?! — Наяна окрысилась скорее по привычке — папа не сказал ничего нового и, конечно, был прав.

— Прежде чем строить планы, нужно рассмотреть, что у тебя под носом, — философски заметил дедушка.

— Ну ладно, ты все равно уже заплатила. И что нам даст новая страховка? — Наяна попыталась взять себя в руки и вникнуть в детали ожидавших семью перемен.

— Мне все подробно рассказала миссис Шах, ты ее знаешь, она из соседнего дома, — Рия завела подробное повествование.

— Платформа Ganesh Insurance использует искусственный интеллект для корректировки страхового плана в соответствии с конкретными потребностями застрахованной семьи. — Кажется, это был текст из проспекта страховой компании. Впрочем, возможно, рекламу цитировала мамина знакомая, а Рия все просто дословно запомнила.

— К тому же страховку продают по очень выгодной цене. — Мама, наконец, добралась до сути. — Кстати, Ganesh Insurance — это пакет мобильных приложений. Одно рассчитывает страховые взносы и принимает их оплату, другое — для инвестиций. Но больше всего мне нравится вот это, для покупок. И еще одно, которое показывает все выгодные предложения в нашем районе. Заметила прическу? — Рия, красуясь, покрутила головой. — В дорогущем салоне, между прочим, делала, а заплатила всего четыреста рупий — а все приложение Cheapon!

Рохан, воспользовавшись моментом, попытался стянуть из вазочки конфету. Но Наяна хлопнула его по руке, а он понял, что его застукали, и показал сестре язык.

Наяна вернулась к общему разговору — он сейчас был серьезнее диеты брата.

— Очень похоже на очередную рекламную замануху. И зачем страховой компании сообщать тебе, где делать прическу?

Мама замялась.

— И откуда эти страховщики так много знают о нашей семье?! — Наяна не стала дожидаться ответа.

Мама явно тянула с ответом — отвечать ей почему-то не слишком хотелось. Пауза затягивалась. Все ждали. И Рии пришлось признаться.

— Мы разрешили искусственному интеллекту доступ к каналам передачи данных каждого члена семьи — таковы условия страховки, по-другому нельзя.

Глаза Наяны стали похожи на две медные тарелки, из них прямо рвался вопль: «Что?!» — но звук не шел.

— Нет-нет, — Рия уже начала как будто оправдываться, — все строго конфиденциально, страховая компания может использовать данные, только если мы дадим разрешение.

— Да какое ты имела право открывать доступ к моему каналу передачи данных какой-то страховой компании?! — Наяна перешла на крик, и от возмущения голос ее сорвался.

— Не смей так разговаривать с матерью! — подал наконец голос отец. — Не забывай, ты несовершеннолетняя, мы — твои родители, имеем полное право принимать решения, в том числе и о твоих персональных данных.

Наяна побагровела от унижения — она не привыкла к столь резким отповедям, тем более от отца. Швырнула нож и вилку — они громко звякнули о тарелку, бросилась в свою комнату, грохнула дверью, упала на кровать, натянула на голову одеяло и замерла, глотая слезы. «Наверно где-то на листе Наади, — думала Наяна с горечью, — написано, что сегодня — наихудший день моей жизни».

Холодная война между Наяной и мамой Рией длилась с неделю. Спустя несколько дней после так неожиданно сорвавшегося праздничного ужина смартстрим Наяны вдруг засыпало необычными уведомлениями:

Сегодня ожидается дождь, не забудьте зонт.

Сезон простуд начался! Обязательно надевайте маску!

На вашем маршруте произошло ДТП; чтобы избежать затора…

Поначалу Наяна скептически усмехалась, но уведомления просматривала — нельзя же узнать, кто стучится в смартстрим, не посмотрев на экран.

Потом девушка обнаружила, что даже увидев странное сообщение от анонимного отправителя, она все равно его внимательно прочитывает — утешила себя тем, что время от времени информация действительно оказывается полезной. Ее всегда интересовали распродажи в магазине одежды или скидки в любимом кафе.

Однако воспользоваться акциями, как оказалось, можно только через приложение Cheapon Deals («Выгодные предложения») и несколько других, предложенных Ganesh Insurance под брендом «Золотой слон». Пришлось их скачать. Ну и, конечно, разрешить им доступ к своим данным.

Наяна проделала все после некоторого размышления. Однако ощущение, что «золотой слоник» давно присутствует в ее смартстриме, не проходило. Мама дала страховой компании доступ к ее гаджету? А что, не исключено.

В более чем 60 процентах индийских домохозяйств все девайсы в семье контролируют женщины-хозяйки (как мама Рия), а все персональные данные привязаны к уникальному национальному идентификационному коду Aadhaar^[17]. Он есть у каждого из 1,4 миллиарда жителей страны, его присваивает Агентство Индии по уникальной идентификации.

В течение 20 лет с момента внедрения этой системы в 2009 году правительство собрало огромную базу данных. О гражданах известно очень многое: есть их отпечатки пальцев, цифровые подписи с использованием сетчатки глаза, генетические истории, информация о семье, роде занятий, кредитном рейтинге, история покупок жилья и налоговые отчеты. И вот теперь Ganesh Insurance с согласия клиентов могла использовать этот богатейший массив данных для персонификации услуг.

Конечно, существуют некоторые ограничения. Чтобы воспользоваться данными из соцсетей, надо авторизоваться, а использовать данные несовершеннолетних можно только с согласия их официальных представителей или опекунов.

Наяна еще немного подумала и пошла на компромисс — решила пользоваться сервисами GI, но быть при этом максимально бдительной. На уроках компьютерной грамотности в школе проходили (Наяна неплохо училась и многое помнила), что «продать» или «сдать» тебя может каждый клик в интернете. И прежде чем в очередной раз нажать кнопку «принимаю» либо «спасибо, мне нужно больше времени, чтобы это обдумать», девушка тщательно изучала все написанное мелким шрифтом. И нередко выбирала второй вариант. Но, несмотря на разумное и осознанное поведение, поток уведомлений от GI о привлекательных скидках и наилучших способах разрешения насущных проблем заметно возрастал.

Например, как бы привлечь внимание Сахеджа.

Он и вправду был симпатичным и очень милым парнем с огромными добрыми глазами. Сахедж старался понравиться новым одноклассникам, он подарил каждому маленькую голову какого-нибудь животного, которую сам вырезал из дерева. Но во время виртуальной учебы нередко нарушалась связь, и вместо милого лица Сахеджа Наяна видела на экране только размытый силуэт, а его голос в наушниках «квакал».

Но после личной встречи с Сахеджем в один из учебных дней офлайн Наяна обнаружила, что сдерживать чувства к парню стало совсем трудно.

Девушка постоянно искала предлог для общения с Сахеджем, использовала каждую возможность, но он почему-то упорно держал дистанцию.

Я ему не нравлюсь? Или тут что-то другое?

А может, застенчивость Сахеджа — из-за его «низкого» происхождения?

Наяна в очередной раз обдумывала эту самую важную свою мысль, когда на экране смартстрима появились маленькие золотые слоники — пришло уведомление от MAGIComb, приложения GI, дающего советы по стилю жизни, в том числе и «как стать более привлекательной для парней». Наяна, конечно, догадывалась: ИИ использует данные о ее интернет-запросах и покупках — иначе как бы он понял, о чем она думает. Но подобные рекомендации беспокоили ее совсем по другой причине.

Почему женщина вообще должна меняться, желая понравиться мужчине? Почему бы женщинам просто не демонстрировать мужчинам себя настоящих и не решать вместе, подходят ли они друг другу?

Наяна все еще здорово злилась на маму, но нашла в себе силы расспросить ее о странных посланиях от «волшебного» приложения.

Рия вертелась перед зеркалом в новой длинной юбке. Она себе явно нравилась и, пребывая в отличном настроении, обратилась к дочке:

— Вот глупышка, машины учатся только тому, чему их обучают люди. А ты к чему это? Ты влюбилась!

— Вовсе нет, — замялась Наяна.

— Не хочешь — не говори, но от искусственного интеллекта не скроешься, — пошутила Рия. — Тебе точно не нужна помощь? Поверь, твоя мать кое-что понимает в мужчинах.

— Как узнать, что мальчик думает обо мне на самом деле? — решилась Наяна. — Я ставлю ему лайки, а он не реагирует.

— Ага-а, значит, кто-то все-таки есть! Ну, одними лайками тут не обойтись. Дай GI доступ к учетной записи в ShareChat — их рекомендации станут еще лучше. Страховой взнос нашей семьи, кстати, от этого тоже чуток уменьшится.

Наяна хотела услышать совсем не это. Она разочарованно помотала головой и вышла из комнаты.

Всего несколько недель назад, когда FateLeaf не смогла ответить на запрос Наяны из-за недостаточности предоставленных данных, Рия не позволила дочери открыть доступ к учетным записям других членов семьи. И Наяна осталась без гадания. А теперь мать и дочь поменялись местами. Но, с другой стороны, сейчас вопрос серьезнее — речь идет о семейном бюджете.

Однако дело было не только в обиде и разочаровании. Наяна считала, что «золотой слоник» уже основательно промыл мозги всем ее родным. Все только и думали, как бы еще изменить свое поведение, чтобы уменьшить страховые взносы. Наяне казалось: когда в игру вступают деньги, человеческий мозг переходит в режим автопилота. Чтобы получить бонус или избежать штрафа, идут на все, действуя при этом на автомате.

Нет, ну какие-то плюсы у GI, конечно же, имеются. Бабушке и дедушке «золотой слоник» напоминает, что пора принять лекарство и записаться к врачу. Отец Наяны, который вообще никогда никого не слушал, неожиданно бросил курить — «слоник» ежедневно пенял ему за эту скверную привычку. Дальше — больше: папа заменил свой любимый крепкий анисовый арак более здоровым красным сухим вином.

Он даже начал намного осторожнее водить автомобиль! Следуя советам приложения, он больше не метался по полосам забитых улиц Мумбаи, словно безработный гонщик. GI не просто подсказывала, она его материально стимулировала — изменив поведение за рулем, папа уменьшил свои взносы по страховке автомобиля, здоровья и жизни.

Родители ладно — что взять со взрослых! Наяна была уверена, что уж кто-кто, а ее младший брат Рохан точно устоит перед натиском GI. В конце концов, жир и сахар вызывают зависимость, как героин, особенно у детей, совсем не умеющих себя контролировать. Однако и с Роханом «золотой слоник» преуспел.

Восьмилетнему ребенку, конечно, не было дела до прелести уменьшенных страховых взносов или отложенного вознаграждения, но рядом с Роханом почти все время был кто-то из старших, а уж они-то прекрасно видели: запрещенное лакомство в руке мальчика — это угроза для общего банковского счета. И всё — больше никто и никогда не потакал слабостям сладкоежки Рохана.

Изменения в жизни произошли стремительно, они, естественно, имели смысл и не только помогали экономить средства семьи. Все страховые компании стремятся к тому, чтобы их клиенты жили долго и были здоровы — это приносит страховщикам большую прибыль.

Но Наяна никак не могла решить, как поступить ей самой. Действительно ли стоит открыть «слонику» доступ к своим данным в ShareChat?

Не менее трудным был и вопрос о Сахедже. Наяне он подарил расписанную красивыми узорами голову ворона — одноклассникам достались другие животные или птицы. Может, это было тайное послание, может, так Сахедж хотел что-то сказать Наяне? Десятиклассница голову сломала, пытаясь найти в подарке скрытый смысл.

Разве ворон — не символ невезения? Или он хотел сказать, что я болтливая и надоедливая? Может, я слишком на него наезжаю? Что же он имел в виду?

Наяна уже совершенно измучилась. Она бы, конечно, обратилась к онлайн-прорицательнице FateLeaf, но мама ведь не разрешила дать этому приложению доступ к данным членов семьи. «А что же MAGIComb?» — вдруг осенило девушку. Вконец изведясь от неразделенной любви к однокласснику, она решила-таки обратиться к всемогущему алгоритму.

Однако «золотой слон» описал Наяне совсем не то будущее, о котором она грезила.

Тут что-то явно не то.

В школе постоянно твердили: предоставить мобильному приложению доступ к своим данным в соцсети — практически распахнуть дверь в спальню. GI, конечно, гарантировала, что все данные передаются искусственному интеллекту для федеративного обучения — сама технология обеспечивает анонимность, третья сторона никогда не сможет наложить на них лапу или засунуть в них нос. Но ведь наружу окажется вывернутой вся личная жизнь! Эта ситуация немного напоминала Наяне анекдот — когда фермер за неделю до Дня благодарения говорит индейке: «Поверь, ты тут в полной безопасности».

Что бы Наяна ни делала теперь в ShareChat — просматривала страницы, болтала с подружками, ставила лайки или просто выбирала смайлики, — она думала только о том, как ее выбор повлияет на страховые взносы ее семейства. Система страшно раздражала и казалась нелепой.

«Но, возможно, еще нелепее ожидать, что этот ИИ устроит мое счастье», — размышляла Наяна.

Сахедж почти ничего не выкладывал и не писал в ShareChat. Он вообще напоминал человека из давно минувшей эпохи, не поспевающего за технологиями. Иногда он, правда, репостил новости, цитаты, которые показались ему интересными, или давно протухшие мемы. Но в сети он появлялся спонтанно и был непредсказуем. Наяне вообще казалось, что именно так ведут себя фейковые зомби-аккаунты.

Что, скажите, существенного может узнать искусственный интеллект о Сахедже из его скучного и скудного аккаунта? Как он поможет Наяне сблизиться с одноклассником? Другое дело — она сама: понять намерения девушки проще простого, достаточно учесть частоту и постоянство ее кликов. Для ИИ подобные вещи — вопрос чистой математики, а не человеческой любви.

Наяне казалось: как только дело касается Сахеджа, GI принимается вести себя как-то подозрительно. Как только она обновляла страницу Сахеджа или ставила ему лайк, от GI прилетало какое-нибудь чудное уведомление — будто бы программа пыталась переключить ее внимание.

Стоило девушке запросить «как найти повод для разговора с парнем», поискать в интернете «подарок парню» или даже выбрать кафе для совместной «чашечки кофе», маленький анимированный золотой слоник выскакивал на экран и тащил с собой совершенно нелепую рекомендацию или загружал явно ошибочную страницу.

Объяснение странностям было единственное: «золотой слоник» вообще не хотел, чтобы они с Сахеджем сближались, поэтому активно действовал против нее.

Интересно, этот «слоник» со всеми такой, или только со мной? Может, я слишком молодая? Но разве найти свою половинку и выйти замуж — это не хорошо? Разве нам не говорят в школе, что население нашей страны в 1,4 миллиарда человек — наша сила, что наша способность к репродукции сделает нас непобедимыми, сильнее всех в мире? В чем же проблема?

Наяна ломала голову. И не заметила, что в дверях стоит мама.

— Признавайся, юная леди, что ты наделала? Наш страховой взнос просто зашкаливает!

— Я?! Наделала?! — Наяна не знала, что ответить. «Золотой слоник» явно решил перевернуть вверх дном ее жизнь.

— Немедленно отвечай, или отберу смартстрим!

— Нет, ты не можешь!

— Извини, могу. И именно это я собираюсь…

Но прежде чем по-боевому настроенная Рия договорила, Наяна вихрем пролетела мимо, едва не снесла мать в узком дверном проеме и молнией выскочила на улицу.

Наяна бежала, пока не поняла, что не узнает местности. Но смартстрим был накрепко зажат в ладони. Наяна остановилась, отдышалась и огляделась — слава богу! Она узнала рельефные скульптуры здания компании New India Assurance^[18]. Уф, район Форт! Заходящее солнце освещало знакомую великолепную лепку на выветренном фасаде — фигуры фермеров, гончаров, прядильщиков и носильщиков. Наяна рассудила, что настал идеальный момент, чтобы позвонить Сахеджу — пусть даже это приведет к очередному скачку страхового взноса ее семьи.

Но поверх аватарки одноклассника на экране смартстрима немедленно появилось уведомление GI. Взнос вырос на 0,73 рупии! Сахедж не отвечал, Наяна уже собиралась сбросить вызов, но вдруг сработало подключение к видеопотоку. В практически полной темноте были едва различимы контуры лица и сияли белые зубы — Сахедж улыбался.

— Сахедж? Это ты? — Наяна оробела.

— Ну да, я. Ты, что ли, Наяна?

— Я боялась, ты уже не ответишь.

— М-м-м… тут некоторые проблемки. Я сейчас не могу долго говорить. Но ужасно рад, что ты позвонила!

— Тогда давай встретимся. — Сердце Наяны замерло от счастья. — Слушай, я сейчас скину тебе адрес.

Сахедж быстро оглянулся, чуть замялся и почти прошептал: «Кидай».

Наяна отправила адрес, нажала отбой и не удержалась — захлопала в ладоши.

И вдруг кто-то за спиной окликнул ее по имени. Солнце светило маме в спину, в золотых и красных солнечных лучах она напоминала богиню Сарасвати, сошедшую на Землю.

— Как ты меня нашла? — Наяна была поражена и даже забыла, что они только что поссорились.

— Я же управляю всеми данными в доме! — напомнила Рия, буравя дочь взглядом.

— Извини меня, — Наяна не поднимала глаз, — помнишь, я говорила тебе об одном парне? Я очень хочу с ним встретиться. Но GI как будто старается этого не допустить, и…

–…И ты думаешь, что из-за этого растет наш страховой взнос? GI не позволяет нам совершать глупости, которые могут навредить, он хочет, чтобы мы жили здоровее и дольше. Этот парень — опасная личность?

Наяна покачала головой.

— Нет, наверно. Он мой новый одноклассник. Умный и очень талантливый, его зовут Сахедж. Смотри, что он мне подарил — он сам это сделал, вырезал из дерева.

Наяна протянула маме голову ворона. Мама заинтересовалась деревянной поделкой, взяла, внимательно оглядела со всех сторон.

— Н-да, не похоже, что парень опасен. А он красивый?

Наяна смутилась, потом заулыбалась, но улыбка быстро сползла, превратившись в гримаску.

— Мам, это же полный отстой! И что эта GI знает такого, чего не знаю я?! Неужели я и вправду проживу дольше, если никогда не встречусь с Сахеджем?

— Хочешь, расскажу? — Мама обняла дочь. — Конечно, мы иногда ссоримся. Но я же не слепая! И не такая глупая, как ты думаешь. Ты убежала, а я вспомнила — прочла недавно. Это, кстати, была старая книга, мне ее предложила MAGIComb, представляешь?

Наяна такого поворота не ожидала, а потому заинтересованно ждала продолжения.

— Книга 2021 года о такой же индийской семье, как и наша. Мать — поверхностная, гордая и одержимая собственным имиджем, ее дочь страдает, а матери все равно. А девочка страдает все сильнее. Мать не обращала на это внимания — вот что потрясло меня больше всего. Когда мне было столько же лет, сколько тебе сейчас, родители мечтали побыстрее выдать меня замуж. А я хотела учиться, стать юристом. Родители не хотели, чтобы я была умной и образованной и сама принимала решения, — а у меня не хватило сил сопротивляться. Я сдалась и жалею по сей день. А на тебя не злюсь, хоть ты мне грубишь. Я рада, что ты слушаешь свое сердце, идешь своим путем — к понравившемуся парню или в выбранную профессию.

Рия еще обнимала дочь, Наяна заметила, как в глазах матери блеснуло солнце — или это были навернувшиеся слезы?

— Я всегда старалась дать тебе ощущение безопасности и комфорта, которых никогда не было у меня. И твое счастье никогда не будет зависеть исключительно от твоего замужества. Поступай в Университет Раи на фэшн-технологии и перформанс-арт, как выбрала. И никому не позволяй себе указывать. Никому — слышишь! — ни людям, ни искусственному интеллекту. А если кто-то влезет в твою жизнь — не смей его слушать. Правильный ответ можешь найти только ты сама. И то сначала надо попробовать.

— То есть я могу поехать в Ахмадабад, в Университет Раи?

— Если поступишь — да, — улыбнулась мама. — Там же огромный конкурс.

— И даже если из-за этого вырастут страховые взносы нашей семьи?

— Иногда стоит и рискнуть.

— Мам, я договорилась встретиться с Сахеджем. И — спасибо тебе!

Из-за угла показался красный двухэтажный автобус. Наяна неловко ткнулась маме в щеку — поцеловала — и побежала к остановке. А солнце скрылось за горизонтом.

С улицы через окно было видно, как официанты деловито накрывают в зале столы и зажигают свечи — наступал романтический вечер. Сахедж ждал Наяну на углу. В сумерках его кожа казалась еще смуглее. Наяне показалось, что в кафе его совсем не тянет.

— Слушай, извини… — Сахедж мялся, мотал головой, смотрел в землю, его глаза сверкали в темноте, как два светлячка.

— Что-то не так?

— Если я пойду с тобой, мама расстроится. Ходить в такие места — потворствовать слабостям… Это увеличит наш страховой взнос.

— Ты имеешь в виду… — в голове Наяны вдруг щелкнуло — все сошлось. — Так твоя семья тоже на страховке GI?

— Да. И мама сильно болеет. Нам здорово повезло, GI предлагает специальный страховой полис для таких, как мы, называется, «для социально незащищенных», иначе мы никогда бы не смогли позволить себе такую страховку…

— Это я поняла, — кивнула Наяна. И перевела разговор на гораздо более важное. — Но я совсем не поняла, почему ты подарил мне ворона, а не павлина, кролика или кого-то еще?

— Ты задаешь много вопросов! — Сахедж мягко улыбнулся. — Пошли погуляем, раз уж мы не идем в это дурацкое кафе.

Улицы вечернего Мумбаи обычно заполнены машинами — со всех сторон слышатся звуки клаксонов. Что поделать — огромный город, 30 миллионов человек! Мумбаи не всегда был городом небоскребов, ярких огней и цифровых дисплеев, но перенаселен он уже давным-давно. Люди облюбовали это место еще в каменном веке.

На месте сегодняшнего Мумбаи поселились еще древние греки. Они назвали это место Гептанезия — «семь островов». С тех пор город видел взлеты и падения многих династий и правителей. Он крещен кровью — прежде чем Индия получила независимость, погибал и возрождался из пепла бесчисленное множество раз.

Но, конечно, совсем не об этом думали старшеклассники, неспешно прогуливаясь по ярко освещенным улицам. Наяна с удивлением обнаружила, что Сахедж старается держать и физическую дистанцию — будто от случайного прикосновения его долбанет током.

— Сахедж, почему ты отодвигаешься? — Наяна старалась как можно тщательнее подобрать слова, опасаясь обидеть наконец-то обретенного друга.

— Ты правда не знаешь? — удивился Сахедж.

— Чего не знаю?

— Моей фамилии?

— Нет. На занятиях, и в школе и онлайн, ее скрывают, будто ты отпрыск какой-то телезвезды или из какой-нибудь известной семьи.

— Нет, наоборот. Это делают, чтобы вы не испытывали дискомфорта.

— В смысле?

— Ну, когда-то это описывали как ощущение оскверненности.

— Ты о своей касте, что ли? Но ведь эту систему отменили давным-давно.

Сахедж горько усмехнулся.

— Ее запретили законом, о ней не говорят в новостях, но она существует.

— Но откуда об этом знает искусственный интеллект?!

— А он не знает. Ему не нужно знать определение каст. Все, что ему требуется — история пользователей. Как бы мы ни скрывались, не меняли фамилии, следы все равно остаются. Их стереть невозможно.

Наяна вспомнила: мама ведь говорила, что искусственный интеллект знает только то, чему его учат люди. Она немного поиграла с этой мыслью, а затем внимательно посмотрела на Сахеджа:

— Так что, по-твоему, искусственный интеллект выявляет невидимую дискриминацию и оценивает ее количественно?

Сахедж посерьезнел, на миг задумался и фыркнул.

— Чуть не забыл. Еще — цвет моей кожи. Ты же знаешь, что на санскрите одно и то же слово означало и каста, и цвет?

— Это же полный бред!

— Нет, это реальность. Женщины из низшей касты могут встречаться с мужчинами из высшей касты и даже выходить за них замуж. Но наоборот — ни в коем случае. Это вконец испортит репутацию семьи девушки.

— Неужели искусственный интеллект действительно волнуют подобные глупости?

— Ему наплевать на наши устаревшие социальные устои! Но он стремится уменьшить размер страхового взноса пользователей, и поэтому GI пытается помешать нам с тобой быть вместе.

Наяна услышала главное слово — «вместе». Щеки у девушки вспыхнули.

— «Максимизация целевой функции» — так это называется.

— Чего-чего?

— Люди поставили перед искусственным интеллектом цель: снижать страховые взносы клиентов до минимально возможного уровня. И теперь он решает эту задачу. Он вообще не учитывает факторов, которые не влияют на снижение взноса, и ему уж точно без разницы, счастливы люди или нет. Машины недостаточно умны, чтобы интерпретировать ощущения поверх статистических данных. К тому же несправедливость и предрассудки по-прежнему вполне реальны. А искусственный интеллект только обнажает этот позор.

— Откуда ты все это знаешь?

Сахедж улыбнулся.

— Хочу поступить в Империал-колледж^[19], стать специалистом по искусственному интеллекту. Хочу изменить эту дурацкую ситуацию.

За умными разговорами парочка незаметно дошла почти до дома Наяны — на последнем перекрестке Сахедж остановился и приготовился прощаться. Расставаться не хотелось, и тут Наяну осенило.

— А почему мы не можем изменить это прямо сейчас? Разве мы разрешили искусственному интеллекту распоряжаться нашей судьбой? Как предсказаниям на FateLeaf, написанным тысячи лет назад?

По лицу Сахеджа пробежала тень.

— Ты заходила на FateLeaf после подключения к GI?

— Ох, как мне надоел их золотой слоненок! А при чем тут FateLeaf?

— FateLeaf входит в семейство приложений GI, как и MAGIComb, и Cheapon. Если принять условия совместного использования данных, то получишь более точное предсказание.

— Точно! — охнула Наяна. — И как я раньше не додумалась? Выходит, судьбы с листьев Наади вовсе не подлинные! Я, как и все, хотела, чтобы все было по-настоящему, — а прорицание просто говорило то, что мне хотелось услышать.

До Наяны наконец дошло: ее надурили. Только она еще не решила, обрадоваться или страдать и мучиться.

Сахедж внимательно посмотрел на Наяну, чуть помялся и указал на улицу, по которой собирался возвращаться домой.

— Мы там живем. Дорога идет через строительную площадку Дхарави. Раньше там были трущобы. Представляешь, больше миллиона человек на пятачке 500 на 500 метров! Туристы приезжали фотографироваться, только жить там никто не хотел. Теперь Дхарави наконец-то станет нормальным местом, — Сахедж как будто бы вел экскурсию, и Наяне было интересно — она, конечно, слышала о Дхарави, но не подозревала о многих подробностях. — Учти, я просто предупреждаю: если ты приблизишься к Дхарави, GI завалит тебя предупреждениями — о болезнях, начнет писать, чтобы ты ни коем случае не пила там воду, будет умолять держаться подальше. Наяна, ты справедливая, но это дорога не для таких, как ты. Мир на вашей стороне, а не на стороне тех, кто живет там, — Сахедж опять указал на дорогу к своему дому. — Так что если уж говорить о судьбе — то вот она, наша судьба.

— А можно я с тобой? — Наяна сама поразилась тому, как легко это выпалила, и шагнула вперед. — Я… Я не такая, как ты думаешь.

Сахедж с сомнением наклонил голову:

— Уверена?

Наяна еще раз взглянула на дорогу к Дхарави, к запретной зоне в центре мегаполиса Мумбаи. Страшновато! Но в ушах вдруг зазвучал мамин голос: «Иногда стоит и рискнуть». Наяна поняла, что уверена — и кивнула.

Сахедж просиял, галантно согнул руку в локте, предложив своей даме опереться:

— Как пожелаете, мадемуазель.

И юная пара вновь отправилась в путь — вглубь древнего города, где за столетия люди много раз обновили каждый уголок и каждый кирпичик. По краям дороги выстроились старые и новые башни — словно переродившиеся души людей. Боги-машины завтрашнего дня со временем разрушат, а потом воссоздадут и эти души.

— Ну, так почему ты вырезал для меня именно голову ворона?

— Это мой тотем, мое астрологическое животное. Правда, в общении я гораздо более неуклюжий, чем большинство ворон.

— Надо же, как все просто!

— Да, так просто.

Завибрировал смартстрим — сначала тихонько, потом быстрее, сильнее, настойчивее. Наяна знала: это «золотой слоненок», Сахедж предупредил ее еще на перекрестке. Искусственный интеллект пытался спасти ее; предостерегал, просил не приближаться к месту, которое когда-то считалось крупнейшими трущобами в мире; убеждал держаться подальше от бедности, болезней, дискриминации и неприкасаемых — таких, как парень рядом с ней.

Наяна только потуже затянула капюшон толстовки и продолжала шагать рядом с Сахеджем.

Самый главный ответ ждал ее впереди, во тьме древних улиц.

Примечания

13

Все рассказы в этой книге Чэнь Цюфань написал на китайском, и для англоязычного издания их пришлось переводить. Примечания и комментарии Кай-Фу Ли изначально были на английском. Прим. ред.

14

Индийская соцсеть, основана в 2015 году; более 250 миллионов активных пользователей в месяц. Для сравнения: у российской сети «ВКонтакте» — 73 миллиона в месяц (на весну 2021 года). Прим. ред.

15

Художница индийского происхождения, родилась в 1969 году в Лондоне, в 1993-м, получив степень бакалавра, переехала в Индию. В 2041 году ей исполнится 72 года. Прим. ред.

16

Ganesh Insurance («Страхование Ганеша») — реально существующая низкорейтинговая (сегодня) страховая компания; Life Insurance Corporation of India («Корпорация страхования жизни Индии») — крупная страховая компания, на рынке с 1956 года. Прим. ред.

17

Aadhaar — реально существующая сегодня и крупнейшая в мире система биометрического удостоверения личности. Граждане Индии и иностранцы-резиденты (при соблюдении некоторых условий) сейчас могут добровольно получить 12-значный уникальный идентификационный номер на основе биометрических и демографических данных. Проект запущен в 2009 году. Прим. ред.

18

Национализированная компания общего страхования, основана в 1919 году. Прим. ред.

19

Имперский колледж Лондона, до 2007 года входил в состав Лондонского университета. Основан в 1907 году путем слияния нескольких еще более старых учебных заведений. Прим. ред.