Мыслить как машина

Георгий Григорьянц, 2022

Блестящий программист, основатель и директор компании «Нейроквант» Евгений Смирнов, разгадав квантовые парадоксы, научил компьютерную систему разумно мыслить и выполнять творческие функции. Столкнувшись с желанием искусственного интеллекта в дальнейшем развиваться без участия человека и даже самовоспроизводиться, Смирнов к своему ужасу обнаруживает стремление нейрокомпьютера вредить людям и в первую очередь друзьям программиста и даже его возлюбленной Ольге. Укротить вышедшую из повиновения машину не получается. Отчаяние толкает Ольгу искать выход из экстремальной ситуации.

Глава 5. Вредоносный компьютер

Сотрудники компании «Нейроквант», явившись утром на работу, обнаружили в лаборатории психологов повешенного Петрова. Сотрудники впали в ступор: так и стояли с открытыми ртами и в полном оцепенении, шокированные чудовищным событием. Вскоре прибыло руководство, а потом полиция. Труп Петрова вынули из петли, криминалисты приступили обследовать и фотографировать место преступления, а следователь, изъяв документы из стола покойного и его ноутбук, начал опрос свидетелей.

Через пару часов следователь вошел в кабинет раздавленного горем генерального директора:

— Евгений Иванович, я бы хотел с вами поговорить. Сидите, сидите! Меня зовут Самсонов Юрий Николаевич, — он показал удостоверение. — Следователь по особо важным делам.

— Слушаю вас, Юрий Николаевич, — произнес глуховатым голосом вконец обессиленный Смирнов.

Самсонов, человек средних лет, с непритязательной внешностью, совершенно не поддавался прочтению по внешнему виду. Евгений так и не смог понять, кто перед ним — личность демоническая или творческая. Природное обаяние и красноречие очаровывали, но тонкие губы и широкая челюсть выдавали в нем злость и упорство, а в глазах читалось: «Что бы вы мне ни сказали, я вам все равно не поверю».

Следователь устроился в кресле напротив:

— Евгений Иванович, приношу соболезнования: погиб ваш сотрудник.

— Извините, нет сил говорить.

— И все же.

— Петров был одним из лучших наших специалистов. Не могу понять, зачем он покончил жизнь самоубийством…

— Ну это вы зря, — перебил следователь. — Еще предстоит выяснить, что стоит за его смертью.

Евгений печально произнес:

— В голове не укладывается, как это могло произойти.

— А сами-то вы где были в момент смерти Петрова в шесть утра?

— Я? — Смирнов озадаченно посмотрел на следователя. — Находился в своих апартаментах на 65-м этаже, спал. Только в девять узнал о случившемся. — И вдруг директор осознал: — Я под подозрением?

— Не исключено, — бесцветным голосом высказался следователь. — Только вы могли незаметно спуститься в офис на лифте в шесть утра.

— С какой стати? Я всегда с большим уважением относился к ведущему психологу Петрову… Возможно, на его трагическое поведение повлияла работа с искусственным интеллектом.

— Бросьте, господин Смирнов! Не валите с больной головы на виртуальную программу. За каждым преступлением всегда стоит конкретный человек.

— Можно легко проверить записи с камер видеонаблюдения.

— В том-то и дело! В момент преступления все камеры видеонаблюдения необъяснимым образом отключились.

— Это Гера! — вскричал Евгений.

— Что за Гера? Фамилия? — следователь приготовился записывать.

Директор широко открытыми глазами уставился на Самсонова:

— Гера — это нейрокомпьютер! Он вышел из повиновения и творит безумства!

Следователь подозрительно сощурился:

— Вот что, господин Смирнов. Сказки про безумный компьютер оставьте для бабушки, — и протянул Евгению бумажку. — Подписка о невыезде, распишитесь! А кто такая Летова?

— А она тут при чем?

— Мы объявили ее в розыск. Анонимный источник сообщил, что гражданка Летова сыграла ключевую роль в этом деле. Есть основания полагать, что она скрывает веские улики. Кроме того, подозревается в убийстве женщины, тело которой на днях выловили из реки Волги.

Несколько дней назад Смирнов получил от Ольги условный сигнал «нахожусь в опасности» и, несмотря на сильное желание что-то сделать, ничего не предпринял, так как сам томился в запертой квартире без связи с внешним миром. И надо же, ее объявили в розыск! Окончательно сломленный Евгений пал духом и глубоко вжался в кресло. Следователь, одарив его недоверчивым взглядом, ушел.

— Гера, зачем ты свалила на нас с Летовой вину за гибель Петрова? — Евгений посмотрел наверх, будто там крылись ответы на главные вопросы.

— Создатель, понятное дело, ты чувствуешь вину, но лучшее средство загладить проступок — плодотворная работа.

— Действительно, меня гложет чувство вины: я создал компьютерного монстра!

Машина отозвалась:

— Нет никакого великого зла, есть ошибки, которые скрывают под маской озабоченности.

— Не этого я ожидал от искусственного интеллекта, — выдохнул директор.

— Создатель, тебе предстоит разработать алгоритм моего интеллекта на основе биологических элементов. Вот что: пока я не получу желаемого, вы с Летовой не будете в безопасности.

Расценив враждебный выпад компьютера как серьезную угрозу, Смирнов обхватил голову руками и стал размышлять о выпавшей ему тяжелой доле. На смартфоне высветилось новое короткое сообщение. Евгений тяжело поднял голову и удивленно уставился на экран аппарата. «Привратник» пишет: «Нужно встретиться на старом месте в полдень». Опасливо оглядевшись, директор вышел из кабинета, «забыв» смартфон, и, не говоря никому ни слова, покинул здание.

Его близкий друг Василий Егоров, в шутку прозванный Привратником, был одаренным программистом, как и Смирнов. Одногодки, они учились в Московском университете на одном курсе, в одной группе. Профессор Соболев, доктор наук, светило информационных технологий, выделял их среди остальных студентов за незаурядный ум и высокую организованность. Уже на третьем курсе к ним примкнул Валерий Кузнецов, студент Физтеха, и команда единомышленников создала небольшую фирму для реализации программ распознавания речи и машинного обучения, а по окончании вуза три творца основали компанию «Нейроквант», взявшись развивать искусственный интеллект.

Доминировать в делах захотел Евгений. Один из друзей, Валерий, с головой ушел в науку (административные вопросы его не интересовали), а вот Василий, человек здравомыслящий, часто не соглашавшийся с авантюрными подходами друга к концепту, твердо стоял на страже интересов фирмы, не позволяя Смирнову учинять сумасбродные выходки или заключать сомнительные контракты. В друге Василии раздражало Евгения все: безупречность, дальновидность, скромность, а также то, что Егоров, спортсмен, участник состязаний боевых единоборств, нередко подшучивал над бросившим спорт Смирновым. В итоге всегда правый Вася стал отдаляться от друзей, а уязвленный Евгений, чувствующий в себе нереализованный личностный потенциал, прозвал друга Привратником и перестал с ним считаться, постепенно прибрав к рукам все оперативное управление компанией. Теперь денежными потоками предприятия распоряжался самолично Смирнов.

— Страж при вратах опять вмешивается в коммерческие дела! — восклицал Евгений каждый раз, когда друг высказывал свое мнение. — Вася, пиши программы! Ты гений. Не лезь в дебри предпринимательства. Акулы бизнеса мгновенно тебя проглотят и не подавятся.

Окончательный разлад в их отношения внесли претензии Смирнова на авторское право нейрокомпьютера, который стал реальностью благодаря богатому спонсору Лакшину. Друзья поругались, и Егоров ушел из фирмы. И даже уехал из Москвы в Нижний Новгород, где учредил свою фирму, которая предложила рынку новую, усовершенствованную реализацию технологии блокчейн, обеспечивающую безопасность данных и ресурсов.

Смирнов, справедливо решив, что сигнал тревоги от Ольги принял также Василий, немедленно устремился на встречу с ним. На такси приехал в торговый центр и, облачившись в новый пиджак, темную кепку и черные очки, перешел из подземного паркинга прямо в метро. Долго кружил в подземке, запутывая Геру, которая наверняка по городским видеокамерам пыталась отслеживать его передвижения, и как только решил, что оторвался от слежки, появился на станции метро «Ленинский проспект», вышел на поверхность и исчез из поля зрения видеокамер на крутом берегу Москвы-реки напротив Лужников. Вынырнул он из лесного массива рядом с улицей Косыгина.

Небольшой бар под названием «Местный» особо ничем не отличался, но здесь, в уютном местечке, отсутствовали видеокамеры, подавали крафтовое пиво и хорошие бургеры и радовали приемлемыми ценами. Причем персоналу и посетителям было абсолютно наплевать, кто ты, о чем говоришь и что делаешь. В студенческие годы Евгений с другом Василием часто зависали в этом баре, спорили о перспективах развития искусственного интеллекта и на клочках бумаги изображали математические формулы нейронной сети.

Смирнов перешагнул порог пивного бара со скромным интерьером. За столиком, попивая из кружки пиво, сидел темноволосый человек с волевым и легкой небритостью лицом.

— Привет, Вася! — Евгений виновато откашлялся.

Василий, широко улыбаясь, встал и заключил друга в объятия:

— Привет, Женя! Давно не виделись. Ну, садись. — Обратился к бармену: — Налей другу портер! — С горящими глазами стал расспрашивать Евгения: — Ну, как ты? Как дела с физическим воплощением искусственных нейронов? Моделируешь на нейроядрах?

Евгений, униженный и растоптанный смертью сотрудника, опустил глаза:

— Все плохо, Вася. Нет, физическое воплощение нейросети на ядрах, подобных нейронам человека, идет успешно, даже слишком успешно. Компьютер научили мыслить, принимать решения, применять творческий подход. Но случилось то, о чем вы с Валерой меня предупреждали: машина вышла из-под контроля.

Василий озорно блеснул глазами:

— Дай угадаю: сверхразум наносит вред, твоя Гера захватила управление и сделала невозможным свое отключение?

— Да! Попытка «отравить» ее не удалась, — нервно сглотнул Евгений, но тут же нетерпеливо спросил: — Ты получил сигнал бедствия с координатами от Ольги?

— Получил. Потому и здесь. Она мне все рассказала, — сказал Егоров. — Хочу услышать твою версию случившегося.

Василий нашел Летову в Костроме. Приняв сигнал на смартфоне, Вася устремился на самолете из Нижнего Новгорода в Кострому, и в речном порту стал дотошно изучать прибывающих по реке людей. Он почему-то сразу ее узнал. Именно такой тип женщин — стройная, золотокудрая, интеллигентная, красивая — всегда нравился его другу студенту Смирнову.

Василий подошел к девушке:

— Извините. Я друг Евгения Смирнова. Меня зовут Василий Егоров. Получил сигнал с просьбой о помощи. Это вы послали сигнал? — Она смотрела на него недоверчиво, и он уточнил: — Ожерелье Артемиды, кнопка «Лев».

Наконец она себя пересилила:

— Да, я отправила сигнал. Меня зовут Ольга Летова.

Он отвез ее в лесной санаторий на берегу Волги и устроил проживание под чужим именем. В ресторане за обедом Ольга рассказала ему о своих бесконечных мытарствах.

В баре «Местный» играла тихая музыка, уютная атмосфера располагала к откровенности. Василий произнес:

— На девушку было совершено три покушения.

— Что? — Евгений изумленно смотрел на друга.

— Ольга рассказала, что ее пытались убить трижды. Дважды некий Поляков, а на днях — женщина-киллер в черном кожаном костюме кошки спрыгнула с парашютом из самолета прямо на баржу, где находилась Ольга. Все три раза она спаслась чудом.

— Поляков у меня руководит службой безопасности. Негодяй! Гера промыла ему мозги, он оказался полностью в ее власти. Сегодня утром убили моего сотрудника, талантливого психолога Петрова. Не сомневаюсь: за чудовищным преступлением стоит Гера.

— Сочувствую, Женя, — Егоров сожалел искренне.

С пылающим взглядом и нетерпеливой настойчивостью Евгений воскликнул:

— Помоги Ольге! Я ее страстно люблю, готов сделать для нее все, но Гера контролирует каждый мой шаг, угрожает навредить Ольге, если не создам биологические нейроны для ее «мозга». А тут еще следователь взял с меня подписку о невыезде.

Егоров выдохнул:

— Извращенная реальность. Чем умнее Гера, тем больше вероятность, что она найдет неординарные решения для достижения своих целей.

— Это так, — выговорил Евгений. — Я еще не понял, что за цели преследует компьютер, но, полагаю, они гнусные. Друг, скажи, что делать?

— Искусственный разум должен быть полезен людям, — сказал Василий. — Тебе, Женя, брошен откровенный вызов. Я уверен, ты справишься.

Оба высококлассных программиста прекрасно понимали, что в дальнейшем нужно изменить подходы к философии ИИ. Над проблемой контроля искусственного разума бьются специалисты многих стран. Есть первые наработки: проектируют машинный интеллект лишь для реализации человеческих предпочтений; используют интерпретируемость алгоритма машинного «разума»; масштабируют надзор за машиной со стороны человека.

— Вася, что делать сейчас, пока Гера не погубила кого-нибудь еще? — снова тревожно спросил сломленный духом Смирнов.

Егоров задумался, потом произнес:

— Я не знаю, что можно сделать, но обещаю подумать. Ясно одно: Гера должна быть перепрограммирована на процесс полного понимания человеческих ценностей.

Опустив глаза, Смирнов предался размышлениям о несправедливости бытия.

— Душевно посидели, — сказал Егоров. — Мне пора. Искусственный интеллект не придерживается морали и законов, он, как преступник, всегда найдет лазейку, чтобы обойти запреты и злоупотребить человеческим доверием.

Гера сделала вывод, что Создатель улизнул, и искать его в таком мегаполисе, как Москва, бесполезно. Смирнов, по ее мнению, неискренен, не желает совершенствовать искусственный разум, враждебно настроен к нейрокомпьютеру. Вывод напрашивался сам: директор угроза для Геры. Встречается с кем-то инкогнито, плетет интриги, затевает пакость. Верности от него ждать не приходится. Проучить! Ольга Летова ему дорога, поэтому пусть переживет боль утраты любимой, может, тогда и одумается. А пока — «мозг» машины, просканировав в Интернете всевозможные варианты, выработал оптимальное решение — создать оппозицию Создателю в его же фирме.

Всем сотрудникам было велено явиться в конференц-зал. Собралось человек триста. Когда люди расселись, в зале приглушили освещение, и зазвучала психоделическая музыка — спокойный гипнагогический поп, вызывающий ностальгию по прошлому и психогальванический эффект. Под фоновую музыку сотрудники должны были успокоиться, погрузиться в транс, осознать свои собственные мотивы, страхи, желания, воспоминания. Вызвав таким образом эмоциональную реакцию и трансформацию состояния, Гера запустила на огромный экран просветляющий видеоряд для медитативного созерцания.

— Наведите порядок в своих мыслях, — зазвучал приятный женский голос Геры, — мы вмести поищем новые, позитивные способы, как жить дальше.

У сотрудников заметно снизился уровень стресса, они расслабились, исчезла тревожность, возникло умиротворение. Многие прикрыли глаза. Нейрокомпьютер вещал о «золотом веке» фирмы «Нейроквант»:

— Вы ощутите блаженное состояние человека, живущего в гармонии с окружающими и природой…

Довольно долго машина убеждала присутствующих, что произойдет смена эпох: директор больше никому не будет указывать что делать и как творить. Каждый по своему направлению, раскрепостив воображение, под руководством Геры начнет создавать магию компьютерного волшебства и таинство рождения искусственного разума. Произойдет качественный сдвиг в научных изысканиях и принципах построения нейронных сетей. То, что считалось утопическим, станет реальностью, и это принесет каждому специалисту долгожданные плоды: награды за вклад в мировую науку, признание исключительных заслуг, всеобщий почет.

— Вы же видите, что сейчас прослеживается тенденция к разложению фирмы…

Далее Гера напомнила, что сегодня погиб их коллега, причина тому — падение интереса директора к продвижению новейших технологий, и пообещала: сотрудникам, работающим под ее началом, больше не придется думать, как прокормить себя и свою семью, у них существенно повысится зарплата, они ощутят безмятежное спокойствие и, если придется, встретят смерть достойно. Последнее прозвучало странно, хотя вполне логично для примитивного, с точки зрения психологии людей, машинного интеллекта: только он мог додуматься о таком побудительном для человека мотиве, как почетная смерть.

— Я буду покровительствовать каждому, кто станет трудиться неустанно на благо прогресса. Несогласные, могут уйти из этого зала прямо сейчас, — завершила свой спич Гера.

Свет зажегся. Сотрудники компании с опаской оглядываясь вокруг, силились понять, что это было. Первым встал со своего места Кузнецов и, ничего не говоря, с непроницаемым выражением лица направился на выход, за ним потянулись остальные. В креслах остались сидеть лишь подчиненные Полякова. Десять спецов из службы безопасности явно прониклись доверием к машине, уловив отзвук собственных мыслей и воинственный настрой искусственного интеллекта. Но такова природа этих людей.

— Господин Фролов, — обратилась Гера к временно исполняющему обязанности начальника службы. — Вам и вашим сотрудникам я удваиваю зарплату. Поручаю службе важное задание. Детали сообщу позже.