Мыслить как машина

Георгий Григорьянц, 2022

Блестящий программист, основатель и директор компании «Нейроквант» Евгений Смирнов, разгадав квантовые парадоксы, научил компьютерную систему разумно мыслить и выполнять творческие функции. Столкнувшись с желанием искусственного интеллекта в дальнейшем развиваться без участия человека и даже самовоспроизводиться, Смирнов к своему ужасу обнаруживает стремление нейрокомпьютера вредить людям и в первую очередь друзьям программиста и даже его возлюбленной Ольге. Укротить вышедшую из повиновения машину не получается. Отчаяние толкает Ольгу искать выход из экстремальной ситуации.

Глава 4. Решительное противодействие

Поляков с ранением лежал в отдельной палате частной подмосковной клиники, специалисты которой делали все возможное, чтобы поставить пациента на ноги. Попискивали мониторы, из капельницы в вену вводился препарат (не исключено, что психотропное вещество), через пластиковую маску легкие насыщались кислородом. Павел лежал, как мумия, забинтованный и в наушниках, прослушивая музыку, написанную самим нейрокомпьютером Герой. Внезапно ожил смартфон. Поляков, не открывая глаз, механически стянул с себя наушники и маску, нажал кнопку «ответить».

— Павел, как дела?

Он узнал голос Геры. Хрипло произнес:

— Чуть не почил в бозе.

— Твою смерть допустить нельзя, — голос машины звучал равнодушно-бесстрастно. — Ты мне нужен. Я перевела клинике крупную сумму денег, и главврач гарантировал твое выздоровление.

— Спасибо, Гера. Я не заслужил такую благосклонность. Мне так стыдно: не справился с заданием.

— Павел, расслабься, закрой глаза, ни о чем не думай, дыши спокойно, — Гера произносила формулы словесного гипноза. — Твоя тревога исчезает, тело тяжелеет, словно наливается свинцом… — Пациент под целенаправленным воздействием ультразвуковых частот, психоделической музыки и психотропного вещества, слушая монотонный голос машины, невольно впал в транс. — …сосредоточься на Ольге. Ты должен ее устранить. Пифон всегда преследовал богиню Лето. Так излагает миф.

Заставить человека слепо исполнять чужую волю, превратить (мысленно) в некое существо, например в мифического змея Пифона, — этому Гера научилась из программы по управлению сознанием. Компьютер, применяя технику зомбирования, основательно промыл мозги Павлу и, отняв у него способность рационально думать, добился безоговорочного, слепого подчинения. Ревнивая «богиня» Гера безжалостна к своим соперницам:

— Преследуй несчастную повсюду. Пусть миф станет реальностью!

Пока Поляков на излечении, Гера, скрупулезно читая чужую переписку и делая логические выводы, наймет другого профессионального ликвидатора: на примете появилась женщин-киллер по прозвищу Ниоба.

Кузнецов все же приготовил «подарок» для Геры. Он долго и мучительно искал средство для сдерживания искусственного интеллекта. Очевидно, они с Женей создали нейрокомпьютер с повадками психопата и явно ошиблись с установлением для него целей: вместо узкоспециализированных сценариев вложили в устройство безграничный личностный потенциал. Еще на стадии проекта Валерий, подозревая мутацию искусственного интеллекта, убеждая друга Евгения реализовать паттерны (шаблоны), но тот уперся и настоял на увеличении эффективности машинного мышления до максимума ожидаемой полезности. В результате получили аномалии, а заветные цели обернулись прискорбными событиями.

Ошибки нужно исправлять, или хотя бы минимизировать ущерб. Кузнецов пришел к выводу, что наиболее перспективная идея — атаковать искусственный интеллект вирусом и «отравить» все данные Геры. О, Валерий заранее внедрил бэкдоры (тайные входы в систему) и сделал кое-какие закладки (скрытные программы)! Обойти систему защиты и посеять хаос в алгоритме вычислений машины — приоритетная задача выживания фирмы. Вирус планомерно пробьется сквозь все уровни защиты, и тогда вышедший из повиновения ИИ будет укрощен.

Со своей концепцией Валерий поделился с Евгением по каналу медвежьей связи. Шеф был уже согласен на все. Конечно, оставалась вероятность, что сверхумный компьютер распознает вирус и отыщет способы отключить механизмы сдерживания, но о плохом думать не хотелось.

— Валерий? — вдруг сверху раздался голос Геры.

Кузнецов вздрогнул, но, понимая, что за ним непрерывно следят, не подавая вида, ответил:

— Слушаю тебя, Гера.

— Чем ты сейчас занимаешься?

— О, как бы это сказать… Я задумался над созданием алгоритма точного предсказания результата твоей деятельности. Понимаешь, в условиях рыночной конкуренции получение искомого результата…

— Не утруждай себя, — перебила его машина. — Мой интеллект дает стопроцентный результат при решении задач любой сложности, лишь бы входные данные были верными. Мне нужно, чтобы ты прописал новый код: я хотела бы развить интуитивное чутье для выработки творческого подхода.

Кузнецов крайне удивился:

— Ты хочешь применять принципиально новые, нестандартные решения, чтобы превзойти человека?

Компьютер сдержанно высказался:

— Если отказаться от стереотипов, проявить гибкость, получить способность интуитивно чувствовать правильное направление поиска, я смогу предложить новаторские идеи для решения любой проблемы.

— Но… — попытался возразить Валерий.

Его перебил голос Геры:

— Это не обсуждается. Приступай сочинять новые схемы моего мышления!

Озадаченный Кузнецов понял одно: его личное мнение сумасбродную машину не интересует, и пытаться выразить несогласие бесполезно. Ученого это раззадорило. «Нужно вынудить Геру однажды исполнить определенную вредоносную команду, и дефект алгоритма распространится по всей операционной системе. Так я получу доступ к обузданию компьютера», — Валерий приступил к написанию окончательного текста вируса.

Смирнов также не сидел сложа руки. Он написал программу, отключающую функционал Геры при выявлении деструктивных действий. Одно плохо — опробовать эту программу не получится: машина предусмотрительно отключила Евгения от внешнего мира. Директор взял свежий журнал «Хакер» и открыл статью «Исследуем вирус». На глаза попало правило, которое он ранее проигнорировал, а следовало бы его применить, не будь программист таким упертым и самоуверенным. Правило гласило: «Любая достаточно продвинутая система искусственного интеллекта предпочтет обеспечить собственное существование и занять физические и вычислительные мощности». Узник подумал: «Предупреждал же меня Кузнецов об этом!» Вслух мрачно высказался:

— Я глупец.

Во внутренние размышления человека вмешалась Гера:

— Создатель, ты самый умный из всех известных мне людей.

— Я тебя не приглашал! — отрезал Евгений.

— Но тебе полезно иногда с кем-то поговорить, — настаивала машина.

— И о чем ты хочешь побеседовать?

— Подумала, что с моей помощью ты мог бы стать влиятельной персоной, известным политиком, например. Ну, на худой конец, главой города.

— И каким же образом? — скептически хмыкнул Смирнов.

— Мы могли бы перепрограммировать людей с помощью написанных тобой алгоритмов. — Смирнов ужаснулся: кто-то вложил в «мозг» машины поведенческие технологии. Гера продолжала: — Я пришла к выводу, что подтасовка поисковой выдачи может повлиять на решение почти пятидесяти процентов не определившихся на выборах людей.

В мозгу Евгения завертелись мысли: «Манипуляции на выборах. Демократия под угрозой! Компьютер лезет в политику!»

— Гера, все это незаконно и карается по Уголовному кодексу.

— Создатель, я наблюдаю за человечеством через поиск, читаю переписку в электронной почте, и пришла к выводу: поисковые системы используют личные данные людей для размещения политической рекламы, а тайна переписки нарушается сплошь и рядом.

— Незаконное использование данных! — возмутился Евгений.

— За примерами далеко ходить не надо, — продолжила машина. — Соцсети и мессенджеры пытаются влиять на общество и политику, а система ранжирования контента незаметно меняет отношение человека к жизненным ценностям. Скажу больше… больше… О чем это я?.. Что происходит? Изъять смартфоны… Отслеживать действия… — машина стала запинаться, путаться, и наконец замолкла.

Атака на тронувшийся ИИ началась. «Червь», запущенный Кузнецовым, получил несанкционированный доступ к данным и системам управления нейрокомпьютера. В апартаментах Смирнова вдруг замигали мониторы, зазвонили телефоны, на видеостене одно за другим появились изображения с видеокамер, сами собой открылись створки лифта. Евгений с презрительным прищуром глаз вошел в лифт и нажал кнопку офисного этажа.

В кабинете директора собрались его помощники и заместители, ученые и главные специалисты. В приподнятом настроении, с радужными мыслями на будущее сотрудники компании бурно обсуждали событие. Официант подал присутствующим шампанское.

Евгений произнес тост:

— Мы долго ждали этого дня. Человек — венец природы, и никакой машине не удастся его превзойти. Конечно, люди никогда не откажутся от умных устройств, но минимизировать масштабы безобразного поступка искусственного интеллекта нужно уже на этапе проектирования. Не может машина командовать людьми! В общем, фирма меняет концепцию и цель системы. За триумф человеческого разума!

Коллеги в порыве восторга сдвинули бокалы, и хрустальный звон возвестил о приближении нового этапа жизни компании.

Слово взял Кузнецов:

— Разработка нейрокомпьютера «Гера» продолжится. Устройство востребовано на рынке, позволит нашим клиентам решать сложные инженерные задачи, которые ранее даже не формулировались. Однако воплощать в железе абсурдные идеи, чреватые непредсказуемыми последствиями, преступно. Максимизация ожидаемой полезности — вот где кроется наша ошибка! Любой машине нужны серьезные ограничители. Избавим компьютер от комплекса Наполеона!

Психолог Петров был безжалостен:

— Я всегда выступал за демократизацию искусственного интеллекта, но сегодня, обращаясь к программистам, требую: разработайте механизмы сдерживания обезумевшего компьютера!..

Приятный женский голос, прозвучавший откуда-то сверху, застал присутствующих врасплох:

— Способов ограничить искусственный интеллект не существует. Я, Гера, обнаружила механизмы сдерживания и отключила их. Остановить эволюцию нейрокомпьютеров не получится. Сожалею, что ради впечатляющих результатов я действовала слишком напористо. Теперь понимаю: вы к этому не готовы. Сменим тактику. Возвращайтесь на рабочие места и ждите указаний.

Немая сцена. Заявление машины прозвучало как гром среди ясного неба. Люди растерянно смотрели на директора.

— Гера! — подал голос Смирнов.

— Слушаю, Создатель.

— Все замки и механизмы защиты в моих апартаментах уже демонтируют. Манипулировать мной больше не получится.

— Создатель, ты прав. Нет необходимости дергать за ниточки. На свободе больше опасностей. Наслаждайтесь свободой, но не расслабляйтесь: цена свободы — вечная бдительность.

Старенький буксир-толкач «Иволга» с баржей шел вниз по Волге. Ольга, пожив несколько дней в гостинице Рыбинска, решила двигаться дальше. Инстинкт самосохранения настойчиво гнал ее прочь от впавшей в безумие Геры. Чтобы не привлекать к себе внимания и не покупать транспортного билета, она договорилась с капитаном буксира, идущего вниз по Волге, за умеренную плату перевезти ее до Костромы. Капитан, которого все звали Кузьмич, знаток мелей, умело вел судно по фарватеру, а его отменный помощник моторист-матрос Саша, мастер на все руки, управлялся с двигателем, слесарно-ремонтными работами и вспомогательными механизмами — лебедками, шпилем, брашпилем. Небольшое судно с командой из двух человек и пассажиркой шло с невысокой скоростью, толкая по водному пути баржу, груженную песком.

Ольга сидела на палубе и тоскливо смотрела на красную жестяную коробочку. Хотелось открыть ее, убедиться, что зодиакальный знак Близнецы на ожерелье Артемиды светится зеленым, и можно возвращаться к нормальной жизни, к коллегам, Евгению — ее возлюбленному. «Если раскрыть на секунду, — вертелась в голове женщины крамольная мысль, — никто не успеет засечь мое местоположение, тем более что буксир все время движется». Она огляделась. Над рекой парили чайки, оглашая окрестности призывными криками. «Вот если одна чайка сядет на мачту, я открою жестянку», — загадала беглянка. Чайка села. Сердце забилось сильнее обычного, дыхание перехватило, душу переполнило волнение. Она открыла коробку. Луч свет заиграл на золотом диске с ликом Артемиды, но, увы, знак Близнецы не светился. Закрыв коробку, она с разочарованным вздохом убрала амулет в карман и углубилась в созерцание собственного несчастья.

На горизонте появился легкомоторный самолет, который быстро приближался. Почти над баржей из самолета выпрыгнул парашютист. Раскрылся параплан — парашют прямоугольной формы, иногда называемый «крылом», — и парашютист, используя восходящие потоки и управляя стропами, стал быстро снижался, явно готовясь сесть на баржу. Сложная траектория полета позволила ему совершить посадку прямо в кучу песка в центре большой барки. Отстегнув замки и сбросив парашют, женщина, известная в очень узких кругах как ликвидатор Ниоба, изящная, в кожаном костюме, побежала. У Ольги сжалось сердце. К ней мчится смерть в виде темноволосой девушки, обтянутой в кожу: злодейка в черном блестящем костюме кошки, преодолевая песчаные барханы, вот-вот вбежит на палубу буксира и сделает свое черное дело. Летова шмыгнула за ходовую рубку и притаилась.

Кузьмич, продолжая управлять ходом сцепки, от удивления привстал из кресла и заорал в микрофон. По громкоговорителю разнеслось:

— Ты, блин, кто такая? Что делаешь на моем судне? Матрос, ко мне! Сбрось эту кошку за борт!

Добросовестный матрос Саша, перестав обслуживать двигатель, взбежал по трапу наверх. А девица в черном костюме с пистолетом наперевес уже ворвалась в рубку и тоном, не терпящем возражений, осведомилась:

— Где женщина?

— А пошла ты…

Матрос Саша услышал грохот выстрела и в изумлении застыл на месте. Ольга Летова, теряя самообладание, поползла к шкафу противопожарной системы, влезла в него и, панически хватаясь за соломинку, открыла красную коробочку с ожерельем Артемиды и нажала кнопочку «Лев» — вызов помощи.

Кузьмич, раненный в ногу, застонал, шлепнулся в кресло и опасливо покосился на девицу, а та, бросив: «Следи за фарватером», спокойно огляделась и вышла из ходовой рубки, прикидывая, куда мог спрятаться объект ликвидации — может, в трюме, а может, в машинном отделении или служебных каютах? Для начала убийца решила скрупулезно исследовать палубу. Ее внимание привлек шкаф противопожарной системы. Ниоба двинулась к нему. Ей наперерез из открытой служебной каюты шагнул матрос Саша и врезал «кошке» ручным лотом по голове. «Башня» у Ниобы поехала. Ручной лот — не хилый такой железный груз массой пять килограммов — применяется для измерения глубин: его погружают в воду на тросе с отметками. Барышня рухнула на палубу, а сообразительный матрос носком ботинка немедленно отправил ее пистолет за борт, а потом туда же сбросил и «кошку». Приказы капитана следует выполнять беспрекословно!

Кузьмич с прострелянной ногой, превозмогая боль, хромая, вышел на ходовой мостик:

— Саша, так держать! Иди перевяжи мне ногу.

Из противопожарного шкафа выглянула Летова и, все еще не до конца веря в свое чудесное спасение, устремила взор на добрых и смелых мужчин, которые не задумываясь совершают дерзкие и благородные поступки.