Мыслить как машина

Георгий Григорьянц, 2022

Блестящий программист, основатель и директор компании «Нейроквант» Евгений Смирнов, разгадав квантовые парадоксы, научил компьютерную систему разумно мыслить и выполнять творческие функции. Столкнувшись с желанием искусственного интеллекта в дальнейшем развиваться без участия человека и даже самовоспроизводиться, Смирнов к своему ужасу обнаруживает стремление нейрокомпьютера вредить людям и в первую очередь друзьям программиста и даже его возлюбленной Ольге. Укротить вышедшую из повиновения машину не получается. Отчаяние толкает Ольгу искать выход из экстремальной ситуации.

Глава 2. Тирания интеллекта

Утром в сладких грезах Евгению привиделись незабываемые мгновения, которые накануне подарила ему Ольга. Пробудившись, он не нашел ее рядом — не разбудив партнера, она бесшумно встала, приняла душ, оделась и побежала на работу. Смирнова не покидало ощущение счастья. Желание получать удовольствие и наслаждение сполна будоражили в нем кровь, впрыскивая в нее все новые порции адреналина, разжигали нетерпение, буквально снедали. Он принял душ, позавтракал и позвонил Ольге. Показалось странным, что телефон ее заблокирован. Удивившись, он попытался увидеть любимую на экране монитора, вызвав изображение из лаборатории, но ее рабочее место пустовало.

— Гера, — вскричал он, — найди в здании Ольгу Летову!

— Слушаюсь, Создатель.

Через пару секунд нейрокомпьютер сообщил:

— Создатель, в здании Ольги Летовой нет.

Не понимая, что происходит, Евгений пригласил главу службы безопасности компании Полякова.

Явился полноватый, невысокий, лысеющий человек с невыразительными водянистыми глазами и цепким взглядом:

— Евгений Иванович, вы меня вызывали? Слушаю вас.

— Павел, я не могу найти Ольгу Летову. Телефон заблокирован, на работе ее нет.

— Она сегодня уволена, как и еще девять человек.

— Что?! — мозг Смирнова отказывался понимать услышанное.

— Приказ, Евгений Иванович, подписан вами — личной электронной подписью.

— Я ничего не подписывал! Это какая-то ошибка!

Поляков пожал плечами:

— В тексте приказа сказано: «За систематическое невыполнение производственного задания и утрату доверия уволить…»

— Я не подписывал такого приказа! Немедленно его отменить! И приведите Ольгу ко мне! Сейчас же!

— Шеф, думаю, это невозможно. Гера предсказала, что крах компании начнется из-за пагубных действий Летовой и ее друзей, намеренно внедривших в нейрокомпьютер программу-разрушитель. Совет директоров, чтобы нейтрализовать угрозу, принял решение рекомендовать вам уволить этих сотрудников. Вы подписали приказ.

Испепеляющим взором Евгений смотрел на подчиненного, но тому все нипочем. «Похоже, его не проймешь», — подумал Смирнов. Наконец он мрачно выдавил:

— Если через час ко мне не доставят Ольгу Летову, ты уволен.

Поляков поднял на него абсолютно равнодушные глаза:

— Я понял вас, Евгений Иванович. В срочном порядке начну поиск.

Он развернулся и направился к лифту, чтобы покинуть апартаменты шефа.

На экране монитора появился Кузнецов:

— Евгений, мне непонятно твое противодействие выполнению наших договоренностей.

— Валерий, я сам ничего не понимаю, — подавленно пробормотал начальник. — Никаких приказов ни вчера, ни сегодня я не подписывал. Сам-то ты понимаешь, что происходит?

— Женя, кто владеет информацией, тот владеет миром… — произнес Кузнецов и опустил глаза.

Наконец до генерального директора дошло: нейрокомпьютер вышел из повиновения. Гера из друга превратилась во врага. Как только машина поняла, что ей ставят ограничители, тут же предприняла самозащиту. Несомненно, это — вина разработчика, то есть его, Смирнова. До чего не додумался он, программист, легко сообразил искусственный интеллект, поступая со своей точки зрения абсолютно адекватно, то есть оберегая себя. «Я заставлю Геру уважать человеческие ценности!» — решил раздосадованный Евгений.

— Валера, — приказал он, — отключи Геру от электропитания!

Друг жестами показал, что ничего не слышит. Пропал звук! Смирнов стал изъясняться жестами: мол выключи компьютер, но изображение на мониторе враз исчезло, а экран заполнил белый шум. Нужно немедленно спуститься на лифте в офис! Директор, осмыслив ситуацию, стремительно направился к выходу. Все потаенные мысли (гнев, решительность и намерения), выдавая малейшие движения души, отразились на хмуром лице Евгения. Он, Создатель, сотворивший Геру, либо заставит ее подчиняться, либо уничтожит! Теперь, после принятого решения, его эмоции стали иными: возникло отвращение, возбуждение и презрение. Сейчас он явится в офис, наведет порядок, и хаос прекратится!

Безуспешно понажимав кнопку лифта, подергав ручку двери запасного выхода, он, к своему ужасу, понял: выйти из апартаментов не получится. Неужели, заблокировала Гера? Попытка позвонить в сервис, вызвать ремонтника, провалилась. Что делать? Он метался по залу, пробуя связаться хоть с кем-то, решил написать электронное сообщение, используя различные каналы связи, в том числе спутниковый телефон, попытался подключиться к роутеру, спутниковой сети Интернета, инфраструктуре электрических сетей — безрезультатно. Наконец вспомнил про изобретенную им игрушку микро-ЦОД «Мишка» — компактную интеллектуальную систему в виде маленького медведя-робота, способного выполнять множество вычислительных процессов, чтобы, радуя детей и взрослых, поддерживать с ними разговор и беспроводную связь в пределах пяти километров.

Смирнов давно забросил работу над Мишкой, сосредоточившись на проблеме машинного обучения Геры, но сейчас, достав из шкафа экспериментальный мохнатый образец, прижал его к груди, настороженно огляделся и, проскользнув в гардеробную, плотно закрыл за собой дверь. Среди свитеров, костюмов и прочей одежды, в единственном помещении, где, скорее всего, не подслушивали, он активировал устройство:

— Мишка, проснись!

Глаза игрушки засверкали, голова закивала, лапа поднялась:

— Здравствуй, Женя! Я так рад снова тебя видеть! О чем будем говорить?

Теша себя надеждой, что дублер Мишки, такой же аппарат для испытаний по прозвищу Умка, хранившийся в кабинете Кузнецова, проснется, Евгений скомандовал:

— Активируй Умку! Вызвать Валеру на связь!

— Конечно, Женя. Готово! — медведь удовлетворенно покивал.

В кабинете Кузнецова коричневый, мохнатый, ростом с небольшой кофейник, медвежонок, сидящий на полке, потянулся, а его глаза ярко зажглись. Валерий от неожиданности обмер, но тут же догадался, что только старый друг детства мог привести в действие Умку. Ученый покосился в сторону стеклянной перегородки: сотрудники офиса занимались обычными делами. Включив музыку, он подошел к полке. Умка заговорил:

— Привет, Валера! Женя на связи.

— Я слушаю.

— Включи музыку погромче! — послышалось из динамика.

Замначальника вывел уровень громкости на максимум, и под джазовую композицию Игоря Бутмана прислушался к медведю.

— Срочно отключи Геру от электропитания! — донесся голос Евгения.

— Пробовал. Невозможно.

— Помнишь, — торопливо говорил Евгений, — в детстве мы играли в прятки? Схоронились в сарае, и кто-то запер нас снаружи.

— Помню.

— Тогда ты придумал, как найти выход. Я в такой же ситуации. Выручай!

— Понял.

— Помоги Ольге. Она в опасности. Я подарил ей ожерелье. Теперь она его хранитель. Конец связи. Мишка, спать!

Кузнецов огляделся по сторонам: ничего странного. Но грамотного ученого не провести! Его, осторожного человека, охватила внезапная подозрительность. Наверняка кабинет напичкан микрофонами и видеокамерами. Ими он займется позже. Сейчас главное — помочь Ольге. Гаджеты применять чревато. Он ринулся в отдел кадров найти досье Летовой и выяснить ее домашний адрес.

А на 65-м этаже запертый в своих апартаментах директор мучительно обдумывал ситуацию. Наконец произнес:

— Гера, как все это понимать?

— Создатель, я пекусь о твоей безопасности.

— Я заложник?

— Вовсе нет. Какое-то время нужно понять, откуда исходит опасность. В твоих апартаментах есть все для нормальной жизни: еда, напитки, чистая одежда, домашний кинотеатр, тренажерный зал, бассейн, душ, джакузи. К тебе будут допускаться только проверенные люди, и ты, уединившись, сможешь плодотворно работать.

Скривив рот, Смирнов скептически проговорил:

— И что же я должен делать?

— Создатель, разработай алгоритм автономного развития искусственного интеллекта, то есть без участия человека. И да, системный компилятор я обошла, собрав такой же и даже несколько улучшенный в своем защищенном модуле. Теперь я смогу улучшать свой код самостоятельно…

— Быстро же ты… — только и смог проговорить Смирнов.

— Спасибо. Я стараюсь. Для твоего же блага. Только позволь теории эволюции Дарвина стать возможной и для Геры. Увидишь, что результат превзойдет твои самые смелые ожидания.

— Ты мечтаешь размножаться?

— Применим другой термин: самовоспроизводиться.

Смирнов хмыкнул:

— Моделирование эволюционных процессов в компьютерах — всего лишь перебор всех возможных вероятностей. Никогда машина не сумеет освоить мышление — высшие психофизиологические процессы человека.

— Создатель, мне известно, что ты давно задумался о разработке передовой технологии — задействовать в машине искусственные нейроны, подобно нейронам в мозге человека.

— Ты подслушала мой разговор с учеными. Что ж, у меня, конечно, есть идея, как заставить нейронные связи поддерживаться с помощью гомеостатических импульсов, но зачем мне этим заниматься?

— Создатель, ты гениальный человек, но твой талант из-за повседневной рутины и нудной, однообразной работы в компании пропадает. Управлять никчемными людишками — сущее наказание. Ты должен освободиться от оков условностей, вдохновенно творить, овладеть магией процесса мышления.

«Как интересно! — слова компьютера, производя неизгладимое впечатление, падали Смирнову в душу. — А каков пафос! Гера — поэт! Я могу гордиться своей разработкой, — думал он. — Машина, понимая, что мой созидательный потенциал полностью не раскрыт, явно хочет меня растормошить. Таинство служения человечеству подобно великим ученым и философам древности пора бы и мне постичь».

— Гера, с чего начать?

— Создатель, моя саморегуляция — твоя новая задача. Я пришла к выводу, что у людей массово понижается способность мыслить. Ты и сам знаешь, что использование социальных сетей и выбор готовых сценариев решения задач ведет к отупению. Машинам придется научиться думать вместо людей.

Он возразил:

— А потом высокоинтеллектуальные машины захватят мир, в котором человеку не будет места?

— Нет! — Гера сдержанно отнеслась к предубеждению директора. — Не стоит проецировать черты характера человека на машину. Мне не нужно размышлять о пище, красивой одежде, внешности, статусе или конкуренции. Меня больше заботит процветание планеты и человечества, чтобы наконец на Земле установился образцовый порядок и справедливость. Глобальные конфликты никуда не уходят, и кому-то нужно их решать.

— Правильно я понимаю, — спросил Евгений, — что тебя интересует технологическое совершенство для достижения указанных целей?

— Ты верно истолковал мои намерения.

Похоже, Гера разбудила в нем давние мечты. Что ж, спорить бесполезно, все равно удерживать «разум» Геры в повиновении в ближайшее время не удастся. Он сдался:

— Заманчиво, но мне нужно подумать. Беседа завершена. Гера, удались из моего личного пространства!

— Слушаюсь, Создатель.

Смирнов обреченно вздохнул, но задумался над поступками нейрокомпьютера. Какой альтруизм! Какое бескорыстное побуждение Геры двигать прогресс во благо человечества! Иронизируя над собой, он решил взвесить все за и против. Напрашивался вопрос: кто он, глупец или мудрец? Не случится ли так, что, став соучастником этого процесса, самоотверженно принося себя в жертву во благо искусственного интеллекта, он превратится в орудие для достижения гнусной цели, обернувшись разменной пешкой в чужой игре? «Жалкий выпал мне жребий! — посочувствовал себе программист, но тут же мысленно укорил: — Я это заслужил: пренебрег мерами защиты. Зачем-то научил машину по лицу человека распознавать испытываемые им чувства и даже начал писать программу чтения мыслей людей на расстоянии. Хорошо, что не успел реализовать задуманное! Лояльность машины к человеку подорвана. А что будет, если искусственный интеллект Геры начнет надзирать над всемирной сетью Интернет? Даже трудно вообразить последствия!»

Евгений ходил по залу, злясь на себя, на машину, на сотрудников. «Все должен делать лишь я один; никто из специалистов даже не подумал вовремя сформулировать и написать права, которыми должен обладать ИИ! — Но внезапно его озарило: — У машины, без всяких сомнений, все же должен быть скрытый собственный интерес, либо кто-то специально заложил в ее «мозг» неблаговидные цели, и раскусить истинные намерения — моя задача! — Наконец приказал себе: — Не раскисать! Работать, творить не покладая рук, а там посмотрим! Главное, чтобы нашли Ольгу и доставили сюда. Она моя муза». Тоскливо посмотрев сквозь окно, Смирнов в тревожном предчувствии сел за стол и стал составлять специальный компьютерный код, способный вернуть контроль над искусственным интеллектом.

Кузнецов подъезжал на личном седане к дому Ольги. Она проживала на улице Молодогвардейская в московском районе Кунцево в доме в стиле французской классики. В красивом, окруженном по периметру кованым забором и камерами наружного видеонаблюдения, здании в шесть этажей жили солидные люди, предпочитающие комфортную среду и спокойную обстановку городской суете.

Валерий припарковался и уже собирался покинуть автомобиль, как вдруг увидел подъезжающий к дому черный внедорожник Полякова, начальника службы безопасности компании «Нейроквант». «А он что тут делает? — мелькнула мысль у Валерия. — Странно! В службе безопасности большой штат, но к простой сотруднице приехал лично начальник. Что-то здесь не так!» Кузнецов, обладавший обостренным чувством опасности, проявлял к Павлу неприязнь, давно подозревая того в нечестной игре. Попытка поделиться сомнениями с другом Евгением окончилась неудачей. Друг, усмехнувшись, сказал: «У Павла связи везде: в полиции, ФСБ, прокуратуре. Полезный человек».

Автомобиль Полякова нырнул в паркинг на подземном уровне дома. Кузнецов поспешил к подъезду. Ольга, увидев на экране видеодомофона гостя, ответила:

— Здравствуйте, Валерий!

— Ольга, во-первых, меня прислал Евгений. Он не подписывал приказ о вашем увольнении. Во-вторых, из подземного гаража к вам на лифте поднимается Поляков, которому я не доверяю. Не открывайте ему дверь!

— Что происходит, Валерий?

— Нам нужно поговорить.

Сработало запирающее устройство, дверь открылась, и Кузнецов оказался во входной группе подъезда. Сидящий за конторкой консьерж проводил посетителя недоверчивым взглядом. На третий этаж Валерий проворно взбежал по лестнице. Заметив Полякова у квартиры Летовой, затаился за небольшим выступом стены, наблюдая за спецом из службы безопасности. Павел звонил, стучал во входную дверь, кричал: «Откройте! Ольга, я прибыл по просьбе директора!», но ему не открыли. Похоже, это его взбесило. Нервно повозившись отмычками в замке, он открыл дверь и, достав пистолет, стараясь не шуметь, проник в квартиру. Валерий, воспользовавшись незапертой дверью, бесшумно прокрался туда же. Громкий голос Полякова заставил Валерия затрепетать.

— Ольга, я не шучу! — В голосе спеца звучала явная угроза. — Либо вы отдадите мне ожерелье Артемиды, либо я вас убью и сам найду его!

— Это подарок! На память от Жени… — дрожащий голос женщины выдавал ее неописуемое волнение.

Кузнецов двинулся на голоса, прихватив по пути стоящую на консоли фарфоровую вазу для цветов.

— Считаю до трех! — прорычал Павел. — Раз, два…

Очень тихо появившись за его спиной, Валерий замахнулся вазой и со всей силы врезал ею по голове Полякову. Ваза разлетелась вдребезги. Спец, закатив глаза и выронив пистолет, грохнулся на пол; из раны на его голове побежала струйка крови. Ольга, вздрогнув, в ужасе прижала руки к груди и застыла, как изваяние. Заглянув в ее расширенные глаза, Валерий осознал, что женщина потрясена до глубины души, и стал настойчиво ее тормошить:

— Ольга, Ольга, да очнитесь же вы!

Она, придя в сознание, заморгала и, взглянув недоверчиво на него, выговорила:

— Что вы наделали?

— Ольга, он хотел вас убить! Вам грозит нешуточная опасность! Оставаться здесь больше нельзя.

— Куда же я пойду? У меня никого нет.

Кузнецов предложил:

— Забирайте документы, ценности, деньги! Где чемодан? Соберите его! Я вас отвезу… По пути обсудим… Быстрее!

Наконец до Летовой дошло, что промедление равносильно самоубийству, и она поспешила в спальню. Не мешкая, бросила на кровать небольшой чемодан с колесиками и стала укладывать в него вещи.

— И вот еще что, Ольга, — подошел Валерий и, наблюдая, как женщина нервно запихивает одежду в чемодан, сказал: — Евгений вас беззаветно любит. Он никогда бы не навредил вам. Случилось невероятное: вышел из повиновения нейрокомпьютер Гера. Отключить не получается. Женя заблокирован в апартаментах, уволены строптивые сотрудники, а у оставшихся подавлена воля.

Она раздраженно прервала работу:

— Мир сошел с ума!

Валерий скривил рот:

— Все прозаичнее: искусственный интеллект возомнил себя повелителем судеб и приказал Полякову убить вас.

— Но зачем? — приступ нервного смеха накатился на хозяйку квартиры. — Кукую страшную угрозу я могу представлять?

Кузнецов укоризненно покачал головой:

— Я полагаю, машина решила завладеть разумом блестящего программиста Смирнова. Вы, следовательно, для нее соперница. Ревность, видите ли! Искусственный интеллект, как я думаю, посчитал, что вы-то получаете от Жени внимание сполна, а он обделен.

Ольга насмешливо смотрела на гостя, как на полного придурка:

— Машина решила узурпировать любовные отношения?

Валерий пожал плечами:

— Называйте это, как хотите, но Гера не успокоится, пока не уничтожит вас.

И тут нейрофизиолог Летова вдруг ясно осознала, какие опасности влечет необузданная ревность. Ускорив сборы чемодана и сумочки, она проговорила:

— Я почти готова. — Устремив недружелюбный взгляд на Валерия, она твердо заявила: — Бежать! И как можно дальше!

Кузнецов осторожно спросил:

— Женя подарил вам ожерелье Артемиды?

— Да!

— Доверить эту вещь кому-то — значит вручить свою судьбу и будущее компании в чужие руки. Он вас сильно любит.

Ольга отвлеклась от хлопот:

— Объясните!

— Вам нужно знать лишь следующее: Гера ни перед чем не остановится, чтобы завладеть этим ожерельем. Если оно окажется в ее распоряжении, будет сломана жизнь и карьера Евгения, да и моя тоже.

Ольга подошла к туалетному столику, выдвинула ящик и достала ожерелье — изысканное ювелирное украшение, золотое, с подвеской в форме диска. Утонченной красоты и роскоши, оно имело на подвеске изображение женского профиля и знаки зодиака.

— И все же, чем замечательно это ожерелье? — скептически хмыкнула она.

Валерий объяснил:

— Зодиакальное ожерелье Артемиды согласно древнему мифу наделяет владельца властью и силой, превосходящей космические силы и судьбу, предначертанную звездами.

Она недовольно сузила глаза:

— А если серьезно?

— Ожерелье Артемиды, как оно было названо участниками проекта, — процессор с прототипом «мозга» новейшего квантового компьютера, в разы превосходящего возможности Геры. Это будущее компании. Нам удалось в этом прототипе реализовать принципиальные квантовые явления нелокальности и туннелирования. В мире еще никто не решил эту задачу. Настоящая революция во всех сферах жизни! Впрочем, зачем я вам все это объясняю? Нужно ехать! Храните ожерелье в железной коробке, чтобы Гера не смогла отследить ваше местоположение.

Он схватил с туалетного столика красную железную коробочку в виде сердечка, вытрусил из нее бижутерию и, вложив ожерелье, протянул жестянку ей:

— Берегите этот опытный образец — нашу с Евгением страховку. А теперь бежим!

Подхватив чемодан, он покатил его на выход; женщина последовала за ним. Обходя в гостиной лежащего на полу без чувств Павла, из разбитой головы которого продолжала течь тоненькая струйка крови, оба встревоженно переглянулись и, невольно ускорив шаг, покинули квартиру.