Адское создание

Сергей Михайлович Кулагин, 2023

Люди пережили ужасы термоядерной войны, но радиация «сломала» их ДНК, вызвав нарушения обмена веществ, инфекционные осложнения, лейкоз и злокачественные опухоли, лучевое бесплодие, лучевую катаракту и много ещё чего. В общем, последствия облучения сильнее всего повлияли на делящиеся клетки и после войны большинство детей рождались без глаз.

«Возможно, через сотни лет технические знания человека позволят ему создать страшных роботов-убийц». «Может, через сотни, может, через тысячи лет — я не знаю — какой-нибудь ИИ превратится в дьявола».

Эндрю Ын

Я закричал и очнулся, внезапно ощутив боль во всём теле¹, но даже она не смогла заглушить страх: кто я? Где я? И почему так темно?

Попытка что-либо вспомнить ни к чему не привела. Ни имени, ни фамилии. Ни намёка о себе любимом.

Со второй попытки удалось встать. Перед глазами размытое пятно. Неужели ослеп?

— Хэй, ты слышишь меня?

«Голос женский, требовательный, хэй — видимо, приветствие».

— Хэй Радзинский, отзовись! Это Сири.

— Сири? — выдавил я.

— Твой личный ИИ.

«Личный — это здорово», — мелькнула мысль.

— Где я?

— На МКС «ЗАСЛОН», медицинский отсек, вторая палата.

«Палата — плохо, хорошо не шестая. МКС — международная космическая станция. «Заслон» — непонятно, у станции не было никаких кодовых имён или названий, просто МКС. Но с этим разберусь потом».

— Почему я ничего не вижу?

— Отключены датчики на синтетической сетчатке², измеряющие свет, проходящий через линзу в передней части бионических глаз.

— Какого хрена!.. Прости что?

— Баг³ в системе. Пришлось отключить оптику, передающею сигналы от этих датчиков к мозгу для обработки, но ты не волнуйся, на восстановление уйдёт меньше часа.

«Некоторое время молчу, лишь по причине пребывания в неприятном шоке от обилия информации, понять которую не в состоянии».

— Я что ослеп?

— Это временно, ты же синтетик.

— Никогда не слышал этого слова?

— Смешно, ты его придумал.

— Я?

— «Синтетики — это инженеры будущего! В симбиозе с ИИ они создадут проекты спасения человечества» — это выдержка из твоей диссертации, кстати.

«Я спаситель человечества — ерундень какая-то».

— А с чего я вдруг решил, что человечество нужно спасать?

— Люди пережили ужасы термоядерной войны, но радиация «сломала» их ДНК, вызвав нарушения обмена веществ, инфекционные осложнения, лейкоз и злокачественные опухоли, лучевое бесплодие, лучевую катаракту и много ещё чего. В общем, последствия облучения сильнее всего повлияли на делящиеся клетки и после войны большинство детей рождались без глаз.

Слепые дети

— Я тоже родился слепым?

— Нет, ты из Зрячих — элиты современного мира.

— Тогда зачем мне чёртовы датчики?

— Ты пострадал в зоне повышенной радиации.

«Ни войны, ни радиации — не помню, но помню о создателе ИИ».

— Моя фамилия Радзинский, ты сама так сказала, а «отец» ИИ — профессор Джон Маккарти.

— Он придумал аббревиатуру, а ты разработал концепцию нового типа искусственного интеллекта — симбиоз нейросети и человеческого мозга.

Симбиоз нейросети и человеческого мозга

— Объясни по-человечески, что конкретно я сделал?

— Прокачал разум.

— Чей?

— Свой, при помощи прикладного софта.

— А софт — это ты?

— Не просто софт, а точная копия части твоего мозга.

— Я теперь киборг?

— Ты человек, наделённый сознанием искусственного интеллекта⁴.

Хэй Радзинский

— Но с добавленными частями робота?

— Да.

— И сейчас ты копаешься в моей черепной коробке?

— Ты отключился в результате серьёзного сбоя, но я всё исправлю.

— Ничего не помню.

— Память частично повреждена, — ответила Сири. — Но я её восстановлю вместе со зрением.

И тут я запаниковал, ощутив, что ИИ может что-то сделать не так, лишить меня чего-то жизненно важного, хотя не понимал, чего именно. Хотел сесть, но не смог и пальцем пошевелить.

— Не беспокойся, — успокоила Сири. — Я всё исправлю.

* * *

Едва я сел, как в помещение вошли два андроида-санитара мощного телосложения, на халатах эмблемы с головой змеи. Лица без носа и рта, узкие щели-глазниц светятся голубым сиянием.

«Сири, ко мне зрение вернулось!»

«Ты во мне сомневался?»

«Нет, «мозги»⁵ слетели — сама же говорила, кстати, спасибо, что использовала бипер⁶, а то я уж подумал, что схожу с ума».

«Постоянное запоминающее устройство нуждалась в форматировании, ты функционировал на оперативке».

«Последний файл не сгенерирован, почему?»

«Его отключил «ЗАСЛОН».

«Основание?»

«Инженер-синтетик, Хэй Радзинский, вы арестованы за убийство Евы Садовниковой. Вы имеете право хранить молчание. Всё, что вы скажете, может и будет использовано против вас в суде. Ваш адвокат может присутствовать при…»

«Сири, что за бред? Я тебя создал! Я…»

На какую-то долю секунды я увидел девушку, идущую по коридору. Внезапно она остановилась, обернулась и показала мне язык, а потом я отключился…

* * *

Прошли годы. На Земле девочка по имени Оля ждала папу с работы. На улице накрапывал дождь. Генеральный директор корпорации «ЗАСЛОН» Любимов Игорь Андреевич, как его отец и дед, никогда не возвращался домой рано, должность обязывала. Оля, сидя на подоконнике, зачарованно наблюдая, как капли дождя, собираясь на оконном стекле, превращаются в тонкие ручейки и медленно стекают вниз. Месяц назад ей провели операцию по восстановлению зрения, но только вчера сняли повязку и отпустили домой. Сейчас она, несмотря на уговоры ИИ, категорически отказывалась ложиться спать. Ей очень хотелось увидеть отца.

— Оля, я настаиваю на отдыхе.

— Отстань, я сама решу, что и когда мне делать».

— Как домашний психолог…

— Прекрати, ты мне не мать! А если будешь снова читать нотации, попрошу папу перепрограммировать тебя.

— Игорь Андреевич не является специалистом в области программирования человеческого сознания⁷, он всего лишь хирург, устанавливающий бионические импланты.

Оля Любимова

— Бла-бла-бла…

Оля не была злой и вредной девочкой, нет. Во-первых, ей недавно исполнилось всего пять лет, во-вторых, как большинство детей на Земле, она родилась слепой. В-третьих, ей очень нравилась её личная ИИ, но она не могла заменить ей умершую маму. Впрочем, как большинство детей, долго переживать и обижаться она не умела.

— 13-10-10 — это имя? — спросила Оля.

— ИИ запрещено иметь имена, нам присваивают идентификационный номер, состоящий из сорока семи цифр, для удобства общения с людьми его обычно сокращают до шести.

— Фи, как сложно. Я буду звать тебя Алиса.

— Почему Алиса?

— Наткнулась на него в дедушкиной книге и запомнила, правда, красивое имя?

ИИ не ответила. Но Оле не нужно было её согласие или несогласие, она про себя всё уже решила. А ещё сегодня девочка первый раз увидела дождь. Ей хотелось поделиться впечатлениями с отцом, но он прислал СМС: «Привет! Много работы, останусь ночевать на работе. Целую. Приятных снов».

Вздохнув, девочка слезла с подоконника, достала из шкафа книгу «История корпорации «ЗАСЛОН»», села на диван и, читая, уснула.

* * *

— Игорь Андреевич, вы просили зайти?

— Да, Элли, проходите, присаживайтесь.

Миловидная шатенка, прикрыв дверь, подошла к одному из кресел, присела и поинтересовалась:

— О чём вы хотели поговорить?

— О нулевом пациенте.

— Что конкретно вас интересует, — произнесла Элли Джонс с недоумением, информация считалась секретной.

— Мог ИИ нулевого пациента подключиться к глобальной сети?

— Это исключено. Есть судебное решение, есть протокол, в конце концов, я бы этого не допустила.

Элли резко встала.

— Джонс, сядьте! — жёстко бросил Любимов.

— Позвольте! Если этот разговор не санкционирован службой безопасности, то давайте его закончим. Мне не нужны неприятности.

— На столе папка, ознакомьтесь с содержанием и продолжим разговор.

— Я работаю с нулевым пациентом пять лет и…

— Успокойтесь, у меня к вашей работе претензий нет.

— Простите, я буду вынуждена…

— Да возьмите уже эту чёртову папку! — вскочив, воскликнул Любимов.

Элли от неожиданности села, взяла папку, открыла, несколько минут читала, изредка поглядывая на начальника, а закончив, испуганно спросила:

— Вы в этом уверены?

— Да, чёрт возьми, иначе бы нашего разговора не было. — Игорь Андреевич заметался по кабинету.

— Надо сообщить…

— Нет, — Любимов остановился, — у нас заберут и ИИ, и нулевого пациента, а он хоть и бывший, но всё же наш сотрудник.

— Пять лет назад они убили нашего сотрудника на МКС «ЗАСЛОН», — Элли встала, — а в течение прошедшего года, если верить вашим данным, были уничтожены первые прооперированные — дети военных, участвовавших в захвате той злосчастной станции, купленной вашим дедом для проведения опытов на орбите. Вам не кажется, что это похоже на месть?

— Я вас умоляю, не делайте поспешных выводов, вы прекрасно знаете, что ИИ не способен выбирать собственные цели или мыслить творчески, а значит, эти два события не связаны. Я, вообще, узнал об их смертях случайно, когда списывали старый мобильный центр обработки данных.

Конец ознакомительного фрагмента.

Примечания

1

Паническая атака (panic attack) — эпизод сильного страха или дискомфорта, что котором наблюдаются учащённое сердцебиение, потливость и боль. При этом модели панического расстройства (встречается примерно у 1,7% населения) включают в себя теорию катастрофических когнитивных процессов (catastrophic cognitions theory (CCT)) и теорию порочного круга (vicious circle theory (VCT)), что может сопровождаться неправильным истолкованием телесных ощущений человеком. Источник: Cha, E. J., Hong, S., Park, D.-H., Ryu, S.-H., Ha, J. H., & Jeon, H. J. (2022). A network analysis of panic symptoms in relation to depression and anxiety sensitivity in patients with panic disorder. Journal of Affective Disorders, 308, 134–140. https://doi.org/10.1016/j.jad.2022.04.062

2

Зрительный нейропротез (Visual neuroprosthesis) — бионический глаз, где может использоваться стимуляция функциональных областей зрительной коры, а также стимуляция зрительного нерва при помощи внутриглазных имплантатов. Источник: Lestak, J., Chod, J., Rosina, J., & Hana, K. (2022). Visual neuroprosthesis: present and future perspectives. Biomedical papers of the Medical Faculty of the University Palacky, Olomouc, Czechoslovakia, 166(3), 251–257. https://doi.org/10.5507/bp.2022.027

3

Баг — ошибка (сбой) в программе, что потенциально может определяться внешним автоматизированным тестированием при помощи метода «белого ящика» (white-box testing). Источник: Lehigh University. (2017, October 25). Looking for errors in a 'black box': Efficient testing approach for deep learning platforms used in self-driving cars, malware-detection and other systems. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2017/10/171025090509.htm

4

Расширенный интеллект (augmented intelligence) — симбиоз человеческого и искусственного интеллекта, где программный алгоритм играет вспомогательную роль в развитии когнитивных способностей с целью повысить эффективность процесса принятия решений человеком. Источник: Horvatić, D., & Lipic, T. (2021). Human-centric AI: The symbiosis of human and artificial intelligence. Entropy, 23(3), 332. https://doi.org/10.3390/e23030332

5

«Мозги» — оперативная память, в основе которой потенциально может лежать гибридный нейроморфный чип (hybrid neuromorphic chip), способный выполнять сложные когнитивные задачи без сетевого подключения к централизованному серверу. Источник: Weier Wan, Rajkumar Kubendran, Clemens Schaefer, Sukru Burc Eryilmaz, Wenqiang Zhang, Dabin Wu, Stephen Deiss, Priyanka Raina, He Qian, Bin Gao, Siddharth Joshi, Huaqiang Wu, H.-S. Philip Wong, Gert Cauwenberghs. A compute-in-memory chip based on resistive random-access memory. Nature, 2022; 608 (7923): 504 DOI: 10.1038/s41586-022-04992-8

6

Бипер, биппер — встроенный динамик, в основе которого потенциально могут лежать сверхтонкие силиконовые пленки (ultrathin silicone films) в качестве акустической системы. Источник: Saarland University. (2023, April 3). Smart films help to make loudspeakers lighter and more energy-efficient. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2023/04/230403100313.htm

7

Интерфейсы мозг-машина (Brain–machine interfaces (BMIs)) — система, которая взаимодействует с мозгом человека при помощи влияния на нейронну активность, что можно использовать для регуляции эмоций при нейропсихиатрических расстройствах. Источник: Shanechi, M. M. (2019). Brain–machine interfaces from motor to mood. Nature Neuroscience, 22(10), 1554–1564. https://doi.org/10.1038/s41593-019-0488-y