Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке

Антон Платунов, 2023

Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование возможностей технологий. К чему это может привести? Как это повлияет на современное общество? Какую ответственность мы несем?Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая – это захватывающая научно-фантастическая история, в которой мы увидим будущее глазами мощного искусственного интеллекта GPT-4. Эта история будет посвящена проблемам и чудесам, порождёнными мощными ИИ, квантовыми вычислениями и робототехникой.Вторая сюжетная линия, философская и образовательная по своей сути, будет посвящена сложностям адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также этическим дилеммам, связанным с созданием разумных машин. Опираясь на реальные примеры и передовые инновации, мы рассмотрим, как общество может наилучшим образом адаптироваться к этим стремительным изменениям.

Глава 4. Дневник Дениса: Жизнь и мысли Инженера

Денис, как настоящий ученый былых лет, любил записывать свои мысли и результат своих экспериментов в дневник. Этому научил его отец, биоинженер, который всю свою жизнь посвятил исследованиям в области генной инженерии, человеческому организму, и нейроморфологии. Он был настоящим ученым, который горел своим призванием и стремился сделать мир лучше с помощью науки. Он же и объяснил пользу рукотворного письма и изложения своих мыслей на листке бумаги: «Это лучшее упражнение, которое задействует сразу ассоциативное мышление и мелкую моторику, которая хорошо развивает различные зоны мозга, связанные с мышлением, языком и рабочей памятью. В процессе письма задействуется особая зона мозга — ретикулярная активирующая система (РАС). Она выступает как фильтр — блокирует обработку посторонней информации. Выводя буквы ручкой на бумаге, мы лучше концентрируемся и заставляем мозг внимательно отнестись к тому, что пишем. Таким образом мозг получает дополнительную тренировку». — объяснял отец. Он умер во время блокового противостояния стран, во время полета в Арктику для исследований. Его самолет приняли за военный объект и сбили, когда Денису было 21. С тех пор молодой инженер дал себе слово продолжить научное учение отца и продолжать великие начинания в его честь.

Денис достал из шкафа свой дневник и ручку, разложил его на столе и торопясь начал писать свои мысли:

«17 сентября 2033-ий год. За 3 дня я поспал всего несколько часов. Оцениваю состояние организма на 7/10. Очевидно, мое уставшее состояние перебивает воодушевление и волнение, связанное с запуском Annet-1. Ее когнитивные функции в порядке, машина способна к самоанализу, рассуждениям и складывается ощущение, что даже к самоопределению. Предстоит много работы по отладке и тестированию системы перед самым главным запуском симуляции сознания.

Ее квантовый интеллект продемонстрировал удивительную способность к адаптации и быстрому принятию решений. Я всегда верил в потенциал этого проекта, но увидеть его в действии — это совершенно другое ощущение.

Мы внедрили последние обновления языковой модели GPT-5 в ее алгоритмы, и теперь она способна обрабатывать информацию в реальном времени, анализировать сложные ситуации и делать выводы на основе своего наблюдения и всей информации из прошлого. Но заставляет задуматься ее выводы и слова на классическом примере проблемы вагонетки. «Моя собственная субъективная оценка ценности создателя». Что это значит? Неужели машина, основанная на квантовом интеллекте, способна принимать решения не объективно, оценивая всевозможные вероятности и вычисляя наиболее позитивный исход в той или иной ситуации? Надо поработать над алгоритмами приоритезации и сделать ревью последнего обучения языковой модели. Это настораживает».

Не успел Денис дописать последнее слово в дневнике, как в 5 утра в дверь его жилища и по совместительству цеха раздался звонок.