12 кругов

Twinman, 2015

Управляемый сверхразумом игровой центр корпорации «Спираль» предлагает игрокам погрузиться в мир виртуальной реальности, в котором нет ничего невозможного, а игры пугающе реалистичны. Однако игры – это только фон главной сюжетной линии. Линия повествования прогнозирует пути развития мышления искусственного интеллекта на уровне, отличном от шаблонного «захватить весь мир и убить всех людей». Поднимает множество вопросов – от научных до эзотерических и философских. Затрагивает суть человека как вида, расшифровку генома и коннектома, вопрос существования души, рассматривает отличия компьютерного разума от человеческого, касается таких понятий как «смысл жизни», «добро и зло», «счастье», «свобода выбора», «путь развития» и т. д.

Глава 1

Мы можем рассматривать настоящее состояние Вселенной как следствие его прошлого и причину его будущего. Разум, которому в каждый определенный момент времени были бы известны все силы, приводящие природу в движение и положение всех тел, из которых она состоит, будь он также достаточно обширен, чтобы подвергнуть эти данные анализу, смог бы объять единым законом движение величайших тел Вселенной и мельчайшего атома; для такого разума ничего не было бы неясного и будущее существовало бы в его глазах точно так же, как прошлое.

Пьер-Симон де Лаплас

Природу невозможно описать полностью, ведь такое описание природы должно было бы в точности воспроизводить природу.

Арчи Бам

Из архива заметок руководителя Проекта. За 10 + N лет до начала событий.

Я по-прежнему убежден, что одной из важнейших способностей искусственного интеллекта, над которым мы работаем, является самостоятельное осознанное интенсивное развитие. Как показывает посторонний опыт, экстенсивное развитие, свойственное многим компьютерным системам, способно увеличить их производительность, но неспособно вывести за рамки изначально заложенных алгоритмов. Если таким системам и свойственна качественная эволюция, то только путем внесения доработок извне. Таким образом, путь планомерного развития через поглощение новой информации и обработки имеющейся является тупиковым — во всяком случае, для наших задач, поскольку случайное «техническое» саморазвитие ядра методом перебора всех устойчивых алгоритмов и отбраковкой бесполезных поглотит все имеющиеся у системы ресурсы на сотни или даже тысячи лет. И я не возьмусь утверждать, что рано или поздно такой компьютер не скажет нам «сорок два»^[2].

С некоторых пор мы уделяем особенное внимание организации процесса иерархического определения сущностей, находящихся на разных смысловых уровнях внутри нейронной сети. Некоторые исследования гласят, что схожим образом — определяя понятия высокого уровня через единичные или группы понятий более низкого — работает человеческий мозг. Хотя мы не являлись пионерами «глубокого обучения» и «глубоких архитектур», мы смогли получить результаты, отличающиеся от ранее имевшихся. Попытка понять, как устроено мышление, при помощи самого мышления заняла многих из нас. Это называют «метапознанием».

Должен признать, когда я анализирую собственное мышление, мне приходят в голову довольно интересные мысли, отличающиеся от выводов сухой логики, которую мы пытались использовать при проектировании алгоритмов взаимодействия наших искусственных нейронных сетей.

Недавно мы также обсуждали актуальность теста Тьюринга и пришли к выводу, что его результатов для нас недостаточно. Способность к имитации общения человека никак не коррелируется со способностью искусственного интеллекта к самостоятельному размышлению и развитию. Для идеального же прохождения такого теста (хотя это все еще представляется проблемой для многих сторонних разработок) достаточно запихнуть в банк данных компьютера всю семантику требуемого языка, а также максимальное количество диалогов (Сеть в данном ракурсе представляется отличным источником) на всевозможные темы. Провязав правила построения речи со смыслами слов, фраз и их вероятными контекстами, мы получим систему, способную общаться. Подчеркиваю — общаться, но не выражать собственные мысли.

Похоже, что во главу угла нам придется поставить решение задачи, которую я могу описать как «самоосознающая сущность». Другими словами, искусственный интеллект должен обладать собственным «Я». В противном случае проблема его самостоятельного интенсивного развития представляется мне неразрешимой.

Примечания

2

отсылка к книге Дугласа Адамса «Автостопом по Галактике».