Искусственный интеллект и архитектура сознания. Переход от Narrow AI к General AI

Сергей Анатольевич Фролов, 2022

Создание ИИ, аналогичного человеческому – это «зона ближайшего развития» современной науки и индустрии информационных и компьютерных технологий. Современные виды ИИ, будучи способными решать отдельные и узкие, пусть даже очень сложные задачи, на выполнение которых у человека ушло бы не одно тысячелетие, имеют мало общего с интеллектом или сознанием человека.Для перехода от Narrow AI к General AI («ИИ, уровня человека») необходимо воспроизвести такую архитектуру сознания человека, которую можно заложить в основу ИИ и перенести на искусственные носители. Но этот вопрос до сих пор остается нерешенным.Эволюционно-адаптационная модель, представленная в данной работе, позволяет рассмотреть архитектуру сознания в виде 5 базовых когнитивно-поведенческих "контроллеров", управляющих структурированием окружающего информационного пространства, распознанием наиболее актуальных задач, а также выбором и реализацией наиболее адекватного поведенческого решения в каждый момент времени.

Глава 3. Возможные пути преодоления барьеров к созданию AGI

Больше изолированных задач

«Никто в области ИИ не работает над тем, чтобы сделать машины сознательными, и никто не знает, с чего начать, и какое поведение требует наличия сознания» (Russell, 2019). На данный момент предлагается несколько генеральных подходов к созданию ИИ, уровня человека (General/ Strong AI). Одно из них — мультизадачный — предполагает увеличение числа задач, которые способен решать ИИ единовременно, а также увеличение скорости и производительности процессоров. Как предполагается, общая сумма множества отдельных специализированных задач, решаемых быстрым и мощным ИИ, в итоге, сможет имитировать ИИ, уровня человека.

Нейронный и биогенетический подход

Второй подход созданию к ИИ, уровня человека, условно — «нейрогенетический» — основан на реконструкции мозга человека и нейрогенетических механизмов. Согласно представлениям адептов данного подхода, если получится более детально изучить строение мозга, то возможно обнаружить в нем «сознание» (Nick Bostrom) и «паттерны распознания» (Ray Kurzweil). Реконструировав и перенеся их на искусственные носители, итоге, как предполагается, сможем получить желаемый ИИ, уровня человека.

Небиологические принципы работы сознания

Помимо двух указанных подходов, возможно также третий, который рассматривает архитектуру сознания как систему структурирования информационного поля для распознания значимых элементов и их значений для формирования соответствующего поведенческого решения с целью обеспечения средового благополучия — выживания и репродукции.

Всем живым организмам, от бактерий и простейших до приматов и человека, постоянно требуется распознавать значение происходящего в окружающей среде для того, чтобы иметь возможность своевременно и адекватно отреагировать.

Организмы в каждый момент времени способны отделить «значимое» от «остального» таким образом, чтобы поведенческое решение позволяло обеспечивать средовое благополучие (поддерживать, восстанавливать, соответствовать требованиям).

Каким же образом организмам удается структурировать информационное поле и конструировать свою картину мира так, чтобы выделять значимое и получать необходимые значения для принятия поведенческого решения в каждый момент времени? Для ответа на этот вопрос необходимо определить базовые структуры сознания, реконструировать небиологические принципы и когнитивно-коммуникативный функционал сознания. Объединение и синтез данных структур, принципов и функционала в единую систему, позволит получить модель архитектуры сознания и, в дальнейшем, перенести его на искусственные носители для создания ИИ, уровня человека.

Три подхода — какой верный?

Какой из этих трех подходов верный — покажет время; каждый имеет в своей основе здравые идеи, так же, как и фундаментальные ограничения и барьеры, преодолеть которые пока не удается.

Первый подход, основанный на увеличении числа задач, скорости и производительности, ограничен тем, что простое объединение элементов в сложных явлениях и процессах далеко не всегда приводит к образованию качественно нового феномена. В первую очередь это касается живой природы. Например, соединение химических элементов или даже готовых клеток не приводит к созданию единого живого организма в лабораторных условиях.

Также сомнительно, что сознание человека может быть составлено из множества способностей решать каждую специфическую задачу по отдельности. Надежды, что «количество перейдет в качество» настолько же беспочвенны, как попытка создать ИИ из смартфона, установив на него как можно больше разных программ. Смартфон не становится «умнее» и тем более «разумным» от увеличения числа установленных на нем приложений; это все тот же смартфон, лишенный сознания и интеллекта. Даже если удастся в какой-то момент установить программы на все случаи жизни, одна задача останется нерешенной — смартфон не сможет самостоятельно выбрать — какая из текущих задач является приоритетной. «Независимо от того, насколько функциональным становится ИИ, он по-прежнему является аналогом швейцарского армейского ножа по обработке информации — множество полезных инструментов, умело объединенных в одном, удобном для переноски устройстве» (Kaplan, 2016).

Тем не менее, такой подход до сих пор имеет своих сторонников со времен создания первых прототипов ИИ в 50-х, одержимых идеей создания «супер-мозга», который будет «быстрее, чем Эйнштейн» (Russell, 2019). Но если задачей было обогнать Эйнштейна по скорости мышления, то с ней справились уже давно и можно праздновать победу. Калькулятор решает арифметические задачи намного быстрее чем любой человек на Земле, компьютер обыгрывает любого чемпиона в шахматы, Го, покер. Эйнштейн проиграл бы в скорости и объеме «умственной» работы любому современному компьютеру. Как сообщается, у Эйнштейна была дислексия, и он испытывал трудности с чтением и письмом, он совершал грамматические ошибки, которые не допустил бы обычный Word в современном компьютере домохозяйки. Очевидно, современный компьютер выглядел бы на фоне Эйнштейна существенно выгоднее во многих аспектах. Но также очевидно другое — ни один компьютер не способен разработать теорию относительности, и вообще какую-либо значимую теорию в принципе.

Производительность и скорость компьютера сами по себе не могут быть основой для создания ИИ, уровня человека. Убогий алгоритм на мощном компьютере не становится лучше; «он просто совершает больше ошибок…» (Russell, 2019). Эйнштейн известен не тем, что быстро думал или решал много поставленных перед ним задач, а тем, что смог определить — в чем заключается ключевая задача и найти ее решение. Не нам судить, насколько это было быстро или медленно — Эйнштейн точно не участвовал в соревнованиях по скоростному созданию теории относительности. Его главная заслуга в том, что он определил и сформулировал — в чем проблема, и затем предложил ее успешное решение.

Второй подход, предлагающий реконструировать мозг и обнаружить «паттерны распознания», также не представляется продуктивным: «…когда кто-то читает в СМИ, что такая-то техника ИИ «работает точно так же, как человеческий мозг», можно заподозрить, что это либо просто чье-то предположение, либо просто вымысел» (Russell, 2019).

Вообще говоря, попытки обнаружить сознание и интеллект в мозге, аналогичны тому, чтобы искать «ходьбу» в ногах или «плаванье» в плавниках и ластах. Изучение строения мышц, связок, костей многое проясняет о механике и принципах перемещения, но сами ходьба или плаванье не дают ответ на вопрос — что именно приводит в движение механизмы, вызывает и контролирует перемещение, что меняет стиль, скорость, направление движения и т.п.

Кроме того, морфологически и структурно мозг уже достаточно изучен для того, чтобы утверждать, что никаких специализированных отдельных «паттернов распознания» мозг не содержит, как бы на этом ни настаивал автор этого подхода — писатель и футуролог Рой Курцвейл (Kurzweil, 2013). Если «паттерны распознания» и существуют, то искать их надо не в мозге, как биологической структуре, а в когнитивном функционале, который обслуживается в том числе мозгом у тех видов, которые оснастились нервной системой и мозгом в ходе эволюции. Но сама способность распознания и принятия решения присуща без исключения всем живым организмам, в том числе и те, кто не обладает мозгом, нервной системой, специализированными сенсорными органами. Например, грибы, растения, бактерии и вирусы. Даже LUCA, что бы он ни представлял собой, должен был быть способен распознавать источники энергии от остального мира, а также самого себя от окружающего мира.

Поэтому ответы скорее находятся не в биогенетических структурах, а в небиологических принципах функционирования когнитивной деятельности и архитектуре сознания как системе структурирования информационного поля для выработки наиболее адекватного поведенческого решения.

В большинстве случаев, с которыми имеет дело ИИ в настоящее время, вопрос отделения «значимых данных (информации) от остальных» решается с помощью предустановленных алгоритмов на основании четко заданных критериев. Например, отсев поисковых запросов, имеющих маркетинговое значение, сортировка маркетинговых запросов по различным основаниям и т.п. Решению установленной заранее узкоспециализированной задаче подчинены сложные алгоритмы, нейросети, deep learning и общее повышение производительности. ИИ выбирает и сортирует информацию, релевантную заранее заявленным условиям и поставленной перед ним задачи. Все действия с информацией, которые будет выполнять ИИ, определяются только той задачей, которую установили разработчики.

В отличие от ИИ, жизнь и процветание любого вида живых организмов основаны в первую очередь — на распознании задачи во всем множестве элементов окружающей среды, и во вторую — на решении распознанных задач. Неспособность к распознанию и решению задач означает смерть организма и, в итоге, приводит к вымиранию всего вида в целом. Если «паттерны распознания» (и принятия решения) и существуют, то их источник не мозг или нервная система, а сознание, и ответ надо искать в архитектуре сознания, а не в биологических носителях. Мозг и нервная система — частный случай таких носителей, но не единственный носитель и источник. Так же как ноги, лапы, ласты, плавники, крылья — не источник перемещения, а лишь видовые способы реализации перемещения.

Архитектура сознания: основные тезисы и понятия

Наиболее перспективным направлением в создании ИИ, уровня человека, представляется путь, обозначенный еще Норбертом Винером — посредством реконструкции принципов функционирования сознания и построения архитектуры и базовых когнитивно-поведенческих структур, управляющими процессом распознания элементов окружающего мира, извлечения их значений и переводом полученных значений в поведенческие решения — изменение поведения.

Подход к реконструкции модели архитектуры сознания человека, представленной в данной работе, исходит из эволюционной природы сознания, основная функция которого — управление адаптационным поведениям. Эта функция присущая всем без исключения живым организмам на Земле, сформировалась и развивалась под давлением естественного отбора и решением задач адаптации и средового благополучия — обеспечение энергией, безопасности, репродукции.

Для того, чтобы человек или любой другой организм был способен поддерживать свое средовое благополучие, ему необходимо распознавать те элементы, которые его нарушают и/или его обеспечивают, и на основании полученных значений вырабатывать соответствующее поведенческое решение — изменение поведения для восстановления средового благополучия или соответствия его требованиям.

Сознание — адаптационный функционал, управляющий поведением организма и решением базовых задач выживания: получения энергии, обеспечения безопасности, репродукции. Когнитивная деятельность организма управляет распознанием и извлечением значений элементов окружающей среды (или информационного поля) и выбором наиболее адекватного поведенческого решения — изменения поведения.

Основу модели архитектуры сознания составляют пять базовых когнитивно-поведенческих структур, сформировавшихся в ходе эволюции жизни на Земле под давлением естественного отбора и необходимости адаптивно реагировать на изменения в окружающей среде и обеспечивать свое средовое благополучие, решая задачи выживания и репродукции.

Модель представляет архитектуру сознания в виде 5 базовых когнитивно-поведенческих паттернов, управляющих и контролирующих распознание элементов информационного поля, коммуникацию их значений в центр принятия решения и выбор наиболее адекватного поведенческого решения для данной задачи в любой момент времени.

В данном случае речь идет не о биологических принципах, паттернах и структурах, а о ментальной или виртуальной архитектуре, позволяющей сознанию структурировать окружающую реальность и распознавать именно те элементы информационного поля, которые позволяют принять верное поведенческое решение в каждый момент времени.

Организующий принцип, заложенный в основу модели 5 базовых когнитивно-поведенческих структур (когнитивных карт, паттернов, контроллеров, потенциала), определяет домены информационного поля, состоящие из элементов, которые имеют значение для принятия организмом наиболее адекватного поведенческого решения в каждый момент времени.

Все множество элементов информационного поля (включая их значения), способных вызвать у живых организмов изменения поведения и принуждающих организмы активировать поведенческие решения, составляет 5 самостоятельных доменов: 1) Среда и ее фрагменты; 2) Отдельные свободноподвижные объекты (феномены, элементы) дистанционно; 3) Контекст; 4) Групповая динамика; 5) Символы (формализованные символьные и знаковые системы, абстрактные концепции).

При этом каждый и любой элемент информационного поля, имеющий значение для жизни организмов и способный вызывать изменение поведения, принадлежит одному из 5 базовых доменов.

Все живые организмы оснащены базовыми когнитивными картами — от 1 до 5 — позволяющие организмам распознавать значения элементов, соответствующих пяти общих доменов информационного поля. Каждому домену информационного поля соответствует когнитивная карта, общая и универсальная для данной группы видов.

Значения элементов информационного поля, принадлежащие данному домену, распознаются соответствующей универсальной когнитивной картой. Полученные значения элементов информационного поля активируют соответствующие универсальные поведенческие решения — изменения поведения, с помощью базового когнитивно-поведенческого контроллера — управляющей структура, связывающая значение и поведенческое решение.

Базовые когнитивно-поведенческие контроллеры осуществляют передачу (коммуникацию) распознанного значения данного элемента и выбором поведенческого решения — изменения поведения — локализации/ локомоции и взаимодействия — для решения задач средового благополучия. Когнитивно-поведенческие контроллеры представляют собой виртуальные «органы», управляющие способностью организма распознавать задачи и активировать наиболее адекватное поведенческое решение для обеспечения средового благополучия.

Таким образом каждому общему домену информационного поля соответствует определенная универсальная когнитивная карта, универсальное поведенческое решение (базовый паттерн изменения поведения), а также базовый когнитивно-поведенческий контроллер, управляющий коммуникацией значения в изменение поведения.

Все живые организмы, существующие на Земле или когда либо существовавшие ранее в истории жизни на Земле, составляют 5 основных групп видов по числу базовых когнитивно-поведенческих структур: общих доменов информационного поля, вызывающих изменения поведения; универсальных когнитивных карт; соответствующему числу базовых поведенческих решений (паттернов изменения поведения); и когнитивно-поведенческих контроллеров, управляющих распознанием значений и коммуникацией этого значения в изменение поведения.

Функция сознания или когнитивной деятельности в представленной модели — это коммуникация распознанного значения в изменение поведения для контроля и управления средовым благополучием — обеспечение энергией, безопасности, возможности для репродукции. Вообще говоря, сознание и есть — коммуникация значения в изменение поведения. Каждый живой организм представляет собой устойчивую когнитивно-поведенческую систему, способную к обеспечению своего средового благополучия и репродукции.

Каждая новая базовая когнитивно-поведенческая структура активирует для данной группы организмов новый когнитивно-поведенческий потенциал, необходимый и достаточный для выделения и распознания таких элементов из всего информационного поля, которые позволяю организму принимать поведенческие решения, требуемые для выживания и репродукции.

Далее в работе будет представлена методика, с помощью которой получены результаты и установлены 5 базовых когнитивно-поведенческих структур, которые включают:

— 5 универсальных (базовых) доменов информационного поля, включающие соответствующие пять категорий элементов среды и их значений, на которые живые организмы способны и обязаны реагировать поведенческим решением — изменением поведения.

— 5 базовых поведенческих решений и паттернов изменения поведения, которые активируются элементами и их значениями и позволяют решать задачи средового благополучия.

— 5 универсальных контроллеров средового благополучия, управляющих распознанием значения данного элемента информационного поля и его дальнейшей коммуникацией в центр принятия поведенческого решения — изменения поведения.

— 5 базовых универсальных когнитивных карт, позволяющие организмам распознавать элементы и их значения, принадлежащие соответствующим доменам информационного поля.

— 5 типов когнитивно-поведенческого потенциала, которыми оснащены группы видов, обладающим соответствующими набором базовых контроллеров и паттернов изменения поведения.

Также будут рассмотрены теоретические вопросы, связанные с разработкой представленной модели архитектуры сознания. В том числе; основные проблемы ИИ и перехода к General/ Strong AI, сознание человека и сознание у животных, эволюция сознания и когнитивно-поведенческих паттернов, эволюция сознания и эволюция психики, основные треки и переходы в эволюции сознания, эволюция и естественный отбор, когнитивно-поведенческое пространство организмов и человека, сознания и интеллект, распознание значений и когнитивные карты, поведение и изменение поведения, когнитивно-поведенческие паттерны и инстинкты, контроллеры, коммуникация и поведенческие решения и др.

Представленная в данной работе модель архитектуры сознания позволяет раскрыть организующие принципы, позволяющие сознанию структурировать окружающий мир и упорядочивать информационное поле таким образом, чтобы в каждый момент быть способным определять элементы окружающей среды, которые имеют значение и требуют поведенческого решения в данный момент.