Рефлексивные агенты и человечество: кооперация или конфликт?

Евгений Александрович Гришин, 2020

Сборник включает два раздела: 1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН [e-mail]), 10 статей, с 2014 г. по 2019 г.). 2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin). В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком: – Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента. – Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги. – Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»). – Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом. – Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом: Этика предпочтительнее Рациональности, Договор предпочтительнее Приказа, Кооперация предпочтительнее Конфликта. Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге. Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).

Искусственный интеллект и «творчество», «честь», «достоинство»: совместимые понятия или нет?

Аннотация

Предпринята попытка рассмотреть поведенческую сторону творческого процесса как единственно алгоритмизируемую часть применительно к моделированию его при конструировании интеллектуального виртуального персонажа. Анализ важен сточки зрения сравнения возможностей человека и интеллектуального персонажа в их когнитивном и рационально-этическом поведении и взаимодействии в виртуальном (и реальном) мире.

Введение

В последнее время сформировалось историческое и методологическое подразделение естественнонаучных исследований на этапы: классический, неклассический и постнеклассический [1, 2].

Охарактеризуем их в самой общей форме для целей дальнейшего изложения.

Классический этап базируется на механике Ньютона, рассматривающей материальные объекты и силы взаимодействия. Гуманитарная составляющая отсутствует.

Неклассический этап характеризуется междисциплинарностью, допускающей учёт двойственности в моделях мира, а также учёт целесообразной деятельности человека как субъекта, его воздействия на объект посредством орудий труда/исследования для достижения цели.

Постнеклассический этап характеризуется возрастающим интересом к нелинейным, саморазвивающимся, рефлексивным процессам, а также интересом к исследованию феноменологической (духовной) составляющей деятельности человека — механизмов рефлексии ценностей и смыслов его деятельности.

В исследовательском направлении «искусственный интеллект» к настоящему времени главенствует неклассический подход, подтверждением чего является основной акцент на совершенствовании методов распознавания, обучения, представления, накопления и систематизации знаний, логики принятия решений, автоматической генерации программ.

В то же время идеи постнеклассического подхода только начинают осознаваться как существенно важные для развития данной области знания.

Это проявляется в образовании таких направлений исследований, как «интеллектуальные роботы», «многоагентные системы», «виртуальные предприятия» с обращением к понятиям активности, мобильности, автономности, рефлексивности, планирования, коммуникабельности виртуальных сущностей [3, 4].

Сделаем и далее обоснуем предположение: адекватное конструирование и исследование сообщества виртуальных интеллектуальных компьютерных персонажей в рамках постнеклассического подхода требует идей представления персонажа с использованием понятий: «квазиживой» и «квазиразумный» [4].

1. Сознание и творчество применительно к виртуальному персонажу

Приведём некоторые общие соображения о феномене сознания.

Вспомним об известном приёме — принципе дополнительности Н.Бора, являющимся эвристически сильным методологическим способом выявления эффекта целостности в постижении любого предмета анализа [5].

Если предметом анализа становится феномен психики, то указанный методологический приём приводит к целостной, неразрывной паре: «сознательное — бессознательное».

Сделаем свои самые общие предположения о модели взаимодействии этой пары в индивиде, для использования её в последующем конструировании виртуального персонажа.

Прежде всего, целостность модели основывается на представлении её в виде параллельно исполняемых «сознательно-бессознательных» рекурсивных функций (механизмов), области определения и области значений которых есть участки общего поля памяти, периодически переключаемые между функциями посредством механизма рефлексии, соблюдающей некий эталон целостности [8].

Блок «сознание» в целостной паре «сознательное — бессознательное» есть:

• Генератор текстов планов, реагирующий на воспринятые органами чувств и отражённые в памяти индивида образы предметов мира как на объект для их символьного описания. Такое описание (объективирование) генерируется в результате анализа плана и факта прошлого взаимодействия индивида с объектом, измерения разницы план-факт как степени неудовлетворения потребностей индивида, и творческого синтеза решения о плане будущего действия индивида с объектом ради удовлетворения данной потребности.

• Генератор (модификатор) алгоритмов поведения на основе обучения (эволюционный принцип мутаций и естественного отбора для повышения эффективности алгоритма).

• Генератор текстов запросов, ответы на которые, как информация о вариантах планов и их вероятностях, необходимы для синтеза решений о плане. Ответы на запросы (информация) приходят от генератора ответов, являющегося составной частью механизма «бессознательного». На основе полученной информации генератор планов принимает решение о будущем плане и алгоритме, которые запоминаются в актуальной памяти индивида и передаются на исполнение и контроль.

Блок «бессознательное» есть:

• Интерпретатор, пошагово исполняющий текущий алгоритм поведения в подсознании. Этот алгоритм поведения реагирует действием своих эффекторов в среде на воспринятые органами чувств (рецепторами) и отражённые в памяти индивида образы предметов мира, как на появившийся стимул. Алгоритм поведения является или генетически заложенным «инстинктом», или ранее скомпонован генератором-модификатором алгоритмов поведения в механизме «сознательного», запомнен в актуальной памяти и исполняется интерпретатором.

• Алгоритм — контролёр фактического исполнения плана поведения, выработанного ранее механизмом сознания, и запомненного в актуальной памяти.

• Генератор ответов на запросы, получающий запросы от механизма сознания, и направляющий ответы в механизм сознания. Генератор ответов может находиться вне тела индивида (это — партнёры и внешние источники данных), и внутри индивида (в его механизме «бессознательного», работающего с долговременной памятью). Он даёт ответ механизму сознания как вариант решения, для осмысления проблемы и разработки плана будущего поведения.

Именно генератор ответов, сканирующий долговременную память индивида и выдающий за непредсказуемое время непредсказуемый ответ, и является механизмом собственно «бессознательного». Ведь он имеет дело с образами предметов мира из памяти, которые могли никогда не быть объектом осознания, и были запомнены, минуя этап объективации. А теперь эти образы становятся информацией для принятия решений. В то же время объективированию (как осознанию, рефлексии) периодически подвергаются сами планы и алгоритмы поведения индивида.

Они запоминаются в памяти, в следующем периоде рефлексии неосознанно исполняются и контролируются в подсознании, чтобы стать предметом объективации в очередном периоде рефлексии.

Таким образом, можно допустить, что механизм сознания в принципе своими объектами имеет следующие. Предмет анализа — именно поведенческая (объективируемая) сторона прошлого бытия индивида. Это — соотношение план-факт как проблема, а также степень эффективности навыков, умений, алгоритмов. Предмет синтеза — планы и алгоритмы будущего поведения.

Но тогда следует допустить и другое, а именно:

— механизмы генерации идей, генерации нового знания, know how, питающие сознание, и позволяющие индивиду «творить», суть бессознательны сами по себе по определению, и посему не могут быть предметом сознательного анализа и синтеза индивида!

Однако ничто не мешает индивиду постфактум анализировать поведенческую сторону своего существования в тот период, когда он решал творческие задачи. И именно через совершенствование поведения, через сравнение план-факт, можно рационализировать и повышать эффективность процесса творчества [6].

Вывод: Рефлексивную модель взаимодействии пары «сознательное — бессознательное» в индивиде, а также модель рационализации поведения для повышения эффективности процесса творчества можно использовать при конструировании виртуального персонажа.

2. Место валоризации в процессе творчества и место репутации в валоризации

В финансовом деле под понятием «валоризация» понимают «процесс по увеличению основного капитала»*.

Позволим себе в дальнейшем использовать термин «валоризация», понимая под ним следующее словоупотребление: придание новой большей ценности объединённому в целое множеству малоценных объектов (идей), подтверждённое продажей этого целого на рынке.

Сделаем предположение, что валоризация в изложенном смысле есть существенный результирующий аспект разумной деятельности вообще (не только в искусстве и финансах).

Однако, закономерен вопрос: является ли валоризация результатом только творческой деятельности индивида в ранее высказанном смысле, как осознаваемый продукт генерации нового знания бессознательным? Или валоризация может быть также и результатом осознания индивидом поведенческой стороны своего существования?

Вернёмся к идее создания и исследования сообщества компьютерных персонажей.

Определим два вида поведения персонажа:

• Поведение персонажа в физическом мире (виртуальном или реальном).

• Поведение персонажа в обществе (социальном мире) себе подобных и людей.

Рассмотрение разумного поведения персонажа в реальном физическом мире необходимо требует моделирования как сознательных процессов, так и бессознательных.

Суть того, что не может быть алгоритмизируемо в работе бессознательного, есть свойство бессознательного быть активным внутренним источником, генератором информации о новых классах, категориях целей и средств достижения цели, т. е. быть инструментом творческого решения задачи.

Примечание*: Валоризация (англ. Valorization) — Рост цен на товары, курсов ценных бумаг вследствие определенных действий государства. http://dic. academic. ru/dic. nsf/busjness/l 952

Но есть и другая сторона творческого процесса — поведенческий поиск внешнего источника в окружающей среде, генерирующего информацию о вариантах средств, и слежение за уже найденным источником.

Именно этот процесс вполне алгоритмизируем, так как он суть поведенческий, а значит, осознаваемый. И на него остаётся уповать, рассуждая о возможности моделирования автономного поведения персонажа в реальном физическом мире.

Однако тогда это будет моделирование не более чем «квазиразумного», т. е. нетворческого, поведения.

Но будет ли этого достаточно для создания автономного разумного автомата? Ведь он должен будет выживать и творчески развиваться в произвольном виртуальном или физическом мире. А без учёта «бессознательного» в алгоритме по-прежнему останутся нерешёнными все проблемы поиска категорий, абстрагирования, классифицирования, вообще обнаружения и формулирования нового знания.

Поставим следующий вопрос: Не поможет ли найти новые аспекты моделирования разумного поведения персонажей анализ взаимоотношений персонажей в социальном мире, абстрагируясь от физического мира? Это должны быть такие аспекты, которые смогли бы, наряду с генерацией нового знания, в определённой степени влиять на результирующую составляющую творчества, т. е., на валоризацию как повышение цены товара на рынке.

Ответ: Да, есть такие аспекты, если наряду с качеством товара,

предлагаемого на рынке, рассматривать как важнейшее условие сделки «Честь» (Репутацию) самого персонажа-торговца!

Поясним данное соображение. Предположим, что сделка, т. е. договор об обмене, купле-продаже товара-услуги, является достаточно частым видом социального взаимодействия персонажей.

Сформулируем ряд важных, по нашему мнению, вопросов для выяснения специфических факторов, влияющих на решение о сделке и на её результат.

1. Не является ли результат договорённости сторон о цене сделки (как валоризация) в существенной степени следствием исполнительности по обязательствам продавца и покупателя, оцениваемой доверием к ним других персонажей — покупателей и продавцов?

2. Не является ли пара исполнительность-доверие главенствующим обстоятельством в общественных взаимоотношениях мира персонажей, если соотносить его с важностью физических качеств товара/услуги для их деятельности?

3. Как взаимодействует предполагаемый рост общественного спроса на обязательность партнёров (доверие) с общественным предложением этой обязательности? Не колебательно ли, то есть, не рефлексивно ли?

4. Что же может являться критерием, лежащим в основе оценки обязательности партнёра и доверия к нему другого? Не риск ли, оцениваемый в виде известной персонажу по опыту частоты положительных случаев прошлого исполнения обязательств партнёра, который преобразуется им в вероятность будущего исполнения обязательств партнёра (вероятность положительного исхода сделки)?

5. Что критически важное лежит в основе решения персонажа рискнуть и довериться этому или другому варианту, предложенному партнёром или придуманному самим? Не затраты ли жизненно важных и ограниченных ресурсов персонажа на реализацию решения, а также возможный доход, оцениваемые совокупно в некоем эквиваленте, например, в деньгах?

6. Чем принципиально важным руководствуется персонаж в своём решении: как поделить свои ограниченные ресурсы

Конец ознакомительного фрагмента.