Сообщество разума

Марвин Минский, 1986

В конце 70-х годов XX века Марвин Минский выдвинул неожиданную идею, согласно которой человеческий интеллект не так уж сильно отличается от искусственного, как это было принято считать. Со временем эта революционная и во многом обидная для человечества идея получила безупречное логическое обоснование в его программной книге «Сообщество разума». Книга была опубликована в 1986 году и с тех пор многократно переиздавалась на разных языках. За прошедшие годы в области искусственного интеллекта была сделана масса открытий; количество умов, занятых в этом сегменте, с каждым годом растет, но странная вещь – «Сообщество разума» Марвина Минского по-прежнему представляет собой кладезь идей, не утративших новизны и оригинальности.

Глава 3

Конфликт и компромисс

3.1 Конфликт

Большинству детей нравится не только строить, но и ломать. Потому давайте вообразим себе другого агента, которого назовем Крушителем; его «специальность» сводится именно к разрушению. Наш ребенок любит слушать загадочные шумы и наблюдать, как составные предметы разлетаются на части.

Рис. 6

Предположим, Крушитель готов приступить к действиям, но поблизости ломать нечего. Тогда Крушителю понадобится чья-то помощь — например, он заставит трудиться Строителя. Но что, если спустя некоторое время, Крушитель посчитает башню из кубиков достаточно высокой для разрушения, тогда как Строитель будет хотеть сделать ее еще выше? Кто разрешит этот спор?

Простейшим решением будет оставить выбор за Крушителем, который и привлек Строителя к возведению башни. Но более реалистичное представление о сознании ребенка подсказывает, что выбор будет зависеть от многих других факторов. К примеру, допустим, что Крушитель и Строитель оба приведены в действие агентом высшего уровня «Игрок в кубики». Если Строитель и Крушитель расходятся во мнениях относительно высоты башни, налицо конфликт интересов.

Рис. 7

Чем руководствуется Игрок в кубики? Возможно, он подчиняется агенту более высокого уровня, которого назовем «Игроком». Среди операций Игрока приоритет получает игра с кубиками, в ущерб игре с куклами и игре с животными. Но даже сам Игрок, которому доступны три перечисленные операции, вынужден конкурировать с двумя другими агентами высокого уровня, чья деятельность описывается соответственно характеристиками «Есть» и «Спать». Ведь детские игры не являются изолированным, самостоятельным процессом, они всегда протекают в контексте повседневных, житейских занятий. Что бы мы ни решили делать, всегда есть занятия, которые тоже нас привлекают.

В нескольких разделах настоящей книги я буду допускать, что конфликты между агентами имеют тенденцию подниматься на более высокие уровни. Например, любой длительный конфликт между Строителем и Крушителем будет означать ослабление их вышестоящего агента Игрок в кубики. В свою очередь это уменьшит шансы Игрока в кубики победить в соперничестве Игрока в куклы и Игрока с животными. Далее, если указанный конфликт не разрешится быстро, это приведет к ослаблению высокоуровневого агента «Игрок». Тогда вместо игры ребенок выберет сон или еду.

3.2. Без компромиссов

Чтобы улаживать споры и противоречия, государства создают правовые системы, корпорации разрабатывают внутреннюю политику, а индивиды могут спорить, драться, достигать компромиссов — или обращаться за помощью к посредникам извне для разрешения конфликтных ситуаций. Но что происходит, когда конфликт возникает внутри разума?

Всякий раз, когда нескольким агентам приходится соперничать за одни и те же ресурсы, конфликт почти неизбежен. Если не уделять этим агентам внимания, конфликт может затянуться до бесконечности, что парализует агентов и не позволит никому из них добиться своей цели. Что будет дальше? Мы предполагаем, что «супервизоры» этих агентов тоже испытывают конкурентное давление и, по всей видимости, утрачивают позиции, когда их «подчиненные» не достигают поставленных целей — не важно, вследствие внутреннего конфликта или вследствие собственной слабости.

Принцип бескомпромиссности: Чем дольше внутренний конфликт между «подчиненными» того или иного агента, тем слабее положение этого агента в сравнении с его непосредственными конкурентами. Если внутренние конфликты не удается уладить быстро, другие агенты оттеснят тех, которые руководили нашими действиями ранее.

Пока игра с кубиками идет гладко, Игрок владеет ситуацией и сохраняет контроль. Между тем ребенок может начать ощущать голод или позывы ко сну, поскольку агенты «Есть» и «Спать» преследуют свои интересы. Пока желания есть или спать уступают желанию играть, Игрок первенствует в соперничестве с другими агентами. Однако любой конфликт внутри Игрока ослабит его положение и позволит еде или сну перехватить инициативу у игры. Конечно, еда или сон в итоге победят, ибо чем дольше они ждут, тем сильнее становятся.

Это несложно прочувствовать на собственном опыте. Все мы знаем, как легко справляться с малыми отвлечениями, когда дела идут хорошо. Но едва в работе возникают какие-либо затруднения, мы становимся все более нетерпеливыми и раздражительными. В конце концов оказывается настолько тяжело сосредоточиться, что малейшая помеха способна полностью отвлечь нас от текущих дел. При этом, когда любой из наших агентов лишается возможности контролировать деятельность других систем, это не означает, что он прекращает свою внутреннюю деятельность. Агент, утративший контроль, может поддерживать работу внутри себя — и таким образом готовиться к новому шансу победить в соперничестве. С другой стороны, обычно мы остаемся в неведении относительно этой «подспудной» активности в нашем сознании.

Где обрывается эта цепочка передачи или перехвата управления другими агентами? Существует ли в разуме некий верховный контролирующий центр? Не обязательно. Порой мы улаживаем конфликты, обращаясь за содействием к вышестоящим, но другие конфликты никогда не заканчиваются и не перестают нас донимать.

На первый взгляд наш принцип бескомпромиссности может показаться чрезмерно радикальным. В конце концов, хорошие управленцы заранее прилагают усилия для избегания конфликтов, а когда эта политика себя не оправдывает, они стараются снять противоречия, так сказать, локально, прежде чем обращаться к вышестоящим. Но не нужно искать близкие аналогии между деятельностью агентов низкого уровня в человеческом разуме и деятельностью членов человеческого коллектива. Крошечные ментальные агенты «знают» слишком мало для того, чтобы вести переговоры друг с другом или эффективно приспосабливаться к стороннему вмешательству. Лишь крупные структуры достаточно сложны и изобретательны, чтобы делать нечто подобное. Внутри детского разума агенты, ответственные за строительство и разрушение, в самом деле могут «договориться» между собой и оказывать друг другу поддержку в достижении целей. «Пожалуйста, Крушитель, подожди, пока Строитель добавит еще один кубик — тогда башня развалится с более громким грохотом».

3.3. Иерархии

Бюрократия (сущ.). Структура правительства, разделенная на департаменты и подразделения, где трудятся чиновники, подчиняющиеся жестким правилам.

Словарь Уэбстера

Будучи агентом, Строитель не выполняет никаких физических действий; он просто активирует операции «Начать», «Добавить» и «Закончить». Точно так же оператор «Добавить» велит операторам «Найти», «Поместить» и «Взять» выполнить свою работу. Последний обращается к операторам «Переместить» и «Поднять». Кажется, что этот цикл никогда не закончится, что разбиение на более мелкие операции будет продолжаться бесконечно. В итоге все должно свестись к агентам, выполняющим реальную работу, но предстоит преодолеть множество этапов, прежде чем дело дойдет до мышечных агентов, которые управляют руками и суставами пальцев. Таким образом Строитель оказывается своего рода большим начальником, далеко отстоящим от тех своих подчиненных, которые производят окончательный «продукт».

Означает ли это, что «административная» деятельность Строителя не имеет значения? Вовсе нет. Агенты низкого уровня нуждаются в постоянном контроле. Ситуация во многом схожа с человеческим коллективом. Если какое-либо дело становится слишком сложным и крупным для того, чтобы с ним справлялся один человек, мы создаем организацию, в которую привлекаем нескольких агентов, не для достижения конечного результата, а для контроля деятельности ряда других агентов. Проектирование любого общества, будь то человеческое или механическое, предусматривает принятие решений наподобие следующих:

Каким агентам поручить контроль за теми, кто выполняет фактическую работу? Кто будет определять, какую работу необходимо выполнить? Кто станет устанавливать затраты времени и сил? Как будут разрешаться конфликты?

Насколько ощущается присутствие Строителя в обычной человеческой мысли? Выше мы указали, что у Строителя немного общего с человеком-администратором. Он не решает, каких агентов назначить на конкретные работы, поскольку эти назначения распределяются заранее. Он не планирует будущую работу, а просто выполняет предписанные шаги до тех пор, пока оператор «Закончить» не сообщит, что работа завершена. Также у него нет никакого набора действий на случай возникновения нештатных ситуаций.

Поскольку способности наших крохотных ментальных агентов сильно ограничены, не нужно стараться и далее уподоблять их взаимоотношения отношениям человека — руководителя и подчиненных ему работников. Кроме того, как мы вскоре увидим, отношения между ментальными агентами отнюдь не всегда являются строго иерархическими. В любом случае, роли агентов неизбежно относительны. Для Строителя оператор «Добавить» будет «подчиненным», но для оператора «Найти» будет «боссом» уже оператор «Добавить». Что касается людей, тут все зависит от образа жизни. Какие мысли беспокоят вас сильнее — приказы, которые приходится принимать, или те, которые приходится отдавать?

3.4. Гетерархии

Иерархическое общество подобно дереву, в котором агент на каждой крупной «ветви» полностью ответственен за агентов на малых «ветках», отходящих от нее. Эта картина наблюдается повсюду, поскольку делить работу на части — наиболее простой, как правило, способ приступить к решению какой-либо задачи. Создать подобную организацию и постичь ее суть нетрудно, ибо каждый агент выполняет конкретную работу: ему требуется лишь «посмотреть вверх» для получения инструкций от своего начальства, а затем «посмотреть вниз», чтобы получить помощь от подчиненных.

Однако иерархии не всегда полезны. Рассмотрим случай, когда двум агентам требуется использовать навыки друг друга, и ни один из них не является главным для другого. Обратите внимание на то, что происходит, например, когда вы просите свою систему зрения определить, отображает ли левый рисунок ниже три кубика или всего два.

Рис. 8

Оператор «Видеть» может ответить на вопрос, если оператор «Переместить» уберет передний кубик с линии зрения. Но при выполнении этой операции оператору «Переместить» может понадобиться помощь оператора «Видеть», чтобы выяснить, имеются ли какие-либо препятствия, способные помешать движению руки. В этот миг оператор «Переместить» будет работать на оператора «Видеть», а «Видеть» будет одновременно работать на «Переместить». Подобное невозможно в простой иерархии.

Большинство схем в начальных главах настоящей книги иллюстрируют простые иерархии. Позже мы столкнемся со сложными петлями и кольцами, особенно это касается раздела, посвященного памяти, потребности в которой уделено немало внимания (что диктуется предметом исследования). Люди часто склонны воспринимать память как способ сохранения прошлого, как воспоминания о том, что произошло ранее. Но у агентов и операторов также присутствует потребность в иных видах памяти. Оператору «Видеть», к примеру, требуется некий объем кратковременной памяти, чтобы отслеживать последующие действия, если новая работа начинается до завершения предыдущего задания. Если каждый из субагентов оператора «Видеть» способен выполнять всего одну функцию в конкретный промежуток времени, очень скоро ресурсы оператора иссякнут и он не сможет справляться со сложными задачами. Но если у нас памяти достаточно, мы можем объединить наших субагентов в циклические петли и благодаря этому обращаться к одному и тому же субагенту снова и снова, чтобы выполнять этапы нескольких различных работ одновременно.

3.5. Разрушение

В разуме любого ребенка стремление играть соперничает с другими насущными желаниями, например с желаниями есть и спать. Что произойдет, если иной агент перехватит контроль у Игрока, и что будет с операторами, которые подчиняются Игроку?

Рис. 9

Допустим, нашего ребенка отвлекли от игры; не важно, позвал ли его кто-то другой или отвлечение было вызвано внутренней потребностью, скажем, желанием спать. Что произойдет с активными процессами в его разуме? Отчасти ребенок все еще хочет играть, но отчасти его одолевает сон. Возможно, он развалит башню одним внезапным, мстительным тычком. Что будет означать такой поступок ребенка? Неужели налицо падение внутренней дисциплины, противодействующей подобным диким выходкам? Не обязательно. Эти «детские» действия могут обладать иным содержанием.

Разрушение происходит так быстро, что Крушитель, избавленный от надзора Игрока, берет верх всего на мгновение, чтобы насладиться разлетом кубиков.

Пускай детское насилие может выглядеть бессмысленным само по себе, оно выражает разочарование и досаду от утраты цели. Даже если родитель отругает ребенка, это лишь подтвердит, что сообщение было отправлено и получено.

Акты разрушения могут содействовать достижению благих, конструктивных целей, поскольку устраняют проблемы, требующие решения. Тычок заставит рассыпаться кубики, но освободит разум ребенка от ненужных эмоций.

Когда дети ломают свои любимые игрушки, не нужно спрашивать, зачем они так поступают; у любого подобного поступка нет какой-то единственной причины. Кроме того, ошибочно думать, что в человеческом сознании, когда верх берет желание спать, Игрок немедленно заканчивает игру и все его субагенты прекращают свою деятельность. Ребенок может пойти в постель, но в голове продолжит возводить башни.

3.6. Боль и удовольствие как упрощения

Когда нам больно, очень трудно проявлять интерес к чему-то еще. Нам кажется, что на свете нет ничего важнее способа справиться с болью. Вот почему боль настолько могущественна, что прогоняет мысли обо всем прочем. Она упрощает нашу точку зрения на мир.

Когда что-то доставляет нам удовольствие, тоже тяжело отвлекаться на другое. Кажется, что нет ничего важнее отыскания способа продлить это удовольствие. Вот почему удовольствие настолько могущественно и тоже упрощает точку зрения человека на мир.

Способность боли отвлекать нас от прочих наших целей вовсе не случайна; таким образом боль помогает нам выживать. Наши организмы наделены особыми нервами, которые выявляют развивающиеся заболевания, и болевые сигналы от этих нервов заставляют нас реагировать особым образом. Иногда эти сигналы побуждают нас забывать о долгосрочных целях, вынуждают сосредоточиться на насущных заботах, возможно, передавая управление сознанием агентам низшего уровня. Конечно, не исключено, что так мы причиняем себе больше вреда, чем пользы, особенно когда для ликвидации источника боли требуется составить комплексный план. К сожалению, боль вмешивается в составление планов, отбивая интерес ко всему, что не кажется соответствующим сиюминутной потребности. Чрезмерные страдания как бы умаляют нас, сводя всю сложность человеческой личности к простейшим желаниям. И с удовольствием картина та же самая.

Мы воспринимаем боль и удовольствие как противоположности, поскольку удовольствие побуждает тянуться к его объекту, а боль заставляет отторгать ее объект. Но мы также считаем их схожими, ибо оба ощущения уменьшают значимость конкурирующих целей и вынуждают отказываться от прочих интересов. Иными словами, они отвлекают. Откуда возникает это сходство между, казалось бы, непримиримыми антагонистами? Порой две мнимые противоположности оказываются всего-навсего крайними значениями единой шкалы — или же одна из них является не чем иным, как отсутствием другого (примерами могут служить звук и тишина, свет и тьма, интерес и безразличие). Но что можно сказать о противоположностях, которые по-настоящему различаются, будь то боль и удовольствие, страх и мужество, ненависть и любовь?

Чтобы казаться противоположными, два качества должны служить связанным целям — или же как-то иначе задействовать соответствующие факторы.

В приведенных примерах любовь и ненависть выражают наше отношение к другим людям, а боль и удовольствие опираются на ограничения, которые упрощают наши ментальные картины. То же самое касается смелости и трусости: человек справляется лучше всего, если ему ведомы оба чувства. При нападении следует безжалостно пользоваться любыми слабостями, обнаруженными в стратегии противника. При обороне все равно необходимо предугадывать планы другой стороны.