Сообщество разума

Марвин Минский, 1986

В конце 70-х годов XX века Марвин Минский выдвинул неожиданную идею, согласно которой человеческий интеллект не так уж сильно отличается от искусственного, как это было принято считать. Со временем эта революционная и во многом обидная для человечества идея получила безупречное логическое обоснование в его программной книге «Сообщество разума». Книга была опубликована в 1986 году и с тех пор многократно переиздавалась на разных языках. За прошедшие годы в области искусственного интеллекта была сделана масса открытий; количество умов, занятых в этом сегменте, с каждым годом растет, но странная вещь – «Сообщество разума» Марвина Минского по-прежнему представляет собой кладезь идей, не утративших новизны и оригинальности.

Глава 2

Целое и части

Сама природа разума делает людей сородичами; все разнообразие форм, комбинаций и способов сочетания атомов, из которых складываются сложные взаимоотношения, составляющие разум, не имеет ни малейшего значения.

Айзек Азимов

2.1. Составные части и связи

Мы уже видели, что навыки Строителя возможно свести к более простым навыкам «Взять» и «Поместить». Далее мы выяснили, что и эти навыки в свою очередь возможно разложить на еще более простые операции. «Взять» означает «Пошевелить рукой», чтобы «Поднять кубик», только что обнаруженный при помощи навыка «Найти». «Поместить» же означает «Пошевелить рукой», чтобы положить этот кубик на макушку башни. В результате может показаться, что все навыки Строителя разделяются на простейшие операции.

Однако в этой схеме упущено кое-что важное. Строитель представляет собой не просто набор элементов наподобие «Найти», «Взять», «Поместить» и пр. Строитель не начнет действовать до тех пор, пока эти «малые» агенты не окажутся связанными друг с другом через сеть взаимоотношений.

Рис. 5

Можно ли предсказать действия Строителя на основании изучения списка, приведенного в левой части рисунка? Конечно, нет, поскольку необходимо знать функции каждого агента в общей схеме. Точно так же невозможно предугадать развитие событий в человеческом коллективе только на основании действий отдельных индивидов; требуется знать внутреннюю организацию коллектива, то есть определить, кто с кем общается. Аналогичная процедура применима для любой большой и сложной структуры. Сначала нужно установить, как функционирует каждая отдельная составная часть. Затем следует выяснить, как именно каждая часть взаимодействует с теми другими частями, с которыми она связана. А затем нужно понять, как комбинация всех этих локальных взаимодействий преобразуется в функционирование системы в целом — при взгляде извне.

Применительно к человеческому мозгу понадобится немало времени на решение этих трех задач. Прежде всего, мы должны понять, как работают мозговые клетки, и наше понимание будет затруднять изобилие указанных клеток: ведь их сотни типов. Далее, нужно проследить взаимодействие клеток каждого типа с клетками других типов. Можно предположить, что будут обнаружены тысячи вариантов такого взаимодействия. После этого можно будет приступать к труднейшей из задач, то есть к выяснению того, каким образом миллиарды наших мозговых клеток организуются в сообщества. Чтобы справиться с данной задачей, следует разработать множество новых теорий и организационных схем. Чем больше мы будем узнавать о том, как эволюционировал наш мозг, отдаляясь от более простых мозгов животных, тем легче окажется решение последней задачи.

2.2. Новаторы и редукционисты

Приятно, когда тайны и загадки возможно объяснить через явления и понятия, известные слушателям. Но в ситуациях, когда это вызывает затруднения, приходится решать, продолжать ли пытаться «реанимировать» старые теории или лучше отказаться от них и попробовать что-то новое. На мой взгляд, решение здесь отчасти диктуется личными предпочтениями. Будем называть «редукционистами» тех, кто предпочитает цепляться за старые, проверенные идеи, и назовем «новаторами» тех, кто привержен новым гипотезам. Редукционисты обычно оказываются правыми — по крайней мере с точки зрения науки, пестующей осторожность в выводах; а вот новаторы зачастую терпят поражение. Впрочем, за пределами сферы науки новаторы торжествуют, поскольку в распоряжении коллектива достаточно времени, чтобы выявить пороки старых идей.

Поистине поразительно, насколько отдельные области науки зависят от малого числа объяснений. Например, современная физика может объяснить практически все, что мы видим вокруг себя — во всяком случае, в теории, причем в терминах взаимодействия крайне ограниченного количества частиц и силовых полей. За последние несколько столетий редукционизм неоднократно доказывал свою полезность. Но что именно позволяет описывать многообразие мира при помощи немногочисленных основных правил? На этот вопрос нет ответа.

Многие ученые рассматривают химию и физику в качестве идеальных моделей для «правильной» психологии. В конце концов, атомы мозга подчиняются тем же самым всеохватным физическим законам, которые управляют всеми остальными формами материи. Значит, мы можем объяснить, как функционирует человеческий мозг, опираясь сугубо на эти базовые принципы? Увы, нет, просто потому, что — пускай мы поймем, как работает каждая из миллиардов наших мозговых клеток по отдельности, — это не позволит постичь работу мозга как фактора организма. «Законы мысли» опираются не только на свойства мозговых клеток, но и на взаимосвязи этих клеток. Причем указанные взаимосвязи формируются не базовыми, «общими» законами физики, а конкретными комбинациями миллионов бит информации в наших унаследованных от поколений предков генах. Конечно, «общие» законы применимы ко всему на свете. Но по той же причине они редко способны объяснить частности.

Следует ли отсюда, что психология должна отвергнуть законы физики и вывести собственные правила? Разумеется, нет. Дело вовсе не в различии законов, а в наличии дополнительных теорий и принципов, которые действуют на более высоких уровнях организации. Наше представление о деятельности Строителя как оператора не конфликтует и не должна конфликтовать со знанием об особенностях работы «малых» агентов в составе Строителя. Каждый добавочный уровень описания должен дополнять наше знание о более низких уровнях, а не заменять прежнее знание новым. Мы будем возвращаться к идее «уровней» во многих разделах настоящей книги.

Сумеет ли психология присоединиться к тем наукам, которые успешно «редуцировали» разнообразие своих предметов до считанных принципов? Ответ зависит от того, какое количество признается считанным. В физике мы привыкли к объяснениям с точки зрения десятка базовых принципов. В психологии же наши объяснения должны комбинировать сотни малых теорий. Для физиков это число может показаться слишком большим. Для представителей общественных наук оно, наоборот, может оказаться слишком малым.

2.3. Части и целое

Мы часто слышим, что то-то и то-то «больше суммы своих частей». Нередко к этому высказыванию добавляются слова наподобие «целостность» и «гештальт», чья наукообразность заставляет предполагать, что они подразумевают четкие, ясно определенные идеи. Однако я подозреваю, что истинная роль подобных слов состоит в маскировке неведения человека, их употребляющего. Мы говорим «гештальт», когда что-либо происходит непостижимым для нас образом; мы говорим о «целостности», когда неожиданные события застают врасплох и мы понимаем, что толком не можем разобраться в происходящем. Например, рассмотрит два набора вопросов: первый будет «субъективным», а второй — «объективным».

Из-за чего рисунок становится чем-то бо́льшим, чем совокупностью отдельных линий? Почему личность больше совокупности черт характера? Каким образом культура превосходит простую комбинацию устоев и обычаев?

Из-за чего башня становится чем-то бо́льшим, чем набор кубиков? Почему цепочка больше суммы ее звеньев? Почему стена — это не просто груда кирпичей?

Вследствие чего «объективные» вопросы кажутся менее загадочными? Вследствие того, что у нас есть надежные ответы на них, если принимать в расчет взаимодействие составных частей. Чтобы объяснить, что такое стена или башня, достаточно поведать, что каждый кубик и каждый кирпич удерживаются на месте своими соседями под воздействием силы тяжести. Чтобы объяснить, почему цепочка не рассыпается на отдельные звенья, достаточно продемонстрировать, как эти звенья соединены между собой. Указанные объяснения фактически самоочевидны для взрослых. Однако они не казались нам настолько простыми, когда мы были детьми, и каждому из нас понадобилось несколько лет, чтобы осознать принципы взаимодействия объектов реального мира — к примеру, чтобы усвоить, что два предмета не могут одновременно занимать одно и то же место. Мы воспринимаем подобное знание как «очевидное» лишь потому, что уже не помним, насколько тяжело оно нам давалось.

Почему кажется гораздо труднее объяснять нашу реакцию на рисунки, личности и культурные традиции? Многие люди скажут, что на эти «субъективные» вопросы невозможно ответить, поскольку они затрагивают особенности человеческого сознания. Но это не значит, что ответов не существует. Это значит, что прежде нам следует узнать побольше о нашем разуме.

«Субъективные» реакции также основываются на взаимодействии объектов. Разница заключается в том, что здесь мы имеем дело не с объектами внешнего мира, а с процессами внутри нашего сознания.

Другими словами, вопросы касательно искусства, характера и стиля жизни на самом деле являются, так сказать, сугубо техническими. Они побуждают нас объяснять, что именно происходит между агентами в нашем разуме. Однако об этом мы никогда не сможем узнать достаточно, и наука здесь, к сожалению, не помощница. Со временем ответы, конечно, будут найдены. Но мы всего-навсего продлеваем ожидание ответов, продолжая прибегать к псевдообъяснениям со словами вроде «целостность» или «гештальт». Да, порой именование объектов помогает, позволяя сосредоточиться на конкретной загадке. Но опасно думать, будто имена сами по себе способны прояснить значение и назначение объектов.

2.4. Части и прорехи

Огромное большинство людей пребывает в убеждении, что способность чувствовать и мыслить [кои нематериальны] по самой своей природе менее подвержена разложению и умалению, а также что, когда человеческое тело распадается на составляющие его элементы, начало, одушевлявшее это тело, пребывает вечно сущим и не ведает изменений. Тем не менее, вполне возможно, что нечто, именуемое нами мыслью, не есть живое бытие; это не более чем отношение между определенными частями той бесконечно изменяющейся массы, из которой составлена вся остальная вселенная, и оно перестает существовать, едва эти части вселенной изменяют свое положение относительно друг друга.

Перси Биши Шелли

Что такое жизнь? Анатом вскрывает тело, но не находит жизни внутри. Что такое разум? Анатом вскрывает мозг, но не находит в нем разума. Неужели жизнь и разум настолько больше «суммы частей», что их бесполезно искать? Чтобы ответить на этот вопрос, вообразим вот такой (пародийный, конечно) разговор между холистом, сторонником идеи о целостности мира, и обычным человеком.

Холист: Я докажу, что никакая коробка не удержит внутри мышь. Коробка состоит из шести деревяшек, прибитых друг к другу гвоздями. Очевидно, что она не удержит мышь, не обладая некоей «мышестойкостью» или повышенной прочностью. Никакая доска по отдельности не обладает способностью к удержанию, и мышь благополучно минует эту преграду. Раз одна деревяшка лишена такой способности, ее не может быть у всех шести досок. Поэтому коробка не обладает «мышестойкостью». Теоретически мышь может сбежать когда угодно.

Обычный человек: Поразительно! Но почему мышь остается в коробке?

Холист: Тут все просто. Пускай коробка не обладает фактической «мышестойкостью», но она способна «имитировать» данную характеристику настолько хорошо, что мышь обманывается и оказывается не в состоянии сбежать.

Итак, что же удерживает мышь внутри? Конечно, то обстоятельство, что стены коробки преграждают ей путь во всех направлениях, так как каждая стенка блокирует движение в конкретном направлении. Левая стенка не дает мыши пойти влево, правая стенка не пускает вправо, крышка не позволяет мыши выпрыгнуть, и так далее. Следовательно, секрет коробки — в расположении стенок, предотвращающих свободное перемещение мыши во всех направлениях! Вот пресловутая «способность к удержанию». Глупо искать эту способность в каждой отдельной доске, но все вместе доски обеспечивают коробке способность к удержанию. Все равно что флеш-рояль в покере: выигрывает только комбинация пяти старших карт одной масти.

То же самое относится к понятиям «жизнь» и «разум». Глупо использовать эти слова для описания мельчайших составных частей живых существ, поскольку данные слова употребляются для обозначения взаимодействия совокупности частей. Подобно слову «удерживание», слова «жизнь» и «мышление» пригодны для описания явлений, возникающих в результате определенных комбинаций взаимосвязей. Причина, по которой коробка выглядит простой и понятной, заключается в том, что все понимают, каким образом стенки надежно изготовленной коробки предотвращают побег животного, находящегося внутри. По правде говоря, слово «жизнь» уже утратило значительную часть своей загадочности — по крайней мере для современных биологов, ибо они выявили множество важных взаимодействий между химическими веществами в клетках. Но разум по-прежнему сохраняет свою тайну, ибо мы до сих пор мало знаем о взаимодействии ментальных агентов.

2.5. Легко и трудно

В конце 1960-х годов Строителя удалось «воплотить» в виде компьютерной программы, разработанной Лабораторией искусственного интеллекта при Массачусетском технологическом институте. Мы с моим соратником Сеймуром Пейпертом долго пытались объединить механическую руку, глаз-телевизор и компьютер в робота, который мог бы выстраивать фигуры из детских кубиков. Нам и нашим сотрудникам потребовалось несколько лет для того, чтобы составить программы «Переместить», «Взять», «Поднять» и сотни других, которые были необходимы для создания Строителя. Мне нравится думать, что этот проект позволил нам заглянуть в детское сознание и хотя бы немного узнать о том, что происходит, когда дети учатся «играть» с простыми игрушками. При этом проект не дал ответа на вопрос, достаточно ли условной тысячи микронавыков для того, чтобы ребенок мог заполнить ведерко песком. Именно данный опыт, а не все сведения, почерпнутые из психологии, привел нас ко многим идеям относительно обществ разума.

В первых экспериментах мы сконструировали механическую руку, оснащенную датчиками давления и касания на кончиках пальцев. Затем нам пришлось подключить телевизионную камеру к нашему компьютеру и написать ряд программ, благодаря которым «Глаз» мог различать очертания кубиков. Кроме того, теперь он опознавал и саму «Руку». Когда выяснилось, что имеющегося набора программ недостаточно, мы добавили несколько программ, которые использовали чувствительность пальцев «Руки» для подтверждения визуальных впечатлений. Понадобились также программы, позволявшие компьютеру перемещать «Руку» с места на место и при помощи «Глаза» убеждаться, что на пути перемещения нет никаких препятствий. Еще пришлось составить несколько программ более высокого уровня, чтобы робот мог планировать свои действия, и тех программ, которые отслеживали выполнение намеченных планов. Чтобы все это работало как надо, требовались программы, проверявшие на каждом этапе (опять-таки, при помощи «Глаза» и «Руки») соответствие «замыслов» внутри робота фактическому объему действий — и исправлявшие ошибки, если таковые случались.

В попытках заставить нашего робота трудиться мы обнаружили, что многие повседневные задачи являются гораздо более трудными, в сравнении с теми математическими задачами, головоломками и играми, которые нередко вызывают затруднения у взрослых людей. На каждом шагу в этом мире кубиков, когда обстоятельства вынуждали нас искать подходящие решения, мы обнаруживали целую вселенную неожиданных осложнений. Возьмем, к примеру, простую, казалось бы, задачу — не использовать кубики, уже задействованные при строительстве башни. Взрослый здесь будет руководствоваться здравым смыслом: «Не следует использовать объект для достижения новой цели, если этот объект уже используется для достижения предыдущей цели». Никто не знает точно, как именно человеческий разум приходит к такому выводу. Очевидно, мы учимся на опыте распознавать ситуации, в которых возможно возникновение затруднений, и, когда вырастаем, учимся планировать заранее, дабы избегать подобных конфликтов. Но поскольку нам неизвестно, какой конкретно способ сработает, приходится вдобавок учиться справляться с неопределенностью. Какие стратегии лучше опробовать, какие из них позволят избежать наихудших ошибок? Тысячи, если не миллионы малых процессов вовлечены в реализацию наших способностей предвидеть, воображать, планировать, прогнозировать и предотвращать ошибки; однако все происходит автоматически, из-за чего мы снова и снова рассуждаем о «здравом смысле». Но если мышление настолько сложное, почему оно выглядит настолько простым? Поначалу кажется поистине невероятным, что наш разум в состоянии управлять столь сложной «машинерией» — и оставаться в неведении о ее существовании.

В целом мы почти ничего не знаем о возможностях нашего разума.

Преимущественно лишь когда другие наши системы перестают справляться, мы прибегаем к помощи особых агентов, участвующих в работе того, что принято называть «сознанием». Соответственно мы более осведомлены о простых процессах, которые сбоят, чем о сложных процессах, которые протекают безупречно. Это означает, что мы не можем доверять нашим спонтанным суждениям о том, какие операции тела и мозга являются простыми, а какие требуют сложной «машинерии». В большинстве случаев всякая часть разума только ощущает, что другие части выполняют свою работу.

2.6. Считать ли людей машинами?

Многие люди чувствуют себя уязвленными, когда человеческий разум сравнивают с компьютерными программами или машинами. Мы видели, как простой навык строительства башни из кубиков можно разложить на малые процессы. Но разве что-либо наподобие истинного разума возможно свести к подобным «малостям»?

«Смешно, — скажет большинство людей. — Уж я-то не ощущаю себя машиной!»

Но если вы не машина, откуда вам знать и как судить о том, что значит чувствовать себя машиной? Мне могут ответить: «Я мыслю, следовательно, я знаю, как работает разум». Но это подозрительно похоже на фразу: «Я вожу автомобиль, поэтому я знаю, как работает его двигатель». Знать, как чем-то пользоваться, вовсе не то же самое, что знать, как это что-то работает.

«Но всем известно, что машины могут вести себя только безжизненными, механическими способами».

Это возражение выглядит более обоснованным. В самом деле, человек вправе обижаться на сравнение с любой тривиальной машиной. Однако мне кажется, что само слово «машина» постепенно устаревает. На протяжении многих столетий слово «механический» побуждало воображать различные простые устройства вроде шкивов, рычагов, лебедок и печатных машинок. (Слово «компьютероподобный» унаследовало этот уничижительный оттенок и подразумевает выполнение скучных арифметических действий шаг за шагом.) Но мы должны признать, что находимся сейчас на заре эпохи машин и практически не имеем понятия о том, какой она будет. Допустим, некий гость с Марса прилетел миллиарды лет назад и стал делать выводы об участи населения планеты, наблюдая за скоплениями клеток, которые еще даже не научились ползать. Точно так же мы не в состоянии оценить будущие возможности машин по тому, что происходит с ними в наши дни.

Наши первые «прозрения» относительно компьютеров восходят к опытам с машинами 1940-х годов, которые состояли всего-навсего из тысяч частей. Но человеческий мозг содержит миллиарды клеток, каждая из которых сложна сама по себе и связана со многими тысячами других. Современные компьютеры представляют собой промежуточную ступень сложности; они располагают миллионами частей, и уже создаются машины с миллиардами частей для исследований в области искусственного интеллекта. Но все же, несмотря на неоспоримое развитие отрасли, мы продолжаем употреблять старые слова, как если бы не случилось вообще никаких изменений. Необходимо поменять наше отношение, приспособиться к явлению, масштаб которого превосходит всякий предыдущий опыт. Термина «машина» явно недостаточно.

Впрочем, хватит рассуждений о словах. Давайте оставим эти доводы в сторонке и вместо того попытаемся понять, какие функции выполняют тайные, неведомые механизмы нашего разума. Тогда у нас появится больше поводов гордиться тем, какими великолепными машинами мы являемся.