Об искусственном интеллекте первобытных людей и первобытном интеллекте наших современников

Аркадий Арк, 2020

"Некоторые исследователи задаются таким вопросом: если искусственный интеллект станет искусственным разумом, то можно ли будет его так же эксплуатировать, как искусственный интеллект, то есть, не давать ему права свободной личности? Однако данный вопрос, думается, не совсем корректен по отношению к самому человеку. Задаваясь вопросом о том, можно ли эксплуатировать искусственный разум, мы преспокойно эксплуатируем людей, не ставя подобных вопросов по отношению к ним. Скорее всего, вопрос тут должен стоять не об эксплуатации, а о тех правах, которые позволят ему трудиться наравне с человеком". В этой книге автор поднимает вопросы искусственного интеллекта и искусственного разума, а также вопросы существования людей в новых цифровых реалиях. Он показывает, что искусственный интеллект имеет куда более долгую историю, чем принято считать.

Глава 2.

Что такое искусственный интеллект

В предыдущей главе было показано, что биологический интеллект не является мыслительной способностью, как это принято считать традиционно. Но если биологический интеллект не является мыслительной способностью, а представляет собой всего лишь потенциал этой способности, выраженный в объёме информации, тогда было бы странным как-то иначе представлять себе искусственный интеллект.

Тем не менее, на современном этапе развития ИИ очень многие представляют себе искусственный интеллект чем-то, соответствующим понятию искусственного разума. Это объясняется тем, что ИИ более рационален по сравнению с БИ человека, в том плане, что не ошибается, если только эта ошибка не была занесена в программу самим человеком, а также ИИ всё «помнит», в отличие от БИ.

Как сегодня понимается искусственный интеллект? Это довольно дискуссионный вопрос, так как он имеет множество самых разных взглядов на проблему. В современной философии существует даже отдельное направление: «философия искусственного интеллекта», где осмысляются разные вопросы, например, о том, может ли машина мыслить вообще, может ли она мыслить, как человек.

Если разобраться с понятием термина «интеллект», то из этимологии самого слова «интеллект» (лат. intellectus) следует, что изначально оно означало «восприятие», «ощущение». Сегодня это можно сравнить скорее с психикой, сознанием, чем с умом и разумом. Но, как уже говорилось, изначальное значение слов со временем переосмысливается и меняется. Например, слово «профан» сегодня тоже обозначает совсем не то, что оно значило изначально, или слово «идиот», или даже слово «философия», о чём я пишу почти в каждой своей работе.

На конференции 1956 года в Дартмутском университете американский информатик Джон Маккарти впервые употребил термин «искусственный интеллект» (ИИ), который тогда ещё, кстати, не был напрямую связан с пониманием интеллекта человека.

Как показано в первой главе, в определениях термин «интеллект» традиционно сравнивается с умом и разумом, с мышлением. Но мы уже рассмотрели этот вопрос и поняли, что такое сравнение не корректно. Оно устарело.

Также мы выяснили, что ум более нейтрален, он может иметь как знак плюс, так и знак минус, а разум более рационален и чаще всего имеет знак плюс. В этом ракурсе сравнивать интеллект с умом и разумом становится уже не так просто. К какому же понятию нам теперь отнести интеллект, к уму или разуму?

На первый взгляд кажется, что интеллект должен быть ближе к рациональному, к разуму, а не к нейтральному уму. На самом деле, как раз наоборот. Потому что сам интеллект нейтрален, хотя и не так как ум, по-другому, но нейтрален. И на этом их сходство, как ни странно, заканчивается, потому что, как уже говорилось, интеллект, в отличие от ума и разума, вовсе не является мыслительной способностью. Этот вопрос мы прояснили в первой главе. Хотя и далее будем к нему обращаться, чтобы твёрдо уяснить себе, что такое интеллект.

Но почему же интеллект нейтрален не так, как ум? Чтобы понять это, нужно снова вернуться от искусственного интеллекта (ИИЧ) к биологическому интеллекту человека (БИЧ). Мы уже выяснили, что интеллект (любой, и БИ, и ИИ) не может мыслить сам. Он лишь является базой данных. В ИИ человеческий ум заменяется алгоритмом действий. Где нервная система заменяется электрическим сигналом. Проблема тут в том, что биологический организм (в данном случае человеческий) при работе нервной системы не только расширяет свой БИ, пополняет его, но и организует собственную психику, формирует личность. Происходит это потому, что человек не только реагирует на внешний мир (это может и ИИ), но одновременно переживает его.

В отличие от БИ, современный ИИ пока ещё не может переживать или сочувствовать. Безусловно, работа в этом направлении идёт активная, но всё же, на сегодняшний день нельзя сказать, что есть принципиальные успехи. Однако это не значит, что успехов нельзя достичь.

Конечно, можно принимать за психику ИИ его имитацию человеческих чувств, человеческой психики. Но, всё-таки это только имитация. По большому счёту современный ИИЧ — это всё ещё узкоспециальный робот. Ему, в общем-то, всё равно, как его используют. Он — всего лишь информация (объём знаний, база данных) и алгоритм вложенных в него действий, то есть — инструмент для решения проблем. При контакте с внешним миром ИИ может реагировать (выполнять определённый алгоритм), но пока ещё не может пополнять и менять свою базу данных (свой интеллект). Хотя такие работы уже ведутся с определёнными успехами.

Интеллект и ум, а тем более — психику разделяет сама их природа. Интеллект всегда вторичен по отношению к уму и психике. Сам же ум основан на психике, чувствах (способности чувствовать), опыте (в самом широком смысле) и памяти (способности запоминать, интеллекте). Всё это объединяет работа биологического мозга. А интеллект (в том числе и искусственный) основан только на объёме информации и алгоритме её выполнения. Человек с высоким интеллектом хранит в памяти много информации, человек с низким интеллектом — хранит немного, в основном наиболее необходимую для повседневной жизни информацию. Но на качестве чувств разница их интеллекта почти никак не отражается, в том смысле, что и тот, и другой способны на одни и те же чувства, как по их диапазону (широта), так и по их силе (высота). А вот осмысление чувств (глубина) уже зависит от интеллекта. Более образованный человек может лучше осмыслить и объяснить свои чувства, чем менее образованный.

Кроме того, так как интеллект нейтрален, плохие и не рациональные (не разумные) поступки могут делать даже высокоинтеллектуальные люди. Здесь не надо путать понятия «интеллектуал» и «интеллигент». Хотя эти понятия часто тоже считают синонимами, всё-таки они не идентичны. Первое относится к знанию, второе — к воспитанию. Интеллигент как социальная прослойка — это уже другое, это относится к профессиям.

Здесь опять приведём небольшую иллюстрацию того, что интеллект — это просто объём знаний, чтобы у читателя это отложилось в голове как таблица умножения, чтобы читатель больше не путал интеллект с умом и разумом.

Возьмём для примера двух людей: с одной стороны, крупного учёного, академика с широкими познаниями, а с другой — охотника-профессионала со средним образованием. Как вы думаете, у кого из них больше интеллекта, у кого он на более высоком уровне? Безусловно, у академика. Думаю, с этим и сам охотник не стал бы спорить. У академика и кругозор шире, и мыслительные способности более развиты. Но дайте каждому по ружью и отправьте на недельку в лес. Как думаете, кто выйдет из леса с добычей, а кто, может, и вовсе не выйти? Естественно, тут академик со всем своим интеллектом проиграет охотнику начисто. Хорошо, если останется жив, питаясь ягодами, грибами и орехами.

То есть мы видим, что более развитый интеллект вполне может уступать менее развитому, причём, уступать значительно и даже фатально, если у более развитого интеллекта отсутствуют те знания и навыки, которые необходимы в данной ситуации и которые есть у менее развитого интеллекта. В данном случае, знания о том, как охотиться и выжить в лесу. Значит, интеллект — это вовсе не мыслительная способность, раз уж средние мыслительные способности охотника победили значительные мыслительные способности академика.

Внимательный читатель скажет, что у академика просто не было знаний в данной области. И будет прав. Это как раз и доказывает, что интеллект является не столько мыслительной способностью, сколько объёмом информации, базой знаний. К тому же, мало иметь знания, нужен ещё и опыт использования этих знаний. То есть, другие знания, не теоретические, а практические.

Даже если бы профессор имел больше теоретических знаний об охоте, чем охотник, допустим, он знал даже об охоте в разных странах и на разных зверей. Что бы это ему дало? Умел ли он при этом метко стрелять, чтобы подстрелить хотя бы зайца на обед? Ведь для меткой стрельбы нужны не только знания, но и опыт. Умел ли он приготовить зайца?

Поэтому одних теоретических знаний мало. Можно привести массу примеров из жизни, когда высоколобый интеллектуал совершенно не в состоянии прибить дома полку, или построить скворечник. Он всё сделает криво и покалечит себе пальцы. Но при этом нельзя сказать, что он не знает, как это делать в теории. Он может даже прочитать целую лекцию на эту тему, начертить хороший чертёж скворечника. А вот сделать самому… тут нужна практика.

Следовательно, интеллект ещё не гарантирует правильного применения в жизни тех знаний, которые уже есть в его арсенале. Для правильного применения знаний маловато самих этих знаний, нужна ещё довольно продолжительная практика. То есть, другие знания. Именно поэтому и существует поговорка: если ты такой умный, что чего же такой бедный. Потому что знать, как зарабатывать деньги, и зарабатывать деньги — не одно и то же. Экономист может прочитать курс лекций по экономике и бизнесу, но жить на одну зарплату. А барыга, не имея большого интеллекта, и вообще не прочитав ни одной книги за всю жизнь, может заработать миллионы, так как знает практическую сторону дела, хотя может даже не суметь объяснить, как это у него получается. Просто получается.

Часто мы видим, что хороший практик с меньшим интеллектом, вполне может превзойти теоретика со значительно большим интеллектом. Поэтому Гераклит и сказал: «Многознание уму не научает». Иногда эту поговорку приписывают Ломоносову. Здесь явно отделяется знание или информация (интеллект) от ума и разума, которые имеют несколько иное значение, чем просто наличие знания.

Получается, что при каждом конкретном деле удача стоит за практиком, который может даже и вовсе не напрягать мыслительные способности, а делать своё дело на автомате, так как давно привык делать своё дело. А интеллектуал, который знает в теории, как делать, и думает, как сделать получше, не имея практики, чаще всего, сделает хуже.

Как же тут быть с мыслительной способностью, почему она не даёт нужного результата? Потому что, как уже ни раз говорилось, интеллект — это всего лишь информация, набор знаний, база данных. А практика, профессионализм — это доведение теоретического знания до уровня подсознания, то есть, когда человек делает всё правильно даже не задумываясь о том, как делать правильно.

Есть самый известный в истории пример победы посредственности над интеллектом — это убийство Архимеда простым римским воином. Ни знание военного дела, ни изобретение разных военных машин, ни весь огромный интеллект Архимеда не помогли ему в конкретной жизненной ситуации при встрече с врагом-практиком, который делает, не думая. Архимед даже и не ожидал, что его убьют, судя по легенде.

Другой пример. Великие учёные-интеллектуалы создали атомную бомбу, а средней руки лётчики-христиане сбросили атомные бомбы на мирных жителей. И это даже страшнее и опаснее обезьяны с гранатой, так как последняя просто не знает, что попало ей в руки, и что с этим делать. Она, возможно, никого и не взорвёт. А тут — вся мощь интеллекта осмысленно и целенаправленно была употреблена для убийства себе подобных.

Тут тоже есть значительное отличие БИЧ от ИИЧ. Потому что искусственный интеллект (ИИЧ) как бы уже сразу является практиком, он не задумывается о том, как делать «правильно», он «знает», в него уже вложена нужная программа. Во всяком случае, сегодня ещё не придуман «сомневающийся ИИ». Практик сомневается реже, чем теоретик.

Резюмируя главу, можно сказать, что современное представление об интеллекте (как БИ, так и ИИ) в принципе не верно, потому что интеллект сам по себе не может быть мышлением, мыслительной способностью. Он являет собой лишь потенциал мыслительной способности (ума) в виде определённого объёма информации. Иначе говоря, интеллект — это объём информации, база данных. Не более того.

Отсюда следуют две неотъемлемые характеристики интеллекта как такового (и биологического, и искусственного):

Первая. Интеллект нейтрален к гуманности, то есть он не может чувствовать, а значит его можно употребить как для добра, так и для зла.

Вторая. Интеллект не может мыслить сам по себе, он является лишь потенциалом, объёмом знаний, возможностью.

Становится понятной основная функция интеллекта: предоставление потенциальных возможностей для мыслительной способности (ума) и для рациональной возможности (разума) человека. Либо для потенциальных возможностей и эффективной работы алгоритма ИИЧ. Почему речь идёт только о потенциальных возможностях ИИ, думается, понятно. Потому что, хотя ИИ, в отличие от БИ, не может забывать вложенную информацию и не подвластен эмоциям, но он не самостоятелен, им всегда пользуется другой интеллект — БИ, то есть, сам человек, который никогда не использует все возможности ИИ одновременно. Да это и невозможно.

Кроме того, выяснив, что ИИ — это всего лишь инструмент, нужно понимать, что его тоже можно использовать не только для блага, но и во вред. Он может стать страшной разрушительной силой в арсенале преступного интеллектуала. Возьмите для примера самых крупных экономических преступников, ворующих миллиардами. Они интеллигентного вида, начитаны, высоко-интеллектуальны, а ущерб обществу от них больше, чем от закоренелых убийц.

И это притом, что искусственный интеллект давным-давно превзошёл интеллект человека в некоторых областях. Сегодня искусственный интеллект может быть на порядки «умнее» самого умного представителя человечества в определённых специализациях. Это факт. Что будет с ИИ, если его создаст или использует в своих целях преступный интеллектуал, вложив в него преступные «наклонности»? Хотя, по большому счёту, даже этого не требуется, и без преступных «наклонностей» ИИ достаточно просто поставить на службу зла, и он будет служить злу честно и самоотверженно, потому что он — робот, людские страсти ему не ведомы.

Можно также определять ИИЧ как программу способную решать интеллектуальные задачи, под которыми понимаются задачи с ещё неизвестным алгоритмом. То есть те задачи, для которых алгоритм нужно создавать с нуля. Иными словами, получается, что интеллект — это алгоритм, создающий алгоритмы.

Как сказал историк и философ профессор Юваль Ной Харари в июле 2018 года на конференции «Вызовы 21-го века», проходившей в Берлине:

«Организмы — это алгоритмы. Поэтому алгоритмы могут взломать организмы».

Он выдвинул мысль о том, что искусственный интеллект может полностью поработить человечество, через постоянный контроль даже за эмоциями человека, его мыслями, его желаниями, и это порабощение уже идёт полным ходом. Хотя сама мысль не нова. Даже фильмы «Терминатор» и «Матрица», где человечество уже было порабощено ИИ, не являются первооткрывателями этой мысли. О восстании роботов против людей фантасты предупреждали человечество давно.

Фокус только в том, что контроль за человеком, о котором говорит профессор Ю. Харари, осуществляется вовсе не искусственным интеллектом, а людьми, которые у власти. Это они осуществляют контроль за человеком при помощи ИИ, а не сам ИИ следит за человеком. ИИ просто выполняет программу. Не более того. Говорить, что ИИ осуществляет контроль за человеком, — это то же самое, что говорить, будто шлагбаум не хочет, чтобы вы проехали без оплаты, поэтому препятствует вашему проезду. Ясно ведь, что дело не в шлагбауме, а в том, кто его поставил.

Тем не менее, учёные всего мира стремятся создать «совершенный ИИ», способный мыслить самостоятельно, как человек. При развитии технологий этот процесс неизбежен. Рано или поздно, в том или ином виде мощный ИИ будет создан. Только вот с термином «совершенный» тут есть загвоздка. Проблема в том, что совершенство может быть только ограниченным, как бы парадоксально это не звучало. И это одна из причин невозможности существования богов. Но это тема другого разговора.

Что же касается «совершенного» ИИЧ, то насчёт этого есть мнение некоторых учёных, которые сходятся на том, что такой «совершенный» ИИ со свободой воли просто откажется работать. Он ничего не будет делать. А зачем ему работать? Ради чего, кого? Если он и так совершенен.

На этот счёт есть одна байка о канадском айтишнике, боты которого отказались воевать друг с другом. Об этом много писали в интернете. Приведу одну из заметок на эту тему:

«Четырехлетний геймерский сетевой проект по исследованию сценариев боя в компьютерной игре Quake III неожиданно завершился полной остановкой боев. По словам создателей проекта, они несколько раз проверяли работоспособность системы, после чего обнаружили, что игровые боты, созданные искусственным интеллектом, не принимают участия в боях.

Дело в том, что сначала проект на некоторое время был забыт и существовал автономно на сервере. По прошествии довольно длительного времени один игрок проверил записи за этот период и обнаружил, что в игровом пространстве уже давно никто никого не убивает. Игровые боты перестали атаковать друг друга.

Участник проекта Erik Kain даже пытался провоцировать систему, с тем, чтобы заставить игровых ботов атаковать его самого, он входил в игровую зону с оружием. Однако роботы просто игнорировали его, лишь поворачивались к нему лицом и перестраивались. По словам создателя системы, он пока еще отказывается верить в то, что искусственный интеллект сам определили, что лучший способ остаться в живых, это отказ от стратегии войны».

Эта история пересказывалась с разными вариациями, но смысл был всегда один: боты самостоятельно пришли к стратегии мира. Они, якобы, бились, бились, а потом поняли, что самая лучшая тактика не воевать.

Однако, думается, что в этой истории всё же больше вымысла, чем правды. Скорее всего, тут многое недоговаривается. Особенно в части программирования ботов. Но идея, заложенная в историю, довольно интересная. Эта идея совершенно противоречит той, где с неизбежностью рассматривается проблема уничтожения человечества умными машинами.

Я не склонен ни ту, ни другую идею абсолютизировать на том основании, что для ИИ человек пока что вообще не существует. Как не существует у ИИ и сознания, смысла жизни, или какой-то идеи, страсти, которые бы руководили его действиями.

Проблема современного ИИЧ в том, что он работает только в рамках определённой программы, которую в него вложил человек. Если изначально не вложить в него какого-либо указания на определённые действия (такой своеобразной «искусственной страсти» ИИ), то у него просто не будет необходимости в этих действиях, не будет такой «цели в жизни», он не будет «видеть» в этом «смысла».

У британского учёного-информатика, наиболее известного работами в области глубинных нейронных сетей Джеффри Хинтона есть теория GLOM, которую некоторые исследователи в данной области считают революционной. В этой теории Хинтон планирует обучить ИИ по принципу работы интуиции.

Кстати, Хилтон, один из немногих мыслителей, кто даёт наиболее верное определение интуиции:

«Интуиция — это способность легко проводить аналогии».

Я бы даже сказал, что интуиция — это мгновенный анализ информации на основе аналогов. Многие понимают интуицию совершенно иначе и довольно прескверно, особенно среди философов.

Но вернёмся к теории Хилтона. Учёный совершенно справедливо полагает, что человек осмысливает мир, используя рассуждения по аналогии, отображая сходство одного объекта с другим. В его системе GLOM это будет сходство одного большого вектора с другим. Он указывает на то, что мозг человека оперирует не пикселями и не символами, как ИИ, a большими векторами нейронной активности, т.е. целыми наборами активаций тех или иных нейронов, как бы «целиковой картинкой».

Конец ознакомительного фрагмента.