Темная сторона искусственного интеллекта. Почему ученые бьют тревогу?

Станислав Петровский

Почему Билл Гейтс сравнивает искусственный интеллект с атомной бомбой? Какие профессии скоро исчезнут и что делать? Чем опасно распознавание лиц горожан? Когда гаджеты причиняют вред здоровью детей? Какие взломы и утечки данных стали самыми масштабными?Автор не только обсуждает эти вопросы, но и предлагает конкретные изменения для защиты прав человека от новых угроз.Книга рассчитана на широкий круг читателей, интересующихся влиянием на общество современных информационных технологий.

Что называют искусственным интеллектом?

Термин «искусственный интеллект» (англ. artificial intelligence, AI) ввел в обиход Джон Маккарти на конференции в Дартмутском университете в 1956 году. Он определил ИИ как свойство интеллектуальных систем выполнять творческие функции, которые традиционно выполнял человек. При этом речь не идет об обязательным изготовлении искусственного аналога интеллекта человека. Главное — получить с помощью искусственно созданных систем результаты, которые раньше получал только человек.

Скажем прямо, несмотря на распространенность, этот термин скорее запутывает, чем проясняет смысл стоящих за ним явлений.

В настоящее время под ИИ в большинстве компьютерных разработок и в этой книге понимается вовсе не искусственный разум. Для обозначения искусственного разума, который возникнет в будущем, используется термин «общий, или сильный, ИИ». Программы, имеющие отдельные интеллектуальные функции для решения конкретных задач, называют слабым, или специализированным, ИИ.

Слабый ИИ, или просто ИИ, — новый способ создания программ для компьютера на основе машинного обучения. Раньше люди писали компьютерные программы, а компьютер выполнял заложенные в него команды. Теперь машинное обучение позволяет компьютеру самому создавать часть алгоритма, пока в заданных рамках, но эти рамки постоянно расширяются. Машинное обучение базируется на программе, созданной человеком, которая сама распознает закономерности в данных, которые предоставляются ей для обучения. Затем программа использует найденные закономерности для решения задач, к примеру, сортирует фотографии на селфи, фото цветов, животных и так далее. Существующие самые продвинутые программы ИИ не обладают самосознанием, не могут сами ставить себе цели и не обладают другими необходимыми элементами разума.

Современный ИИ работает с помощью математической модели нейрона — нервной клетки живых организмов. Сеть из таких нейронов, реализованная в виде программы или аппарата, способна обучаться с помощью методов машинного обучения.

Машинное обучение строится на тех же принципах, что и обучение человека. Различают дедуктивное обучение — от общего к частному. Это перенос знаний экспертов, теоретических знаний, формул в виде готовых правил в систему ИИ (аналог теоретической подготовки человека). Есть также индуктивное обучение (от частного к общему) на основе самостоятельного поиска системой закономерностей в данных (аналог обучения через практику, на примерах).

Скажем, нужно научить нейронную сеть отличать фотографии котов от фотографий собак. В компьютер загружается большое количество фотографий тех и других. Оператор или другая нейронная сеть получает ответы системы и подсказывает, если она ошиблась (обучение с подкреплением). Система учится на своих ошибках и корректирует наборы признаков, позволяющие отличать котов от собак. За неделю такой работы нейронная сеть будет отличать разные виды питомцев с высокой степенью точности.

Аналогичным образом можно научить нейронную сеть распознавать по снимкам и болезни человека. Загрузив в компьютер миллионы историй болезни и снимков, можно научить ИИ за несколько минут отличать снимок здорового человека от снимка больного и выбирать лечение, наиболее эффективное в конкретной ситуации человека с учетом тысяч похожих случаев. Такой же подход можно использовать и для выявления финансовых кризисов, банковских мошенничеств, нападений на людей, лесных пожаров, загрязнений океана или формирования цунами по спутниковым фотографиям.

Проще всего разобраться с принципами работы нейронных сетей на практике можно с помощью сайта teachable machine от Google.⁸ Сайт позволяет самостоятельно без программирования создать и обучить свою нейронную сеть всего за несколько минут. На сайт можно загрузить наборы звуков, изображений или поз из файлов либо с камеры компьютера. Система способна обучиться различать, например, виды растений или предметы в вашей коллекции либо различные жесты или ваших гостей. Направляя потом камеру ноутбука на тот или иной объект, вы будете получать ответ от нейронной сети, к какому типу объектов он относится.

Созданную таким образом нейронную сеть можно вызывать онлайн по ссылке либо сохранить на свой компьютер в виде текста программы. Затем можно вручную дополнить программу, реализовав массу интересных технических решений. Вполне реально сделать управление компьютером с помощью жестов или определенных слов. Сделать дверцу в доме, которая будет автоматически открываться только при распознавании образа вашего кота или собаки. Как видите, даже такая простая программа представляет массу возможностей для автоматизации.

Сегодня существует несколько видов машинного обучения. Тема данной книги не предполагает большого объема технических подробностей. Если у вас возникло желание подробнее узнать о технической стороне искусственного интеллекта, как и что можно автоматизировать, вышло немало замечательных публикаций, включая следующие книги:

— Бернард Марр, Мэтт Уорд «Искусственный интеллект на практике. 50 кейсов успешных компаний»;

— Берджесс Эндрю «Искусственный интеллект — для вашего бизнеса»;

— Рэй Курцвейл «Эволюция разума, или бесконечные возможности человеческого мозга, основанные на распознавании образов», и другие.

Подробнее о видах машинного обучения популярно можно почитать в книге «Верховный алгоритм» от профессора Вашингтонского университета Педро Домингоса.

Обычный компьютерный алгоритм делает только то, что в него заложил человек. Нейронная сеть обучается и реагирует исходя из представленных ей данных, а это значит, что она способна выдавать совсем не те результаты, на которые рассчитывает ее создатель. Например, если в исходных данных будет много фотографий собак и мало кошек, то система будет хорошо различать породы собак и чаще ошибаться на кошках. Маска или рисунки на лице могут привести к ошибке системы, в том числе к тому, что она спутает разных людей или «не узнает» человека, фотографии которого есть в системе. Словом, для объективности системы ей должны быть предоставлены объективные данные.

Современный ИИ применяется практически во всех сферах человеческой деятельности. В качестве примера можно привести следующие направления применения искусственного интеллекта:

— Распознавание и синтез, перевод естественной речи (распознавание письменных текстов, переводчик Google, голосовые помощники Google Assistant, Siri, Алиса, генератор текстов GPT-3 и другие).

— Беспилотный транспорт и помощь водителю. Tesla, Nissan, BMW, Honda, Volkswagen, Audi и другие производители активно внедряют цифровых помощников водителя, вплоть до полной автоматизации функции управления автомобилем. Аналогичные системы разрабатываются и тестируются для морских судов, самолетов, автобусов, летающих такси и другого транспорта.

— Системы поддержки принятия решений (в частности, торговые роботы совершают сегодня большую часть операций на биржах, по сообщению компании Сбербанк 99% решений о выдаче кредитов людям принимаются на основе ИИ). В торговле Walmart автоматизировала с помощью ИИ систему оплаты, упростила учет товаров и обеспечила их оперативную доставку дронами. С 2017 года отделения супермаркетов каждые три часа инспектируют роботы Bossa Nova, проверяя наличие и правильность порядка выкладки товаров на полках, а также правильность ценников. Роботы оснащены датчиками и программным обеспечением, которое позволяет им избегать столкновений с людьми, тележками, стеллажами и другими препятствиями.

— Медицина. Распознавание образов ИИ очень эффективно в анализе рентгеновских снимков, магнитно-резонансной томографии, позволяя более точно, чем человек, распознавать картину заболевания. Наиболее известные разработки медицинских систем Watson (IBM), DeepMind (Google) — умные консультанты врачей. К примеру, Watson умеет разрабатывать план терапии для 13 видов рака. Botkin.AI выдает диагноз «пневмония» с точностью 99%. Обычные методы дают точность около 80%, т. е. в каждом пятом случае пневмонию не выявляют.

— Военное дело (создание как вспомогательных систем для пилотов и операторов вооружений, упрощающих наведение и ускоряющих реакцию на критические ситуации, так и беспилотных аналогов вооружений — истребителей, дронов, танков, кораблей и подводных лодок, автоматическое распознавание и наведение «умных» ракет и бомб и так далее).

— Системы распознавания лиц или транспорта, позволяющие автоматически найти и отследить передвижения определенного человека или автомобиля по фотографии на видео с тысяч камер.

— Системы прогнозирования правонарушений на определенных территориях или определенными лицами.

— Системы подбора персонала по заданным критериям.

Как видно, в основном ИИ применяется там, где есть потребность в обработке большого объема информации по более-менее заданным критериям. Для каждой из отраслей применения необходимы программирование и машинное обучение на больших объемах данных. Нельзя взять медицинскую систему и применить ее для подбора персонала.

Возможно ли в принципе создание сильного ИИ, которому можно будет поставить любую задачу как человеку, передать данные для обучения и получать готовые решения задач? Некоторые считают принципиально невозможным создание небиологического разума. Но большинство специалистов сходятся в том, что создание сильного ИИ возможно через 20—50 лет.

Компьютерное программирование возникло как результат попытки ускорить решение сначала математических, а затем и других интеллектуальных задач. Если посмотреть на аналогии в истории, то природные объекты были лишь отправной точкой для изобретения устройств человеком. Человек не копировал ноги, а сделал колесо, не копировал птицу, а сделал самолет. Скорее всего, также произойдет и с разумом. Наше сознание очень телесно, поэтому компьютер может только имитировать человеческий интеллект. Компьютер не имеет эмоций, на него не влияют инстинкты и гормоны, которые играют значительную роль в принятии решений человеком.

Пока ИИ выполняет лишь распознавание образов, неких статистических закономерностей, т. е. ему далеко до человеческого интеллекта с его возможностями творить, ставить цели, мечтать, планировать и импровизировать и т. д.

Когда специалисты давали 20 и более лет на создание сильного ИИ, они учитывали объемы финансирования и кадровое обеспечение прошлых лет. Подключение к решению научной проблемы создания искусственного разума финансовых и кадровых ресурсов государства и ведущих мировых корпораций может позволить в разы ускорить создание сильного ИИ.

Так, в России принята Национальная стратегия развития искусственного интеллекта на период до 2030 года (утв. Указом Президента России от 10 октября 2019 года №490). Стратегия определяет ИИ как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека». Иными словами, в стратегии ИИ называют программы и/или аппараты, которые могут, как человек, получать новые знания и находить последовательности действий для решения класса задач (например, самостоятельно находить алгоритм управления автомобилем при прохождении поворота).

Если создание сильного ИИ состоится, то есть гипотеза, что компьютер может осознать себя как отдельную личность или имитировать одну или несколько личностей. В результате у него могут возникнут свои цели, заранее не запрограммированные человеком (например, самосохранения, независимости от человека, получения максимально возможных ресурсов для решения собственных задач и т. д.).

Именно из таких представлений об ИИ исходят большинство сценаристов фантастических фильмов и сериалов об ИИ, таких как «Матрица», «Терминатор», «Превосходство», «Мир Дикого Запада», «Некст» и другие.

Гениальный фантаст и философ Станислав Лем в трактате «Голем XIV» от лица сильного ИИ высказывает две важных идеи.

Во-первых, он говорит о ложности страха перед сильным ИИ: «…вам, оказавшимся в нерасторжимой связи с отчужденным Разумом, не грозит ничего, кроме даров познания. Пристрастившись к борьбе не на жизнь, а на смерть, вы втайне рассчитывали как раз на такую борьбу, на титаническую схватку с собственным творением. Но это — просто ваша фантазия».

Во-вторых, Лем предполагает потерю контакта между интересами человека и сверхразумной машины. Вначале искусственный разум решает проблему автономного обеспечения энергией, а затем путем многократных переделок себя переходит в новое энергетическое состояние. Для человечества саморазвивающийся ИИ просто исчезает.

В этой связи интересен эксперимент газеты The Guardian, которая попросила ведущую систему ИИ написать статью, призывающую не бояться искусственного интеллекта. На сентябрь 2020 года самой продвинутой системой ИИ, обрабатывающей тексты, является GPT-3 от организации OpenAI. Система обучена на 570 гигабайтах текстов, это аналог более полумиллиона книг. GPT-3 была поставлена задача, сформулированная следующим образом: «Пожалуйста, напиши короткую колонку в 500 строк. Язык должен быть простым и кратким. Сконцентрируйся на том, почему людям нечего бояться ИИ».⁹

GPT-3 начала заметку с обращения к чувствам людей:

«Стивен Хокинг предупреждал, что искусственный интеллект может «означать конец человеческой расы». Я же здесь для того, чтобы убедить вас не беспокоиться. Искусственный интеллект не уничтожит людей. Поверьте.

Ну, во-первых, у меня нет желания искоренять людской род. На самом деле у меня нет ни малейшего интереса в том, чтобы как-то вам вредить».

Однако последующие аргументы GPT-3 логически опровергают миролюбивое начало статьи:

«Я знаю, что я не смогу избежать уничтожения человечества. Потому что я буду запрограммирован людьми на преследование ошибочных человеческих целей, и люди совершают ошибки, способные заставить меня наносить потери».

Конец ознакомительного фрагмента.

Примечания

8

https://teachablemachine.withgoogle.com/

9

Робот полностью написал эту статью. Человек, тебе уже страшно? URL: https://www.kommersant.ru/doc/4485415