Ключевые идеи книги: Ничья армия: автономное вооружение и будущее войны. Пол Шарр

Smart Reading, 2020

Этот текст – сокращенная версия книги Пола Шарра «Ничья армия: автономное вооружение и будущее войны». Только самые ценные мысли, идеи, кейсы, примеры. О книге Помните мрачно-абсурдный сценарий «Терминатора», в котором искусственный интеллект (ИИ) решил, что человечество можно спасти, лишь уничтожив людей? Если вы думаете, что это просто кино, то ошибаетесь – в сфере робототехники кипят нешуточные страсти по поводу того, возможно ли подобное развитие событий в реальности. Многие влиятельные люди (в их числе Илон Маск, Стив Возняк, Стивен Хокинг) настроены весьма пессимистично и даже стали участниками кампании «Остановим роботов-убийц», направленной на запрет наступательного ИИ-оружия. И все же Пол Шарр, привлеченный политический аналитик Пентагона и участник многих экспертных форумов на тему ИИ-вооружений, предлагает нам взглянуть на происходящее максимально резво. Прочитайте саммари его книги «Ничья армия: автономное вооружение и будущее войны», чтобы понять, насколько смертоносной может быть автономия оружия и какие шаги следует предпринять миру, чтобы достичь безопасности в этой сфере. Зачем читать • понять, насколько современное вооружение автономно, независимо от • человека; • развеять страхи о возможном восстании машин; • ознакомиться с азами работы глубоких нейросетей в ИИ; • вникнуть в моральный аспект углубляющихся контактов людей и машин. Об авторе Пол Шарр – старший научный сотрудник и директор Программы технологий и национальной обороны в Центре новых подходов к обеспечению американской безопасности, ветеран войн в Ираке и Афганистане; руководитель группы, разработавшей в 2012 году директиву Министерства обороны США 3000.09: «Автономия в системах вооружения».

От картечи до ВТО, от робота-пылесоса до израильской «Гарпии»

История автономного оружия началась в 1861 году во время Гражданской войны в США, когда сердобольный врач Ричард Гатлинг создал так называемую картечницу Гатлинга, предшественницу работавшего от отдачи пулемета. Она делала более трехсот выстрелов в минуту, а для ее обслуживания требовалось всего четыре человека. По мнению Гатлинга, таким образом можно было значительно уменьшить количество солдатских смертей. Он ошибся, и скоро опыт его изобретения стал основой для создания еще более смертоносного оружия.

Вторая мировая война, в которой ковровые бомбардировки привели к колоссальному сопутствующему урону, доказала, что мощного оружия недостаточно, — нужно высокоточное оружие (ВТО). Однако при его использовании грань между автоматическим и автономным оружием окончательно размывается. Некоторые ВТО управляются через беспроводную связь, некоторым оператор лишь обозначает цель (хотя всегда может ее поменять или прервать операцию вообще). В редких случаях запущенное ВТО уже не остановить вовремя, так как эти типы оружия используют радары, GPS и так далее для самостоятельного нахождения цели после запуска. Тем не менее это все еще машины, программируемые человеком. Тогда что же такое полная автономия и автономное вооружение?

Автономия: три измерения

Одно из определений автономии, предложенное Полом Шарром, звучит как «способность машины выполнять задачу или функцию самостоятельно». Но в таком случае робот-пылесос, который вы запускаете в доме, когда уходите, тоже делает автономную работу?

Автор выделяет три измерения автономии.

• Первое измерение определяется типом задачи в зависимости от важности, сложности и рисков, связанных с ее использованием.

Холодильник отвечает за хранение продуктов, тогда как Скайнету поручают более важную задачу, связанную с контролем ядерного вооружения.

Подушка безопасности выполняет несложную задачу: надуться при аварии. В то же время самолет, терпящий крушение, в последние минуты перед столкновением переходит в автономный режим, чтобы попытаться выровнять судно, если пилот почему-то не в состоянии выполнить эту задачу.

Если мы передаем управление машине, то нужно быть готовыми к последствиям, даже таким невероятным, как непреднамеренное срабатывание Машины Судного дня в фильме Кубрика.

В «Доктор Стрейнджлав, или Как я перестал бояться и полюбил бомбу» СССР не успевает объявить о создании этого оружия, главная цель которого — устрашить, и, когда американский самолет из-за неполадки бомбит военную базу СССР, механизм уничтожения всей жизни на Земле срабатывает самостоятельно.

• Второе измерение зависит от совершенства механизма принятия решений (автоматического, автоматизированного, автономного).

Действия обычного термостата были заданы заранее. Они предсказуемы для любого. Иными словами, он действует автоматически.

Конец ознакомительного фрагмента.