Жизнь в Байхапуре, идеальном городе-государстве, зависит от показателя рейтинга, который контролирует система искусственного интеллекта. Нулевой уровень преступности. Потенциально опасные элементы, чей рейтинг опустился ниже определенной отметки, изолируются от общества и перемещаются за стену без возможности возврата. Профессор Афа Асури, создатель системы, получает всемирное признание и Нобелевскую премию. Внезапно его личный рейтинг начинает стремительно падать, рискуя опуститься до той самой границы. Он считает, что это всего лишь сбой программы.
XVI
Стенограмма закрытого совещания Совета безопасности
(За четыре года до происходящих событий.)
На совещании присутствовали все члены Совета безопасности, доверенное лицо премьер-министра Байхапура, профессор Института мышления Афа Асури.
Доверенное лицо премьер-министра:
Дамы и господа! Сегодняшнее совещание носит исторический характер не только для нашего государства, но и для всего человечества, которое готово использовать опыт Байхапура в случае его удачного завершения. Вы все ранее ознакомились с отчетом господина профессора, который в достаточно убедительной манере описал необходимость передачи полных прав в создании алгоритма рейтинга искренности машине искусственного интеллекта «Лотос-1», разработанной Институтом мышления. Сейчас мы можем задать профессору Асури те вопросы, которые могли накопиться у нас в процессе ознакомления с документом. Мы все знаем господина профессора как исключительного защитника ценностей и завоеваний республики Байхапур. Нет никаких сомнений в глубоком познании человеческого менталитета господином Асури… Прошу вас, задавайте свои вопросы, которые касаются именно выводов и рекомендаций отчета. Но прежде всего я хочу спросить господина профессора: вы хотите что-то сказать перед началом дискуссии?
Профессор Асури:
Если позволите, я добавлю только одно замечание. Уважаемые дамы и господа! Когда был составлен отчет и полностью проанализирован ответ «Лотоса-1», я несколько дней находился в состоянии психического шока: не было сил спокойно и равнодушно принять те условия, с которыми теперь ознакомлены и вы. Поверьте, мне далось это нелегко. Я благодарю господина председательствующего за эту ремарку, которой он предварил нынешнюю дискуссию.
Член Совета:
Уважаемы присутствующие! Список многочисленных вопросов к уважаемому профессору Асури лежит передо мной, так как все члены Совета поручили мне от их имени вести дискуссию с представителями Института мышления.
Небольшая преамбула… Прежде всего, я восхищен работой института и, в частности, профессора Асури и признаю революционность последствий создания алгоритма рейтинга искусственным интеллектом по теории, разработанной институтом. Сегодня же остро стоит только один основной вопрос, который затмевает своей значимостью множество маленьких, уточняющих замечаний, предложений и так далее.
Вопрос, который нам предстоит обсудить, — имеем ли мы право принять предложение «Лотоса-1» и профессора Асури для практического применения в нашем государстве и, если хотите, во всем мире.
Я позволю себе уточнить у господина профессора суть вопроса: правильно ли Совет безопасности понимает, что вы и ваше произведение предлагаете устранить все существующие организации надзорного наказания?
Профессор Асури:
Да.
Член Совета:
Благодарю. И еще: правильно ли я понимаю, что машина искусственного интеллекта предлагает способ устранения опасных для государства и граждан субъектов в виде отсылки упомянутых нарушителей или даже преступников в специальное место, никак не обустроенное цивилизацией для поддержания минимального качества жизни?
Профессор Асури:
Да, правильно.
Член Совета:
Благодарю… И последнее: вы действительно признаете гуманным данный способ устранения субъектов с угрожающим рейтингом?
Профессор Асури:
Да, признаю… Я повторю, что это далось мне нелегко. Но справедливость должна быть на вершине. Я предлагаю вам одновременно ответить на мой вопрос: правильно ли я полагаю, что ни один гражданин, включая нас с вами, не заботится ежедневно или же просто регулярно о судьбе заключенного под стражу преступника, отбывающего наказание?
Я отвечу вместо вас… Мы все получаем удовлетворение в том, что гуманизм сохранен и преступник продолжает жить и здравствовать, только лишь в ограниченных условиях. При этом мы не рассматриваем развитие его души — озлобленность, жажду мести и тому подобные чувства. С нас достаточно признания гуманизма в своих законодательных действиях.
И задам еще один вопрос: правильно ли я полагаю, что вам нет никакого дела до разрушительной опасности для граждан появления закаленного в злобе субъекта после отбывания им срока надзорного наказания?
Я и тут отвечу вместо вас: гласное утверждение, что срок заключения считается достаточным для исправления, все мы номинально признаем. И так же гласно считаем этого человека равным и даже равноправным согражданином. Но при этом ментально, физически и психически все мы стараемся держаться подальше от такого типа людей. Мой вывод простой: гуманность соблюдена, а нравственность — нет.
Если я ответил правильно и у вас нет принципиальных возражений, я готов выслушать ваши претензии или замечания, которые касаются отсекания от общества упомянутого класса с угрожающим рейтингом навсегда и безвозвратно… С полным предоставлением свободы поведения и мышления среди себе подобных и, главное, без надзора за жизнью, без руководящего и ограничительного вмешательства специалистов, имеющих рейтинг более высокого класса.
Руководитель Совета безопасности:
Дамы и господа! Я бы хотел вмешаться и зачитать ответ «Лотоса-1» — тут есть все, что может вас заинтересовать. Если позволите, я передам текст секретарю, который публично прочитает этот документ.
Секретарь:
GH-268/4 «Лотос-1» 16.45
«Человеческая логика чувствований находится на стадии необратимого несовершенства. Все исторические документы утверждают следующий анализ: ни одна организация, собрание, правительство и им подобные инстанции не выносят истинный вердикт по вопросу о наказании провинившегося. В 95 % случаев все ответственные за принятие решения выносят приговор с сознательным обманом друг друга и самих себя. Природа подобных приговоров лежит исключительно в общей моральной концепции того общества, от имени которого принимают решения определенные группы лиц, обремененные соответствующими полномочиями и властью.
Решения выносятся с пониманием каждого члена такой комиссии всей несправедливости. Безжалостность в одном случае сопутствует с бессмысленной амнистией в другом.
На сегодняшний момент развития человек не способен вынести решение, связанное с судьбой другого человека, которого подвергли преследованию за проступки.
Несовершенство возникает именно в сочетании общей морали и индивидуальной нравственности.
Выводом нужно считать категорическую невозможность доверия субъективному решению общества в этом исключительно важном вопросе развития или динамики цивилизации».
Конец ответа «Лотоса-1».
Руководитель Совета безопасности:
Я настоятельно рекомендую продолжить дискуссию, господа. Этот вопрос является краеугольным камнем всей истории человечества.
Конец ознакомительного фрагмента.
Приведённый ознакомительный фрагмент книги Рейтинг Асури предоставлен нашим книжным партнёром — компанией ЛитРес.
Купить и скачать полную версию книги в форматах FB2, ePub, MOBI, TXT, HTML, RTF и других