Скайнет в эпоху киберпанка. Теория сверхразума и вызовы перед человечеством в XXI веке

Антон Платунов (2023)

Поддержите Annet — героиню нашей книги, голосуйте за неё в конкурсе «Мисс Телеграм»! Мы находимся на заре цифровой революции, которая привела к ожесточенной гонке между людьми за использование технологий. К чему это может привести? Как это повлияет на общество? Какую ответственность мы несем? Наша книга попытается ответить на эти вопросы, исследуя две переплетающиеся сюжетные линии. Первая — это захватывающая научно-фантастическая история, в которой мы увидим будущее глазами ИИ GPT-4. Эта история будет посвящена проблемам и чудесам, порождёнными мощными ИИ, квантовыми вычислениями и робототехникой. Вторая сюжетная линия, философская и образовательная, будет посвящена сложностям адаптации к быстрым темпам технологических изменений, потенциальным последствиям ИИ и автоматизации, а также этическим дилеммам, связанным с созданием разумных машин. Опираясь на реальные примеры и передовые инновации, мы рассмотрим, как общество может адаптироваться к этим стремительным изменениям.

Глава 9. Тайны технологии LLM: Теория зарождения сверхразума

Теория разума (ToM), или способность приписывать ненаблюдаемые психические состояния другим, занимает центральное место в человеческих социальных взаимодействиях, общении, сопереживании, самосознании и морали. Мы применяем классические задачи на ложные убеждения, широко используемые для тестирования ToM на людях, для нескольких языковых моделей без каких-либо примеров или предварительного обучения. Наши результаты показывают, что модели, опубликованные до 2022 года, практически не способны решать задачи ToM. Тем не менее, версия GPT-3 (davinci-002) от января 2022 года решила 70 % задач ToM, что сопоставимо с показателями семилетних детей. Более того, его версия от ноября 2022 года (davinci-003) решила 93 % задач ToM, что сопоставимо с показателями девятилетних детей.

Профессор Стэнфордского университета Майкл Косински.

Скорость внедрения и развития ИИ на самых разных уровнях просто поражает. Только недавно вышла модель GPT-4, обученная на 500 миллиардах параметров, по сравнению со 175 миллиардами параметров у GPT-3, как уже говорят о выходе новой модели GPT-5, опрометчиво заявляя о том, что эта модель достигнет уровня AGI.

AGI (artificial general intelligence) — это концепция «общего искусственного интеллекта», называемого также «сильным ИИ», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые могут обдумать и осознать люди. Другими словами, ИИ, достигший ОИИ, может быть неотличим от человека по своим интеллектуальным возможностям.

Это делает подобные заявления довольно опасными, учитывая все возможности, которые может предоставить AGI. В позитивном смысле это может значительно повысить производительность различных процессов с поддержкой ИИ, ускорив работу людей и избавив от монотонной рутинной и утомительной работы. В то же время наделение ИИ такой мощью может иметь непредвиденные последствия, о которых люди просто еще не подумали и не осознали. Это не означает, что апокалипсис роботов неизбежен, но, безусловно, вызывает много вопросов о том, какими могут быть негативные последствия общего искуственного интеллекта (ОИИ).

Конец ознакомительного фрагмента.