Главные российские ИТ-тренды – 2024: дайджест

Коллектив авторов (2023)

Настоящий дайджест продолжает серию регулярных тематических выпусков Высшей школы бизнеса НИУ ВШЭ «Новое в менеджменте». В основу издания легли результаты исследования актуальных ИТ-трендов российской экономики, проведенного в 2023 году. В дайджест вошли статьи о факторах, влияющих на формирование тенденций в сфере информационных технологий в России, а также материалы о 10 главных ИТ-трендах, основанные на глубоком анализе международных и российских источников и на профессиональном опыте экспертов. Издание предназначено для руководителей компаний, специалистов в области ИТ, преподавателей вузов и студентов, а также для широкого круга читателей, интересующихся актуальными трендами в сфере информационных технологий.

Тренд № 1

Искусственный интеллект

Искусственный интеллект снова атакует

Евгения Чернозатонская

Мир переживает волну интереса к искусственному интеллекту, а бизнес готов вкладывать миллиарды в ИИ-решения. Оправданны ли эти инвестиции?

По данным опроса Высшей школы бизнеса НИУ ВШЭ, 80 % компаний уже применяют или собираются применять инструменты искусственного интеллекта (ИИ) в своих бизнес-процессах. Напомним, что ИИ — это обширная и разнородная область Computer Science, включающая такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке.

Задачи, с которыми должны справляться машины, чтобы их можно было считать «интеллектуальными», — умение распознавать изображения, решать задачи, понимать человеческий язык, анализировать данные и выдавать экспертные оценки — были определены более полувека назад.

Тогда же появился термин «искусственный интеллект». Удивительно, что ранние ИИ-разработки были сосредоточены в основном на классических играх, в первую очередь шахматах, а также на попытках алгоритмического машинного перевода, которые велись с конца 1950-х. Именно успехи в игровом поединке с человеком считались мерой разумности машины.

В 1996 году весь мир следил за матчем компьютера Deep Blue с тогдашним чемпионом мира по шахматам Гарри Каспаровым (признан в России иноагентом). Победа Deep Blue принесла славу ее создателям и подняла акции компании IBM, вложившейся в этот проект.

Сейчас ИИ проник во все сферы человеческой деятельности: образование, науку, искусство, промышленность и транспорт. А когда вычислительные мощности перестали ограничивать объемы обработки данных, компании стали производить их в невиданных прежде масштабах, и бизнес вступил в эру ИИ.

У этого понятия есть разные определения. Они довольно сложные, поэтому мы воспользуемся объяснением «на пальцах», предложенным Рубеном Ениколоповым, научным руководителем Российской экономической школы^[11].

Допустим, что у нас есть таблица Excel. В первой колонке число, во второй — тоже число, а в третьей — их произведение. Excel сама перемножит числа, если вы введете формулу умножения. А теперь представим себе, что формулы нет, но есть несколько строк из трех чисел: множитель, множитель, произведение и т. д. Вы хотите, чтобы машина сама догадалась, что в третьей колонке произведение чисел. Это и есть задача для ИИ, и сейчас он решает ее для огромных и многомерных массивов данных разного формата, а вместо простой формулы произведения выдает сложные интегральные метрики. Бизнес-применение ИИ опирается в первую очередь на его способность улавливать закономерности в массивах данных.

ЭКОНОМИКА

Системы, которые относятся к классу ИИ, — многомиллиардная индустрия. По прогнозу IDC^[12], в 2023 году мировой объем инвестиций в ИИ достигнет $154 млрд, а к 2026 году — $300 млрд (в оценку включены софт и «железо»). Как распределятся эти миллиарды? Из 36 сфер применения ИИ, выделенных IDC, cамыми востребованными в 2023 году будут умные чат-боты для поддержки клиентов, системы анализа продаж и рынков и рекомендательные сервисы. В эти направления будут вкладываться компании всех отраслей, и в совокупности они принесут поставщикам решений примерно $40 млрд. Также значительными будут инвестиции бизнеса в технологии ИИ для оптимизации ИТ-инфраструктуры, расширенной аналитики киберрисков, анализа и расследований мошенничества и обмана. Отрасли с наибольшими инвестициями в ИИ — банковский сектор и ретейл (см. врез справа).

Искусственный интеллект — обширная и разнородная область Computer Science, включающая такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке

Исследовательские фирмы Precedence Research^[13] и Acumen^[14] тоже предсказывают бурный рост инвестиций в ИИ в 2023-м и последующие годы. Однако исследование Стэнфордского университета свидетельствует о том, что это будет не только рост, но и восстановление: в 2022 году корпоративные инвестиции в ИИ упали на 26,7 % по сравнению с 2021 годом. Этому охлаждению, однако, предшествовал серьезный рост: с 2013 по 2020 год инвестиции корпоративного сектора в ИИ увеличились в 18 раз. Главным фактором роста был не утихающий вплоть до 2020 года оптимизм и даже хайп вокруг машинного обучения и ИИ в целом, подогреваемый бизнес-гуру. Откат начался в 2021 году, а в 2022 году снизилось как общее число сделок по приобретению решений с ИИ, так и число ИИ-стартапов^[15]. Вероятно, сказалось разочарование: лишь небольшая доля компаний смогла нарастить доход и прибыль благодаря ИИ-решениям. Доля американских компаний, которые внедрили их хотя бы в одном функциональном подразделении, перестала расти: согласно опросу McKinsey, в 2019 году таковых было 58 %, а в 2022 году — лишь 50 %. Сказались и неудачный опыт внедрения ИИ в разные функции компаний, и общее разочарование в его возможностях, связанное с пандемией: роль ИИ в предиктивной аналитике была неубедительной. Автор статьи в HBR связывает это в первую очередь с качеством данных, которыми пользовались национальные системы здравоохранения^[16].

В 2022 году бизнес не спешил внедрять разработки по ИИ в повседневную практику. «Многие компании, которые решили строить собственные приложения на основе ИИ и аналитики, сталкиваются с одной и той же проблемой. Они нанимают дата-сайентистов, те строят модели, но эти модели редко реализуются на практике. Недавний опрос дата-сайентистов показал, что лишь 20 % моделей реально дошли до имплементации», — пишет евангелист применения ИИ в бизнесе Томас Дэвенпорт^[17].

Вектор снова повернул вверх с приходом ChatGPT (подробнее о ней на с. 31). Бизнес опять поверил в то, что ИИ-решения способны обеспечить подъем эффективности в разных сферах. Инвестиции в стартапы, которые имели в своем описании генеративный ИИ (generative artificial intelligence), в I квартале 2023 года взлетели в разы — до $12 млрд. Даже без учета тех $10 млрд, которые компания Microsoft вложила в создателя ChatGPT OpenAI, рост год к году составил 58 %. А уже летом 2023 года американский канал CNN заговорил о новом ИИ-пузыре^[18] с неясным будущим (в том числе из-за быстро меняющейся регуляторной среды).

По мнению доцента факультета компьютерных наук НИУ ВШЭ Евгения Соколова, сейчас технологии ИИ находятся на поворотном этапе: алгоритмы действительно работают и могут приносить пользу, но при этом мы мало понимаем их свойства, ограничения и потенциальные риски: «Грубо говоря, мы умеем получать гигантскую формулу, которая выдает очень неплохие решения задачи, но при этом не можем в этой формуле разобраться и гарантировать ее корректность. А без понимания устройства этих алгоритмов невозможно говорить об их надежности, стабильности и непредвзятости».

РОССИЙСКИЙ РЫНОК ИИ

Правительство России до 2030 года направит около 24,6 млрд руб. на развитие технологий ИИ, еще около 100 млрд руб. в это направление вложит «Сбер», следует из утвержденной властями дорожной карты. К 2024 году, согласно этому документу, объем рынка технологий на базе ИИ в России составит 14 млрд руб. Это более чем в 10 раз меньше оценок, заложенных в аналогичную программу от 2019 года, отмечает «Коммерсантъ»^[19]. Но даже обновленные планы реализовать будет сложно, считают эксперты: для этого просто не хватит высокопроизводительного зарубежного оборудования вроде видеокарт Nvidia.

Лидеры финтехрынка в России инвестировали в ИИ около 600 млрд руб. за последние 10 лет, говорится в свежем исследовании ассоциации «ФинТех»^[20]. По данным опроса, к середине 2023 года 80 % финансовых компаний имеют подразделения по анализу данных, но только у 17 % компаний есть централизованные структуры по работе с ИИ-решениями. 95 % компаний финансового сектора используют ИИ-технологии в основных процессах. Респонденты отметили, что главными барьерами внедрения ИИ являются дефицит профильных специалистов, а также отсутствие отечественных инструментов для работы с машинным обучением.

По словам Германа Грефа, в «Сбере» ИИ широко применяется в разных бизнес-функциях. В интервью РБК^[21] он сказал: «<…> На сегодняшний день в подавляющем большинстве наших сервисов мы локализовали собственные разработки на 100 %. Это же касается искусственного интеллекта. Все, что касается <…> больших языковых моделей и трансформеров, это от начала до конца наша собственная разработка. И мы не зависим ни от каких вендоров». По словам Грефа, у «Сбера» достаточно собственных данных, чтобы обучить свои модели, а единственное узкое место — это «железо». «Для задач искусственного интеллекта нужны специализированные чипы, так называемые ASIC [application-specific integrated circuit, интегральная схема для конкретного применения], и целый ряд других специализированных инструментов, которые производят несколько компаний в мире. Это сегодня вызов». Свои ИИ-решения, например по Deep Learning, «Сбер» использует в разных частях экосистемы, но не как коммерческий продукт.

Особые риски систем ИИ: нарушение авторских прав, дискриминация, высокие энергозатраты

Перспективы развития ИИ в банковском секторе видит и Банк России. В начале апреля регулятор заявил о собственных планах создания центра компетенций по ИИ.

В «Яндексе» ИИ интегрирован во множество сервисов: собственно поиск, YandexGo, Yandex Market. «Яндекс» разрабатывает свою версию генеративной сети ChatGPT на базе решений GPT-3 от компании OpenAI. Проект в итоге назвали YandexGPT. YandexGPT умеет тезисно пересказывать текст (сервис 300.ya.ru), а также генерирует тексты в режиме реального времени и форматирует их. В августе 2023 года «Яндекс» объявила, что на технологической платформе «Яндекс. Учебник» будет построена образовательная нейросеть на базе YandexGPT для помощи в изучении программирования. Ожидается, что бесплатный обучающий сервис для детей и подростков появится в открытом доступе в 2024 году.

По данным CNews^[22], российский рынок ИИ быстро растет, суммарная выручка топ-10 участников третьего рейтинга крупнейших игроков увеличилась на две трети. С 2022 года российский бизнес активно внедряет распознавание и синтез речи, чат-боты и голосовых виртуальных ассистентов.

Дмитрий Дырмовский, CEO группы компаний ЦРТ (занимает второе место на рынке ИИ по версии CNews), основываясь на статистике заказчиков своей компании, отмечает повышение интереса к речевой аналитике и диалоговым ассистентам. «Направление диалоговых ассистентов — текстовых и голосовых роботов для банков, телекомкомпаний, госсектора — в 2022 году выросло на 90 % по сравнению с 2021 годом; развивались проекты по голосовому заполнению медицинских протоколов», — говорит он. Второе по количеству проектов направление ИИ в российских компаниях и в госсекторе — распознавание изображений и компьютерное зрение, отмечает Дырмовский.

По оценке Александра Корнева, операционного директора Rubbles, доля собственной и заказной разработки на российском ИИ-рынке измеряется десятками процентов: «Это связано с тем, что для многих западных решений, ушедших с рынка, нет прямых российских аналогов. То есть у заказчиков нет другой возможности, кроме разработки с нуля — самостоятельно или с привлечением аутсорсера».

«Многие ведущие российские компании разных отраслей — металлурги, энергетики и даже РЖД — внедряют собственные разработки по ИИ для оптимизации ИТ-архитектуры и операций, — говорит профессор департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Петр Панфилов. — И чаще всего они пользуются библиотеками из open source. Алгоритмы, на основе которых строятся ИИ-решения, универсальны — математика не делится на западную и отечественную. Российские математики сильные, и у разработчиков ПО есть очень продвинутые решения. Наша проблема в ИИ, как и во многом другом, — долгий, а зачастую и непреодолимый путь от разработки до промышленного внедрения».

«В России фундаментальными исследованиями в сфере ИИ занимаются не только университеты, но и ряд компаний. К примеру, исследователи из"Яндекса","Сбера","Тинькофф"регулярно публикуют свои результаты на ведущих конференциях по ИИ. Уверен, что если инвестиции в такую работу сохранятся, то скоро появятся прорывные методы, разработанные уже нашими учеными», — полагает Евгений Соколов.

ЗАКОНЫ И ЭТИКА

В 2022 году в мире было принято 37 законов, регулирующих разработку и применение систем ИИ. На диаграмме видно, как госрегулирование отрасли усиливается в последние годы. По оценке EY, совокупные затраты компаний списка Fortune 500 на комплаенс в сфере данных в 2022 году могли составить $8 млрд^[23]. «Сейчас более 100 юрисдикций — страны, штаты и города — вводят собственные законы о персональных данных. Это дополнительно отягощает прохождение лабиринта регуляторных требований, в котором может заблудиться практически любая глобальная компания, взаимодействующая с потребителем. Все это сравнимо с появлением нового налога: большие расходы, большие риски, сложность выполнения требований и невозможность от него уйти», — пишут эксперты EY^[24].

Одной из главных вех в регулировании этой сферы стало появление в 2018 году общего регламента ЕС о защите персональных данных, устанавливающего штрафы за нарушения в размере от €10 млн до €20 млн или от 2 до 4 % от глобальной выручки для компаний. За прошедшие годы примеру ЕС последовали и другие страны. В США законодательство о защите данных постоянно ужесточается, неуклонно приближаясь к европейскому. Понятно, что всех беспокоит риск утечек персональных данных, но какой вред человеку и обществу могут нанести машинное обучение и ИИ?

Известно, однако, что с цифровым разумом сопряжены особые риски: нарушение авторских прав, дискриминация, высокие энергозатраты и пр. В сфере найма, например, ИИ отличает предвзятость в отношении женщин, расовых меньшинств и людей с ограниченными возможностями — ведь у них, как правило, послужные списки хуже. Компания Amazon потратила несколько лет и миллионы долларов на разработку механизма найма с использованием ИИ, а затем выбросила этот алгоритм, поняв, что не может устранить в нем дискриминацию женщин^[25].

14 июня 2023 года Европейский парламент принял проект закона об ИИ^[26], который серьезно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем ИИ, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых при разработке их решений. Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для наполнения баз данных ИИ. Эта практика вызвала пристальное внимание после того, как ее использовала компания Clearview AI — лидер в системах распознавания лиц.

Европарламентарии также добавили запрет на использование технологий определения эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях. Ожидается, что окончательный вариант закона будет принят до конца 2023 года.

Проект закона предполагает запрет в ЕС разработок с неприемлемым уровнем ИИ-риска. Что касается разработок с ограниченным ИИ-риском, то главное требование к ним таково: пользователь должен быть осведомлен о том, что взаимодействует не с человеком, а с роботом. Компании с высоким уровнем риска по ИИ должны будут подчиняться правилам, среди которых, например, такие:

• внедрение системы управления рисками;

• контроль управления данными;

• техническая документация;

• надзор человека за работой ИИ;

• транспарентность и доступность информации для пользователей;

• кибербезопасность;

• аудит кибербезопасности;

• регистрация в одной из стран ЕС;

Оценка комплаенса основных моделей ИИ с проектом закона ЕС об искусственном интеллекте

• контроль отдаленных последствий.

Нарушения правил повлечет штрафы до €30 млн или 6 % глобальной выручки.

Ученые из Стэнфордского центра Hai (Human-Centered AI) проанализировали действующие модели ИИ с точки зрения их соответствия новым правилам ЕС. Почти половина из них не дотянула и до 24 баллов по 48-балльной шкале^[27].

Исследовательская компания Gartner выделила в отдельный тренд 2023 года системы управления рисками в сфере ИИ (AI Trust, Risk and Security Management — AI TRiSM). В качестве примера этического контроля ИИ Gartner приводит Датское управление бизнеса (DBA), которое выработало специальные методы. DBA устанавливает системы мониторинга, а также конкретными действиями проверяет справедливость аналитики ИИ. С помощью этого подхода уже контролируется 16 моделей ИИ, которые применяются в финтехе с совокупным объемом транзакций в миллиарды долларов^[28].

В России законодательства в сфере ИИ не существует. По мнению руководителя практики по авторскому праву компании DRC Владимира Ожерельева, в нашей стране регулирование ИИ, скорее всего, пойдет по пути централизации управления нейросетями в руках государства и крупных корпораций. «Мы наблюдаем это как минимум в последних изменениях норм об обработке биометрических данных. Примеры злоупотреблений в сфере распознавания лиц уже заметны», — говорит он^[29].

В 2021 году в России был принят Кодекс этики в сфере искусственного интеллекта^[30], который, правда, не является обязательным. Ряд компаний, например «Сбер», имеют собственные этические нормы для систем ИИ (см. врез ниже)^[31].

7 августа 2023 Конгресс США принял законопроект об ИИ, который обяжет компании бигтеха делиться датасетами с научными коллективами и стартапами, занимающимися созданием интеллектуальных систем. Законопроект исходит из того, что сейчас финансовые ресурсы, необходимые для сбора, хранения и управления массивами из петабайтов информации, есть только у ИТ-гигантов. Если доступ к этим массивам будет и у научного и предпринимательского сообщества, ИИ-разработки ускорятся^[32].

В мае 2023 года HBR опубликовал подборку статей ведущих профессоров разных дисциплин — от истории до сomputer science — на тему этичности систем ИИ. Их выводы пессимистичны: ИИ-приложения разрабатывают и используют без оглядки на такие моральные ценности, как справедливость и достоинство человека, достоверность информации, личная безопасность и неприкосновенность частной жизни.

«Разработчики в Кремниевой долине десятилетиями действовали по принципу “двигайся быстрее, сметая все на своем пути”, — пишет Маргарет O’Мара, руководитель кафедры истории Университета Вашингтона. — Видеоигры в 1980-х, онлайн-платформы шопинга в нулевые, затем социальные сети, а теперь вот разговорный ИИ». И пока не известно, сколько и чего наломают разработчики в сфере ИИ, если не поставить их в четкие рамки закона^[33], заключает автор. В другой статье HBR Цедал Нили^[34] напоминает, что непрозрачность является оборотной стороной использования этих мощных систем. И поэтому лидеры бизнеса должны особенно ответственно подходить к инструменту ИИ, всякий раз оценивая его риски и документируя, в каких задачах и с какой целью он был задействован.

Евгения Чернозатонская — ведущий эксперт Высшей школы бизнеса НИУ ВШЭ.

Языковые модели

Евгения Чернозатонская

Системы, подобные ChatGPT, способны поразить нового пользовтеля своими знаниями. Но есть ли им место в бизнесе?

В ноябре 2022 года сервис генеративного, то есть порождающего, интеллекта ChatGPT набрал 1 млн пользователей всего за пять дней. Сейчас на сайт сервиса ежемесячно приходит до 1,5 млрд обращений более чем от 100 млн пользователей. Стремительный взлет не остался не замеченным бизнесом: инструменты генеративных моделей стали примеривать к самым разным задачам. В недавнем докладе McKinsey^[35] экономический потенциал генеративного ИИ, то есть систем, идеологически подобных ChatGPT, оценивается в триллионы долларов ежегодно. Впрочем, другие исследователи дают на порядок меньшие оценки. По прогнозу McKinsey, примерно три четверти прироста эффективности бизнеса придется на четыре функции компаний: работа с клиентом, продажи и маркетинг, разработка и внедрение софта и НИОКР. В одном только программировании и отладке софта исследователи видят прирост эффективности на 40–50 % за счет использования ИИ. GitHub провела опрос разработчиков софта, который показал, что ИИ-Сopilot, разработанный совместно с OpenAI и доступный на GitHub с 2022 года, к февралю 2023 года использовался для всех языков программирования и был применен в 46 % кода, написанного его адептами. 90 % респондентов опроса отметили, что подсказки и контроль кода со стороны Copilot ускорили разработку^[36].

Дэвид Отор, профессор экономики в MIT, считает, однако, что делать прогнозы экономической ценности генеративного ИИ пока рано. Инструмент может оказаться совсем не таким волшебным, как видится сейчас. Во-первых, нельзя пока оценить риски ошибок и дезинформации, порождаемой ИИ, а во-вторых, его работа может выйти из-под контроля человека, предупреждает Отор^[37].

Ажиотаж вокруг GPT несколько месяцев нарастал стремительно: в его подъем вложились не только СМИ, но и эксперты. Затем хайп сменился скепсисом. На страницах Sloan Management Review профессор Virginia Tech Ли Винсел написал: «Когда информация исходит от источников, известных своей способностью порождать технологический хайп, — консалтинговых фирм, поставщиков технологий и отраслевых аналитиков, — бизнес-лидеры должны быть настроены особенно критически». По мнению Винсела, академические публикации не дают никаких доказательств реального воздействия GPT на работу белых воротничков, а предсказания о том, что технологии отнимут у людей рабочие места, стары как мир. В условиях мирового ажиотажа вокруг больших лингвистических моделей руководителями компаний в основном движет эмоция FOMO (Fear of Missing Out), то есть страх оказаться в стороне), и Винсел советует им взглянуть на вещи трезво. Исторически, пишет он, новые ИТ-технологии, будь то текстовый процессор или CRM-система, действительно давали компаниям-первопроходцам конкурентное преимущество, но оно длилось лишь до того момента, пока подобный софт не начинали применять другие участники рынка, причем, как правило, это происходило довольно быстро^[38]. А экономист Гэри Смит полагает, что недавнее заявление интеллектуалов о риске исчезновения человечества, связанном с ИИ^[39], дополнительно разжигает хайп, придавая чрезмерное значение большим языковым моделям (Large Language Models, LLM). Заявления о гипотетических угрозах победы искусственного разума над естественным отвлекает людей от реальных проблем — достоверности и этики применения ИИ^[40].

Известные теоретики бизнес-стратегий Мартин Ривз из BCG и Кристиан Стадлер из Университета Уорвик написали о собственном опыте: они обратились к ChatGPT за советами в построении стратегии. Общение не было бесполезным: рекомендации ИИ в целом были разумными. Главное — чтобы собрать тот массив знаний, который система выдала за считанные секунды, потребовалось бы многочасовое общение с группой экспертов. Их вывод: чтобы получить от ChatGPT нечто дельное, надо задавать правильные вопросы в правильной последовательности, самому быть экспертом, способным оценить валидность гипотез и рекомендаций ИИ. Есть статьи, которые дают рекомендации компаниям, если те решат применять LLM. Айзек Саколик, в прошлом CIO в крупных компаниях и автор книг, опубликовал подборку мнений экспертов из компаний разных отраслей о том, как получить пользу от языковых моделей^[41].

1 СОВЕТ

Изучите возможности LLM в своих основных инструментах. За последние несколько месяцев многие ведущие поставщики софта объявили о том, что встроили ИИ и LLM в свои платформы. Вот несколько примеров.

• Microsoft 365 Copilot добавлен в Word, Excel, PowerPoint, Outlook и Teams. Получив задание вроде «Расскажи команде о том, как мы обновили продуктовую стратегию», Copilot проанализирует вашу переписку, заметки и протоколы встреч и создаст обновленный статус на основе всех 365 приложений Microsoft.

• Adobe Firefly — генеративный искусственный интеллект, который рисует и редактирует картинки по описанию; интегрирован с Photoshop, Illustrator и Adobe Express.

• Salesforce объявила об AI Cloud с интеграциями в свои основные CRM-продукты, Slack и Tableau.

• GitHub Copilot соединен с IDE и предлагает подсказки и редактирование кода.

• Google Duet AI для Google Cloud объединяет помощь в написании кода, ассистента в чате и возможности AppSheet.

• Компания облачных вычислений ServiceNow обещает интеграцию с Microsoft Azure OpenAI Service и OpenAI API LLM. В мае 2023 года ServiceNow заключила партнерство с Nvidia для создания индивидуальных ИИ-систем для компаний (в противовес универсальным инструментам от OpenAI, Google и других компаний бигтеха).

2 СОВЕТ

Получайте быстрые ответы, но помните, что не всем им можно верить. Основное применение ChatGPT и LLM — составление текста и ответы. Не нужно долго собирать информацию, читая источники: нейросеть даст развернутую справку по любой теме. Маркетологи пользуются этим в коммуникации с клиентами, а службы персонала — в переписке с кандидатами на вакансии и сотрудниками. Считается, что LLM увеличат производительность труда этих служб. Однако нельзя забывать, что способность этих моделей к порождению текста превосходит их умение отличать достоверные данные от ложных сообщений. Иногда ошибки чудовищны, но чаще они малозаметны.

Создатели модели GPT пока не нашли способа бороться с ее «галлюцинациями». Более того, иногда, улучшая одну способность модели, они непреднамеренно снижают другие. Недавнее исследование ученых из Стэнфорда показало, насколько «поглупела» GPT4: версия марта 2023 года правильно отвечала на вопрос «Число 17 077 простое?» в 97,6 % случаев, а июньская версия — лишь в 2,4 % случаев^[42]. Кроме того, надо помнить, что GPT-3,5, которая лежит в основе ChatGPT, обучена на данных до сентября 2021 года и потому не знает ничего о том, что произошло позднее. В целом модели могут обеспечить лишь предварительный драфт, но не дать окончательный ответ. По словам юриста и колумниста ресурса abovethelaw Джонатана Вулфа, GPT-4 отвечает на юридические вопросы на уровне стажера, закончившего первый курс обучения со средним баллом «три»^[43].

3 СОВЕТ

Используйте LLM для переработки информации. В разных отделах компаний накапливается масса специализированной информации, из которой непросто вычленить самое важное. LLM в состоянии облегчить поиск и восприятие контента для клиентов и сотрудников. Она поможет быстрее разобраться в объемных инструкциях по продукту и учебных пособиях для операторов. Другое применение — быстрое решение операционных проблем. Скажем, устранение неполадок в работе многоцелевой базы данных может потребовать значительных временны́х затрат, а генеративный искусственный интеллект быстрее справится с этой проблемой, считает Дейв Пейдж, вице-президент и главный архитектор баз данных в EDB. Фил Ти, генеральный директор и соучредитель Moogsoft, предостерегает: машинное понимание может быть иллюзорным. «ChatGPT и другие LLM дают технические советы и объясняют сложные процессы на доступном уровне, — говорит Ти. — Но узнать о том, что некий набор шагов способен решить вашу проблему, — это не то же самое, что понять, нужны ли эти шаги сейчас. Слишком полагаться на LLM опасно».

4 СОВЕТ

Не делитесь важной информацией на общедоступных LLM-платформах. Проблема с ChatGPT и многими другими инструментами ИИ заключается в том, что введенная информация становится частью набора данных для обучения модели. Вашими данными могут воспользоваться конкуренты. А загрузив данные клиента в целях персонализации предложения, компания рискует нарушить законы. Поэтому перед экспериментами с ИИ изучите законы и политику своей компании в сфере данных и ИИ и раскройте цели эксперимента, как того требуют правила^[44]

Конец ознакомительного фрагмента.

Примечания

11

Ениколопов, Рубен, Стельмах, Иван. Дискуссия «Экономические эффекты искусственного интеллекта» // Просветительские дни РЭШ — 2023 (https://www.youtube.com/watch?v=jkguwhxl5fM&t=1971s). Дата обращения: 10.09.2023.

12

IDC Worldwide Artificial Intelligence Spending Guide 2023 — Forecast 2023 //idc.com (https://www.idc.com/getdoc. jsp?containerId=prUS50454123). Дата обращения: 10.09.2023.

13

Artificial Intelligence (AI) Market Size, Growth, Report By 2032 // Precedence Research, 2023 (https://www.precedenceresearch.com/ artificial-intelligence-market). Дата обращения: 10.09.2023.

14

Generative AI Market Size. Global Industry, Share, Analysis, Trends and Forecast 2022–2030 // Acumen. 2022 (https://www. acumenresearchandconsulting.com/generative-ai-market). Дата обращения: 10.09.2023.

15

Artificial Intelligence Index Report 2023 // Stanford University, Human-Centered Artificial Intelligence, 2023 (https://aiindex.stanford. edu/wp-content/uploads/2023/04/HAI_AI–Index-Report_2023.pdf). Дата обращения: 10.09.2023.

16

Chakravorti, Bhaskar. Why AI Failed to Live Up to Its Potential During the Pandemic // HBR, 17 марта 2022 (https://hbr.org/2022/03/why-ai-failed-to-live-up-to-its-potential-during-the-pandemic). Дата обращения: 10.09.2023.

17

Davenport, Thomas, Bean, Randy, Jain, Shail. Why Your Company Needs Data-Product Managers // HBR, 13 октября 2022 (https://hbr. org/2022/10/why-your-company-needs-data-product-managers). Дата обращения: 10.09.2023.

18

Cooban, Anna. AI investment is booming. How much is hype? // CNN, 23 июля 2023 (https://edition.cnn.com/2023/07/23/business/ai-vc-investment-dot-com-bubble/index.html). Дата обращения: 10.09.2023.

19

Королев, Никита. Искусственный интеллект пошел на убыль // Коммерсантъ, 18 января 2023 (https://www.kommersant.ru/ doc/5773647). Дата обращения: 10.09.2023.

20

Ассоциация Финтех. «Применение технологий искусственного интеллекта на финансовом рынке». 31 июля 2023 (https://www. fintechru.org/analytics/issledovanie-primenenie-tekhnologiy-iskusstvennogo-intellekta-na-finansovom-rynke/). Дата обращения: 10.09.2023.

21

Ткачев, Иван, Парфентьева, Ирина. Герман Греф — РБК: «Пришлось научиться планировать и жить вкороткую» // РБК, 14 июня 2023 (https://www.rbc.ru/economics/14/06/2023/648050839a79477c585f6318?from=column_1). Дата обращения: 10.09.2023.

22

Анищук, Наталья. Искусственный интеллект изменит мировую экономику // CNews, 22 июня 2023 (https://corp.cnews.ru/reviews/ ii_2023/articles/iskusstvennyj_intellekt_izmenit). Дата обращения: 10.09.2023.

23

How to prepare for global data compliance // EY, 4 мая 2021 (https://www.ey.com/en_us/consulting/how-to-prepare-for-global-data-compliance). Дата обращения: 10.09.2023.

24

Там же.

25

Dastin, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women // Reuters.com, 11 октября 2018 (https://www. reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G). Дата обращения: 10.09.2023.

26

Artificialintelligenceact.eu (https://artificialintelligenceact.eu/developments/). Дата обращения: 10.09.2023.

27

Bommasani, Rishi, Klyman, Kevin, Zhang, Daniel, Liang, Percy. Do Foundation Model Providers Comply with the Draft EU AI Act? // Stanford University Center for Research of Foundation Models, 15 июня 2015 (https://crfm.stanford.edu/2023/06/15/eu-ai-act.html). Дата обращения: 10.09.2023.

28

Top Strategic Technology Trends 2023 // Gartner, 2023 (https://emtemp.gcom.cloud/ngw/globalassets/en/publications/documents/2023-gartner-top-strategic-technology-trends-ebook.pdf). Дата обращения: 10.09.2023.

29

Гаврилюк, Анастасия, Рожков, Роман. Зачем регулировать искусственный интеллект и как это затронет его развитие в России // Forbes.ru, 22 мая 2023 (https://www.forbes.ru/tekhnologii/489563-zacem-regulirovat-iskusstvennyj-intellekt-i-kak-eto-zatronet-ego-razvitie-v-rossii). Дата обращения: 10.09.2023.

30

Альянс разработчиков искусственного интеллекта. Кодекс этики в сфере ИИ (https://ethics.a-ai.ru/assets/ethics). Дата обращения: 10.09.2023.

31

Принципы этики искусственного интеллекта Кодекс корпоративной этики и делового поведения. Искусственный интеллект // sber.ru (https://www.sberbank.com/ru/about/ethics/interactive) // sber.ru (https://www.sberbank.com/ru/sustainability/principles-of-artificial-intelligence-ethics). Дата обращения: 10.09.2023.

32

Wald, Russel. We Must Pass the Create AI Act // Stanford University, Human-Centered Artificial Intelligence, 10 августа 2023 (https://hai. stanford.edu/news/we-must-pass-create-ai-act). Дата обращения: 10.09.2023.

33

What Does the Tech Industry Value? The Big Idea Series / Ethics in the Age of AI // HBR.org, 9 мая 2023 (https://hbr.org/2023/05/what-does-the-tech-industry-value?ab=seriesnav-bigidea). Дата обращения: 10.09.2023.

34

Tsedal Neeley. 8 Questions About Using AI Responsibly, Answered. The Big Idea Series / Ethics in the Age of AI // HBR.org, 9 мая 2023 (https://hbr.org/2023/05/8-questions-about-using-ai-responsibly-answered). Дата обращения: 10.09.2023.

35

Chui, Michael, Hazan, Eric et al. The economic potential of generative AI: The next productivity frontier // McKinsey.com, 14 июня 2023 (https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier#introduction). Дата обращения: 12.09.2023.

36

Dohmke, Thomas. GitHub Copilot for Business is now available // Github.com, 14 февраля 2023 (https://github.blog/2023-02-14-github-copilot-for-business-is-now-available/). Дата обращения: 12.09.2023.

37

Lu, Yiwen. Generative A.I. Can Add $4.4 Trillion in Value to Global Economy, Study Says // nytimes.com, 14 июня 2023 (https://www. nytimes.com/2023/06/14/technology/generative-ai-global-economy.html). Дата обращения: 12.09.2023.

38

Vinsel, Lee. Don’t Get Distracted by the Hype Around Generative AI // MIT SMR. 2023. Vol. 64. No. 4.

39

Center for AI Safety. Statement on AI Risk // www.safe.ai (https://www.safe.ai/statement-on-ai-risk#open-letter). Дата обращения: 12.09.2023.

40

Smith, Gary. The LLM Deep Fake. Follow the Money // mindmatters.ai, 12 июня 2023 (https://mindmatters.ai/2023/06/the-llm-deep-fake-follow-the-money/). Дата обращения: 12.09.2023.

41

Stadler, Christian, Reeves, Martin. Three Lessons From Chatting About Strategy With ChatGPT // Sloanreview.mit.edu, 23 мая 2023 (https://sloanreview.mit.edu/article/three-lessons-from-chatting-about-strategy-with-chatgpt/). Дата обращения: 12.09.2023.

42

Sacolick, Isaac. What can ChatGPT and LLMs really do for your business? // Infoworld.com, 24 июля 2023 (https://www.infoworld.com/ article/3702630/what-can-chatgpt-and-llms-really-do-for-your-business.html). Дата обращения: 12.09.2023.

43

Lingjiao Chen, Zaharia, Matei, Zou, James. How Is ChatGPT’s Behavior Changing over Time? // arxiv.org, 1 августа 2023 (https://arxiv. org/abs/2307.09009). Дата обращения: 12.09.2023.

44

Wolf, Jonathan. AI Revolution' Will Be Disappointing: Picture More Realistic But Still Unhelpful Customer Service // Abovethelaw.com, 19 апреля 2023 (https://abovethelaw.com/2023/04/ai-revolution-will-be-disappointing-picture-more-realistic-but-still-unhelpful-customer-service/). Дата обращения: 12.09.2023.