Выход ChatGPT в ноябре 2022 г. вызвал ажиотаж вокруг генеративного искусственного интеллекта (GenAI), который вылился в экспоненциальный рост и развитие этой новой технологии в
За первые 60 дней после выхода ChatGPT в открытый доступ OpenAI собрала 100 млн. пользователей. Для сравнения: TikTok, крупнейшему лидеру в области социальных сетей, потребовалось девять месяцев, чтобы достичь этого рубежа.
Повышенный интерес, скорее всего, был связан с тем, что ChatGPT интуитивно хорошо понятен, что дает возможность каждому, независимо от технических навыков, воспользоваться преимуществами технологии. Более того, сценарии использования чатбота были очевидны.
«Люди, которые, сидя за столом и клавиатурой, наблюдали, как „механические мышцы“ автоматизируют производство и автоматизируют анализ электронных таблиц, вдруг обнаружили, что „механические умы“ начинают автоматизировать то, что делают они , — говорит Майк Бехтель, главный футурист Deloitte и один из авторов отчета. — Я думаю, именно поэтому эта магическая эволюция трансформаторных моделей привела к вспышке интереса в широких кругах».
Интерес руководителей компаний к этой технологии совпадает с интересом общественности: 80% руководителей компаний, участвовавших в опросе Deloitte летом 2023 г., согласны с тем, что GenAI повысит эффективность их организации.
Перспективы генеративного ИИ
GenAI — это способная на очень многое и весьма интеллектуальная технология, которая, как подчеркивается в отчете, часто может превосходить человека.
Например, ChatGPT получил пять баллов из пяти на экзамене по биологии Advanced Placement, а чатбот Claude 2 компании Anthropic набрал более 90% баллов в устной и письменной частях экзамена GRE.
Эти возможности заставили многих сотрудников паниковать по поводу того, что GenAI заменит их на рабочем месте. Однако, согласно отчету, нет никаких реальных признаков того, что руководители компаний захотят автоматизировать работу со знаниями в каком-либо масштабе.
«Один из шаблонов, который мы наблюдаем на протяжении многих лет, отражает часто используемая фраза: „Вы не можете срезать свой путь к успеху“», — отмечает Бехтель и поясняет, что обычно существует два лагеря руководителей: «краткосрочники», которые рассматривают развивающиеся технологии как кратковременную диету, способ делать то же самое с меньшим количеством людей, и «долгосрочники», те, кто хотят использовать развивающиеся технологии, чтобы делать работу лучше. Именно последняя группа добивается наибольшего успеха.
«Я думаю, что инициативные предприниматели будут выделяться среди остальных, потому что они будут использовать GenAI как ракетное топливо для развития своих амбиций, а не как лицензию на экономию», — говорит Бехтель.
Другие исследования приходят к аналогичным выводам. Опрос, проведенный IBM, показал, что наиболее распространенные сценарии использования GenAI, которые руководители компаний считают приоритетными, включают повышение качества контента, обеспечение конкурентных преимуществ и повышение квалификации сотрудников вместо сокращения численности персонала.
В выводах Deloitte также говорится о том, что реальные преимущества использования GenAI в организациях заключаются в применении технологии для оптимизации бизнес-операций, а не для сокращения численности персонала.
«Истинная ценность GenAI, вероятно, будет раскрыта, когда организации смогут использовать его для трансформации бизнес-функций, снижения затрат, кардинального изменения циклов создания продуктов, услуг и инноваций, а также для обеспечения ранее недостижимой эффективности процессов», — говорится в отчете Deloitte.
В каждом из вышеперечисленных сценариев оптимизации бизнес-операций с помощью GenAI выигрывают не только предприятия в целом, но и каждый сотрудник. Например, если компания использует модель GenAI для сбора всех своих данных и их компиляции в базу данных с возможностью поиска, этот процесс положительно сказывается на всех сотрудниках организации, а также приносит пользу ее деятельности.
Но если замена работников умственного труда не является основным негативным последствием GenAI, то существует ряд серьезных рисков, связанных с использованием этой технологии, к которым руководители компаний должны быть готовы.
Риски и способы их преодоления
Способность GenAI имитировать человеческий диалог и рассуждения означает, что технология может быть использована злоумышленниками для эффективного выполнения вредоносных задач, таких как атаки в сфере кибербезопасности, которые представляют огромный риск для предприятий.
Согласно отчету Deloitte, фишинг — самая распространенная кибератака, ежедневно рассылается 3,4 млрд. спам-сообщений. К счастью, многие из этих атак не удаются, поскольку получатели могут обнаружить их недостатки, включая плохие грамматику и орфографию.
Приложения GenAI, такие как чатботы, могут создавать легитимно выглядящий вредоносный контент по команде из простой подсказки, устраняя синтаксические ошибки и затрудняя для людей возможность отличить настоящее от подделки. Помимо текста, GenAI может использоваться для создания вредоносного медиа-контента, включая голос и даже видео.
«Тенденция, которую мы выявили, заключается в том, что у плохих парней тоже есть ИИ, и, в частности, они используют ИИ для эксплуатации самого уязвимого места в стеке большинства компаний — человека, — говорит Бехтель. — Все самые современные средства защиты могут оказаться бесполезными, если сотрудник добровольно выдаст пароль».
Например, для атак на предприятия могут использоваться дипфейки, выдающие себя за голоса руководителей компании. В отчете Deloitte приводится случай, когда мошенники использовали эту технику, чтобы выманить 243 тыс. долл. у генерального директора британской энергетической компании.
Мир кибербезопасности — это постоянная игра в кошки-мышки, когда безопасники ищут новые способы защиты, а злоумышленники становятся умнее и находят новые способы атак. В рамках этого постоянно развивающегося процесса в ближайшем будущем появятся новые способы защиты пользователей от дипфейков.
Но что делать до тех пор? Совет от эксперта: не доверяйте тому, что слышите и видите. «Будь то отдельный человек, сомневающийся, что полученное им электронное письмо прислано компанией, или организация в масштабах всего предприятия, инвестирующая в киберзащиту с нулевым доверием, — вот лучший совет: не верьте своим глазам, не верьте своим ушам, — говорит Бехтель. — Мы можем доверять математике, мы доверяем криптографии».
Как подступиться к GenAI
Учитывая спектр положительных и отрицательных последствий применения GenAI, вы можете задаться вопросом, как вам относиться к этой технологии.
Бехтель говорит, что ответ на этот вопрос лежит в нахождении баланса между двумя сторонами спектра. «Проблема в гиперболизации в обоих направлениях, — говорит Бехтель. — Телячий восторг и ворчливый скептицизм не помогут; полезным будет понять, как использовать эти инструменты так, чтобы они были просто очень полезными».
Чтобы помочь предприятиям подготовиться к использованию GenAI с пользой для дела, авторы отчета выделяют различные области, на которых компании могут сосредоточить свое внимание.
Первое направление включает в себя содержание корпоративных данных в порядке. Модели GenAI обучаются на большом количестве данных, которые затем могут быть использованы для выполнения ряда действий, например, для создания базы данных с возможностью поиска.
Однако, чтобы эффективно реализовать этот процесс или любой из сценариев использования следующего поколения, компаниям необходимо обеспечить правильную архитектуру данных и их доступность для приложений ИИ, говорится в отчете.
Еще один важный аспект, который необходимо учитывать при внедрении генеративного ИИ, — это администрирование. GenAI, каким бы интеллектуальным он ни был, склонен к галлюцинациям и другим ошибкам, которые могут поставить бизнес под угрозу. Поэтому предприятиям следует заранее установить надлежащие ограждения, чтобы предотвратить казусы и обеспечить максимальную производительность.
«ИИ нельзя масштабировать без эффективных административных ограждений, — говорится в отчете. — Система администрирования должна отвечать видению бизнеса, выявлять потенциальные риски и пробелы в возможностях, а также проверять эффективность работы».
Наконец, в отчете подчеркивается, что предприятиям необходимо внедрять GenAI поэтапно, без спешки. В частности, рекомендуется известный подход «crawl, walk, run, fly» — сначала ползти, потом идти, далее бежать и только потом лететь. «Такой подход уже много лет является для предприятий эффективным способом расширения использования сервисных предложений, — говорится в отчете. — GenAI ничем не отличается».
На стадии «ползания» приложения требуют много ручных усилий. Но по мере прохождения следующих этапов приложения становятся все более совершенными и достигают кульминации на этапе «полета», когда организация может воспользоваться плодами этой поэтапной работы.
