По данным McKinsey, распространение генеративного ИИ (GenAI), и ChatGPT в частности, может привести к увеличению мирового экономического производства на триллионы долларов в год. Однако, согласно Forrester, это также приведет к тому, что 2,4 млн. человек останутся без работы. Неопределенность в отношении GenAI, в том числе опасения по поводу конфиденциальности и безопасности, побуждает некоторые компании блокировать доступ к приложениям GenAI на рабочих местах, сообщает портал Datanami.
Банки, такие как JPMorgan Chase и Deutsche Bank, технологические компании, такие как Samsung и Apple, и сервисные компании, такие как Accenture, уже ограничили использование ChatGPT сотрудниками.
В то же время крупные издательства также не согласны с нашествием ChatGPT: New York Times, Reuters, CNN, Bloomberg и Washington Post, по сообщениям, заблокировали доступ поисковому роботу OpenAI — GPT-боту, который собирает данные.
Согласно Komprise «2023 Unstructured Data Management Report», около 10% предприятий заблокировали свои данные и не разрешают сотрудникам использовать их для внутреннего ИИ. В этом отчете, основанном на опросе ИТ-лидеров и руководителей 300 крупных компаний из США и Великобритании, отмечается изменение отношения к ИИ и данным. «Подготовка к ИИ» стала главным приоритетом в области хранения данных на ближайшие 12 месяцев (такое мнение высказал 31% респондентов), за ним следует оптимизация расходов на облачные вычисления — 22%.
Однако когда речь заходит о политике компаний в отношении использования ИИ в корпоративном секторе, опрос выявил значительные различия. В ходе исследования было установлено следующее:
- четверть (26%) респондентов заявила, что у них пока нет корпоративной политики в области ИИ и они все еще пытаются ее разработать;
- еще четверть (24%) заявила, что сотрудники могут свободно использовать любые данные с помощью одобренных ИИ-сервисов;
- 21% участников опроса ответил, что никаких ограничений на использование ИИ нет;
- 20% заявили, что корпоративные данные доступны только для использования с одобренными сервисами ИИ;
- 10% заявили о полном запрете на использование ИИ.
«Результаты опроса этого года показывают, что ИТ-руководители в мгновение ока переключают внимание на использование преимуществ GenAI-решений, но при этом хотят делать это в рамках защитных ограждений, — отмечает генеральный директор и соучредитель Komprise Кумар Госвами. — Администрирование данных для ИИ потребует правильной стратегии управления неструктурированными данными, которая включает в себя видимость хранения данных, прозрачность источников данных, высокопроизводительную мобильность данных и безопасный доступ к ним».
Многие сценарии использования ИИ связаны с неструктурированными данными, такими как текст и изображения. Компании ищут новые способы использования огромных массивов неструктурированных данных, которые, по некоторым оценкам, составляют 80% от общего объема данных в мире, для развития бизнеса и повышения удовлетворенности клиентов.
Характеристики неструктурированных данных отличаются от структурированных, и это сопряжено с определенными рисками, о которых компании должны знать, если они собираются использовать неструктурированные данные в ИИ-приложениях для получения конкурентных преимуществ.
Потенциальные нарушения безопасности и конфиденциальности стали главной проблемой GenAI в опросе Komprise: об этом заявили 28% опрошенных. 21% респондентов в качестве проблемы назвал подтверждение достоверности данных, особенно в части прозрачности источников данных и возможности использования неточных или необъективных данных в больших языковых моделях.
Среди других проблем, связанных с GenAI, 17% опрошенных назвали юридическую двусмысленность производных результатов работы больших языковых моделей (LLM), 16% — утечку корпоративных данных в LLM поставщика и 10,8% — потенциальную ответственность за использование результатов GenAI, содержащих персональные данные. Лишь 7% заявили, что не испытывают никаких опасений по поводу GenAI.
«Генеративный ИИ поднимает новые вопросы об управлении и защите данных, — говорит Стив Макдауэлл, главный аналитик и партнер-основатель компании NAND Research. — Опрос Komprise показывает, что ИТ-руководители прилагают все усилия, чтобы ответственно подойти к вопросу защиты данных на предприятии и быстрому внедрению решений на основе генеративного ИИ».
