По мере того как искусственный интеллект становится ключевым фактором экономического роста, он создает как возможности, так и проблемы. Чтобы ИИ приносил пользу обществу, сотрудникам, клиентам и организациям, крайне важно не допустить сценария, при котором концентрация власти в технологическом секторе приведет к новой форме цифрового господства, пишут в корпоративном блоге Сэм Хиггинс, главный аналитик, и Кьяра Брагато, научный сотрудник Forrester.

Современные отголоски британской Ост-Индской компании

Современные технологические гиганты, такие как Google, Facebook (принадлежит компании Meta, которая признана экстремисткой и запрещена в России) и Amazon, обладают властью, которая перекликается с монополистической практикой прошлых корпораций, таких как печально известная Ост-Индская компания (East India Company, EIC). Хотя сравнение с историческими военизированными корпорациями может показаться чрезмерным оно служит напоминанием о потенциальных последствиях бесконтрольной корпоративной власти.

Историк Уильям Далримпл метко подметил опасность, которую таит в себе мощная, нерегулируемая компания, действующая без достаточного надзора, и эта ситуация находит отклик в современном контексте. Консультативный орган ООН по ИИ (UN Advisory Body on AI) вторит ему в документе «Управление ИИ для человечества», заявляя, что «технологии нельзя бросать на произвол рынка», а подобные проблемы требуют «целостного, глобального подхода».

Хотя контролирующее влияние EIC на Индию длилось всего 75 лет, ее наследие как безжалостной капиталистической силы предлагает суровые уроки для XXI века. Уроки особенно актуальны сейчас, когда государства определяют будущее регулирования ИИ и цифровых технологий.

Экономическое господство

Как и EIC, современные технологические гиганты начинали с нишевых рынков, но в итоге стали доминировать в глобальной цифровой экономике. Google монополизировала около 92% рынка поисковых систем, а доминирование Amazon в электронной коммерции изменило ландшафты розничной торговли. ИИ усиливает эту мощь, оптимизируя операции и ориентируясь на потребителей с беспрецедентной точностью. Например, приложение ChatGPT от OpenAI стало самым быстро распространяемым потребительским приложением в истории всего через два месяца после запуска. Даже когда эти гиганты оступаются, их огромное влияние не позволяет бросить им вызов.

Социальное разрушение

Современные технологические гиганты, усилившиеся благодаря ИИ, нарушают социальную динамику с помощью своих платформ. Алгоритмы Facebook влияют на онлайн-взаимодействие и могут способствовать распространению дезинформации. Поисковая монополия Google формирует доступ к информации, тонко влияя на общественное мнение и знания. А такие платформы обмена сообщениями, как Telegram и Signal, на которые полагаются миллионы людей для обеспечения конфиденциальности, также служат прибежищем для незаконной деятельности. Несмотря на то что только 49% взрослых американцев, по данным исследования Forrester «Global Government, Society And Trust Survey, 2024», выразили недоверие к информации, генерируемой ИИ, такой контент может легко манипулировать и усиливать предубеждения, особенно учитывая отсутствие прозрачности в его использовании.

Общественный вред

Если эксплуататорская практика EIC привела к серьезным глобальным травмам, то современные технологические гиганты также подвергаются критике за то, что способствуют возникновению новых форм общественного вреда. Платформы социальных сетей все чаще связаны с проблемами психического здоровья, киберзапугиванием и распространением вредного контента. Эти платформы также предоставляют новые возможности для преступной деятельности. Так, Франция предварительно обвинила генерального директора Telegram Павла Дурова в том, что он несет ответственность за такую деятельность на своем сайте. Главный хирург США призвал ввести предупреждающие надписи на платформах социальных сетей, а другие страны, включая Австралию, рассматривают или вводят возрастные ограничения и меры по проверке личности. ИИ способен усугубить эти проблемы, и с этим согласны 54% американских интернет-пользователей. А когда 45% взрослых американцев говорят, что не доверяют крупным технологическим организациям в вопросах управления потенциальными рисками, связанными с ИИ, это еще больше усиливает необходимость прозрачности и подотчетности при его внедрении.

Проблемы регулирования

Исторически правительствам было сложно регулировать деятельность могущественных корпораций, и сегодня цифровая эпоха ставит перед ними аналогичные задачи. Технологические гиганты работают трансгранично, но зачастую их деятельность ограничивается внутренним регулированием, которое не позволяет адекватно учитывать их глобальное влияние. Хотя такие меры, как закон Европейского союза об ИИ, являются шагами в правильном направлении, обеспечение соблюдения законодательства остается сложной задачей. Поскольку 52% взрослых американцев согласны с тем, что ИИ представляет собой серьезную угрозу для общества, эффективный надзор крайне важен для предотвращения злоупотреблений, которые могут возникнуть на нерегулируемых рынках.

Предотвращение последствий чрезмерного влияния цифровых технологий

Хотя термин «цифровой империализм» может показаться экстремальным, он отражает тот обширный контроль и влияние, которые технологические гиганты оказывают на глобальные рынки, культуру и политику. Они неустанно собирают данные о пользователях, часто без четкого согласия, что вызывает озабоченность с точки зрения конфиденциальности и этики. Их влияние на общественное мнение через контроль над информацией и рекламой аналогично историческим примерам чрезмерного влияния корпораций. ИИ обостряет эти проблемы, делая вмешательство регулирующих органов еще более важным.

Чтобы избежать ошибок прошлого и обеспечить равноправное и справедливое цифровое будущее, руководители связанных с ИИ миссий в государственном секторе по всему миру должны рассмотреть следующие меры:

  • Укрепите антимонопольное законодательство. Усильте антимонопольное регулирование, чтобы предотвратить монополистическую практику и стимулировать конкуренцию. Действия Европейского союза по борьбе с антиконкурентной практикой служат примером того, как содействовать честной конкуренции на цифровых рынках.
  • Усильте регулирование конфиденциальности данных. Внедрите всеобъемлющие законы о конфиденциальности данных для защиты информации о потребителях, аналогичные GDPR в Европе. GDPR обеспечивает потребителям контроль над их личными данными и привлекает компании к ответственности за их неправомерное использование.
  • Обеспечьте прозрачность и подотчетность. Убедитесь, что технологические компании раскрывают информацию о своих операциях и алгоритмах, что способствует прозрачности. Калифорнийский закон о конфиденциальности потребителей (CCPA) требует от компаний предоставлять четкую информацию о методах сбора данных и предлагать потребителям право отказаться от предоставления данных.
  • Поощряйте международное сотрудничество. Разработайте последовательные глобальные стандарты и политики, не ограничивающиеся национальными границами. Система трансграничных правил конфиденциальности (Cross-Border Privacy Rules System) в рамках Asia-Pacific Economic Cooperation способствует международному сотрудничеству в области стандартов конфиденциальности. Комиссар по электронной безопасности Австралии и CNECT ЕС также подписали первый в истории «Цифровой альянс», чтобы совместно обеспечивать соблюдение соответствующих законов о безопасности в Интернете.
  • Защитите общественные интересы. Создайте независимые надзорные органы для мониторинга воздействия технологических гигантов на общество и согласования их действий с общественным благом. В Австралии Комиссия по конкуренции и защите прав потребителей активно регулирует деятельность технологических гигантов, например, с помощью Кодекса ведения переговоров с новостными СМИ. Эту модель взяла на вооружение и Канада, которая подверглась таким же карательным мерам со стороны Facebook, как и Австралия.
  • Защитите права человека. Примите на себя обязательства по защите от негативного воздействия ИИ не только на права человека, но и на общественные институты, от которых зависит жизнь общества. Уже подписана Рамочная конвенция Совета Европы по ИИ и правам человека, демократии и верховенству закона, в которую вошли 46 стран-членов. Одобрение со стороны США и 11 других стран, не являющихся членами Совета, — это первый шаг на пути к созданию глобального договора об ИИ. В случае его принятия он обеспечит юридически закрепленную основу для борьбы с дискриминацией, возникающей в результате использования ИИ.

Учитесь на опыте прошлого, чтобы обезопасить будущее

Сравнение между корпорациями прошлого и современными технологическими гигантами — это не прямая аналогия, а скорее предостережение. Извлекая уроки из исторических прецедентов и внедряя детальные, совместные меры регулирования, мы сможем лучше управлять влиянием современных цифровых гигантов. Такой подход крайне важен для предотвращения негативных последствий цифрового империализма и формирования более здорового и справедливого цифрового ландшафта, обеспечивающего всем равный доступ к преимуществам ИИ.