Facebook разрабатывает технологию на основе искусственного интеллекта (ИИ), которая позволит автоматически блокировать оскорбительные видео, которые транслируются в онлайн-режиме. Об этом заявил директор компании по прикладному машинному обучению Хоакин Канделла, передает Reuters. Он отметил, что разработчики социальной сети уже начали тестировать технологию, в частности, использовали ее для того, чтобы выявлять материалы на сайте, которые являются оскорбительными для пользователей, а также для блокировки видео с экстремистским содержанием. Тем не менее, чтобы автоматически находить такой контент в прямых видео-трансляциях, понадобится гораздо больше усилий.
Споры касательно трансляций в Facebook начались после того, как в прямом эфире чикагский полицейский застрелил ни в чём не повинного Антонио Перкинса. Запись трансляции не удалили из социальной сети, а всего лишь пометили предупреждающим сообщением, поскольку видео было признано примером реальных последствий насилия. В то же время компания заявила, что будет удалять с сайта ролики, делающие из насильственных действий сенсацию.
По словам Канделы, ИИ-технология разрабатывается для преодоления двух проблем. «Во-первых, алгоритм компьютерного распознавания должен быть быстрым, и, я думаю, над этим мы можем поработать. Во-вторых, нужно правильно определить факторы, на которые обратил бы внимание при просмотре человек, специалист, понимающий нашу политику и принимающий решение об удалении», — сказал он.
По замыслу Facebook, ИИ должен разгрузить сотни сотрудников компании по всему миру, которые занимаются мониторингом контента, публикуемого пользователями. Во время последней президентской кампании в США Facebook, Twitter и Google подверглись жесткой критике за активное распространение фальшивых новостей о кандидатах Дональде Трампе и Хиллари Клинтон. Такие новости получали в Facebook больший охват, чем реальные новости The New York Times, The Washington Post, The Huffington Post и других СМИ, подсчитала Buzzfeed: 20 самых популярных фейковых новостей собрали в феврале — ноябре этого года около 8,7 млн. перепостов, лайков и комментариев, а топ-20 реальных новостей — 7,4 млн.
Основатель Facebook Марк Цукерберг сначала отрицал возможность такого влияния, но в итоге объявил о плане по борьбе с фальшивками. Эта соцсеть, как и Google, больше не будет делиться рекламными доходами с сайтами, которые распространяют фейковые новости. Кроме того, Facebook будет сообщать пользователям, если источник той или иной новости вызывает сомнения, рассказал Цукерберг в середине ноября. Пока у Facebook нет готового решения, как компания будет отличать правду от вымысла и как будет при этом использовать ИИ, признает соцсеть.
«Искусственный интеллект — это не магия, но мы уже видели его практически неотличимые от магии достижения в области научных исследований и вклад в повседневное чудо идентификации объектов на фотографиях, распознавания речи, вождения автомобиля и перевода поста на десятки языков», — написано в блоге Facebook. Некоторые эксперты считают, что фильтрование информации с помощью ИИ можно сравнить с цензурой. Отмечается, что подобные обвинения слышатся не впервые. Например, ранее общественный резонанс вызвала новость о сотрудничестве Facebook с китайскими властями.
