Чем больше мы автоматизируем анализ данных, тем больше работы требуется от людей, чтобы разобраться с нестандартными ситуациями, обеспечить высокоуровневый контроль и придать смысл полученным результатам, пишет на портале InformationWeek технический директор Talend Кришна Таммана.
Данные — это самый важный ресурс, которым располагает организация. Они требуются для того, чтобы принимать обоснованные решения, они дают критически важное представление о клиентах и получаемом ими опыте и помогают обеспечить операционную эффективность, которая ведет к снижению затрат и повышению прибыли. Но сейчас мы тонем в данных. У нас их так много, что стало трудно отделить хорошие, нужные данные от ненужного шума. Мы тратим кучу денег на сбор, управление и анализ данных по всему бизнесу, но не видим окупаемости инвестиций.
К счастью, автоматизация на основе искусственного интеллекта и машинного обучения помогает нам лучше справляться с этими задачами. Современное ПО может осуществлять поиск в больших массивах данных, чтобы определить релевантные данные для каждой цели. Неважно, что мы тонем в данных — машины сами подскажут нам, что хорошо, а что плохо. По крайней мере, мы на это рассчитываем, но может мы ошибаемся и автоматизация — это все же не серебряная пуля?
Проблема машин
На самом базовом уровне понимания суть автоматизации заключается в том, что машины выполняют рутинные, повторяющиеся задачи дешевле и эффективнее, чем человек. Будь то штамповочный пресс, выдавливающий тысячи одинаковых кругов, или ИИ, рекомендующий новое видео, — принцип автоматизации один и тот же.
Цифровая эпоха принесла с собой банальные удобства, начиная с напоминания о необходимости заказать дополнительную упаковку стирального порошка и заканчивая такими жизненно важными операциями, как подбор доноров. Все это невозможно без автоматизации. Но машины могут помочь нам лишь на 90%. Они отлично справляются с потреблением и анализом больших объемов данных, но при этом испытывают трудности с нестандартными ситуациями. Конечно, можно продолжать обучать алгоритмы, чтобы охватить больше таких исключений, но в определенный момент количество ресурсов, уходящих на такую разработку, начинает перевешивать отдачу.
Людей от машин отличает способность легко и просто применять известные принципы и критерии к нестандартным случаям. Люди мыслят точно. Мы можем посмотреть на конкретный случай и принять наилучшее решение, которое почти всегда будет правильным. Машины — это аппроксиматоры. Они видят в целом и принимают решение, основываясь на том, как подобные кейсы были обработаны ранее, что часто дает плохие результаты.
В этом кроется парадокс: чем больше мы автоматизируем аналитику данных, тем больше работы требуется от людей, чтобы разобраться с нестандартными ситуациями, обеспечить высокоуровневый контроль и осмыслить полученные инсайты.
Восход автоматизации под руководством человека
Для разумного, эффективного и этичного использования ИИ предприятиям необходимо позволить машинам делать то, в чем они преуспели, но при этом обеспечить контроль со стороны людей. В основе объяснимого ИИ лежит идея о том, что результаты должны быть поняты и объяснены человеком. Это практический, непрерывный цикл, требующий участия человека на каждом этапе ИИ — от постановки задачи и разработки до текущего управления данными.
Ниже приведены три соображения о том, как вернуть человеческий фактор в решения на базе ИИ:
1. Определите корпоративные ценности
ИИ хорош настолько, насколько хороши данные, которые в него вводят. Если существующие процессы неявно предвзяты, то любой алгоритм, основанный на исторических прецедентах, перенесет эти предрассудки на автоматизированные процессы. Предприятия должны сначала определить ценности, которые им важны, обеспечить их соблюдение людьми, а затем перенести их на автоматизированные процессы.
2. Поставить человека у истоков обучения
Что касается МО, то ИИ может создавать и обучать алгоритм без вмешательства человека. У машин нет этики или морали, и они не могут выносить суждения. Они знают только то, чему их научили, и, подобно игре на телефоне, вдали от человека эти уроки начинают забываться. Доверить людям обучать алгоритмы — беспроигрышный вариант. Люди могут выявлять и обучать машины примерам нестандартных ситуаций, в то время как машины хорошо справляются с большей частью ручных, утомительных задач.
3. Обеспечьте управление под руководством человека
Модели ИИ необходимо постоянно контролировать, измерять и делать калибровку. Оставленные без присмотра, они могут непреднамеренно измениться под влиянием внешних факторов. Эти факторы, называемые дрейфом, могут привести к нежелательным результатам. Аналогичным образом, этический ИИ, компонент объяснимого ИИ, гарантирует, что машины работают в соответствии с системой или моральными принципами, заложенными в него разработчиками. Если модели дрейфуют достаточно далеко от курса, они могут потерять способность действовать так, как задумано.
Хотя мониторинг дрейфа может осуществляться машинами, любые возникающие проблемы должны быть переданы человеку, который может принять решение о необходимости вмешательства. Последующее обучение также должно проводиться людьми, чтобы алгоритм был откалиброван для получения оптимальных результатов. Очевидно, что люди, обладающие необходимыми знаниями в конкретной области, являются лучшими судьями дрейфа модели. Только они, а не машины, обладают опытом высокого уровня, когнитивными способностями и пониманием важнейших нюансов для принятия таких решений.
Чтобы машины оставались правдивыми, требуется участие человека
ИИ способен изменить то, как мы работаем, живем и развлекаемся, но люди по-прежнему нужны, чтобы «привить» ему здравый смысл и контроль — это могут сделать только они. Для того чтобы вернуть человеческий фактор в автоматизацию, нужно начать с определения и закрепления корпоративных ценностей и затем заниматься разработкой алгоритмов, обучением и постоянным управлением.
В один прекрасный день машины начнут играть гораздо большую роль в нашей повседневной жизни, но люди будут по-прежнему нужны, чтобы они не сбивались с верного пути.
