Нам нужны смелые умы, чтобы бросить вызов ИИ, а не ленивые авторы подсказок, утверждает банковский директор по инновациям, пишет на портале ZDNet независимый аналитик Джо Маккендрик.

После того как в отчете Boston Consulting Group было показано, их ИТ-консультанты работают более продуктивно, используя инструмент OpenAI GPT-4, компания получила ответную реакцию, что нужно просто использовать ChatGPT бесплатно, а не покупать консалтинговые услуги за миллионы долларов.

Вот их аргументы: консультанты в любом случае получат ответы или советы от ChatGPT, поэтому следует избегать третьей стороны и обращаться непосредственно к ChatGPT.

В этом есть ценный урок для всех, кто нанимается или хочет наняться на работу, требующую использования ИИ, будь то разработчики, консультанты или бизнес-пользователи. Смысл этой критики в том, что любой человек, даже с ограниченными или недостаточными навыками, теперь может использовать ИИ, чтобы добиться успеха или создать видимость, что он на вершине успеха. Таким образом, игровое поле выровнялось. Теперь нужны люди, способные оценить и критически осмыслить информацию и результаты, которые предоставляет ИИ.

Требуются: критически мыслящие люди с широким кругозором и навыками интерпретации результатов, генерируемых ИИ. (Тем, кто слишком полагается на ChatGPT, лучше не обращаться).

Даже опытные ученые, технологи и эксперты в предметной области могут попасть в ловушку, слишком полагаясь в своих выводах на ИИ, а не на собственные знания.

«ИИ-решения также могут использовать наши когнитивные ограничения, делая нас уязвимыми к иллюзии понимания, когда мы считаем, что понимаем о мире больше, чем на самом деле», — говорится в исследовании, опубликованном в журнале Nature.

Даже ученые, обученные критически оценивать информацию, поддаются соблазну генерируемых машиной озарений, предупреждают исследователи Лиза Мессер из Йельского университета и М. Дж. Крокетт из Принстонского университета. «Подобные иллюзии затуманивают способность научного сообщества видеть формирование научных монокультур, в которых некоторые типы методов, вопросов и точек зрения доминируют над альтернативными подходами, делая науку менее инновационной и более уязвимой для ошибок», — пишут авторы статьи.

Мессер и Крокетт утверждают, что помимо опасений по поводу этики и предвзятости ИИ и вытеснения им рабочих мест, есть риски чрезмерной зависимости от ИИ как источника знаний, которые только начинают осознаваться.

В обычных бизнес-средах чрезмерная зависимость пользователей от ИИ чревата последствиями, начиная от снижения производительности и заканчивая неуместным доверием. Например, пользователи «могут изменять свои действия в соответствии с рекомендациями ИИ», отмечают Самир Пасси и Михаэла Ворворяну из Microsoft в обзоре исследований на эту тему. Кроме того, пользователям «будет сложно оценить работу ИИ и понять, как он влияет на их решения».

Так считает Кьялл Мэй, директор по инновациям банка Esquire, который рассматривает ИИ как важнейший инструмент для привлечения клиентов, но при этом предостерегает от его чрезмерного использования в качестве замены человеческого опыта и критического мышления. Esquire предоставляет специализированное финансирование юридическим фирмам, и ему нужны люди, которые понимают бизнес и то, что ИИ может сделать для его развития.

Мэй, который сам прошел путь от кодера до разностороннего директора по инновациям, не спорит с тем, что ИИ — это, возможно, один из самых ценных инструментов, повышающих производительность труда. Но он также обеспокоен тем, что если слишком полагаться на генеративный ИИ — как в контенте, так и в коде — то это приведет к снижению качества и остроты мышления людей.

«Мы понимаем, что наличие фантастических мозгов и результатов не обязательно так же хорошо, как наличие человека, готового критически мыслить и высказывать свои собственные взгляды на то, что ИИ и генеративный ИИ дают вам в плане рекомендаций, — говорит Мэй. — Нам нужны люди, обладающие достаточной эмоциональностью и самосознанием, чтобы сказать себе: „Хм, мне кажется, что это не совсем правильно, но я достаточно храбр, чтобы поговорить с людьми, убедиться, что они в курсе“».

Банк Esquire использует инструменты Salesforce, чтобы охватить обе стороны ИИ — генеративную и прогностическую. Прогностический ИИ предоставляет лицам, принимающим решения в банке, инсайты о том, «какие юристы посещают их сайт, и помогает персонализировать услуги на основе этих посещений», — говорит Май, чья роль охватывает как привлечение клиентов, так и ИТ-системы.

Будучи полностью виртуальным банком, Esquire использует многие из своих систем ИИ в маркетинговых командах, объединяя контент, создаваемый генеративным ИИ, с алгоритмами прогностического ИИ в бэкенде.

«Опыт у всех разный, — говорит Мэй. — Поэтому мы используем ИИ, чтобы предсказать, каким должен быть следующий набор контента. Прогноз основан на всей аналитике, лежащей в основе системы, и касается того, что мы можем сделать для конкретной аудитории».

Работая в тесном контакте с ИИ, он обнаружил интересный поворот в человеческой природе: люди становятся склонны пренебрегать собственными суждениями и усердием по мере того, как они становятся зависимыми от этих систем. «Например, мы обнаружили, что некоторые люди становятся ленивыми — они что-то подсказывают ИИ, а потом решают: „А вот это звучит как очень хороший ответ“, и отправляют его дальше», — поясняет он.

По словам Мэя, когда он чувствует чрезмерную зависимость людей от ИИ, он зовет их в свой кабинет и говорит: «Я плачу вам за вашу точку зрения, а не за подсказки и ответы ИИ, которыми вы меня кормите. Просто взять результаты и выдать их мне — это не то, что мне надо, я жду от вас критического мышления».

Тем не менее он призывает членов своей технологической команды переложить рутинные задачи разработки на инструменты и платформы генеративного ИИ и высвободить свое время для более тесной работы с бизнесом. «Кодеры обнаруживают, что 60% времени, которое они раньше тратили на написание, уходило на административный код, который не обязательно является революционным. ИИ может сделать это за них, используя голосовые подсказки», — говорит Мэй.

В результате он видит, что грань между классическим кодером и бизнес-аналитиком все больше стирается, потому что кодер не тратит огромное количество времени на то, что не приносит никакой пользы. Это также означает, что бизнес-аналитики могут стать разработчиками ПО.

«Будет интересно, когда я смогу сесть перед платформой и сказать: „Мне нужна система, которая делает это, это, это и это“, — и она наконец сделает это», — мечтает Мэй.