Какой был бы мир без API? Скорее всего, он был бы гораздо менее связным, а релизы ПО текли бы как патока. Разработчики используют API для быстрого добавления возможностей в свои приложения, однако такой «общепитовский» подход «grab-and-go» неразумен, когда речь идет об искусственном интеллекте, отмечают опрошенные порталом InformationWeek эксперты.
Разработчики используют API для встраивания ИИ в свои приложения. Однако далеко не все понимают, что они встраивают. «Хотя многие разработчики умеют встраивать ИИ в приложения, проблема заключается в необходимости полного понимания нюансов разработки ИИ, которая значительно отличается от традиционной разработки ПО, — говорит Крис Браун, президент компании Intelygenz, предоставляющей профессиональные сервисы. — ИИ — это не просто еще один технический компонент. Это преобразующий инструмент для решения сложных бизнес-задач».
Джейсон Уингейт, генеральный директор Emerald Ocean, компании по разработке технологических и бизнес-решений, также считает, что, хотя благодаря API встраивание ИИ кажется таким же простым, как вызов функции, многие разработчики не понимают, как работают модели и каковы их риски.
«В
Тимоти Э. Бейтс, профессор практики Мичиганского университета и бывший технический директор Lenovo, также предупреждает, что большинство разработчиков не до конца понимают сложность ИИ, когда встраивают его с помощью API. «Они относятся к нему как к инструменту „подключи и работай“, не понимая тонкостей, лежащих в основе моделей, таких как необъективность данных, этические последствия и динамические обновления со стороны поставщиков ИИ. Я видел это на собственном опыте, особенно когда консультировал организации, где разработчики непреднамеренно вносили уязвимости или неверные функции, неправильно используя ИИ», — говорит он.
Из-за недостатка знаний организация может упустить возможности, что приведет к низкой рентабельности инвестиций. «ИИ следует тестировать в „песочнице“ перед продакшн. Также необходимо регулирование. Создайте механизмы надзора, чтобы отслеживать поведение ИИ и результаты его работы, — советует Бейтс. — Использование ИИ должно быть прозрачным для конечных пользователей, что позволит сохранить доверие и избежать негативной реакции. Объединение разработчиков, специалистов в области науки о данных и бизнес-лидеров в межфункциональные команды обеспечивает соответствие ИИ стратегическим целям».
Бен Клейтон, генеральный директор компании Media Medic, занимающейся судебной аудио- и видеоаналитикой, также не понаслышке знаком с проблемами разработчиков. «Разработчикам необходимо хорошо знать основы ИИ — такие вещи, как данные, алгоритмы, модели машинного обучения и то, как все это связано между собой. Если вы не понимаете основополагающих принципов, вы можете не лучшим образом использовать инструменты ИИ для решения поставленной задачи, — говорит он. — Например, если вы полагаетесь на модель, не понимая, как она была обучена, вы можете быть удивлены, когда в реальных условиях она не будет работать так, как ожидалось».
Технология — это только часть картины
Распространенная проблема заключается в том, что ИИ рассматривается как технологическое решение, а не как стратегический инструмент. «Организации часто ошибаются, внедряя ИИ в свою деятельность без четкого определения бизнес-проблемы, которую он решает. Это может привести к рассогласованию с целями, низкому уровню внедрения и системам, не обеспечивающим окупаемость инвестиций, — говорит Браун. — Внедрение ИИ должно начинаться с четкого определения бизнес-задачи или цели улучшения ИТ, будь то оптимизация операций, оптимизация производительности сети или повышение уровня клиентского опыта. Без этой основы ИИ превращается в дорогостоящий эксперимент, а не в преобразующее решение».
Габриэль Зессин, архитектор ПО компании Sensedia, предоставляющей API-решения, согласен с этим мнением. «На мой взгляд, хотя большинство разработчиков хорошо разбираются в API-интеграции, не все из них понимают ИИ достаточно хорошо, чтобы использовать его эффективно, особенно когда речь идет о встраивании ИИ в существующие приложения. Разработчикам важно определить, чего можно достичь с помощью ИИ для каждого конкретного сценария использования в компании, вместе с представителями бизнеса, такими как владельцы продуктов и другие заинтересованные стороны», — говорит он.
Данные
ИИ питается данными. Если качество данных плохое, ИИ становится ненадежным. «Поиск нужных данных часто сопряжен с трудностями, — говорит Жозеп Прат, директор по потоковым сервисам компании Aiven, специализирующейся на платформах ИИ и данных. — Внешние факторы, такие как суверенитет данных и контроль конфиденциальности, влияют на сбор данных, а многие базы данных не оптимизированы должным образом. Понимание того, как собирать и оптимизировать данные, является ключом к созданию эффективного ИИ. Кроме того, разработчикам необходимо понимать, как модели ИИ создают свои выводы, чтобы использовать их эффективно».
Вероятностный против детерминированного
Традиционно разработчиков ПО учат, что заданный входной сигнал должен привести к определенному результату. Однако ИИ, как правило, является вероятностным, то есть основанным на вероятности того, что что-то произойдет. Детерминированность же, напротив, гарантирует результат, основанный на предыдущих результатах.
«Вместо гарантированного ответа вероятностный инструмент предлагает уровень доверия около 95%. И не забывайте: то, что работает в одном сценарии, может не сработать в другом. Эти основы являются ключевыми для формирования реалистичных ожиданий и эффективного развития ИИ, — говорит Шрикант Хосакоте, директор по развитию и соучредитель кампусного NaaS-сервиса Nile. — Я вижу, что многие организации успешно внедряют ИИ, работая напрямую с клиентами, чтобы определить болевые точки, а затем разрабатывая решения, которые устраняют эти проблемы».
Организуйте цикл обратной связи и тестируйте
API упрощают интеграцию ИИ, но без понимания роли контуров обратной связи разработчики рискуют развернуть модели без механизмов, позволяющих выявлять ошибки и учиться на них. Петля обратной связи гарантирует, что если результат работы ИИ неверен или непоследователен, это будет отмечено, задокументировано и передано в команды. «Наличие обратной связи предотвращает повторное использование несовершенных моделей, приводит производительность ИИ в соответствие с потребностями пользователей и создает непрерывный цикл совершенствования, — говорит Робин Патра, руководитель отдела данных проектно-строительной компании ARCO Design/Build. — Без таких систем ошибки могут оставаться бесконтрольными, подрывая доверие и ухудшая впечатления пользователей».
Также целесообразно привлекать заинтересованные стороны, которые могут предоставлять отзывы о результатах работы ИИ, например, о точности прогноза, релевантности рекомендации или справедливости решения. «Обратная связь — это не только о единичных ошибках. Речь идет о выявлении закономерностей неудач и обмене информацией со всеми вовлеченными командами. Это позволяет свести к минимуму повторные ошибки и обосновать усилия по переобучению, — говорит Патра. — Разработчики должны понимать такие техники, как активное обучение, когда модель переобучается с использованием отмеченных ошибок или крайних случаев, повышая свою точность и устойчивость с течением времени».
Важно также тестировать чаще и раньше. «Для успешного внедрения ИИ очень важно правильное тестирование. ИИ должен быть тщательно протестирован и проверен перед развертыванием, а после того как он заработает, необходимо продолжать регулярные мониторинг и проверки. Не следует просто настроить модель ИИ и оставить ее работать», — говорит Джон Джексон, основатель платформы Hitprobe для защиты от кликового мошенничества.
Разработчики должны понимать и использовать показатели производительности. «Разработчики часто внедряют ИИ, не понимая, как его оценивать. Такие метрики, как точность, прецизионность, полнота и F1-Score (гармоническое среднее между прецизионностью и полнотой), очень важны для понимания того, насколько хорошо модель ИИ справляется с конкретными задачами, — говорит Анбанг Сюй, основатель ИИ-генератора рекламы JoggAI. — Мы видим, что компании испытывают трудности с оптимизацией размещения видеорекламы, потому что не понимают, как модели оценивают демографические данные аудитории и данные о вовлеченности».
Еще одна проблема — непонимание возможностей того, к чему обращается API. «Несогласованные ожидания в отношении ИИ часто возникают из-за непонимания того, чего модели могут реально достичь, — говорит Сюй. — Такое несоответствие приводит к напрасной трате времени и неоптимальным результатам».
Безопасность всегда должна быть на первом месте
«Я думаю, что многие разработчики и бизнес-руководители, принимающие решения о встраивании ИИ в свои приложения, просто не понимают, что ИИ не всегда так уж безопасен. Многие ИИ-инструменты не очень ясно показывают, как используются данные, — говорит Эдвард Тиан, генеральный директор компании GPTZero, занимающейся выявлением контента, генерируемого ИИ. — Они не всегда открыто информируют о том, откуда они берут данные и как обращаются с введенными данными. Поэтому, если организация вводит данные о клиентах во встроенный в ее приложение ИИ-инструмент, независимо от того, делает ли это она сама или ее клиенты, она может столкнуться с юридическими проблемами, если эти данные не будут обработаны должным образом».
Разработчикам следует уделить время изучению средств обеспечения безопасности выбранного ими ИИ. «Они должны понять, какие угрозы учтены, какие механизмы безопасности существуют, какая модель использовалась для обучения ИИ и какими возможностями обладает ИИ благодаря интеграции и другим связям, — говорит Джефф Уильямс, соучредитель и технический директор компании Contrast Security. — Разработчики могут начать с изучения проекта „OWASP Top Ten for LLM Applications“, который специально создана для того, чтобы ознакомить разработчиков с рисками, связанными со встраиванием ИИ в их приложения».
Например, инъекция подсказки позволяет злоумышленнику переписать правила. Это сложно предотвратить, поэтому разработчикам следует быть осторожными и не использовать в подсказках пользовательский ввод из ненадежного источника. Также распространенными проблемами являются раскрытие конфиденциальной информации и чрезмерное доверие к ИИ.
«ИИ не очень хорошо справляется с разделением данных или отслеживанием того, какие данные принадлежат тому или иному пользователю. Поэтому злоумышленники могут попытаться обманом заставить ИИ раскрыть конфиденциальные данные, например частную информацию, детали внутренней реализации или другую интеллектуальную собственность, — говорит Уильямс. — Разработчики могут доверять результатам, полученным от ИИ, больше, чем это оправдано. Этому очень легко поддаться, потому что ИИ очень хорошо умеет казаться авторитетным, даже если он просто что-то придумывает. Существует также множество более серьезных проблем, которые разработчики должны учитывать при использовании ИИ в своих приложениях».
Как развить «интеллектуальные» способности ИИ
Разработчикам, которые хотят узнать больше об ИИ, доступны бесконечные ресурсы. К ним относятся онлайн-курсы и учебные пособия, включающие практические упражнения для получения практического опыта. «Еженедельно выделяйте время для изучения таких областей, как обработка естественного языка, компьютерное зрение и рекомендательные системы. Онлайн-учебники и сообщества — отличные ресурсы для того, чтобы оставаться в курсе событий, — говорит Хосакоте. — В то же время эксперименты с ИИ-инструментами для повышения производительности анализа кода или автоматизации тестирования могут повысить уровень вашей работы».
Разработчики также могут улучшить свои рабочие знания в области ИИ, участвуя в хакатонах или внутренних ИИ-проектах, программируя в паре со специалистами в области науки о данных и постоянно обновляя знания с помощью онлайн-курсов, конференций и отраслевых встреч.
«ИИ — это не волшебная палочка, поэтому перед интеграцией определите конкретные проблемы, которые он должен решить. Кроме того, соблюдайте этику работы с данными: будьте внимательны к тому, откуда берутся обучающие данные, чтобы избежать непредвиденных последствий, — говорит Бейтс. — Успех ИИ зависит от команд, которые за ним стоят. И обучение разработчиков основам ИИ принесет свои плоды».
Среди таких основ — непредвзятость и справедливость, объяснимость, управление жизненным циклом и безопасность при интеграции ИИ. «Разработчики должны понимать, что предвзятость обучающих данных влияет на результаты, как это видно на примере систем, которые непреднамеренно усиливают социальное неравенство. ИИ не должен оставаться „черным ящиком“. Разработчики должны знать, как объяснить заинтересованным сторонам процессы принятия решений с помощью ИИ, — говорит Бейтс. — Постоянный мониторинг и переподготовка необходимы по мере изменения условий ведения бизнеса».
Прежде чем браться за более крупные проекты, разработчики могут изучить инструменты ИИ, проводя небольшие эксперименты, например, создавая простые чат-боты, чтобы понять, как изменения в подсказках влияют на ответы.
«Разработчикам необходимо разобраться в поведении моделей, ограничениях, конфиденциальности данных, проблемах предвзятости и правильном построении подсказок, — говорит Уингейт. — Начните с малого и постепенно развивайтесь. Например, при внедрении ИИ для обслуживания клиентов компании часто начинают с того, что ИИ предлагает ответы, которые просматривают человеческие агенты, а не позволяют ИИ отвечать клиентам напрямую. Только после того, как будет доказано, что это работает, следует расширять роль ИИ».
