Корпоративный контроль: Microsoft и Google расширяют инструменты управления ИИ-агентами

Технологические гиганты внедряют новые методы управления искусственным интеллектом, однако основной проблемой для бизнеса остается контроль над системами, действующими за пределами закрытых корпоративных платформ. Microsoft и Google представили специализированные решения для мониторинга ИИ-агентов, способных взаимодействовать с внутренними данными и выполнять задачи в бизнес-приложениях.

Новые возможности для ИТ-департаментов

Корпорация Microsoft предоставила коммерческим клиентам доступ к системе Agent 365. Инструмент позволяет обнаруживать, модерировать и защищать ИИ-агентов, функционирующих не только внутри экосистемы Microsoft, но и в облачных, локальных и сторонних программных средах.

Google в свою очередь представила центр управления ИИ для Workspace*. Данная панель ориентирована на централизацию данных об использовании технологий, настройках безопасности, защите конфиденциальной информации и соблюдении приватности в рамках сервисов Google.

Подобные шаги компаний обусловлены трансформацией корпоративного ИИ: организации перешли от стадии тестирования чат-ботов к полноценному внедрению автономных агентов, способных совершать действия от лица сотрудников.

Управление ИИ как операционная дисциплина

Эксперты отмечают, что CIO (директора по информационным технологиям) и CISO (директора по информационной безопасности) должны пересмотреть подход к интеграции ИИ. По мнению аналитиков Forrester, управление агентами становится такой же стандартной задачей, как контроль доступа или мониторинг рабочих нагрузок.

• ИИ-агенты требуют надзора на всех этапах жизненного цикла, включая контроль затрат и интеграцию в системы управления сервисами.
• Для специалистов по безопасности смещается акцент: теперь необходимо не только предотвращать утечки данных, но и непрерывно контролировать действия агентов, имеющих высокую степень автономии.
• Управление ИИ становится базовым компонентом всех корпоративных приложений, что требует закладывания правил безопасности еще на этапе проектирования системы.

Различия в подходах Microsoft и Google

Специалисты Omdia указывают на то, что стратегии Microsoft и Google дополняют друг друга. Microsoft рассматривает ИИ-агентов как полноценных корпоративных участников, требующих комплексного административного контроля. Решения Google сфокусированы на взаимодействии ИИ с рабочими данными и пользовательским контентом в рамках конкретных сервисов.

В то же время эксперты предупреждают, что привязка политики безопасности к конкретному вендору может ограничить гибкость архитектуры предприятия. В условиях использования гибридных и мультиоблачных сред предприятиям зачастую приходится выбирать между удобством нативной интеграции и независимостью своей ИТ-инфраструктуры.

Сохраняющиеся риски и проблема теневого ИИ

Несмотря на появление инструментов мониторинга, аналитики выделяют ряд нерешенных проблем:

• Проблема теневого ИИ: агенты могут создаваться сотрудниками через инструменты разработки, расширения браузеров или локальные вспомогательные утилиты в обход централизованного контроля.
• Сложность анализа намерений: журналы аудита фиксируют совершенные действия, но не всегда объясняют логику, которой руководствовался агент при принятии решений.
• Вопросы ответственности: в ситуациях, когда действия ИИ приводят к бизнес-рискам, сложно распределить ответственность между разработчиками, конечными пользователями и администраторами платформ.

Общий вывод экспертного сообщества заключается в том, что стандартных инструментов от Microsoft или Google недостаточно для обеспечения безопасности в гетерогенной среде. Компании, использующие множество облачных решений и сторонних сервисов, нуждаются в комплексных системах управления, выходящих за рамки консолей одного конкретного поставщика.

* — деятельность компании запрещена на территории РФ