Google представила Agent Executor для надежного масштабирования ИИ-агентов в производстве

Аналитики отмечают, что новая среда выполнения может помочь предприятиям решить операционные проблемы, связанные с масштабированием ИИ-агентов в производстве, хотя более широкие вопросы управления по-прежнему актуальны.

Компания Google представила Agent Executor — среду выполнения с открытым исходным кодом, призванную помочь предприятиям более надежно масштабировать работу ИИ-агентов. Этот шаг сделан на фоне перехода от создания прототипов агентов к управлению оперативными задачами по их внедрению в производство.

По данным компании, для решения этих производственных задач среда выполнения предлагает функциональность, ориентированную на поддержку длительных и распределенных рабочих процессов ИИ-агентов.

Как правило, длительные рабочие процессы ИИ-агентов — это задачи, управляемые искусственным интеллектом, которые выполняются в течение продолжительного времени (от нескольких минут до нескольких дней). Они часто включают множество этапов, взаимодействия с системами, паузы для ввода данных человеком или восстановление после прерываний до полного завершения.

Как сообщила Google в своем блоге, для таких рабочих нагрузок среда выполнения включает поддержку отказоустойчивого выполнения, позволяя возобновлять процессы после сбоев или подтверждений от пользователя. Кроме того, предусмотрена безопасная песочница для изоляции компонентов агентов, контроль согласованности сессий для распределенных рабочих процессов и функции восстановления соединения, предназначенные для сохранения состояния выполнения при сетевых прерываниях.

Также среда выполнения поддерживает «ветвление траектории», что позволяет разработчикам тестировать альтернативные пути выполнения из сохраненных контрольных точек, не теряя при этом предыдущий контекст.

Кроме того, как заявили в компании, Agent Executor объединяет несколько моделей развертывания, включая локальные решения и предварительно созданные или пользовательские управляемые агенты. Это дает возможность пользователям комбинировать различные варианты, такие как Google Antigravity, агенты-первопроходцы, разработанные Google, пользовательские агенты, управляемые Google, а также собственные агенты и агенты, использующие протокол Agent2Agent (A2A), по своему усмотрению.

Устранение пробелов в надежности производства

Аналитики и эксперты видят ценность возможностей Agent Executor как для разработчиков, так и для предприятий.

«Надежность, оркестровка и возможность возобновления — это реальные препятствия для любых корпоративных производственных агентов», — заявил Адвайт Патель, старший инженер по надежности систем (SRE) в Broadcom.

Он отметил, что «корпоративное внедрение тормозят агенты, теряющие свое состояние при перезапуске «подов» (контейнеров), сессии, повреждающиеся при параллельных записях, или длительные рабочие процессы, которые не могут восстановиться после кратковременного сбоя сети. Когда ваш агент начинает выполнять действия в реальных системах, вы не можете позволить ему забыть, что он делал на полпути».

По словам Пателя, «журнал событий, создание снимков состояния, модель с одним писателем и восстановление соединения в Agent Executor — это именно те вещи, которые команды SRE «склеивали на скотч» в течение последнего года». Он также добавил, что существующие фреймворки, такие как LangChain и AutoGen, отлично подходят для прототипирования, но зачастую «разваливаются» в производственной среде, когда агенты работают часами или днями.

Для директоров по информационным технологиям (CIO), по мнению Гаурава Девана, директора по исследованиям в Avasant, операционные меры безопасности среды выполнения, такие как безопасная «песочница» и создание контрольных точек, могут оказаться столь же важными для анализа инцидентов и возможности аудита.

В то же время, он предупредил, что одних только возможностей среды выполнения недостаточно для решения более широких проблем управления и надзора, с которыми CIO продолжают сталкиваться при внедрении корпоративного ИИ.

«Такие вопросы, как ответственность, объяснимость решений агентов, обеспечение соблюдения политик и безопасный доступ к взаимосвязанным системам, все еще развиваются», — отметил Деван. — «В результате, хотя распределенные среды выполнения могут укрепить операционную основу развертывания агентов, вопросы на уровне CIO, касающиеся доверия, соответствия требованиям и корпоративного контроля, вероятно, потребуют дополнительных уровней управления и надзора, выходящих за рамки одной только инфраструктуры среды выполнения».

Использование инфраструктурного уровня для получения стратегического преимущества

Однако Google не единственная компания, стремящаяся формировать развивающийся инфраструктурный уровень для корпоративных ИИ-агентов. Другие крупные поставщики облачных услуг (гиперскейлеры), такие как Microsoft с ее AutoGen и AWS с Bedrock AgentCore, также продвигают открытые или совместимые фреймворки для получения стратегического преимущества.

По словам Девана, «растет количество признаков того, что гиперскейлеры движутся к модели, которая сочетает открытые или совместимые инструменты на верхнем уровне стека с монетизацией, сосредоточенной в базовых инфраструктурных слоях».

Он добавил: «Google, Microsoft и AWS все чаще предлагают SDK (наборы для разработки), фреймворки для агентов и инструменты оркестровки для стимулирования внедрения среди разработчиков и роста экосистемы, при этом продолжая получать прибыль за счет вычислительной инфраструктуры, управляемых ИИ-платформ, служб данных и средств мониторинга».

А по мнению Пателя, стратегия Google в отношении Agent Executor напоминает путь, по которому гиперскейлер пошел с Kubernetes десять лет назад: «Предоставить среду выполнения бесплатно и стимулировать потребление в Google Cloud через такие сервисы, как Gemini Enterprise Agent Platform и Managed Agents API».

Он добавил, что «гиперскейлеры поняли, что проприетарные фреймворки для агентов не будут широко использоваться в корпоративной среде. Прибыль заключается в потреблении облачных ресурсов, управляемых сервисах и выводе моделей. Инструменты верхнего уровня должны быть открытыми, иначе им никто не будет доверять».