AWS révolutionne l'observabilité des IA multi-cloud

AWS étend le suivi hors cloud

Les agents IA déployés avec Strands Agents, LangGraph ou CrewAI peuvent désormais être suivis dans Amazon Bedrock AgentCore Observability même lorsqu’ils ne tournent pas directement dans AWS. La solution décrite par AWS cible les environnements on-premises, Amazon EKS, Amazon ECS, AWS Lambda, Google Cloud Platform et Microsoft Azure. AgentCore Observability fournit nativement des fonctions de traçage, de monitoring et d’analyse, mais sa prise en charge native concerne uniquement les agents exécutés sur le runtime AgentCore dans le cloud AWS. Une configuration supplémentaire est donc nécessaire pour les autres environnements.

ADOT relie les agents à CloudWatch

L’architecture repose sur l’AWS Distro for OpenTelemetry (ADOT), exécuté dans le même processus que l’application. Son auto-instrumentation capture les spans associés aux conventions sémantiques de l’IA générative, puis exporte la télémétrie vers l’endpoint CloudWatch OpenTelemetry Protocol (OTLP). L’authentification des requêtes repose sur SigV4 et des identifiants AWS Identity and Access Management (IAM).

Trois éléments sont nécessaires: l’auto-instrumentation ADOT, des identifiants IAM autorisés à transmettre les traces, métriques et journaux, ainsi que des variables d’environnement dédiées au routage et à l’authentification. Amazon CloudWatch assure l’ingestion et le stockage de la télémétrie, AgentCore Observability fournit les tableaux de bord spécialisés pour les agents IA, ADOT permet l’instrumentation multiplateforme et IAM sécurise les échanges entre AWS et les environnements externes.

Une configuration Python et IAM

Le parcours présenté utilise un agent Strands dans un environnement non AWS. Il nécessite Python 3.10 ou une version ultérieure, un accès aux modèles Amazon Bedrock, CloudWatch Transaction Search activé et des identifiants IAM disposant notamment des permissions bedrock:InvokeModel, logs:CreateLogGroup, logs:CreateLogStream, logs:PutLogEvents, des autorisations X-Ray pour les segments et données de télémétrie, ainsi que cloudwatch:PutMetricData. L’environnement doit aussi pouvoir accéder aux endpoints AWS en HTTPS.

Pour les agents fonctionnant en dehors d’AWS, une configuration supplémentaire est nécessaire pour envoyer des télémétries au tableau de bord.

Les usages de la télémétrie centralisée

Selon AWS, cette centralisation donne de la visibilité sur les chaînes de raisonnement, les appels d’outils et les sorties des modèles. Elle peut servir à détecter les hallucinations, surveiller les réponses nuisibles ou hors sujet, suivre l’usage des tokens pour la gouvernance des coûts et auditer le comportement des agents entre plusieurs environnements. L’activation initiale de CloudWatch Transaction Search s’effectue une fois par compte avec AWS X-Ray, avant de vérifier que son statut est ACTIVE dans la région configurée.

Amazon Bedrock AgentCore est une plateforme pour construire, connecter et optimiser des agents à grande échelle.