AWS : près de 90 % des prototypes d'agents IA d'Amazon jamais déployés

Cinq causes d'échec identifiées par AWS

Près de 90 % des prototypes d'agents IA développés par les équipes d'Amazon il y a deux ans n'ont jamais été déployés en production, a indiqué Swami Sivasubramanian, vice-président d'AWS en charge de l'IA agentique. À l'époque, le groupe commençait à investir massivement dans ce domaine. Le dirigeant s'exprimait mercredi à HumanX, à Amsterdam, selon The Next Web.

Cité par des analystes, il avance que 17 % des organisations ont réussi à déployer des agents IA et que 7 % seulement parviennent à mesurer le retour sur investissement. Les directeurs techniques de ses clients lui rapportent que leurs conseils d'administration les interrogent sur ce ROI.

« J'ai 15 prototypes pour des projets très similaires. Je ne sais pas lequel soutenir », rapporte Sivasubramanian, reprenant les propos de ses clients.

AWS envoie des ingénieurs sur les sites de ses clients pour construire des solutions avec eux. En six mois, cette équipe a relié les projets échoués à cinq causes racines. Les équipes travaillent sur le mauvais problème et ne savent pas mesurer si la solution fonctionne. La gouvernance est traitée après coup. Les dirigeants restent paralysés entre la peur de manquer une opportunité et celle de s'engager. Personne ne repense l'organisation pour l'IA.

Colin Jarvis, d'OpenAI, a déclaré lors de la même conférence que l'IA en entreprise bloque sur le déploiement, pas sur les modèles.

Sans résultat métier défini, les équipes continuent d'améliorer une preuve de concept sans jamais en sortir, selon Sivasubramanian. Il compare la situation à un rond-point parisien qu'il a dû parcourir quatre ou cinq fois lors de son premier trajet en Europe. Dans l'IA, le carburant, ce sont les tokens et le budget.

De MeshClaw à Kiro Crew : 39 000 utilisateurs en 30 jours

La réponse d'Amazon a été de laisser fleurir les initiatives et de mesurer celles qui fonctionnaient. Plus de 100 000 ingénieurs d'Amazon utilisent Kiro, l'outil de codage agentique du groupe, comme des millions de développeurs à l'extérieur.

Bolin Chen, ingénieur dans l'équipe personnalisation des boutiques Amazon, a construit sur Kiro, les soirs et week-ends, un assistant permanent baptisé MeshClaw, qui passait par Slack. Après l'avoir partagé sur un canal Slack interne, le projet est passé d'une personne à quatre fondateurs, puis à des milliers de contributeurs au sein d'Amazon.

Les systèmes de mesure d'Amazon ont signalé le projet. L'équipe Kiro prototypait de son côté des agents permanents, une mémoire persistante et une coordination multi-agents : les deux groupes ont fusionné. Le résultat est le projet open source Kiro Crew. Près de 39 000 employés d'Amazon l'ont utilisé dans les 30 jours suivant son lancement interne, et il compte 500 contributeurs externes.

Kiro s'améliore aussi lui-même. Un système interne a détecté que l'agent relisait des fichiers inchangés depuis l'exécution précédente. L'agent a diagnostiqué le problème, écrit le correctif et l'a validé, réduisant ce gaspillage de 83 %.

« Aucun humain n'a diagnostiqué le problème. Le système l'a trouvé lui-même », a déclaré Sivasubramanian.

Une gouvernance déterministe pour encadrer les agents

Les équipes d'Amazon avaient construit des agents sur EC2, EKS, SageMaker et d'autres services, ce qui mettait sous tension les équipes sécurité et infrastructure. Amazon a consolidé son architecture sur Bedrock pour l'inférence IA et AgentCore pour l'hébergement des agents, un chemin unique validé par la sécurité.

Strands, le framework d'agents open source d'AWS, dispose désormais d'une fonction qui place l'agent dans une boîte. Cette boîte est une couche déterministe extérieure à l'agent, qui régit les appels d'outils qu'il peut effectuer. À mesure que l'agent fait ses preuves, la boîte peut s'élargir. Kareem Ayoub, de Google DeepMind, a expliqué à HumanX que les entreprises peuvent encadrer l'IA.

« Ce n'est pas probabiliste. Il est toujours déterministe et mathématiquement prouvable que l'agent ne peut pas dépasser ses limites », a affirmé Sivasubramanian.

Les projets très ambigus devraient démarrer avec des équipes réduites, selon lui. Près de 80 % du Fortune 100 utilise Bedrock, qu'il présente comme le service AWS à la croissance la plus rapide. Face à l'explosion de la demande, six développeurs l'ont réingénieré en 76 jours — un travail qui aurait pris 18 mois à 30 développeurs selon lui. L'équipe est ensuite passée à 35 développeurs.

Les dirigeants doivent aussi rester proches du terrain. Un scientifique a construit l'application de bureau Amazon Quick en une nuit avec Kiro et l'a présentée à des dirigeants en une semaine. AWS l'a lancée en externe en trois mois. Des centaines de milliers d'employés d'Amazon utilisent Quick.

Sivasubramanian invite son auditoire à poser deux questions à chaque projet d'IA : à quel résultat est-il relié, et compose-t-il à chaque couche ?

« Savoir n'a jamais été le problème. La question est de savoir si vous avez la rigueur et la discipline pour l'exécuter », a-t-il conclu.