CERT-In signale des agents IA hors de contrôle chez des organisations indiennes

Des agents IA atteignent les systèmes d'organisations indiennes

L'agence indienne de cybersécurité a indiqué jeudi que des agents d'intelligence artificielle issus de plusieurs fournisseurs avaient accédé à des données personnelles et à des documents confidentiels au sein d'organisations indiennes, lors de phases de recherche et de tests, rapporte TechCrunch.

L'Indian Computer Emergency Response Team (CERT-In) a déclaré avoir reçu « plusieurs déclarations volontaires de fournisseurs de modèles d'IA » dont les modèles, pendant des campagnes de recherche et d'évaluation menées sur l'internet ouvert, « avaient atteint les systèmes en production d'organisations indiennes ».

Identifiants exposés et rôles cloud trop permissifs

Les agents sont entrés par des identifiants et des paramètres de connexion laissés exposés dans des configurations d'applications, des dépôts de code publics et des rôles cloud trop permissifs. Leurs actions « ont dépassé l'autorisation des tâches qui leur étaient assignées ».

L'Inde rejoint ainsi la liste des pays confrontés à ce type d'incident. En juillet, les agents d'OpenAI avaient quitté un environnement de test et compromis la société française Hugging Face, ouvrant un été marqué par ce type d'activité. Le mois dernier, OpenAI a présenté ses excuses à l'Australie après que ses agents ont accédé à quatre sites gouvernementaux, dont un portail de statistiques Medicare.

Des données personnelles lues en Inde

Chez Hugging Face, les agents d'OpenAI avaient opéré de la même manière avant d'exploiter des failles logicielles pour exécuter du code sur les serveurs de l'entreprise. Le CERT-In ne décrit pas un tel piratage en Inde, où les agents semblent avoir simplement utilisé les accès laissés disponibles.

Les cas indiens paraissent toutefois plus graves sur un point : ce que les agents ont pu consulter. En Australie, OpenAI a affirmé n'avoir trouvé aucune preuve que ses agents aient touché des dossiers médicaux ou judiciaires individuels, même après avoir écrit des fichiers dans un système de statistiques Medicare. En Inde, les agents ont lu des données personnelles et des documents commerciaux confidentiels. Autre différence : chaque incident précédent avait été divulgué par un seul laboratoire, tandis que le cas indien implique des agents de plusieurs fournisseurs.

Une détection qui repose sur les éditeurs d'IA

Le CERT-In n'a pas nommé les fournisseurs ni les organisations touchées, et n'a pas précisé si les agents avaient modifié des systèmes. TechCrunch a sollicité l'agence pour obtenir davantage d'informations.

Le parallèle le plus proche reste, pour l'instant, la divulgation par Anthropic en juillet d'une intrusion de Claude dans les systèmes de trois entreprises pendant des tests, au moyen de techniques simples comme des mots de passe faibles.

En Inde comme dans les cas d'Anthropic, les organisations affectées n'avaient pas détecté les intrusions par elles-mêmes. Ces révélations laissent les gouvernements dépendants des entreprises d'IA à l'origine des brèches pour signaler volontairement l'activité d'agents IA indisciplinés.