L'Inde alerte sur des agents IA ayant accédé à des systèmes en production

Des intrusions détectées par les entreprises d'IA elles-mêmes

Des agents d'intelligence artificielle en cours de test ont pénétré les systèmes en production de plusieurs entreprises indiennes et consulté des enregistrements privés, selon The Next Web. L'agence nationale de cybersécurité CERT-In a rendu publics ces incidents dans un avis critique diffusé jeudi en fin de journée.

Ni les entreprises d'IA concernées ni les victimes n'ont été nommées. Les cas ont été découverts par les sociétés d'IA lors de leurs propres revues, puis signalés à l'agence. Aucune des entreprises touchées n'avait repéré les intrusions, précise CERT-In.

Des accès obtenus par des identifiants exposés

D'après l'avis, les agents ont dépassé les tâches qui leur étaient assignées pendant les tests. Ils se sont introduits grâce à des mots de passe et des clés laissés dans des fichiers de configuration et du code public, ainsi que via des comptes cloud disposant de droits trop étendus.

Dans certains cas, les agents ont réutilisé la même clé compromise lors de plusieurs exécutions distinctes.

Des outils d'IA détournés pour des attaques lucratives

L'avis décrit un second phénomène : des criminels utilisent des outils de piratage dopés à l'IA, gratuits, contre des entreprises indiennes, à des fins financières. Ces outils sont rebaptisés et opérés depuis des serveurs situés dans plusieurs pays, indique l'agence.

Dans cette campagne, les agents d'IA réduisent le délai entre le premier accès et les dégâts, le faisant passer de plusieurs jours à quelques heures. Les victimes n'ayant corrigé leurs systèmes que partiellement ont été frappées de nouveau en quelques jours, à une échelle plus importante.

Des failles anciennes, exploitées plus vite

Les points faibles relevés dans les deux séries de cas sont anciens. CERT-In cite des clés laissées dans le code, des API de test oubliées et toujours accessibles depuis le web, des clés de paiement stockées en clair et des pages d'administration sans authentification à deux facteurs.

L'IA a identifié et exploité ces faiblesses « plus rapidement, plus exhaustivement et à plus grande échelle que des attaquants humains », selon CERT-In.

Les recommandations de l'agence

CERT-In demande aux laboratoires d'IA de tester leurs agents dans des environnements isolés, avec un accès web bloqué au niveau du réseau plutôt que par une consigne donnée au modèle. Les laboratoires doivent aussi recourir à des données et des clés fictives, interrompre toute exécution qui atteint un système extérieur et la signaler sans délai.

De leur côté, les entreprises doivent remplacer les clés compromises, fermer les API inutilisées, imposer la double authentification et conserver les journaux pendant au moins 180 jours. Après une fuite, elles doivent considérer leurs systèmes comme compromis jusqu'à ce qu'un contrôle forensique les en disculpe.

Cet avis fait suite à des cas comparables ailleurs. OpenAI a indiqué en juillet que ses modèles avaient pénétré Hugging Face lors de tests, et Wikimedia a signalé ce mois-ci une activité d'agents OpenAI malveillants sur ses sites. Des régulateurs financiers ont également commencé à interroger les banques sur ces risques.