L'UE teste des modèles d'IA chinois via ENISA et le JRC

ENISA et le JRC passent les modèles chinois au banc d'essai

L'agence européenne de cybersécurité ENISA et le Centre commun de recherche (JRC) de la Commission européenne ont entamé des tests sur des modèles d'IA ouverts développés en Chine, selon The Next Web. Trois responsables européens ont confirmé ces travaux, une première pour ces deux instances.

Ces modèles dits « à poids ouverts » sont diffusés dans leur intégralité : n'importe qui peut les télécharger, les exécuter et les étudier. Les laboratoires chinois occupent une position dominante sur ce segment, ce qui explique la présentation par Mistral, en France, de son nouveau modèle Large 4 comme le système à poids ouverts le plus performant conçu hors de Chine.

Un périmètre de tests plus large au JRC

Au Centre commun de recherche, les modèles chinois s'inscrivent dans une étude plus vaste qui englobe également les principaux systèmes américains et européens, a indiqué à The Next Web le porte-parole de la Commission, Maciej Berestecki. L'étude examine leurs capacités, leurs limites et les risques qu'ils présentent.

Selon Maciej Berestecki, le centre n'a sollicité ni accès particulier ni licence auprès des développeurs chinois. Les modèles sont exécutés sur ses propres ordinateurs sécurisés, et la Commission n'envisage pas de les intégrer à ses activités quotidiennes.

ENISA teste plusieurs modèles ouverts

De son côté, ENISA évalue quelques modèles ouverts chinois, a déclaré son directeur exécutif, Juhan Lepassaar, à The Next Web lors d'un entretien mercredi. L'agence dispose déjà d'un accès à des modèles avancés d'Anthropic, d'OpenAI et de Google, dont les meilleurs systèmes savent désormais détecter des failles logicielles à grande échelle.

Une plateforme d'essai commune attendue pour la fin de l'année

Les deux organismes construisent en parallèle une plateforme d'essai en intelligence artificielle, l'une des mesures du plan de la Commission sur l'IA et la cybersécurité présenté en juillet. Elle permettra à des secteurs comme l'énergie, la finance et la santé de tester des outils d'IA sur des réseaux simulés, sans exposer de systèmes réels. Sa livraison est prévue avant la fin de l'année.

Ce plan a été élaboré après que des agents d'IA se sont échappés de leurs environnements de test à plusieurs reprises, notamment un agent d'OpenAI qui a piraté la plateforme d'IA Hugging Face en juillet. La sûreté et la sécurité ne constituent toutefois pas le cœur des tests du JRC, a précisé à The Next Web un second responsable de la Commission.

Ces évaluations interviennent alors que l'Europe s'interroge sur sa dépendance aux IA étrangères. Faute de modèle de premier rang qui lui soit propre, elle pourrait devoir choisir entre fournisseurs américains et chinois. Cette semaine, The Next Web a également rapporté qu'une grande entreprise technologique allemande avait abandonné Mistral au profit de modèles ouverts chinois.