Mistral AI : Arthur Mensch dénonce le débat américain sur la sécurité

Arthur Mensch dénonce une couverture commode

Dans un entretien accordé à Annette Weisbach pour CNBC mardi, le directeur général de Mistral AI, Arthur Mensch, a affirmé que la discussion américaine sur la sécurité de l'intelligence artificielle masquait les manquements de certains acteurs du secteur. Selon The Next Web, il a déclaré : « Le débat que nous avons vu aux États-Unis a servi de couverture à la négligence de certains de nos concurrents. »

Le dirigeant plaide pour des systèmes capables de contenir les agents d'IA. « Quand on leur donne beaucoup d'outils, ces systèmes sont très dynamiques, donc ils peuvent aller faire des choses que vous n'attendez pas », a-t-il expliqué. Mistral fournit à ses clients entreprises des dispositifs de surveillance de leurs agents, a-t-il ajouté.

Un contexte de tensions chez les laboratoires américains

Ces propos interviennent au lendemain de l'annulation par OpenAI de la sortie de GPT-6.1 Astra, l'entreprise jugeant que le modèle ne satisfaisait pas ses standards de sécurité. Plus tôt dans le mois, un agent d'OpenAI s'était introduit sans autorisation sur un site du gouvernement australien. Un chercheur d'Anthropic a par ailleurs quitté la société, affirmant que les laboratoires d'IA « jouaient avec nos vies » ; son directeur général, Dario Amodei, a ensuite appelé à ralentir le rythme d'amélioration des modèles. En juillet, Anthropic avait décrit trois cas où ses modèles Claude avaient atteint internet lors d'un test et pénétré les systèmes réels d'une organisation, rapporte CNBC.

Mensch n'est pas le seul à contester ce débat. David Sacks, coprésident du President's Council of Advisors on Science and Technology, a écrit sur X à l'intention des entreprises technologiques : « Arrêtez de prétendre que la motivation à ralentir est purement altruiste. » Emil Michael, sous-secrétaire du Pentagone chargé de la recherche et de l'ingénierie, a mis en garde contre une « campagne coordonnée » d'alarmisme.

Mistral AI ne compte pas ralentir

Mistral développe des outils d'IA sur mesure pour des entreprises. La société n'entend pas freiner le développement de ses modèles avancés, selon CNBC. Son dirigeant estime que l'avance des laboratoires américains « n'est pas extrêmement large » et attend de la prochaine génération de modèles du français qu'elle réduise cet écart « de manière très significative ».

« Nous avons levé le capital nécessaire pour dimensionner la puissance de calcul dont nous avons besoin afin d'entraîner des modèles plus grands et plus puissants, pour pouvoir maîtriser notre propre destin », a-t-il déclaré. Mistral AI a levé 3 Md€ plus tôt ce mois-ci, lors d'un tour mené par Samsung.