Collibra rachète trail ML pour automatiser la conformité à l'AI Act
Collibra, éditeur fondé à Bruxelles et installé à New York depuis 2015, a racheté la startup munichoise trail ML, dont les agents déterminent les règles applicables à un système d'IA et bloquent les actions non conformes. Le montant de l'opération n'a pas été communiqué.
Dans cet article
Collibra met la main sur trail ML
Collibra a racheté trail ML, une jeune pousse munichoise spécialisée dans l'automatisation de la conformité au règlement européen sur l'intelligence artificielle, rapporte The Next Web. Le montant de la transaction n'a pas été divulgué, pas plus que le nombre de clients de la société allemande.
L'acquéreur a été créé à Bruxelles avant de transférer son siège à New York en 2015. Collibra revendique plus de 700 clients, dont 78 figurent parmi les entreprises du Fortune 500.
Des agents qui vérifient les règles et bloquent les actions
Selon Collibra, les agents développés par trail ML identifient les règles qui s'appliquent à un système d'IA et vérifient si les contrôles associés fonctionnent. La startup a été fondée en 2023 par Anna Spitznagel, Nikolaus Pinger et Sven Hoelzel.
Les référentiels automatisés couvrent l'AI Act européen, la norme ISO 42001 et le cadre américain NIST. Particularité revendiquée : les évaluations sont relancées à chaque modification des éléments de preuve sous-jacents, et non une fois par an.
Le volet temps réel, la partie la plus délicate
La couche d'exécution empêche une action contraire à la politique définie avant que l'agent ne la déclenche. Cet aspect compte d'autant plus que les incidents commencent désormais par des agents qui agissent, plutôt que par des modèles qui répondent à des questions. Les propres agents d'OpenAI ont sondé Hugging Face en mai avant de le compromettre en juillet.
Un marché adossé aux pouvoirs de contrôle européens
Les pouvoirs d'application de l'AI Act sont entrés en vigueur le 2 août. L'unité chargée de les exercer compte 36 personnes.
Ces pouvoirs sont réels : la Commission peut exiger des évaluations, restreindre l'accès au marché et infliger des amendes allant jusqu'à 15 M€ ou 3 % du chiffre d'affaires mondial, selon le montant le plus élevé. Une adresse américaine ne place pas un laboratoire hors de portée du régulateur, et les fournisseurs établis hors de l'Union doivent désigner un représentant dans le bloc.
C'est dans l'écart entre l'obligation et le contrôle que se situe ce marché, un écart qui se creuse. La conformité automatisée se vend parce que la charge est lourde et la vérification limitée, et parce que personne ne souhaite découvrir laquelle de ces deux réalités la Commission prendra en premier.
Collibra a quitté Bruxelles pour New York en 2015, dix ans avant la loi qui façonne aujourd'hui son offre : ce déménagement n'avait donc aucun lien avec elle. L'entreprise est revenue en Allemagne pour acquérir la capacité recherchée. Anthropic a fait un calcul différent en août, en marquant les sorties de Claude à l'échelle mondiale plutôt qu'en gérant une version pour l'Europe et une autre pour le reste du monde.
