Lola Vision Systems automatise l'exécution des modèles d'IA sur puces

Un logiciel pour traduire les modèles d'IA vers les puces

Lola Vision Systems, créée en 2024 à Washington, D.C., s'attaque à un goulot d'étranglement de l'IA embarquée. Son produit principal est un logiciel qui convertit un modèle d'IA en instructions qu'une puce spécifique peut exécuter, selon TechCrunch. Tayo Adesanya, son fondateur, qualifie cet outil de « compiler toolchain » et estime que la configuration manuelle d'un modèle sur un nouveau matériel peut exiger « environ 200 heures » avant même de commencer les tests.

La jeune entreprise affirme avoir reconstruit cette couche logicielle et développe en parallèle ses propres semi-conducteurs, dans le but d'automatiser davantage le processus. Le client fournit son code et le modèle d'IA qu'il souhaite utiliser, qu'il soit propriétaire ou open source, et le logiciel traduit l'ensemble en instructions exécutables par sa puce.

Vitesse, précision et consommation d'énergie

Selon Tayo Adesanya, la rapidité n'est qu'un aspect du problème. Il explique qu'une mise en place plus rapide permet aux entreprises de l'aérospatiale et à d'« autres entreprises critiques » de « faire tourner des modèles plus précis sur leurs propres données, avec une consommation électrique moindre ».

« Pour ces clients, l'exactitude et la fiabilité ne sont pas un luxe. Elles déterminent si un produit passe l'examen réglementaire et s'il fonctionne de manière fiable sur le terrain », ajoute-t-il.

Lola Vision Systems se présente comme une alternative à la technologie de NVIDIA pour l'exécution de l'IA sur les appareils. D'après son fondateur, de nombreuses entreprises partent aujourd'hui de Jetson, la gamme de modules compacts de NVIDIA, ou de modèles d'IA open source. Il affirme que ces solutions « tombent souvent en panne ou fonctionnent mal dès la sortie du carton », ce qui oblige les équipes à passer des jours ou des semaines à les faire tourner, puis encore des semaines à corriger les défauts avant de pouvoir les utiliser.

« Même dans ce cas, la consommation d'énergie dépasse souvent les budgets de l'informatique en périphérie, ou la carte ne fournit pas assez de puissance de calcul pour les modèles moyens à grands dont le produit a réellement besoin. Les modèles de reconnaissance prennent alors du retard sur les objectifs ou identifient mal les objets », poursuit-il.

Une douzaine de clients intéressés et un client signé

La société indique qu'une douzaine de clients entreprises ont signé des lettres d'intention pour acheter ses puces lorsqu'elles seront disponibles, et qu'elle compte déjà un client signé. Elle s'est également associée à SCALE, un programme de développement des compétences en microélectronique, afin de travailler avec davantage de laboratoires de semi-conducteurs.

« Pour générer des revenus plus tôt, nous allons désormais concéder notre logiciel sous licence sur du matériel existant », précise Tayo Adesanya. Autrement dit, plutôt que d'attendre ses propres puces, l'entreprise permettra à ses clients de payer pour utiliser son logiciel sur des puces déjà sur le marché. Il ajoute que la société a levé un peu plus d'un million de dollars au total depuis sa création.

Objectif : se faire connaître et lever des fonds

Lola Vision Systems a été retenue pour l'édition de cette année du Battlefield 200 de TechCrunch, un groupe de 200 startups sélectionnées pour le programme. « TechCrunch était une référence quand j'étais étudiant à Purdue », se souvient son fondateur. Après environ un an de développement du produit et la signature de son premier client, il a estimé qu'il était temps de candidater à Battlefield pour faire connaître l'entreprise à un public plus large.

Ce qu'il attend le plus de l'événement, dit-il, c'est de « nouer des relations utiles et d'apprendre autant que possible sur ce qui se passe dans notre secteur et autour ». « Et, pour être direct, j'attends avec impatience que les investisseurs signent des chèques », ajoute-t-il.