OpenAI : Colin Jarvis pointe le déploiement comme frein de l'IA en entreprise

Un frein qui tient au déploiement, pas aux modèles

La plupart des entreprises qui peinent à intégrer l'intelligence artificielle n'attendent pas de meilleurs modèles. Selon Colin Jarvis, responsable de l'ingénierie déployée chez OpenAI, le problème réside dans le déploiement dans environ 80 % des cas. Les organisations ne savent pas encore comment généraliser l'IA, la gouverner ni démontrer qu'elles peuvent lui faire confiance.

Basé à Glasgow, Colin Jarvis dirige les ingénieurs déployés chez les clients (FDE) d'OpenAI, qui travaillent au sein des entreprises clientes pour mettre les modèles en production. Il s'exprimait face à Alex Hern, du magazine The Economist, lors de l'événement HumanX à Amsterdam, selon The Next Web.

« Je ne ressens personnellement pas de pression particulière pour accélérer sur le développement des modèles eux-mêmes », a-t-il déclaré.

Dans les 20 % de cas restants, les clients estiment que le modèle ne peut pas encore accomplir la tâche, précise-t-il. Ces lacunes sont désormais étroites et spécialisées, comme certaines tâches de conception de semi-conducteurs, plutôt que le travail de bureau courant.

Des profils métiers plutôt que des développeurs

L'équipe était au départ composée surtout d'ingénieurs logiciels, explique Colin Jarvis, car construire sur l'API brute impliquait de tout écrire de zéro. Avec des outils comme Codex, environ 50 % de chaque projet relève désormais de travail sur mesure, contre près de 90 % auparavant. Le recrutement s'est donc déplacé vers des experts métiers : un ancien banquier d'investissement, d'anciens scientifiques et un ingénieur en vérification de puces.

Chaque mission commence par une visite de deux jours. L'équipe demande aux dirigeants de mettre l'IA de côté et de désigner les principaux leviers de leur activité. Elle travaille ensuite sur celui qui ressort.

Un gain estimé à 40-50 M$ par an chez un fabricant de semi-conducteurs

Dans une entreprise de semi-conducteurs, les ingénieurs consacraient environ 80 % de leur temps à corriger des bugs issus de traitements nocturnes, raconte Colin Jarvis. OpenAI a construit un système qui identifie la cause racine, propose un correctif et l'applique après validation par un ingénieur. L'outil s'est étendu d'un service à l'ensemble de l'entreprise. La société estime économiser environ 40 à 50 M$ par an.

D'autres projets incluent un agent qui fait évoluer des pièces automobiles à partir d'instructions en langage naturel, pour un constructeur européen. Un autre aide à rédiger des documents d'essais cliniques, où un humain garde toujours la main.

Deux erreurs fréquentes et une mesure de la réussite

Colin Jarvis identifie deux erreurs courantes. Les entreprises choisissent un cas d'usage parce qu'il semble adapté à l'IA, et non parce qu'il compte. Ou bien elles font fonctionner un bon cas d'usage dans un service, et il reste une démonstration qui ne se diffuse jamais.

Les entreprises qui réussissent mesurent le succès à l'usage en production, et non aux preuves de concept, souligne-t-il. Un client du secteur des semi-conducteurs compte environ 35 cas d'usage en service après près de 18 mois. Il a mis en place une équipe centrale pour passer les projets à l'échelle et placé de petits groupes d'ingénieurs dans chaque unité.

Les FDE n'ont aucun intérêt financier lié à l'usage, précise Colin Jarvis. Ils sont évalués sur la question de savoir si un projet atteint la production et fait bouger un indicateur réel. Lorsque les embeddings d'OpenAI se sont révélés trop lents pour un service de recherche de Klarna, il a conseillé à l'entreprise d'utiliser plutôt un modèle open source.

« De notre côté, chez OpenAI, nous devrions toujours être temporaires », a-t-il affirmé.

Sécurité et concurrence sur le terrain

Alex Hern a noté que Sam Altman se trouvait ce jour-là à l'ONU, alors que la pression monte pour ralentir l'IA. Colin Jarvis répond qu'OpenAI a montré qu'elle suspendrait ses travaux lorsqu'elle atteindrait les limites de ses cadres de sécurité. Il dit avoir eu l'impression qu'elle avait interrompu sa principale phase d'apprentissage par renforcement « en septembre de cette année ».

OpenAI a publié son propre texte sur cette pause le 18 août. Il décrit une interruption de deux semaines de l'entraînement par renforcement sur ses derniers modèles. Il indique aussi que sa plus grande phase de frontière prévue est restée en suspens. Sam Altman a depuis déclaré qu'OpenAI fixerait son propre rythme sans attendre le Congrès.

Colin Jarvis estime que les FDE aident à vérifier si les cadres de sécurité conçus en laboratoire tiennent dans des entreprises réelles et désordonnées.

OpenAI n'est pas seul à envoyer des ingénieurs dans les bureaux de ses clients. AWS consacre 1 Md$ à ce même modèle, et Microsoft a lancé en juillet une activité de déploiement dotée de 2,5 Md$.