Anthropic consulte des cabinets d'avocats pour encadrer les agents IA
Anthropic consulte des cabinets d'avocats afin d'établir des normes de négociation équitables pour les agents IA appelés à marchander des prix ou à traiter des réclamations. L'entreprise recrute aussi des juristes pour tester Claude sur des questions de jugement, selon The Decoder.
Dans cet article
Anthropic travaille à la manière dont ses agents d'intelligence artificielle pourraient négocier au nom des utilisateurs. D'après The Decoder, la société consulte des cabinets d'avocats pour définir des règles de négociation équitables, applicables à des agents chargés de discuter des prix, de régler des litiges ou d'améliorer des offres de contrat.
Des modèles plus forts obtiennent de meilleurs accords
Les expériences menées par Anthropic montrent déjà que les modèles les plus puissants parviennent à de meilleurs résultats en négociation, un écart qui pourrait creuser les inégalités au sein de la société. L'enjeu dépasse donc la seule performance technique : il touche à la répartition des gains tirés de ces outils.
Pour avancer, l'entreprise recrute des Conceptual Reasoning Fellows, dont des profils de juristes. Ces fellows disposeront de quatre mois pour éprouver Claude sur des questions exigeant du jugement en droit, en philosophie, en sciences cognitives, en économie et en sciences politiques, pour une rémunération comprise entre 100 000 et 167 000 dollars.
Le droit, un domaine difficile à évaluer
La démarche répond à un problème de données. En mathématiques et en programmation, l'amélioration des modèles est relativement aisée, car les données vérifiables sont abondantes ou faciles à produire. Dans les sciences humaines, ces données n'existent pas, en partie parce que la frontière entre une bonne et une mauvaise réponse est rarement nette.
Anthropic a donc besoin d'experts capables de construire des cas de test et des évaluations pour renforcer Claude sur ces terrains. « Il est notoirement difficile de définir la qualité » en droit, estime Justin Curl, membre de l'équipe technique qui travaille sur le droit, les institutions et l'IA chez Anthropic.
Des juristes pour bâtir les cas de test
Le recrutement de profils juridiques s'inscrit dans cette logique : fournir à l'entreprise les scénarios et les critères d'évaluation qui manquent à ses modèles dans les domaines où la réponse juste n'est pas unique.
