Sam Altman défend les bénéfices de l'IA malgré ses risques

Sam Altman, directeur général d'OpenAI, considère que les avantages apportés par l'intelligence artificielle justifient d'accepter une part de risques. Il a défendu cette position dimanche 4 octobre dans un entretien accordé à la newsletter Decoded de Politico, selon PYMNTS, en traçant les différences de vue entre sa société et la startup rivale Anthropic.

Une divergence de fond avec Anthropic

« Je pense qu'il y a beaucoup de lumière du jour », a déclaré Sam Altman à propos de l'écart entre les deux approches. Interrogé sur des exemples précis, il a ajouté que « nous pensons que le monde devrait accepter que de mauvaises choses se produisent pour bénéficier de cette technologie et permettre aux gens d'avoir leur libre arbitre ».

Anthropic est depuis longtemps perçue comme le défenseur le plus ferme d'une régulation de l'IA au sein du secteur. Cette position a longtemps contrasté avec la ligne plus souple d'OpenAI, même si cette dernière a évolué ces derniers mois : l'entreprise soutient désormais des règles plus strictes, alors qu'elle doit gérer des incidents de cybersécurité très médiatisés impliquant ses modèles.

Des positions qui se rapprochent sur la sécurité

Sam Altman s'est dit d'accord avec l'appel récent de Dario Amodei, directeur général d'Anthropic, à ralentir le rythme de développement des modèles d'IA les plus avancés. OpenAI a également rejoint Anthropic pour soutenir de nouvelles lois étatiques imposant des exigences de sécurité renforcées. Les lobbyistes d'OpenAI ont aussi appuyé une proposition bipartisane à la Chambre des représentants qui obligerait les principales entreprises d'intelligence artificielle à intégrer en interne des évaluateurs de sécurité indépendants.

Malgré ce rapprochement, Sam Altman a tenu à marquer la frontière entre les visions réglementaires des deux entreprises, en évoquant les critiques formulées par les conseillers technologiques de la Maison-Blanche à l'encontre d'Anthropic.

« Je ne suis pas d'accord, mais je comprends le point de vue de ceux qui disent : cette technologie va devenir si puissante et si dangereuse qu'un seul laboratoire de San Francisco devrait la détenir, s'assurer que rien de grave ne se produise et décider comment en répartir les bénéfices », a-t-il expliqué. Il a qualifié ce compromis d'« totalement inacceptable », car il irait à l'encontre de la « position réglementaire plus légère » défendue par OpenAI.

« Je n'accepterais pas un accord qui dirait : nous garantissons qu'il n'y aura pas de piratages majeurs, pas de détournement de cette technologie, zéro arnaque, zéro tous les autres problèmes qui surviendront », a-t-il poursuivi. « Parce que je pense que les gens feront énormément de bien — des ordres de grandeur de plus — que de mal. »

Les risques catastrophistes écartés

Selon le compte rendu de l'entretien, Sam Altman a également indiqué qu'il ne retenait pas « les risques vraiment catastrophiques », y compris celui d'« une perte de contrôle sérieuse au profit de l'IA ».

PYMNTS rappelait le mois dernier que l'appel d'Anthropic à ralentir le développement place les entreprises d'IA de pointe au cœur de la décision sur les capacités jugées dangereuses et sur la vitesse à laquelle les concurrents peuvent progresser. « Cette concentration d'autorité ne peut pas être traitée comme un effet secondaire », écrivait alors PYMNTS. « Tout cadre de sécurité devrait peser ensemble le danger opérationnel et la puissance de marché, en demandant qui choisit les évaluateurs, qui les paie et qui gagne lorsque le développement ralentit. »