Des vétérans d'Anthropic envisagent d'acheter des terres isolées par précaution face à l'IA
D'après le WSJ, certains des premiers employés d'Anthropic envisagent d'acquérir des terres dans des zones reculées des États-Unis pour pouvoir s'y installer « si l'IA dérape ». Ce réflexe s'inscrit dans la culture de l'altruisme efficace, très présente chez les premiers recrutés d'Anthropic et d'OpenAI.
Des achats de terres isolées à l'étude
Certains des salariés les plus anciens d'Anthropic préparent des plans de repli concrets au cas où l'intelligence artificielle échapperait à tout contrôle. Selon The Decoder, « certains de ses tout premiers employés » ont confié à un collègue du secteur, ces dernières semaines, qu'ils envisageaient d'acheter des terres dans des régions reculées des États-Unis afin de pouvoir s'y réinstaller « si l'IA dérape ».
L'idée de fuir l'IA n'est pas nouvelle dans ce milieu. D'anciens salariés se souviennent que, dès les dîners d'entreprise des débuts d'Anthropic, un scénario à la Manhattan Project était évoqué : celui où on leur demanderait de partir dans le désert pour continuer à développer de l'IA dans une installation gouvernementale protégée des ondes électromagnétiques.
Une culture héritée de l'altruisme efficace
Le reportage retrace les liens étroits entre les premières recrues d'Anthropic et d'OpenAI et la mouvance de l'altruisme efficace (EA). Certaines viennent d'un réseau de la baie de San Francisco composé de « doomers » qui passent depuis des années à simuler des scénarios de fin du monde.
Eliezer Yudkowsky avait tiré la sonnette d'alarme sur une IA non maîtrisée dès le milieu des années 2000, devenant le parrain intellectuel de cette mouvance. Avant que l'IA ne prenne la première place dans la liste des menaces, ce groupe se passionnait pour les risques catastrophiques, des impacts d'astéroïdes aux supervolcans.
