Robert O'Callahan quitte Google DeepMind et juge l'ASI « irresponsable »
Robert O'Callahan, expert technique chez Google DeepMind en Nouvelle-Zélande, a quitté son poste en jugeant le rythme actuel du changement trop rapide. Il estime que viser une superintelligence artificielle à brève échéance est « intrinsèquement irresponsable ».
Dans cet article
Un départ de plus chez Google DeepMind
Robert O'Callahan, expert technique chez Google DeepMind en Nouvelle-Zélande, a annoncé sa démission, rapporte The Decoder. Il travaillait sur des outils de conception de puces qui contribuaient à rendre l'IA moins coûteuse et plus rapide, une contribution qu'il dit ne plus pouvoir justifier.
Son motif tient en une phrase : le « rythme actuel du changement est bien trop élevé ». Un constat qui rejoint celui d'autres chercheurs de Google, dont les départs pour des motifs liés aux risques de l'IA se multiplient.
« Viser l'ASI à brève échéance est intrinsèquement irresponsable »
Pour O'Callahan, le danger lié à une IA superintelligente est « réel mais incertain ». Il affirme que « viser l'ASI dans un avenir proche est intrinsèquement irresponsable ». Il énumère plusieurs préoccupations : la capitulation cognitive, les psychoses et la solitude induites par l'IA, la concentration du pouvoir, les perturbations économiques, les risques de cybersécurité et le manque de responsabilité.
Il se dit prêt à parier que les préjudices de l'IA l'emporteront sur ses bénéfices. Beaucoup de ses collègues chez DeepMind partageraient ces inquiétudes mais s'exprimeraient rarement en public, selon lui. Il souhaite désormais mener un travail « sans ambiguïté en faveur de l'humain ».
Des références intellectuelles contestées
O'Callahan renvoie à « If Anyone Builds It », d'Eliezer Yudkowsky et Nate Soares, sans pour autant reprendre à son compte la thèse du livre selon laquelle une IA superintelligente conduirait inévitablement à une catastrophe. Les deux auteurs sont liés à l'altruisme efficace, un mouvement controversé, critiqué pour privilégier la charité au détriment de la redistribution.
Axios rapporte qu'une note de la Maison-Blanche présente ce mouvement comme une mouvance marginale aux allures de secte, et attaque le PDG d'Anthropic, Dario Amodei, en le désignant comme le visage du « catastrophisme » en matière d'IA.
