Des promesses vertueuses avant l’entrée en Bourse

OpenAI et Anthropic, les deux géants américains de l’intelligence artificielle, alertent régulièrement sur les risques d’une technologie qui pourrait échapper à tout contrôle. Ils réclament un frein mondial. Pourtant, leurs engagements sonnent creux pour nombre de critiques, de la Maison Blanche aux militants anti-IA. Le timing est révélateur : ces appels à la prudence interviennent en pleine course aux capitaux, les deux laboratoires ayant annoncé début juin un projet d’entrée en Bourse.

Le discours est devenu classique. « Il faut avoir la possibilité de lever le pied de l’accélérateur et de poser le pied sur le frein », résume Jack Clark, cofondateur d’Anthropic. Bien intentionné, certes. Mais entre la rhétorique et la réalité, le fossé s’élargit.

L’auto-amélioration : le point de bascule redouté

Les deux laboratoires décrivent un même horizon préoccupant : l’« auto-amélioration récursive », stade où des IA pourraient « entraîner leurs successeurs, avec un rôle humain réduit ». Anthropic juge ce scénario « plausible » mais sans certitude. OpenAI, plus optimiste, l’annonce comme objectif assumé « d’ici mars 2028 ».

Le ton diffère. OpenAI promet une « IA personnelle » à chaque habitant de la planète, plus transformatrice que l’électricité ou l’automobile — une technologie « rendue résiliente » par la ceinture, le code de la route et le permis, écrivent-ils. Anthropic adopte une tonalité plus grave, évoquant explicitement les risques de « perte de contrôle ». En juin, l’entreprise a rendu public Fable 5, une version bridée de son modèle de pointe Mythos, en raison des risques de détournements pour des attaques cyber ou biologiques.

Un frein mondial, mais à condition que tout le monde freine

Les deux entreprises évoquent une coordination internationale capable de ralentir toute l’industrie, y compris les rivaux chinois ou Google. Un vœu pieux. Anthropic a suggéré un « système de coordination mondiale » permettant de « suspendre temporairement le développement de l’IA de pointe ». Mais seulement si aucun rival n’en profite pour prendre de l’avance — une condition jugée très improbable à court terme.

OpenAI évoque aussi une organisation multilatérale, sur le modèle de l’AIEA, le gendarme onusien du nucléaire. Sam Altman en parle depuis 2023. Trois ans plus tard, OpenAI et Anthropic publient de nouveaux modèles environ tous les mois.

En février, Anthropic a même retiré son engagement unilatéral à mettre en pause l’entraînement de modèles plus puissants tant que leur sûreté n’était pas démontrée. Sa nouvelle charte distingue désormais ce que l’entreprise s’engage à appliquer seule, et ce qu’elle recommande au secteur sans s’y astreindre elle-même.

Marketing d’entrée en Bourse ou sincérité ?

Les critiques ne s’y trompent pas. David Sacks, ex-conseiller IA de la Maison Blanche, accuse Anthropic de « jouer sur la peur » — une accusation répandue dans l’industrie Trump. Il y voit une tentative d’obtenir une régulation étatique pour écarter les modèles open source au profit des siens.

Gary Marcus, universitaire et figure majeure de la critique anti-IA, est sans détour : « Ça me paraît être du marketing préalable à l’entrée en Bourse, en essayant de répondre au retour de flamme du public. »

D’autres, comme Meredith Whittaker, présidente de Signal, estiment que le vrai danger n’est pas dans le futur hypothétique brandi par ces pionniers, mais déjà dans le présent, avec ses conséquences réelles sur l’emploi, la surveillance et la concentration du pouvoir.

La France et la Nouvelle-Aquitaine doivent rester vigilantes. Ces enjeux structurants pour l’économie mondiale se décident à Wall Street et à San Francisco. Notre souveraineté numérique et technologique en dépend.