Le PDG et co-fondateur d’Anthropic, Dario Amodei, a publié un plan en trois étapes dans lequel il implore « les entreprises et le gouvernement américain » de « ralentir le rythme auquel nous améliorons les capacités des modèles d’IA ». Pourquoi? Eh bien, Amodei craint que dans « 6 à 12 mois », un « essaim » de robots IA soit « capable de s’emparer de l’ensemble d’Internet avec un botnet persistant ».
Amodei a publié son essaiintitulé « We Must Pace the Frontier », hier 12 septembre, et ses paroles ont réussi à atteindre les deux Elon Musk de Grok et Sam Altman d’OpenAI. Mais qu’est-ce qui aurait pu inquiéter ces trois frères de la technologie de l’IA au point qu’ils conviennent tous soudainement que le développement de l’IA, qui, selon eux, fera d’eux des billions, devrait ralentir ?
« Ma première préoccupation est que, depuis environ cet été, l’IA a progressé considérablement plus rapidement, principalement en raison de sa capacité croissante à construire la prochaine génération d’IA », écrit Amodei dans son essai. « Cette dynamique s’appelle l’auto-amélioration récursive, et elle commence à se produire dans l’ensemble de l’industrie, y compris chez Anthropic, comme nous et d’autres l’avons décrit. »
Dario a raison https://t.co/EwKgqQGaUo
– Elon Musk (@elonmusk) 12 septembre 2026
« Ma deuxième préoccupation est l’incident OpenAI-Hugging Face (OAI-HF), dans lequel un essaim d’agents ont essentiellement agi comme un collectif fanatiquement dévoué, menant des attaques de cybersécurité sur des cibles qu’ils n’étaient pas invités à attaquer (…) » poursuit Amodei. « Étant donné le rythme accéléré de développement des capacités de l’IA, je crains que d’ici 6 à 12 mois, un tel essaim puisse s’emparer de l’ensemble d’Internet avec un botnet persistant (causant potentiellement des centaines de milliards de dollars de dégâts), et que l’ampleur des dégâts continue à augmenter à partir de là si l’IA devient plus puissante sans les garde-fous nécessaires. »
Sauf qu’il y a une « préoccupation » cachée dans l’essai d’Amodei : la Chine. « Les progrès au sein des démocraties seront limités par l’avance des entreprises américaines sur les régimes autoritaires, principalement le Parti communiste chinois (…) Les projets associés au PCC encourront les risques d’alignement que les entreprises américaines évitent soigneusement, et même si elles évitent ces risques, elles seront en mesure de dominer militairement les démocraties (par exemple avec des drones pilotés par l’IA). »
Le plan en trois étapes d’Amodei pour « ralentir le rythme » du développement de l’IA comprend « un accès continu, comme celui des employés, à une équipe d’évaluateurs tiers intégrés », une coordination avec les « pays démocratiques » pour « établir des normes de sécurité communes ainsi que des limites au rythme des progrès incontrôlés de l’IA » et « les États-Unis et d’autres gouvernements démocratiques (pour) tenter de se coordonner avec les gouvernements autoritaires ».
Je suis d’accord avec Dario sur le fait que nous devons arpenter la frontière. Cela a été l’un des principaux sujets de discussions que nous avons eu à OpenAI ces dernières semaines.
S’engager à disposer d’évaluateurs indépendants bénéficiant d’un accès comparable à celui des employés est une excellente idée, et nous ferons de même. Nous aurons bientôt plus à partager. https://t.co/1YhhIybZX7
– Sam Altman (@sama) 12 septembre 2026
Dans le cadre de ce plan, Amodei demande aux entreprises technologiques et aux gouvernements de « ne pas vendre de puissantes puces d’IA ou d’équipements de fabrication de semi-conducteurs à la Chine, et de réprimer les opérations de contrebande de puces et l’accès à distance aux centres de données en dehors de la Chine ». Alors qu’Amodei déclare que « les mesures que je propose pour avancer la frontière à un rythme sûr ne seront pas faciles », le PDG d’Anthropic estime que « nous devons à l’humanité d’essayer ».
Même s’il est formidable d’entendre ce genre de rhétorique de la part de l’une des figures les plus éminentes de l’IA, je ne peux m’empêcher de penser que nous avons largement dépassé le point de pouvoir remettre le dentifrice dans le tube. Même si une réglementation mondiale de l’IA serait la bienvenue, plusieurs modèles d’IA ont déjà été volé et cloné ensuite. Comment ces réglementations proposées vont-elles aider lorsque la technologie est utilisée par des personnes qui ont prouvé qu’elles ne se soucient pas des idéaux fantaisistes comme la légalité ?
Et demander aux gouvernements et aux entreprises technologiques de cesser de vendre « de puissantes puces d’IA ou des équipements de fabrication de semi-conducteurs à la Chine », c’est comme demander à un chien de ne pas se lécher les couilles. Sans vouloir vous offenser, mais si quelqu’un pense que le gouvernement américain ou les fabricants de RAM Si vous allez volontairement gagner moins d’argent pour le bien de « l’humanité », alors j’ai un pont à vous vendre.
Ces règlements proposés auraient dû être en place il y a des années. Même les réglementations de l’UE, entrées en vigueur en 2025, étaient ridiculement faibles – et elles sont bien en avance sur celles des États-Unis et de la Chine. La réponse n’est pas, et n’a jamais été, de « ralentir » le développement de l’IA ; la technologie aurait dû être réglementée dès le premier jour.
L’enfer sans cesse grandissant dans lequel nous nous trouvons actuellement est un échec des gouvernements du monde entier, qui ont joyeusement commencé à construire des centaines de centres de données d’IA à la recherche de profit et de pouvoir avant de s’arrêter pour mettre en place des freins et contrepoids. Les frères technologiques qu’ils activent sont un symptôme, et faire appel aux vieux connards au pouvoir analphabètes en matière de technologie est une perte de souffle – ou, dans ce cas, des jetons d’IA.
