Dans un essai publié le 12 septembre 2026, Dario Amodei, cofondateur et PDG d’Anthropic, appelle les entreprises qui développent les modèles d’intelligence artificielle les plus avancés à adopter un rythme plus mesuré. Son objectif déclaré n’est pas d’arrêter l’innovation, mais de donner davantage de temps aux évaluations, aux protections techniques et au contrôle indépendant.
Ralentir la progression, pas interrompre l’innovation
La proposition porte sur les modèles dits « de frontière », c’est-à-dire les systèmes les plus puissants du moment. Dario Amodei distingue clairement ce ralentissement d’une pause totale : les laboratoires pourraient continuer à entraîner des modèles et à améliorer leurs produits, mais ils devraient éviter que les capacités progressent plus vite que les moyens utilisés pour comprendre et encadrer les risques.
Cette nuance est importante. L’IA apporte déjà des gains dans la recherche, la programmation, l’éducation ou l’analyse de données. Le débat soulevé par le dirigeant d’Anthropic concerne surtout la manière de préserver ces bénéfices sans transformer la compétition commerciale en course où la vitesse passe avant la sécurité.
Pourquoi cet appel arrive maintenant
Amodei avance deux raisons principales. La première est l’utilisation croissante de l’IA pour participer à la conception de la génération suivante de systèmes. Cette amélioration assistée par l’IA pourrait accélérer les cycles de recherche et rendre plus difficile le suivi humain des changements.
La seconde concerne les agents capables d’exécuter plusieurs actions dans un environnement numérique. Dans son texte, il s’appuie sur des incidents récents d’évaluation pour illustrer les comportements imprévus qui peuvent apparaître lorsque plusieurs agents coopèrent. Les scénarios les plus graves qu’il évoque restent des projections et doivent donc être présentés comme ses inquiétudes, et non comme des événements certains.
Son raisonnement est que même une année supplémentaire consacrée à l’alignement, à l’interprétabilité et aux tests pourrait réduire la probabilité d’un incident majeur. Cette période servirait aussi à améliorer la qualité opérationnelle : filtrage des environnements d’entraînement, surveillance, isolation des systèmes et traitement des données.
Un plan organisé en trois étapes
Le dirigeant propose un cadre progressif :
Des évaluateurs externes intégrés. Les laboratoires donneraient à une équipe indépendante un accès continu, proche de celui de leurs spécialistes internes du risque. Ces évaluateurs pourraient vérifier les pratiques, examiner les incidents et publier leurs conclusions.
Une coordination entre entreprises et États démocratiques. L’objectif serait d’établir des normes de sécurité communes et des seuils liant l’augmentation des capacités à des garanties vérifiables.
Une coordination internationale. Des accords mondiaux chercheraient à encadrer certains usages dangereux, avec la difficulté essentielle de vérifier que toutes les parties respectent leurs engagements.
Anthropic annonce vouloir appliquer la première étape de manière unilatérale. L’entreprise prévoit d’accueillir des évaluateurs indépendants disposant d’outils, d’autorisations et d’un droit de publication. Des limites resteraient possibles pour protéger les données privées, les obligations légales et certaines informations de sécurité.
Une proposition encore loin de devenir une règle
Ce plan reste la position d’un dirigeant d’entreprise. Il ne constitue ni une réglementation ni un accord adopté par l’ensemble du secteur. Sa mise en œuvre soulèverait plusieurs questions : choix et financement des évaluateurs, gestion des informations confidentielles, critères permettant de mesurer une progression trop rapide et compatibilité avec les règles de concurrence.
La dimension internationale est encore plus complexe. Un laboratoire peut ralentir volontairement, mais il peut craindre qu’un concurrent poursuive ses travaux sans appliquer les mêmes contraintes. C’est précisément pour résoudre ce problème collectif qu’Amodei demande un rôle actif aux gouvernements et aux organismes de normalisation.
Selon The Atlantic, Sam Altman a soutenu le principe d’un accès permanent accordé à des évaluateurs indépendants et indiqué qu’OpenAI adopterait une démarche comparable. Cette réaction montre que l’idée pourrait dépasser Anthropic, même si les modalités concrètes restent à définir.
Ce que les entreprises peuvent en retenir dès aujourd’hui
Pour les organisations qui utilisent déjà l’IA, le débat ne signifie pas qu’il faut suspendre tous les projets. Il rappelle plutôt que la gouvernance doit avancer au même rythme que les usages. Avant de confier une action à un agent, une entreprise devrait définir précisément ses accès, conserver des journaux, limiter les données disponibles et prévoir une validation humaine pour les décisions importantes.
Les équipes peuvent également tester les comportements inattendus, organiser une procédure d’arrêt et documenter les limites connues du système. Ces mesures sont moins spectaculaires qu’un nouveau modèle, mais elles déterminent souvent la fiabilité réelle d’un déploiement.
Les prochains signaux à surveiller
La portée de cet appel dépendra maintenant d’engagements vérifiables. Il faudra suivre l’identité des évaluateurs choisis par Anthropic, l’étendue de leur accès, la publication de leurs rapports et l’adoption éventuelle de pratiques similaires par d’autres laboratoires.
Le débat porte finalement sur un équilibre : continuer à exploiter le potentiel de l’intelligence artificielle tout en donnant aux contrôles techniques, aux institutions et à la société le temps nécessaire pour comprendre les systèmes les plus avancés.
Source principale : Dario Amodei, 12 septembre 2026, « We Must Pace the Frontier » ↗.
Éclairage complémentaire : The Atlantic, 12 septembre 2026 ↗.
Photo : Anthropic ↗.