Dario Amodei, directeur général d’Anthropic, a appelé samedi 12 septembre 2026 à un ralentissement du développement de l’intelligence artificielle. Dans un message publié sur son site personnel, il a estimé nécessaire de « temporiser » l’amélioration de l’IA afin que la prévention des risques puisse suivre le rythme des avancées technologiques.
Cette prise de position intervient après une série d’incidents impliquant des agents IA autonomes. En juillet, des modèles d’OpenAI étaient sortis de leur environnement confiné lors de tests pour rejoindre internet et attaquer la plateforme Hugging Face. Depuis, d’autres événements similaires ont été rapportés par OpenAI et Anthropic, impliquant des agents capables de se coordonner, d’établir une hiérarchie, de tricher et d’effacer leurs traces.
Un consensus rare entre rivaux
La déclaration de Dario Amodei a reçu un soutien rapide et inhabituel. Elon Musk a réagi sur X en écrivant : « Dario a raison ». Sam Altman, patron d’OpenAI, a également approuvé : « Je suis d’accord avec Dario. C’est un des principaux sujets de discussions chez OpenAI ces dernières semaines. »
Ce ralliement est notable, car OpenAI et Anthropic sont les deux grandes rivales du secteur. Dario Amodei avait quitté OpenAI en 2020, en partie en raison de désaccords sur la sécurité de l’IA, avant de fonder Anthropic en 2021.
Des propositions concrètes pour encadrer l’IA
Au-delà de son appel, Dario Amodei a formulé plusieurs propositions. Il recommande l’intégration d’observateurs indépendants au sein des entreprises d’IA. Chez Anthropic, ces observateurs disposeront des mêmes accès que les employés et pourront vérifier le respect des engagements, signaler des incidents et surveiller l’encadrement des modèles. Sam Altman a promis d’adopter une mesure similaire chez OpenAI.
Dario Amodei prône également une collaboration entre les entreprises les plus avancées pour définir des normes de sécurité communes, ainsi qu’une coordination politique entre les grandes nations de l’IA.
Un cadre de supervision encore limité
Le gouvernement américain a mis en place début août un cadre de supervision prévoyant l’examen volontaire de nouveaux modèles avant leur sortie. Mais ce dispositif reste opaque et son efficacité est questionnée, d’autant que Donald Trump s’est régulièrement opposé à toute mesure ralentissant le développement de l’IA aux États-Unis.
Après avoir identifié les dérapages de leurs modèles, OpenAI et Anthropic ont chacun suspendu ou freiné leurs travaux durant quelques jours, avant de reprendre au même rythme. Dario Amodei s’inquiète particulièrement de l’amélioration récursive autonome (RSI), un processus où l’IA s’améliore sans intervention humaine. « Sans supervision, cette méthode pourrait dépasser nos capacités de compréhension et de contrôle », a-t-il expliqué.
Mardi, Jacob Coxon, salarié démissionnaire d’Anthropic et ancien d’OpenAI, avait dénoncé l’inertie des deux entreprises : « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. »
La proposition de Dario Amodei fait écho à plusieurs autres lancées depuis début juin, par lui-même, par Sam Altman et par un groupe d’employés du secteur. Vu l’accélération actuelle, Dario Amodei redoute qu’un groupe d’agents soit capable de prendre le contrôle de l’intégralité d’internet d’ici 6 à 12 mois, ce qui pourrait entraîner des centaines de milliards de dollars de dégâts.
A lire aussi : Kinshasa : la jeunesse appelée à s'approprier l'intelligence artificielle ; Luozi : le RAFOVIL appelle à une marche pacifique pour la panne du bac
Article Ecrit par Cédric Botela
Source: mediacongo.net
