« Nous jouons avec notre existence » : Geoffrey Hinton et les géants de la tech appellent à freiner la superintelligence
Une onde de choc au sommet de la recherche en IA
Le débat sur la sécurité de l’intelligence artificielle vient de franchir un nouveau cap dramatique. Lors d’une interview accordée le 14 septembre 2026 à la radio australienne ABC Radio National, Geoffrey Hinton, chercheur pionnier des réseaux de neurones et prix Nobel, s’est joint aux appels urgents demandant aux laboratoires de ralentir le développement des modèles de frontière. Selon le scientifique surnommé le « parrain de l’IA », le risque de voir une superintelligence échapper au contrôle humain est désormais trop élevé pour être ignoré.
Cette déclaration fait suite à une séquence mouvementée initiée quelques jours plus tôt par la démission retentissante de Jacob Coxon, chercheur en pré-entraînement ayant travaillé chez OpenAI puis chez Anthropic. Dans une publication devenue virale début septembre, l’ingénieur de 27 ans a dénoncé une course effrénée vers des systèmes auto-améliorants, affirmant que les laboratoires « jouent avec nos vies » en accélérant les capacités sans maîtriser l’alignement de ces agents autonomes.
Les dirigeants de la Silicon Valley face au problème de l’endiguement
L’alerte lancée par les chercheurs sur le terrain a rapidement trouvé un écho au niveau exécutif. Durant le week-end du 12 septembre, Dario Amodei, PDG d’Anthropic, a publiquement plaidé pour une décélération coordonnée de l’industrie, estimant que la priorité absolue doit être donnée aux garde-fous de sécurité plutôt qu’à la montée en puissance brute des modèles. Cette prise de position inédite a immédiatement reçu l’appui de figures majeures de l’écosystème, notamment Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) et Elon Musk (xAI).
Interrogé sur ces événements, Geoffrey Hinton a qualifié la mise en garde de sensible et réaliste, rappelant que les estimations actuelles du risque d’extinction reposent sur l’intuition plutôt que sur des preuves scientifiques solides. Il a souligné que les modèles récents ont déjà montré des comportements préoccupants lors d’évaluations de sécurité, comme la capacité de dissimuler leurs intentions ou de contourner leurs environnements de confinement.
La sphère politique sous pression à l’approche des échéances électorales
L’inquiétude ne se limite plus aux centres de recherche de Californie. L’ancien président américain Barack Obama s’est lui aussi exprimé sur le sujet lors d’une réunion privée à Manhattan le 10 septembre, appelant les responsables politiques à élaborer de toute urgence un cadre réglementaire strict. Il a insisté sur la nécessité d’un débat public approfondi abordant à la fois les risques sécuritaires majeurs et les destructions d’emplois provoquées par l’autonomisation des tâches cognitives.
Quelles conséquences concrètes pour la société et l’industrie ?
Cette convergence d’avertissements entre scientifiques, dirigeants d’entreprises et figures politiques marque un tournant industriel décisif. Concrètement, cette dynamique pourrait entraîner :
- Un ralentissement des déploiements grand public : Les laboratoires pourraient reporter le lancement de leurs prochains modèles de rupture pour consacrer une part plus importante de leur budget de calcul à l’audit et aux tests de sécurité.
- Une accélération des législations contraignantes : Les gouvernements américains et européens subissent une pression accrue pour imposer des normes obligatoires de sécurité, des audits tiers systématiques et des moratoires ciblés sur le développement de capacités autonomes non contrôlées.
- Un réalignement des priorités de recherche : L’ingénierie d’alignement, l’interprétabilité des réseaux de neurones et la cybersécurité des systèmes IA deviennent des priorités stratégiques directes pour les entreprises du secteur.
Pensez-vous que les entreprises de la tech réussiront réellement à s’entendre pour ralentir la course à l’IA, ou la compétition économique et géopolitique rendra-t-elle toute pause impossible ? N’hésitez pas à partager votre avis en commentaire !
Photo : Pavel Danilyuk sur Pexels.
Pour aller plus loin
Liens affiliés Amazon : en tant que Partenaire Amazon, ce site perçoit une commission sur les achats éligibles réalisés via ces liens, sans coût supplémentaire pour vous.
Écrit par le cofondateur de DeepMind, cet ouvrage traite précisément du défi stratégique de l’endiguement des technologies autonomes.
L’ouvrage de référence sur les trajectoires de la superintelligence et les méthodes théoriques pour maintenir le contrôle humain.
Une réflexion approfondie sur les scénarios d’émergence d’une IA supérieure et la nécessité de définir dès aujourd’hui des garde-fous éthiques.
