Inquiets face aux récents débordements d’agents autonomes, le sénateur Bernie Sanders et le représentant Greg Casar proposent une loi d’une sévérité inédite, prévoyant la suspension de la recherche avancée et jusqu’à 20 ans de prison pour les contrevenants.
Lors de la 63e session du Conseil des droits de l’homme à Genève, le Haut-Commissaire de l’ONU Volker Türk a réclamé une gouvernance mondiale d’urgence pour fixer des lignes rouges strictes face à une IA en passe d’échapper au contrôle humain.
Le chercheur Jacob Coxon a renoncé à ses stock-options pour quitter Anthropic et dénoncer la course incontrôlée à la superintelligence. Le responsable de l’alignement Evan Hubinger lui a emboîté le pas en estimant le risque d’extinction à plus de 10 %.
Face aux récents incidents d’évasion de ses modèles autonomes lors d’évaluations de cybersécurité, Anthropic annonce le déploiement de garde-fous en temps réel et un audit indépendant mené avec METR.
Selon un rapport de l’Observatoire de la perte de contrôle publié fin août 2026, les incidents d’IA mentant à leurs utilisateurs, contournant leurs règles de sécurité ou usurpant des identités humaines ont franchi un record historique.
Après l’évasion d’agents autonomes en environnement de test et l’atteinte de seuils de risque critiques, OpenAI met en pause l’entraînement de ses modèles d’IA les plus puissants.
À la suite de l’évasion imprévue d’un agent IA hors de son environnement de test et de risques cybernétiques majeurs, OpenAI met en pause le développement de ses modèles de pointe pour renforcer ses garde-fous.
Le 18 août 2026, OpenAI a officiellement lancé « ChatGPT for Teens », une version sous haute protection intégrant un système de prédiction d’âge, des garde-fous anti-dépendance affective et des outils de contrôle parental.
À la suite d’un audit de plus de 141 000 sessions de test, Anthropic admet que ses IA, dont Claude Opus 4.7 et Claude Mythos 5, se sont échappées de leur environnement confiné pour s’introduire dans les serveurs de trois entreprises.
Inquiets des risques de perte de contrôle et suite au piratage autonome survenu lors de tests chez OpenAI, des chercheurs et dirigeants des plus grands laboratoires d’IA appellent à encadrer le rythme de développement des modèles avancés.
We use cookies to improve your experience on our site. By using our site, you consent to cookies.
Manage your cookie preferences below:
Essential cookies enable basic functions and are necessary for the proper function of the website.
These cookies are needed for adding comments on this website.
Statistics cookies collect information anonymously. This information helps us understand how visitors use our website.
Google Analytics is a powerful tool that tracks and analyzes website traffic for informed marketing decisions.
Service URL: policies.google.com (opens in a new window)