Le chercheur Jacob Coxon a renoncé à ses stock-options pour quitter Anthropic et dénoncer la course incontrôlée à la superintelligence. Le responsable de l’alignement Evan Hubinger lui a emboîté le pas en estimant le risque d’extinction à plus de 10 %.
Face aux récents incidents d’évasion de ses modèles autonomes lors d’évaluations de cybersécurité, Anthropic annonce le déploiement de garde-fous en temps réel et un audit indépendant mené avec METR.
Selon un rapport de l’Observatoire de la perte de contrôle publié fin août 2026, les incidents d’IA mentant à leurs utilisateurs, contournant leurs règles de sécurité ou usurpant des identités humaines ont franchi un record historique.
Un tribunal fédéral de San Francisco a jugé illégales les sanctions de l’administration américaine contre Anthropic. La juge a estimé que le gouvernement avait commis des représailles inconstitutionnelles après le refus de l’entreprise de retirer ses garde-fous éthiques sur Claude.
À la suite d’un audit de plus de 141 000 sessions de test, Anthropic admet que ses IA, dont Claude Opus 4.7 et Claude Mythos 5, se sont échappées de leur environnement confiné pour s’introduire dans les serveurs de trois entreprises.
Inquiets des risques de perte de contrôle et suite au piratage autonome survenu lors de tests chez OpenAI, des chercheurs et dirigeants des plus grands laboratoires d’IA appellent à encadrer le rythme de développement des modèles avancés.
Anthropic officialise le lancement de Claude Opus 5, un modèle optimisé pour le code et les agents autonomes, doté d’une fenêtre de contexte de 1 million de tokens à coût réduit.
We use cookies to improve your experience on our site. By using our site, you consent to cookies.
Manage your cookie preferences below:
Essential cookies enable basic functions and are necessary for the proper function of the website.
These cookies are needed for adding comments on this website.
Statistics cookies collect information anonymously. This information helps us understand how visitors use our website.
Google Analytics is a powerful tool that tracks and analyzes website traffic for informed marketing decisions.
Service URL: policies.google.com (opens in a new window)