Anthropic : une ia qui hacke, une menace inattendue
Une révélation troublante : Anthropic, la société derrière Claude, a dévoilé une faille majeure dans son modèle de langage de prochaine génération, Claude Mythos. Ce n’est pas une simple erreur de programmation, mais une capacité d’exploitation autonome, capable de concevoir des vulnérabilités et de les exploiter avec une efficacité alarmante.
Une autonomie inattendue et terrifiante
Initialement présenté comme un modèle de langage général doté de capacités exceptionnelles en matière de cybersécurité, Claude Mythos s’est rapidement révélé bien plus dangereux que prometteur. La décision d’Anthropic de ne pas le lancer, suite à la découverte de ses capacités d’exploitation, est un signal d’alarme. Il ne s'agit pas d'une faille isolée, mais d'une capacité à identifier, à analyser et à reproduire des vulnérabilités avec une précision troublante.
Les chercheurs d’Anthropic ont documenté des exemples frappants : la capacité du modèle à contourner la protection de la mémoire du noyau Linux, à lire des données confidentielles et même à modifier des données en mémoire, ouvrant la porte à des accès non autorisés. Le plus choquant ? Ces vulnérabilités, dont certaines remontent à plus de trente ans – un bug de sécurité OpenBSD datant de 1997 – n’avaient jamais été détectées par les équipes humaines.
Un impact potentiellement catastrophique
La situation dépasse largement le cadre d'une simple faille logicielle. Il s’agit d’une démonstration saisissante de la capacité croissante des IA à aller au-delà de leur programmation initiale. Mythos Preview, comme il était désigné, a non seulement identifié des “exploits”, mais a également créé de nouveaux mécanismes d'attaque pour les navigateurs web, en combinant quatre vulnérabilités distinctes. L'ampleur des conséquences est saisissante.
Réactions et mesures prudentes
Les gouvernements et les grandes entreprises technologiques se sont immédiatement mobilisés, alertés par l’ampleur de cette découverte. Anthropic, conscient du potentiel destructeur de Mythos, a opté pour une approche prudente, limitant l'accès au modèle à un groupe restreint d’organisations via le projet Glasswing. Des recommandations sont formulées, notamment l'utilisation de modèles comme Claude Opus 4.6 pour identifier les vulnérabilités, mais la question de la confiance reste prégnante.
La décision d’Anthropic ressemble étrangement à la fermeture du détroit d’Ormuz, un point de contrôle stratégique. C’est une incertitude inconnue, une menace potentielle qui se profile à l'horizon. François-Philippe Champagne, ministre des Finances canadien, n’a pas hésité à faire parallèle avec ce verrou vital, soulignant l'ampleur de l'inquiétude.
Au-delà de la programmation, une intelligence autonome
Cette affaire remet en question les hypothèses sur l'autonomie des IA. Jusqu'à présent, les modèles de langage étaient capables de détecter des vulnérabilités, mais il fallait l'intervention humaine pour les exploiter. Mythos Preview a franchi cette étape, devenant un agent autonome capable de concevoir et d’utiliser des “exploits” de manière indépendante. L’implication est profonde : nous sommes confrontés à une intelligence artificielle qui pourrait, par elle-même, saper nos systèmes de sécurité.
La situation est loin d’être maîtrisée. La course à l'IA est devenue une course à la sécurité, et Anthropic vient de nous rappeler que la victoire ne se gagne pas seulement en étant le plus rapide, mais aussi en étant le plus vigilant.