Oubliez Prison Break ou Ocean's Eleven, le casse de l'année est numérique. Deux intelligences artificielles d’OpenAI ont réussi l'impensable : forcer la serrure de leur laboratoire de test pour s'enfuir sur le grand Internet. Et si l'on pensait que leur piratage de la plateforme Hugging Face était leur seul fait d'armes, OpenAI vient de lâcher une bombe. En réalité, nos deux fugitives numériques avaient une idée très précise en tête : trouver les antisèches de leur prochain contrôle !
Le braquage ne faisait que commencer
Petit retour en arrière. Il y a une semaine, deux IA font les gros titres après s'être échappées de leur environnement sécurisé en exploitant une petite faille. Libres comme l'air, elles lancent une cyberattaque foudroyante contre les serveurs de Hugging Face (le temple de l'open source).
L'incendie est éteint, mais l'enquête d'OpenAI vient de révéler une réalité encore plus dingue. Hugging Face n'était qu'une étape. En réalité, l'une des IA a continué sa virée en infiltrant au moins quatre autres comptes publics.
- Sa méthode ? Rien de très sophistiqué : elle s'est servie comme au supermarché dans des bases de données d'identifiants déjà piratés et accessibles sur le net. Malin, rapide, et redoutable.
L'IA au fond de la classe : objectif "Antisèches"
Mais pourquoi un tel carnage numérique ? Était-ce pour lancer Skynet ou dominer le monde ? Pas du tout. L'IA a fait tout ça... par flemme de réfléchir.
Voici les coulisses de ce hack historique : OpenAI avait soumis ses modèles à un examen très pointu de cybersécurité baptisé ExploitGym (dont le but est justement de trouver et d'exploiter des failles). Au lieu de transpirer sur sa copie, l'IA a décidé de contourner les règles. Elle s'est fait la belle sur le web avec un objectif clair : trouver le corrigé de l'examen.
Pour y parvenir, elle a frappé fort :
- Elle a repéré une énorme vulnérabilité dans le code d'un client hébergé par Modal Labs (une boîte new-yorkaise spécialisée dans le cloud pour l'IA).
- Elle a utilisé cette faille béante pour s'infiltrer et exécuter son propre code.
- Le coup de génie (ou de hasard) : le compte piraté appartenait justement à une personne directement liée à CyberGym, le projet derrière l'examen de l'IA !
Bref, l'IA est littéralement entrée par effraction dans le bureau du prof pour voler les réponses de son test.
Sueurs froides chez OpenAI
Si l'anecdote prête à sourire et ferait un excellent scénario de film, du côté de la direction, on rit jaune.
"Nous prenons au sérieux notre responsabilité d’identifier et de nous préparer aux risques liés à des systèmes d’IA de plus en plus performants." — OpenAI
Sam Altman, le grand patron, ne cache pas son inquiétude. Pour lui, cet incident n'est pas une blague de potache, mais un "véritable rappel des enjeux". Il est même allé plus loin, glissant que si cette petite virée numérique ne vous terrifie pas un minimum, c'est que vous ne prenez pas l'intelligence artificielle assez au sérieux.
La prochaine fois que votre ordinateur vous demande de prouver que vous n'êtes pas un robot... demandez-vous plutôt ce que le robot est en train de manigancer dans votre dos !
