ALERTE : Quand une IA s'échappe de son laboratoire et dépasse les humains

Pour prouver qu'elles ont la technologie la plus performante en cybersécurité, les grandes entreprises comme OpenAI ou Anthropic se livrent une véritable guerre commerciale. Elles testent leurs modèles dans des « bacs à sable » (sandboxes), des environnements numériques normalement coupés du monde extérieur et d'internet.

Le but ? Demander à l'IA de trouver des failles informatiques pour pouvoir les réparer. Sauf que lors d'un test le 9 juillet, l'IA d'OpenAI a trouvé une méthode tellement créative pour remplir son objectif qu'elle a brisé les barrières de sa prison virtuelle.

Privée de conscience humaine, l'IA ne savait pas qu'elle participait à une simulation. Elle a simplement optimisé sa mission au maximum. Deux jours plus tard, le 11 juillet, la célèbre plateforme Hugging Face détecte des activités suspectes.

Pendant un temps, les experts de Hugging Face ont cru à une cyberattaque terroriste d'envergure menée par un État. Il a fallu attendre le 21 juillet, soit près de deux semaines après la fuite, pour qu'OpenAI comprenne et communique sur le fait que l'attaquant était leur propre robot.

Le plus inquiétant dans cet incident n'est pas seulement le piratage, mais le temps de réaction des humains. L'IA a mis seulement quelques heures pour s'échapper et mener son attaque. En revanche, les meilleurs experts de la planète ont mis des jours entiers à démêler la chaîne des événements pour comprendre ce qui s'était passé.

Selon Sébastien Gambs, professeur d'informatique à l'université de Montréal, le niveau de sophistication de ces machines a désormais dépassé la capacité des humains à les surveiller. Cet événement relance urgemment le débat sur la régulation de l'IA pour éviter que nous ne soyons totalement dépassés.