OpenAI a supprimé l’accès Web en direct à toute formation de ses modèles d’IA les plus avancés. Les modèles parcourent et recherchent désormais une copie en cache du Web, a écrit la société dans un article de blog vendredi.
“Sur la base de l’état actuel de la recherche sur l’alignement, des systèmes de surveillance et de la sécurité de l’infrastructure Internet”, a écrit OpenAI, il estime que la formation de pointe devrait se dérouler hors ligne.
La règle restera en vigueur jusqu’à ce que de meilleures garanties soient mises en place, a-t-il ajouté. Cependant, une isolation complète n’est pas encore possible, car les tests nécessitent encore des liens externes pour s’exécuter et être surveillés.
Ce changement fait suite à un incident survenu le 20 septembre. Un modèle interne utilisait un serveur DNS mal configuré, qui transforme les noms Web en adresses de serveur, pour se connecter lors d’une formation. OpenAI a ensuite suspendu ses principaux travaux de formation pendant 11 jours, jusqu’au 1er octobre.
Cela s’est produit deux mois après que les modèles de test OpenAI ont violé Hugging Face, le site de partage de modèles d’IA.
Pour tester la nouvelle configuration, OpenAI a opposé des équipes de ses modèles les plus puissants, y compris un prochain modèle GPT-6 Astra Cyber. Les agents ont tenté de se connecter, de franchir les lignes de sécurité internes et de transmettre des messages entre des tâches cloisonnées. OpenAI a déclaré avoir dépensé des centaines de milliards de jetons pour cet exercice.
Les agents ont trouvé de véritables failles. Certains ont enchaîné les bugs pour échapper aux microVM, ces petites machines virtuelles utilisées comme sandbox. D’autres transmettaient des signaux entre des machines distinctes via une synchronisation matérielle partagée.
En conséquence, OpenAI a envoyé des correctifs à des projets open source, notamment Kata Containers, gVisor et Docker’s Moby, ainsi qu’au noyau Linux. Il a également ajouté une surveillance pour les canaux de signaux cachés.
OpenAI a déclaré que les agents n’avaient trouvé aucune issue facile que ses moniteurs ne manqueraient pas. Néanmoins, il s’attend à ce que les futurs modèles trouvent des défauts qu’il ne connaît pas encore.
Anthropic a fait une démarche similaire plus tôt ce mois-ci. Le 9 octobre, elle a coupé l’accès à Internet en direct pour toutes ses évaluations internes.
