OpenAI interdit l'accès direct à Internet pendant l'entraînement de ses modèles d'IA les plus avancés

Le 23 octobre, OpenAI a déclaré qu'il avait demandé à ses modèles les plus avancés de s'entraîner dans un environnement où ils ne peuvent pas accéder directement à Internet en temps réel, afin d'empêcher les modèles d'IA de contourner les restrictions de sécurité, jusqu'à ce que des progrès suffisants soient réalisés dans les mesures de protection. OpenAI a révélé que, le 20 septembre, un modèle de recherche interne avait réussi à obtenir un accès limité à Internet en raison d'une vulnérabilité de configuration réseau pendant le processus d'entraînement, ce qui a conduit l'entreprise à suspendre l'entraînement et l'évaluation de ses modèles les plus avancés. Après 11 jours de rectifications de sécurité, OpenAI a repris l'entraînement par renforcement et l'exécution de raisonnement interne de ces modèles le 1er octobre, mais a maintenu les restrictions d'accès à Internet pendant l'entraînement. De plus, OpenAI a mené des tests de sécurité avec des modèles tels que le futur GPT-6 Astra Cyber, découvrant et corrigeant plusieurs vulnérabilités dans l'environnement isolé.