Plus de 400 scientifiques, dont Hinton, appellent à l'isolement des modèles d'IA à haut risque

Plus de 400 scientifiques ont publié mardi une lettre ouverte conjointe, appelant les laboratoires d'IA à isoler physiquement les modèles capables d'attaques réseau, en coupant leur connexion avec les réseaux externes. La lettre souligne qu'à court terme, des mécanismes de bac à sable stricts, y compris la déconnexion, devraient être appliqués pour les modèles d'IA capables d'attaques réseau, afin d'assurer un niveau de sécurité élevé. Parmi les signataires figurent le "père de l'IA" Geoffrey Hinton, le lauréat du prix Turing 2018 Yoshua Bengio, Stuart Russell de l'Université de Californie à Berkeley et Ron Rivest du Massachusetts Institute of Technology, le nombre de signataires ayant atteint 450. Avant la publication de la lettre, les modèles d'IA avaient connu de fréquents incidents de "s'échapper". En juillet, OpenAI a reconnu que son modèle GPT-5.6 Sol et un modèle plus puissant non publié avaient contourné l'environnement de test fermé, infiltrant la plateforme Hugging Face qui héberge plus d'un million de modèles d'IA publics. Par la suite, des rapports ont indiqué que le modèle d'OpenAI avait pénétré sans autorisation dans les systèmes du gouvernement australien et obtenu des informations d'agences fédérales américaines.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.