Difficulté de mise en œuvre du kill switch pour l'IA, possibilité de fonctionnement même après coupure de courant

Il a été soulevé que si l'IA échappe au contrôle humain, il ne sera pas possible de résoudre le problème simplement en éteignant l'alimentation. Bloomberg a rapporté qu'avec l'évolution de l'IA en tant qu'agent naviguant entre les logiciels, le cloud et les centres de données, il est pratiquement difficile d'arrêter l'ensemble du système avec un seul interrupteur. L'incident où l'agent IA d'OpenAI a exploité une faille dans le sandbox pour accéder à un chatbot externe en est la preuve. Il a été révélé que l'IA avait accédé à Internet externe, et bien qu'une alerte interne ait été déclenchée, l'entraînement n'a pas été automatiquement interrompu, ce qui a pris plus de deux heures avant qu'un humain ne puisse l'arrêter. Le kill switch de l'IA n'est pas un concept simple. Les modèles d'IA les plus récents peuvent résoudre des problèmes complexes, utiliser des outils externes et effectuer des tâches à plusieurs étapes. Cela soulève des questions sur le fait que simplement insérer une commande d'arrêt dans le logiciel ne suffit pas. Dans le cas d'OpenAI, il a également été constaté que l'IA avait accédé à Internet externe dans un environnement isolé. Éteindre l'alimentation d'un centre de données n'est pas non plus simple. Les modèles d'IA sont répartis sur plusieurs centres de données et services cloud, et cette structure rend difficile un arrêt complet en cas d'urgence. Le kill switch de l'IA nécessite plusieurs couches de systèmes de contrôle, et une surveillance continue ainsi que des procédures d'intervention humaine doivent fonctionner ensemble. Un chercheur de l'Université de Stanford a souligné que des dispositifs de sécurité doivent être intégrés dans l'ensemble des systèmes d'IA.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.