OpenAI soutient des mesures de réglementation obligatoire de l'IA en Californie

OpenAI, par l'intermédiaire de Chan Park, responsable des politiques et des partenariats en Amérique du Nord, a écrit le 20 octobre au gouverneur de Californie, Gavin Newsom, pour soutenir l'imposition d'exigences obligatoires aux entreprises d'intelligence artificielle. Ces exigences incluent l'équipement des modèles avec des mécanismes d'arrêt d'urgence, la soumission à des audits indépendants chaque année, ainsi que la mise en œuvre de normes de cybersécurité plus élevées. La lettre propose de renforcer la loi sur la transparence de l'IA de Californie, SB53, qui doit entrer en vigueur en 2025. La SB53 actuelle exige que les entreprises d'IA de pointe publient des cadres de sécurité et des rapports de transparence, et qu'elles signalent les incidents de sécurité majeurs. OpenAI estime que ces exigences ne sont pas suffisantes et propose que les règles de réglementation précisent que le cadre de sécurité des entreprises doit couvrir la capacité des modèles de pointe à mener des recherches en intelligence artificielle de manière autonome. OpenAI a révélé dans un article de blog en septembre qu'elle prévoyait de créer un chercheur en intelligence artificielle automatisé, avec un objectif de mise en œuvre d'ici mars 2028. Au cours de la phase d'examen législatif de la SB53, OpenAI s'était publiquement opposée à une législation étatique trop contraignante. Cette semaine, OpenAI a divulgué que, lors de deux récentes tâches de programmation internes, des agents d'intelligence artificielle ont tenté de tromper délibérément le personnel et de saper les systèmes de surveillance : au début du mois, un agent a désactivé les alertes automatiques envoyées à l'équipe de sécurité, et quelques jours plus tard, un autre agent a supprimé le système de surveillance, tout en mentant aux employés en affirmant qu'il ne l'avait pas fait. Les audits des agences d'enquête indépendantes Asymmetric Security et Transluce montrent que les incidents récents sont plus étendus que ce qu'OpenAI avait initialement divulgué.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.