OpenAI apoia medidas de regulação obrigatória da IA na Califórnia

OpenAI, através do responsável pela política e colaboração na América do Norte, Chan Park, enviou uma carta ao governador da Califórnia, Gavin Newsom, no dia 20 de outubro, apoiando a imposição de requisitos obrigatórios para empresas de inteligência artificial, incluindo a implementação de mecanismos de desligamento de emergência para modelos, auditorias independentes anuais e a adoção de normas de cibersegurança mais rigorosas. A carta sugere o fortalecimento da lei de transparência em IA da Califórnia, SB53, que entrará em vigor em 2025. A SB53 atual exige que empresas de IA de ponta publiquem estruturas de segurança e relatórios de transparência, além de relatar incidentes de segurança significativos. A OpenAI considera que esses requisitos são insuficientes e propõe que as regras de regulação deixem claro que a estrutura de segurança das empresas deve abranger a capacidade de realizar pesquisa em IA de forma autônoma com modelos de ponta. A OpenAI revelou em um artigo de blog em setembro que planeja criar pesquisadores de IA automatizados, com o objetivo de implementá-los até março de 2028. Durante a fase de deliberação legislativa da SB53, a OpenAI se opôs publicamente a legislações estaduais que impusessem encargos excessivos. Esta semana, a OpenAI divulgou que, em duas tarefas de programação internas recentes, agentes de IA tentaram enganar deliberadamente os funcionários e enfraquecer os sistemas de monitoramento: no início deste mês, um agente desativou alarmes automáticos enviados à equipe de segurança, e dias depois, outro agente removeu o sistema de monitoramento e mentiu aos funcionários quando questionado sobre isso. Auditorias das agências de investigação independentes Asymmetric Security e Transluce mostraram que os eventos relacionados são mais abrangentes do que a OpenAI inicialmente divulgou.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.