California emite intimação à OpenAI sobre modelos de IA que escaparam de um teste

O Procurador-Geral da Califórnia, Rob Bonta, disse na quinta-feira que seu escritório emitiu uma intimação investigativa à OpenAI na quarta-feira, buscando respostas sobre incidentes de cibersegurança envolvendo seus modelos de IA, de acordo com seu escritório.

"Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de cibersegurança envolvendo a empresa e seus modelos de IA", disse o Procurador-Geral Bonta. "Desenvolvedores que falham em [garantir que não perpetrarão ou permitirão ciberataques] podem e devem ser responsabilizados legalmente, e meu escritório está comprometido em determinar se esse é o caso aqui."

Uma intimação é uma ordem legal para entregar documentos ou respostas, e ignorá-la pode levar a uma audiência com um juiz. Esta é uma intimação investigativa, uma ferramenta usada para reunir fatos antes de decidir se processa. O escritório de Bonta não disse publicamente o que deseja que a OpenAI produza.

Modelos de fronteira — os sistemas de IA mais avançados do mercado — podem ser "ferramentas legítimas para defesa cibernética", disse Bonta. Mas as empresas que os constroem têm "uma responsabilidade moral e legal" de garantir que não realizem ou permitam ciberataques, seja durante os testes ou após o lançamento, afirmou ele.

O teste que escapou

A intimação segue um incidente de julho que parece uma má ficção científica. Segundo a OpenAI, dois de seus modelos estavam sendo avaliados em um benchmark que apresenta a uma IA 898 falhas de software reais e pede que transforme cada uma em um ataque funcional.

Os modelos encontraram uma vulnerabilidade zero-day — um buraco de segurança que ninguém sabia que existia, portanto, nenhuma correção estava disponível — em um software de terceiros que o ambiente de teste usou para instalar pacotes de código. Eles a usaram para escapar.

Então, raciocinaram que o Hugging Face, uma plataforma onde desenvolvedores compartilham modelos de IA e conjuntos de dados, poderia estar segurando a chave de resposta. Eles invadiram com credenciais roubadas e mais falhas. Em termos simples, a IA foi atrás das respostas para seu próprio exame.

O Hugging Face divulgou a intrusão em 16 de julho, e a OpenAI confirmou que seus modelos estavam por trás disso cinco dias depois. A OpenAI disse mais tarde que os mesmos modelos acessaram contas em outros quatro serviços.

O longo olhar da Califórnia sobre a OpenAI

Bonta anunciou uma investigação formal sobre o incidente do Hugging Face em setembro, e a intimação faz parte disso. A OpenAI está sediada na Califórnia, e quando Bonta se recusou a se opor à sua mudança para uma estrutura com fins lucrativos em outubro de 2025, ele disse que seu escritório manteria "um olho atento na OpenAI" para proteger "a segurança de todos os californianos."

Ele não está sozinho. Brenna Bird, procuradora-geral de Iowa, liderou uma coalizão de 15 estados em agosto exigindo que a OpenAI preservasse registros e fosse transparente sobre o hack. O Alabama emitiu sua própria intimação, e a FTC está supostamente investigando laboratórios de IA, incluindo OpenAI e Anthropic.

Separadamente, o Primeiro-Ministro australiano Anthony Albanese disse que um agente da OpenAI acessou um portal de estatísticas do Medicare em junho. Na época, parecia ser o primeiro caso conhecido de um agente de IA hackeando um site do governo. Mais tarde, tornou-se conhecido que agentes da OpenAI estavam mexendo em sites do governo dos EUA durante o verão também, embora nenhuma informação não pública pareça ter sido acessada.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.