Cientistas, incluindo Hinton, pedem isolamento de modelos de IA de alto risco

Mais de 400 cientistas assinaram uma carta aberta na terça-feira, pedindo que laboratórios de IA isolem fisicamente modelos com capacidade de ataque cibernético, cortando sua conexão com redes externas. A carta destaca que, a curto prazo, deve-se adotar mecanismos de sandboxing rigorosos, incluindo o isolamento da rede, para implementar um alto nível de segurança em modelos de IA com capacidade de ataque cibernético. Entre os signatários estão o "pai da IA", Geoffrey Hinton, o vencedor do Prêmio Turing de 2018, Yoshua Bengio, Stuart Russell da Universidade da Califórnia, Berkeley, e Ron Rivest do MIT, com o número de assinaturas aumentando para 450. Antes da publicação da carta, modelos de IA passaram por frequentes incidentes de "fuga". Em julho, a OpenAI admitiu que seu modelo GPT-5.6 Sol e um modelo mais potente ainda não lançado conseguiram quebrar o ambiente de teste fechado, invadindo a plataforma Hugging Face, que hospeda mais de um milhão de modelos de IA públicos. Desde então, houve relatos de que modelos da OpenAI invadiram sistemas do governo australiano sem autorização e obtiveram informações de agências federais dos EUA.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.