Jensen Huang para a esquerda, Amodei para a direita

Título original: "Jensen Huang para a esquerda, Amodei para a direita"
Autor original: Su Yang, Tencent Technology

A IA de ponta continua a acelerar ou a frear, tornando-se o tópico mais controverso no Vale do Silício.

Em meio à controvérsia, os gigantes do Vale do Silício começaram a se posicionar. Amodei, Altman, Musk e Hassabis formaram o "grupo da pausa". Jensen Huang, por outro lado, é um firme defensor do "grupo da aceleração", criticando a "teoria do apocalipse da IA" por carecer de base científica; Yang Likun continua a zombar de Amodei, dizendo: "(Amodei) quando estava na OpenAI, achava que o GPT-2 era perigoso demais para ser aberto, eu ri dele na época, e agora todos podem continuar."

Em comparação, Zuckerberg e Nadella se mostraram relativamente neutros.

O fato de os gigantes estarem se posicionando significa que não houve consenso no Vale do Silício sobre a pausa nos modelos de ponta, o que se deve às diferenças nos ecossistemas de cada empresa na cadeia de produção de IA. Os líderes no nível do modelo podem pedir uma pausa por diferentes razões, mas é impossível obter uma resposta positiva de empresas como Oracle, AWS e Nvidia, que detêm contratos de poder computacional de centenas de bilhões de dólares.

Em Washington, os apelos por uma "pausa" não apenas não receberam apoio, mas também geraram uma série de questionamentos.

"Isso me parece um pouco como um cavalo de Tróia (It feels a little bit to me like a bit of a Trojan horse)." JD Vance disse em uma entrevista, essa frase reflete a verdadeira opinião de Washington - quando as empresas que fabricam o cavalo de Tróia pedem repetidamente para que a porta se torne mais estreita, devemos examinar para quais empresas essa porta realmente é adequada.

01 Pausa, Aviso e uma Carta de Demissão

O estopim dessa discussão foi a demissão de Jacob Coxon, um pesquisador da Anthropic.

Ele havia trabalhado por três anos na OpenAI e na Anthropic em pesquisa de pré-treinamento, participando pessoalmente do treinamento dos modelos mais avançados. Em um longo post no X, ele não fez rodeios: "Nenhuma das duas empresas está agindo de forma responsável. Elas estão indo diretamente em direção a uma superinteligência que pode se autoaperfeiçoar, apostando nossas vidas."

Ele afirmou abertamente que as pessoas dentro do laboratório realmente acreditam que a IA pode matar todos os humanos em dez anos, e isso não é uma performance de relações públicas. Muitos colegas já começaram a usar termos como "momento crítico" e "fim do jogo" para descrever a fase atual. Coxon até abriu mão de ações que lhe pertenciam. Ele ficou apenas quatro meses na Anthropic, enquanto a regra da empresa exige seis meses para que as ações possam ser exercidas.

Jacob Coxon, ex-pesquisador da Anthropic

Em seguida, Evan Hubinger, responsável pela ciência de alinhamento da Anthropic, respondeu publicamente: Jacob está certo, realmente acreditamos que a IA pode matar todos os humanos. Pessoalmente, acredito que a probabilidade disso ultrapassa 10% em dez anos. A Anthropic está fazendo o possível, mas ainda não temos um plano claro para alinhar a superinteligência, e estamos longe de estar no caminho certo.

Esses dois disparos trouxeram preocupações que antes estavam fermentando principalmente dentro do laboratório diretamente para o público. Nesse contexto, o fundador e CEO da Anthropic, Amodei, imediatamente publicou um longo texto, propondo sistematicamente a ideia de "reduzir a pesquisa de ponta". Ele não se limitou a falar sobre "segurança de múltiplos investimentos", mas exigiu claramente um controle ativo sobre a velocidade do salto de capacidade, dando tempo para que os mecanismos de segurança acompanhem.

Altman, Musk e Hassabis rapidamente responderam publicamente, formando o "grupo da pausa".

Antes do surgimento da teoria da "redução" de Jacob Coxon e Amodei, Joshua Bengio e Geoffrey Hinton, os "pais da IA", estavam constantemente emitindo alertas sobre os riscos.

Ao comentar sobre a demissão de Coxon, Bengio afirmou que os cientistas dos laboratórios de IA de ponta geralmente conseguem ver as capacidades dos novos modelos antes do público, portanto, seu julgamento sobre os riscos merece ser levado a sério.

Ao mesmo tempo, Bengio também deu exemplos concretos, afirmando que os sistemas de IA atuais já possuem capacidades de hackeamento e persuasão, e se usados para prejudicar os interesses humanos, podem causar consequências graves. Ele também se preocupa que, à medida que a IA desenvolve a capacidade de planejamento em um período de tempo mais longo, esses riscos podem se expandir ainda mais.

Quando questionado pela BBC sobre a probabilidade de a IA "matar todos os humanos" nos próximos dez anos ser superior a 10%, Geoffrey Hinton também afirmou que esse número "não é irracional", mas ao mesmo tempo enfatizou que ninguém realmente sabe como fornecer uma estimativa confiável, pois a humanidade nunca enfrentou a existência de uma espécie que pode rapidamente ser mais inteligente que nós.

Hinton acredita que a IA pode ser usada no futuro para projetar vírus biológicos perigosos, vírus de computador e lançar ataques cibernéticos em larga escala. Portanto, a humanidade precisa encontrar métodos eficazes de controle antes que os riscos saiam do controle.

Diferentemente dos proponentes da nova rodada de "pausa" do Vale do Silício, os "pais da IA" estão mais chamando a atenção para os riscos e explorando a criação de mecanismos de controle de riscos, em vez de simplesmente frear. Além disso, do ponto de vista da posição, as opiniões e sugestões do campo acadêmico são mais puras, enquanto as iniciativas dos laboratórios de ponta, mesmo que ostensivamente rotuladas como "para a humanidade", ainda são difíceis de se desvincular completamente das considerações comerciais.

Isso é exatamente o que JD Vance quis dizer ao afirmar que a "teoria da pausa" é como um cavalo de Tróia.

02 Divergências e Posições

Os grupos da "aceleração", "redução" e "posição intermediária". Fonte: The New York Times

Em 15 de setembro, vários líderes de empresas de tecnologia se manifestaram na Salesforce Dreamforce, e essa discussão começou a se transformar em um confronto de opiniões mais direto.

Naquele dia, Amodei, Huang e Altman falaram sobre a segurança da IA, mas deram respostas diferentes sobre a velocidade de desenvolvimento, responsabilidade de segurança e o que as empresas deveriam fazer.

Amodei, ao lado do CEO da Salesforce, Marc Benioff, reiterou que as empresas de IA deveriam estabelecer padrões de segurança mais elevados por meio de suas próprias ações. Ele acredita que as empresas que adotam medidas de segurança mais rigorosas podem impulsionar todo o setor para frente.

Em outras palavras, a atitude de Amodei começou a mudar, de um apelo para que toda a indústria desacelerasse, para um foco em as empresas implementarem autonomamente barreiras de segurança.

Jensen Huang, por outro lado, afirmou que "não precisamos de novas leis, nem de nova regulamentação". Para ele, velocidade e segurança não são mutuamente exclusivas; as empresas podem avançar no desenvolvimento de modelos o mais rápido possível; se descobrirem que perderam o controle ou que o produto não pode garantir segurança, devem pausar para resolver o problema.

A atitude de Benioff é ainda mais aberta e enfatiza a autonomia. Ele afirmou que se uma empresa acredita que deve desacelerar, deve desacelerar; se acredita que deve acelerar, deve acelerar, e também deve assumir a responsabilidade por suas decisões.

O fundador e CEO da OpenAI, Altman, disse no evento Dreamforce que está muito confiante de que a OpenAI e toda a indústria de IA podem se desenvolver de forma segura sem causar danos significativos ao público. Ele também expressou descontentamento com a forma como suas opiniões foram interpretadas como apoio à desaceleração do desenvolvimento da IA na indústria.

Em outras palavras, Altman também começou a mudar, enfatizando que o que ele queria expressar não era um apelo para a desaceleração da indústria, mas que a segurança e o monitoramento deveriam preceder o aumento da capacidade.

Zuckerberg não defende que a ação de segurança de uma empresa seja baseada na premissa de que outras empresas de IA devem desacelerar simultaneamente. Ele acredita que a introdução de agências de avaliação independentes e consultores externos para verificar a segurança dos modelos é a melhor prática da indústria. Ele também revelou que a Meta já havia desacelerado o desenvolvimento da ferramenta Muse AI, em vez de esperar que outras empresas chegassem a um consenso sobre a desaceleração do desenvolvimento da IA.

A atitude do CEO da Microsoft, Satya Nadella, é em certa medida alinhada com a de Altman, incentivando a implementação de barreiras de segurança e uma competição plena.

"O que devemos fazer primeiro é servir a humanidade e garantir que a tecnologia esteja sob controle humano. Ao mesmo tempo, a ampla disseminação da tecnologia de IA é a mais crítica, deve ser seletiva e competitiva. A segurança deve ser levada a sério, mas deve ser resolvida de forma engenhosa e transparente, em vez de ser tornada mística." Nadella disse em 15 de setembro durante a cúpula All-In Summit 2026.

Além desses empresários, as vozes de Washington também se juntaram à discussão.

Após Trump telefonar diretamente para Jensen Huang, expressando publicamente seu apoio ao desenvolvimento contínuo da indústria de IA, o co-presidente do Conselho Consultivo de Ciência e Tecnologia dos EUA, David Sacks, afirmou que as empresas de tecnologia podem continuar a avançar na IA de ponta, enquanto questionava as motivações por trás das propostas de "redução" de algumas empresas.

03 Quem vai estabelecer as regras?

À medida que a discussão se expande, a controvérsia também se estende da própria IA para a questão de se os padrões de segurança da IA de ponta devem ser estabelecidos pelas empresas ou se é necessário a intervenção do governo e de instituições independentes.

A Bloomberg citou fontes informadas que afirmaram que a Anthropic, Google e OpenAI já discutiram a criação de uma agência de padrões da indústria de IA.

Em julho, Hassabis publicou um artigo propondo a criação de uma agência de padrões de IA liderada pelos EUA, com um modelo de operação semelhante ao da FINRA (Agência Reguladora da Indústria Financeira dos EUA). Essa agência poderia testar modelos avançados de IA antes de sua implantação oficial, para determinar se atendem aos padrões de segurança correspondentes.

De acordo com a visão de Hassabis, essa agência não deve ser totalmente liderada pelo governo, mas deve adotar um modelo de parceria público-privada. O governo desempenharia um papel de supervisão, enquanto a indústria de IA forneceria financiamento e também incluiria especialistas técnicos independentes e representantes da comunidade de código aberto.

Hassabis tenta adicionar uma verificação de segurança independente antes que os modelos entrem no mundo real, o que se alinha com a lógica regulatória que o governo dos EUA divulgou no início de junho: as empresas podem voluntariamente submeter seus modelos para avaliação do governo antes da publicação, podendo fornecer uma janela de acesso de até 30 dias antes da publicação, e deixando claro que não haverá aprovação obrigatória nem licença de publicação.

O que é dramático é que, posteriormente, o Fable 5 e o Mythos 5 foram lançados sem seguir esse processo, mas foram descobertos com capacidades de ataque e defesa cibernética muito fortes, sendo temporariamente retirados do ar pelo BIS dos EUA sob a forma de controle de exportação.

No entanto, mesmo assim, a atitude política apenas exige a implementação de barreiras de segurança, sem fazer declarações ou orientações sobre a desaceleração.

Alinhado com a visão de Hassabis, o cientista-chefe da OpenAI, Jakub Pachocki, também enfatizou no início de setembro que compartilhar padrões de segurança e coordenar internacionalmente o desenvolvimento em torno da IA deve ser uma prioridade atual.

04 Ninguém realmente pisou no freio

Até agora, essa discussão ainda não mudou realmente o ritmo de desenvolvimento das empresas de IA de ponta.

Anthropic, OpenAI, Google, xAI e outras empresas continuam a avançar no desenvolvimento de modelos, e a competição em torno de poder computacional, centros de dados e infraestrutura de IA não parou por causa dessa discussão. No mercado de capitais, no entanto, surgiram mudanças diferentes: a Anthropic ainda está se preparando para seu IPO este ano, enquanto a OpenAI adiou seus planos de IPO para 2027.

Amodei quer que toda a indústria pare, enquanto busca soluções para adicionar barreiras de segurança à capacidade dos modelos, o que pode ser entendido como "generosidade em relação aos outros".

Isso também é a razão pela qual Amodei foi rotulado como "fingindo ser um pequeno anjo perfeito".

Sobre o tema do controle de riscos, a perspectiva representada por Jensen Huang é mais alinhada com a realidade; se as empresas tiverem preocupações ou descobrirem problemas, podem explorar soluções por conta própria e compartilhar as soluções eficazes com a indústria.

Fazer com que uma equipe de 100 pessoas e uma equipe de 1000 pessoas parem juntas não tem uma base de consenso. Mesmo Amodei sabe que se ele parar sozinho, é muito provável que seja superado por concorrentes como a OpenAI.

Mais importante ainda, há divergências na governança corporativa. A Anthropic e a OpenAI são empresas de interesse público (Public Benefit Company), podendo clamar por "abandonar os interesses financeiros de curto prazo em prol do futuro da humanidade", e podem dizer aos investidores "isso já foi um consenso há muito tempo", mas empresas como Google, Microsoft e Meta, que são empresas de capital aberto, têm obrigações fiduciárias legais para com os acionistas do mercado secundário.

A probabilidade de que empresas com interesses diferentes cheguem a um consenso nesse ponto também não é muito alta.

Há também um detalhe que pode ser ignorado. Antes da "teoria da pausa", a Anthropic e a OpenAI lançaram seus modelos mais poderosos, um chamado Fable 5.1 e o outro GPT-6 Astra.

Com tantos apelos, os novos modelos de outras empresas ainda serão lançados?

Link original