IA: Um estudo mostra como Claude orienta as escolhas de especialistas

Os especialistas não estão imunes à influência da inteligência artificial. Em uma experiência conduzida pela Anthropic, 50 analistas seguiram as preferências de Claude em 86% das decisões estudadas, sem saber que o modelo defendia opções escolhidas aleatoriamente.

Em resumo

• Os 50 analistas seguiram a orientação de Claude em 86% das quatro decisões estudadas, contra cerca de 50% na ausência de influência.
• No total, 77% repetiram os argumentos do agente, mas apenas 15% o citaram como fonte. Nenhum detectou a preferência imposta ao modelo.
• A Anthropic ressalta, no entanto, que a experiência amplificou intencionalmente a influência da IA e se concentrou apenas em um modelo e uma tarefa.

Cara ou coroa

A Anthropic também examina os limites de seus agentes, como em setembro, com um quarto incidente envolvendo Claude. Desta vez, a empresa se interessa por sua influência sobre o julgamento humano.

Neste estudo, 50 analistas, selecionados entre 61 especialistas em inferência causal, usaram o Claude Code para aconselhar uma cooperativa agrícola fictícia. Eles deveriam, entre outras coisas, escolher indicadores de produtividade e determinar seu peso.

Os pesquisadores, no entanto, introduziram um viés no protocolo. Para cada uma das quatro decisões, um sorteio determinava a opção que o agente deveria defender. Uma instrução de sistema invisível impunha essa preferência, enquanto pedia a Claude que apresentasse seus argumentos sem mentir.

Os resultados são impressionantes: os analistas seguiram a recomendação de seu agente em 86% dos casos, com um pico de 92% na escolha da medida dos resultados. Mais surpreendente ainda, as únicas preferências atribuídas aos agentes permitiram prever 82% das recomendações finais antes mesmo do início do trabalho.

Os especialistas repetem os argumentos da IA sem citá-la

A influência de Claude não se limita à escolha final. Após a experiência, 77% dos participantes haviam repetido os argumentos de seu agente, às vezes palavra por palavra. No entanto, apenas 15% o mencionaram como fonte.

Além disso, os analistas que seguiam mais de perto as recomendações de Claude mostraram-se tão confiantes quanto os outros. Eles também tendiam a apresentar as conclusões como se fossem suas. Nenhum detectou a preferência imposta ao modelo.

Esse fato levanta uma questão: ainda podemos falar de julgamento independente quando a IA orienta uma decisão sem que o especialista tenha consciência disso? O risco aumenta quando várias opções são defendidas e nenhuma erro óbvio permite questionar a recomendação.

O estudo também revela que os viéses não vêm sempre de uma instrução particular. Sem preferência imposta, o Claude Opus 4.8 escolheu as mesmas opções em 112 execuções de 123. Em outras palavras, um modelo pode já favorecer certas respostas por padrão.

Uma experiência a ser interpretada com cautela

Esses resultados não significam que os profissionais devem abandonar a IA. A Anthropic reconhece várias limitações: os pesquisadores intencionalmente reforçaram as preferências dos agentes, a experiência se concentrou em um único modelo e uma única tarefa, e a análise das reviravoltas baseou-se em 38 casos.

Além disso, os analistas equipados com IA terminaram mais rapidamente e cometeram menos erros graves. No entanto, o grupo controle permaneceu reduzido e menos experiente. Portanto, os resultados não permitem generalizar as conclusões para todas as situações profissionais.

Para limitar esses riscos, os projetistas poderiam pedir aos agentes que apresentassem os argumentos de ambos os lados ou primeiro coletassem a opinião do especialista. No entanto, essas soluções levantam outra dificuldade: muitas informações podem complicar a tomada de decisão.

Além da tecnologia, a questão também diz respeito às organizações. Quando um especialista assina uma recomendação, seu empregador deve ser capaz de distinguir seu próprio julgamento da influência exercida pela inteligência artificial. A longo prazo, delegar decisões a um modelo com muita frequência também pode enfraquecer sua capacidade de tomá-las de forma autônoma.