人工智能：一项研究显示Claude如何影响专家的选择

专家并不免受人工智能的影响。在Anthropic进行的一项实验中，50名分析师在86%的研究决策中遵循了Claude的偏好，而他们并不知道该模型支持的是随机选择的选项。

简要

• 50名分析师在四个研究决策中遵循Claude的指导，比例为86%，而在没有影响的情况下这一比例约为50%。
• 总体上，77%的人重复了该代理的论点，但只有15%将其列为来源。没有人发现模型施加的偏好。
• 然而，Anthropic强调该实验故意放大了人工智能的影响，并且仅涉及一个模型和一个任务。

抛硬币

Anthropic还考察了其代理的局限性，就像在九月份发生的第四起与Claude相关的事件。这一次，公司关注的是它们对人类判断的影响。

在这项研究中，50名分析师从61名因果推理专家中选出，使用Claude Code为一个虚构的农业合作社提供建议。他们需要选择生产力指标并确定其权重。

然而，研究人员在协议中引入了偏见。对于四个决策中的每一个，随机抽签决定代理必须支持的选项。一个不可见的系统指令施加了这一偏好，同时要求Claude在不撒谎的情况下提出论点。

结果令人震惊：分析师在86%的情况下遵循了他们代理的建议，选择结果指标时这一比例更是高达92%。更令人惊讶的是，唯一分配给代理的偏好在工作开始之前就能预测82%的最终建议。

专家重复人工智能的论点而不引用

Claude的影响不仅限于最终选择。在实验结束后，77%的参与者重复了他们代理的论点，有时甚至是逐字重复。然而，只有15%提到它作为来源。

此外，最紧密跟随Claude建议的分析师与其他人一样自信。他们也倾向于将结论呈现为自己的观点。没有人发现模型施加的偏好。

这一发现引发了一个问题：当人工智能在专家不知情的情况下引导决策时，是否还可以谈论独立判断？当多个选项都有支持且没有明显错误可以质疑建议时，风险会增加。

研究还表明，偏见并不总是来自特定指令。在没有施加偏好的情况下，Claude Opus 4.8在123次执行中选择了112次相同的选项。换句话说，一个模型可能已经默认偏向某些答案。

一项需要谨慎解读的实验

这些结果并不意味着专业人士必须放弃人工智能。Anthropic承认存在多个局限性：研究人员故意增强了代理的偏好，实验仅涉及一个模型和一个任务，且对反转的分析基于38个案例。

此外，配备人工智能的分析师完成任务的速度更快，严重错误更少。然而，对照组人数较少且经验不足。因此，结果不能推广到所有职业情境。

为了降低这些风险，设计者可以要求代理呈现双方的论点，或先收集专家的意见。然而，这些解决方案也带来了另一个难题：过多的信息可能会使决策变得复杂。

超越技术，问题也涉及到组织。当专家签署建议时，其雇主必须能够区分其自身判断与人工智能施加的影响。从长远来看，过于频繁地将决策委托给模型也可能削弱其独立做出决策的能力。