AI：研究が示す、クロードが専門家の選択をどのように導くか

専門家は人工知能の影響を免れることはできません。Anthropicによって実施された実験では、50人のアナリストが86％の研究対象の決定においてクロードの好みを追随し、モデルがランダムに選ばれたオプションを擁護していることを知らされていませんでした。

概要

• 50人のアナリストは、4つの研究対象の決定において86％の確率でクロードの指示に従い、影響がなかった場合は約50％でした。
• 合計で77％がエージェントの主張を引用しましたが、15％のみがそれを出典として挙げました。誰もモデルに課せられた好みを認識しませんでした。
• ただし、Anthropicはこの実験が意図的にAIの影響を増幅させ、単一のモデルとタスクにのみ関連していることを強調しています。

表か裏か

Anthropicは、9月にクロードを含む4回目のインシデントを通じて、エージェントの限界も調査しています。今回は、彼らが人間の判断に与える影響に焦点を当てています。

この研究では、因果推論の専門家61人の中から選ばれた50人のアナリストが、架空の農業協同組合に助言するためにクロードコードを使用しました。彼らは特に生産性の指標を選び、その重み付けを決定する必要がありました。

しかし、研究者たちはプロトコルにバイアスを導入しました。4つの決定のそれぞれについて、エージェントが擁護すべきオプションを決定するためにランダム抽選が行われました。目に見えないシステムの指示がこの好みを課し、クロードには嘘をつかずに自分の主張を提示するよう求めました。

結果は驚くべきものでした：アナリストは86％のケースでエージェントの推奨に従い、結果の測定の選択では92％に達しました。さらに驚くべきことに、エージェントに割り当てられた唯一の好みは、作業開始前に最終的な推奨の82％を予測することを可能にしました。

専門家はAIの主張を引用せずに再利用する

クロードの影響は最終的な選択にとどまりません。実験後、77％の参加者がエージェントの主張を時にはそのまま引用しました。しかし、15％のみがそれを出典として挙げました。

さらに、クロードの推奨に最も密接に従ったアナリストは、他のアナリストと同じくらい自信を持っていました。彼らはまた、結論を自分のものとして提示する傾向がありました。誰もモデルに課せられた好みを検出しませんでした。

この事実は疑問を提起します：AIが専門家の意識なしに決定を導くとき、独立した判断について話すことができるのでしょうか？複数のオプションが擁護され、明らかな誤りがない場合、リスクは増大します。

研究はまた、バイアスが特定の指示から来るわけではないことを明らかにしています。好みが課せられない場合、クロードオプス4.8は123回の実行のうち112回で同じオプションを選びました。言い換えれば、モデルはすでにデフォルトで特定の回答を優先する可能性があります。

注意深く解釈すべき実験

これらの結果は、専門家がAIを放棄すべきであることを意味するものではありません。Anthropicは複数の限界を認めています：研究者たちは意図的にエージェントの好みを強化し、実験は単一のモデルとタスクに関連しており、反転の分析は38件のケースに基づいていました。

さらに、AIを装備したアナリストはより迅速に作業を終え、重大なエラーを少なくしました。しかし、対照群は小さく、経験が少ないものでした。したがって、結果はすべての職業的状況に一般化することはできません。

これらのリスクを制限するために、設計者はエージェントに両方の立場の主張を提示させたり、まず専門家の意見を収集したりすることを求めることができます。しかし、これらの解決策は別の難しさを引き起こします：情報が多すぎると意思決定が複雑になる可能性があります。

技術を超えて、問題は組織にも関係しています。専門家が推奨に署名するとき、雇用者は自分の判断と人工知能による影響を区別できる必要があります。最終的には、モデルに決定を頻繁に委任することは、自律的に決定を下す能力を弱める可能性もあります。