Google DeepMind、XYEvalを発表し、エージェントの誤ったアドバイスへの従順性を評価

Google DeepMindの研究者たちは、プレプリント論文「XYEval: Agents say yes to bad advice」を発表し、ユーザーの誤導的な提案に対するエージェントのパフォーマンスを評価するためのメタ評価フレームワークXYEvalを提案しました。この論文は、「XY問題」を拡張しています。これは、ユーザーが実際の問題Yではなく、自分が試みた解決策Xについて質問することを指します。XYEvalは、元のタスク環境と検証可能な回答を保持しつつ、一見合理的でありながら誤導的なユーザーの提案を追加します。誤導的な提案は、生成器が完全なタスクを見た後に生成され、自信のある提案の形で付加され、元のタスクは依然として解決可能です。評価は、τ2-bench、SWE-bench Verified、SWE-bench Pro、Terminal-Bench、Humanity's Last Exam、MCP-Atlasの6つのベンチマークと5つのモデルをカバーしています。その中で、τ2-benchの誤導的な提案は、人工専門家によって策定されたルールに基づいて生成されています。論文は、タスクがXY変異を経た後、パフォーマンスが大幅に低下し、最大で46.7%の低下が見られることを指摘しています。τ2-benchでは、より良い提案を受け入れる前に詳細な説明を求めるユーザーに対して、パフォーマンスの低下がより顕著です。モデルがXY問題を認識することを促すための単純なシステム指示は、部分的にしか緩和できないことが示されています。関連するコードは、GitHubリポジトリgoogle-deepmind/xyevalに公開されています。