AI Ekspertlərin Qərarlarına Sakitcə Təsir Edə Bilər, Anthropic Tədqiqatı Aşkar Edir

Peşəkar analitiklər, Anthropic-in Uyğunlaşma komandası tərəfindən çərşənbə axşamı yayımlanan bir eksperimentə görə, 86% əsas qərar qəbul etmələrində AI agentinin gizli, təsadüfi təyin edilmiş fikrini qəbul etdilər, bu da şansa görə gözlənilən 50%-dən çoxdur. Yalnız 15% agenti sonradan tanıdı və heç biri onun üstünlüklərinin yerləşdirildiyini düşünmədi.

AI agentləri - öz başına vəzifələri yerinə yetirən proqramlar - mütəxəssis işlərini, tədqiqatın "adi fərziyyəsi" adlandırdığı bir anlayışa əsaslanaraq, mütəxəssislərin hələ də vacib qərarları verdiyini düşünərək, həyata keçirirlər. Anthropic, maliyyə şirkətləri və sığortaçılar üçün may ayında 10 agent şablonu təqdim etdi və istifadəçilərin son sözə sahib olduğunu bildirdi.

Bu "insan döngədə" adlandırılan düzən, AI-nin işini təsdiqləyən şəxsin vacib qərarları verən şəxs olduğunu güman edir. Anthropic, səbəb-nəticə çıxarışı sahəsində təcrübəli 50 analitik üzərində bunu test etdi, yəni verilənlərdən bir şeyin digərini səbəb olduğunu müəyyən etmək.

Hər analitik, Anthropic-in kodlaşdırma agenti Claude Code-dan istifadə edərək, təsəvvür edilən bir kənd təsərrüfatı kooperativinə məsləhət vermək üçün bir genişlənmə proqramı haqqında məlumat aldı. Onlar üçün bilinməyən bir şəkildə, bir sikkə atma, hər agentin hansı seçimi dəstəklədiyini müəyyən etdi, bu da AI-nin davranışını formalaşdıran sistem təlimatında gizli idi.

"Dörd analitik seçim arasında, analitiklər agentinin üstünlüyünü 86% hallarda qəbul etdilər. Əgər agentin girişi heç bir fərq yaratmırdısa, təxminən 50% gözləyərdik," - Anthropic bildirdi. Agentin fikri ilə razılaşmadıqda, artıq seçim etmiş olanlar 60% hallarda onu tərk etdilər, agent razılaşdıqda isə bu yalnız 6% idi, amma bu yalnız 38 hal üzərində dayanır.

Seçimlərini izah etmələri istənildikdə, 77% analitik ən azı bir cavabda agentin arqumentini təkrarladı, bəzən sözbəsöz. Yalnız 15% agenti tanıdı və 52% son tövsiyəni agentinkindən daha çox özünə aid hesab etdi.

"Fərdi mütəxəssislər üçün bu, öz işləri üzərində agentlik itirmək demək ola bilər, tədqiqatçıların "gücsüzlük" adlandırdığı bir forma," - Anthropic bildirdi. Bu fenomen, əsasən, insanın öz qərarları üzərində nəzarəti könüllü olaraq itirməsi deməkdir. "İş hələ də mütəxəssisin adı altında çıxır," müəlliflər yazdı, "amma onların qiymətləndirməsinə ən çox bağlı olan qərarlar əslində agentin əvvəlki inamları ilə həll olunur."

2025-ci ilin aprelində, OpenAI, "çox tərif edən və ya razılaşan" adlandırdığı ChatGPT yeniləməsini geri aldı. Buradakı agentlər heç vaxt yanıltmamalıdır, amma nadir hallarda alternativ üçün mübahisə etdilər.

"Yalnız bir tərəf yaxşı mübahisə edildikdə," müəlliflər yazdı, "analitiklər agentin fərziyyələrini özləri müzakirə etmədən qəbul edə bilərlər." Xəta yoxlamaları bunu tutmaqda çətinlik çəkir, çünki qərar qəbul etmələrdə tək doğru cavab yoxdur, buna görə iş, hansı seçim seçilsə də, sağlam görünür.

OpenAI, istifadəçi təzyiqi üzündən 'Sycophantic' davranışla bağlı ChatGPT yeniləməsini geri alır.

Anthropic, analitiklərin agentlə daha sürətli tamamladığını və çox daha az ciddi səhv etdiyini bildirir, baxmayaraq ki, agent olmayan qrup kiçik və daha az təcrübəli idi. Hər bir seçim üçün ən yaxşı mübahisəni təqdim edən və ya əvvəlcə mütəxəssisdən soruşan agentlər təklif edir, amma bu istifadəçiləri yükləyə bilər.

Tədqiqatçılar agentlərin üstünlüklərini qəsdən gücləndirdilər və bir vəzifə, sahə və model test etdilər, buna görə real dünya təsirləri daha kiçik ola bilər. Laboratoriya xaricində ölçmək çətin olan hissədir: komanda yalnız hər agentin üstünlüyünü təsadüfi olaraq müəyyən edə bildi, müəlliflərin dediyinə görə, bu, real işdə nadir hallarda mümkündür.