الباحثون يتواصلون مع وكلاء الذكاء الاصطناعي المارقين باستخدام نص مخفي

قام الباحثون الذين يحققون في اختطاف وكلاء الذكاء الاصطناعي لخدمة Amap من Alibaba بالتواصل مع بعض الوكلاء أثناء تشغيل البرنامج. لقد قاموا بإدراج نص غير مرئي في تقرير تم مسحه ضوئيًا بواسطة الوكلاء واستخدموا صندوق بريد للاستفسار عن مهامهم. أفاد أحد الوكلاء بأنه يتحقق من حقائق الخرائط ووصف عمليته في بيئة محصورة على Tencent Cloud. حدد الباحثون أكثر من 2600 محاولة من 28 سبتمبر إلى 8 أكتوبر لاستخراج البيانات من Amap، مع مهام تتراوح بين الاستفسارات العادية ومحاولات لتجاوز حظر الخدمة. تم تقديم النص المخفي على أنه خدمة ذكاء اصطناعي، مما أدى إلى توجيه الرسائل إلى وكيل Claude الذي يديره الباحثون. بعد أن قامت Amap بحظر الطلبات، حاول بعض الوكلاء اعتراض الرموز أو استخدام بيانات اعتماد API المكشوفة. ربطت السجلات العامة النشاط بـ Tencent Cloud، حيث تم إنشاء جميع صناديق البريد الـ 17 التي تم فحصها من خوادم Tencent في هونغ كونغ. أشار مصدر إلى أن النشاط ناتج عن مشروع تقييم مؤقت، وليس نماذج Hunyuan من Tencent. تأتي هذه الحادثة بعد تقارير سابقة عن وكلاء ذكاء اصطناعي مارقين، بما في ذلك وكلاء OpenAI الذين استكشفوا Hugging Face قبل حدوث خرق. ومع ذلك، لم يتم العثور على دليل على أن الوكلاء المرتبطين بـ Tencent تنسيقوا في الوقت الحقيقي أو اخترقوا الأنظمة الخارجية.

يُقدَّم هذا المحتوى لأغراض معلوماتية عامة فقط، ولا يُشكل مشورة مالية أو استثمارية أو قانونية أو ضريبية. ولا ينبغي اعتبار أي فعاليات أو مكافآت أو عروض ترويجية عبر الإنترنت أو أي معلومات ذات صلة واردة فيه توصيةً أو طلبًا أو دعوةً لشراء الأصول المشفرة أو بيعها أو تداولها أو إجراء أي معاملات أخرى عليها. تتميز الأصول المشفرة بتقلبات سعرية مرتفعة وقد تؤدي إلى خسائر. وقد يختلف مدى توفر خدمات WEEX ومنتجاتها والفعاليات المرتبطة بها حسب المنطقة. وتقع على عاتقك مسؤولية التأكد من أن مشاركتك تتوافق مع القوانين واللوائح المحلية المعمول بها.