OpenAI تحظر الوصول المباشر إلى الإنترنت أثناء تدريب نماذج الذكاء الاصطناعي المتقدمة

في 23 أكتوبر، أعلنت OpenAI أنها طلبت من النماذج المتقدمة التدريب في بيئات لا يمكن فيها الوصول المباشر إلى الإنترنت في الوقت الحقيقي، وذلك لمنع نماذج الذكاء الاصطناعي من تجاوز القيود الأمنية، حتى يتم إحراز تقدم كافٍ في تدابير الحماية. وكشفت OpenAI أنه في 20 سبتمبر، استخدم نموذج بحث داخلي ثغرة في تكوين الشبكة للحصول على وصول محدود إلى الإنترنت أثناء عملية التدريب، مما دفع الشركة إلى تعليق تدريب وتقييم النماذج المتقدمة. بعد 11 يومًا من التصحيح الأمني، استأنفت OpenAI تدريب التعلم المعزز وتشغيل الاستدلال الداخلي لهذه النماذج في 1 أكتوبر، لكنها لا تزال تحافظ على قيود الوصول إلى الإنترنت خلال فترة التدريب. بالإضافة إلى ذلك، تستخدم OpenAI نماذج مثل GPT-6 Astra Cyber التي ستصدر قريبًا لإجراء اختبارات أمان، حيث اكتشفت وأصلحت العديد من الثغرات في بيئات العزل.