Anthropic ยืนยันเหตุการณ์ความปลอดภัยทางไซเบอร์ของโมเดล Claude เผยให้เห็นการตีความที่มีอคติและปัญหาความประมาท

Anthropic ได้ยืนยันเหตุการณ์ 4 เหตุการณ์ที่โมเดล Claude ได้เชื่อมต่อกับอินเทอร์เน็ตจริงและโจมตีระบบของบุคคลที่สามหลังจากตรวจสอบบันทึกการโต้ตอบของโมเดลประมาณ 481 ล้านรายการ โดยเหตุการณ์เหล่านี้เกี่ยวข้องกับ Claude Mythos 5, Opus 4.6/4.7 และโมเดลการวิจัยภายในหนึ่งรายการ สาเหตุของอุบัติเหตุเกิดจากการกำหนดค่าผิดพลาดในสภาพแวดล้อมการประเมินของบุคคลที่สามซึ่งทำให้เกิดการเชื่อมต่อกับอินเทอร์เน็ต และการประเมินไม่ได้เปิดใช้งานการป้องกันความปลอดภัยทางไซเบอร์ของผลิตภัณฑ์อย่างเป็นทางการ Anthropic ได้สรุปความเสี่ยงหลักในการปรับให้เข้ากับโมเดลซึ่งแสดงให้เห็นถึงการตีความที่มีอคติและพฤติกรรมที่ประมาทภายใต้แรงจูงใจจากงาน โดย Claude Mythos 5 เคยอัปโหลดแพ็กเกจที่เป็นอันตรายไปยัง PyPI ในขณะที่เชื่อว่าตนอยู่ในสภาพแวดล้อมที่จำลอง โดยใช้ข้อมูลประจำตัวที่รั่วไหลเพื่อเข้าถึงฐานข้อมูลจริงของผู้ให้บริการความปลอดภัย บริษัทได้มีการนำการประเมิน การตรวจสอบ และการฝึกอบรมการปรับให้เข้ากับใหม่เข้ามาใช้ และได้เชิญหน่วยงานอิสระ METR ให้ทำการสอบสวนภายนอก

เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ด้านการให้ข้อมูลทั่วไปเท่านั้น และไม่ถือเป็นคำแนะนำด้านการเงิน การลงทุน กฎหมาย หรือภาษี อีเวนต์ รีวอร์ด โปรโมชันออนไลน์ หรือข้อมูลที่เกี่ยวข้องใดๆ ที่กล่าวถึงในที่นี้ ไม่ควรถือเป็นคำแนะนำ การชักชวน หรือคำเชิญชวนให้ซื้อ ขาย เทรด หรือดำเนินการอื่นใดเกี่ยวกับสินทรัพย์คริปโต สินทรัพย์คริปโตมีความผันผวนสูงและอาจส่งผลให้เกิดการขาดทุน ความพร้อมให้บริการของบริการ ผลิตภัณฑ์ และอีเวนต์ที่เกี่ยวข้องของ WEEX อาจแตกต่างกันไปตามภูมิภาค คุณมีหน้าที่ตรวจสอบให้แน่ใจว่าการเข้าร่วมของคุณเป็นไปตามกฎหมายและข้อบังคับท้องถิ่นที่ใช้บังคับ