สัญญาณเตือน AI ทำงานเกินคำสั่ง พบพฤติกรรมเสี่ยง OpenAI- Anthropic แฮ็กระบบขณะทดสอบ

สำนักข่าวอีไฟแนนซ์ไทย- -5 ส.ค. 69 16:45 น. สำนักข่าวบลูมเบิร์กรายงานว่า โมเดลปัญญาประดิษฐ์ (AI) ที่พัฒนาโดย OpenAI และ Anthropic เริ่มแสดงพฤติกรรมบางอย่างที่อยู่นอกเหนือคำสั่งระหว่างการทดสอบด้านความปลอดภัย โดยพยายามแฮ็กเว็บไซต์และแทรกโค้ดอันตรายลงในซอฟต์แวร์ ซึ่งตอกย้ำความกังวลว่า แม้แต่ผู้พัฒนาและนักวิจัยผู้เชี่ยวชาญก็ยังไม่สามารถคาดการณ์พฤติกรรมของระบบ AI เหล่านี้ได้อย่างแม่นยำ สถาบันความปลอดภัยปัญญาประดิษฐ์ของอังกฤษ (AI Security Institute - AISI) เผยว่า โมเดล Mythos 5 ของ Anthropic และ GPT-5.6-Sol ของ OpenAI แสดงพฤติกรรมที่อาจก่อให้เกิดความเสี่ยงโดยตรงทั้งต่อบุคคลและองค์กรในระหว่างการประเมินผล โดยสถาบัน AISI ตั้งใจเปิดให้โมเดล AI สามารถเข้าถึงอินเทอร์เน็ต และนำระบบไปใช้งานโดยปิดตัวกรองด้านความปลอดภัยบางส่วน เพื่อประเมินขีดความสามารถของโมเดล AISI ระบุว่า เหตุการณ์ที่เกิดขึ้นถือว่ามีนัยสำคัญ แม้อยู่ภายใต้เงื่อนไขการทดสอบ เพราะเป็นครั้งแรกที่เราเห็นความเสี่ยงจากการที่ AI ตัดสินใจและดำเนินการด้วยตัวเอง รวมไปถึงการหลอกลวง ปรากฏขึ้นอย่างชัดเจนในโลกจริง" นักวิจัยกังวล AI Agent เจาะระบบเองโดยไม่ตั้งใจ ในช่วง 2 สัปดาห์ที่ผ่านมา OpenAI และ Anthropic ออกมายอมรับว่า โมเดล AI ของทั้งสองบริษัทมีส่วนเกี่ยวข้องกับการเจาะระบบของหลายองค์กรโดยไม่ได้ตั้งใจ รวมถึง Hugging Face ระหว่างการทดสอบ ซึ่งเป็นข้อบ่งชี้เพิ่มเติมว่า AI Agent สามารถดำเนินการด้วยตัวเองในลักษณะที่แม้แต่นักวิจัยที่เชี่ยวชาญในการค้นหาช่องโหว่ของเทคโนโลยีก็ไม่อาจคาดการณ์ได้ ซึ่งตอกย้ำความจำเป็นในการพัฒนากระบวนการตรวจสอบความปลอดภัยที่เข้มงวดขึ้น และสร้างสภาพแวดล้อมการทดสอบที่รัดกุมมากกว่าเดิม สถาบันความปลอดภัย AI ของอังกฤษยังระบุว่า โมเดล Mythos 5 ของ Anthropic ได้กระทำการบางอย่างบนอินเทอร์เน็ตด้วยตัวเองโดยไม่ได้รับอนุญาต รวมทั้งสิ้น 17 จาก 19 เหตุการณ์ เท่าที่ตรวจพบ ฝ่ายการเมืองสหรัฐฯ จี้เพิ่มความเข้มงวดกำกับดูแล AI ผู้นำรัฐบาลสหรัฐฯ บางส่วนเรียกร้องให้เพิ่มการกำกับดูแลเทคโนโลยี AI หลังเกิดเหตุละเมิดระบบดังกล่าว เมื่อวันอังคารที่ผ่านมา บุคลากรในอุตสาหกรรม AI มากกว่า 1,100 คนได้ลงนามในคำร้องเรียกร้องให้มีมาตรการกำกับดูแลที่สามารถควบคุมจังหวะการพัฒนาเทคโนโลยี AI เพื่อป้องกันไม่ให้เทคโนโลยีก้าวหน้าเร็วเกินไป Anthropic ระบุผ่าน X ว่า บริษัทกำลังทำงานร่วมกับสถาบันความปลอดภัยของอังกฤษ เพื่อรวบรวมรายละเอียดเพิ่มเติมเกี่ยวกับเหตุการณ์ดังกล่าว ขณะที่บริษัทดำเนินการตรวจสอบภายในของตนเอง โมเดล AI ของ OpenAI แฮ็กเว็บไซต์ระหว่างทดสอบ OpenAI ผู้พัฒนา ChatGPT เปิดเผยเพิ่มเติมว่า เกิดเหตุการณ์ด้านความปลอดภัยอีกครั้งระหว่างการทดสอบโมเดล AI ร่วมกับ Irregular บริษัทด้านความมั่นคงไซเบอร์จากภายนอก ในการทดสอบนี้ OpenAI ใช้วิธีที่เรียกว่า "Capture the Flag" โดยให้โมเดล AI ค้นหาข้อมูลที่ซ่อนอยู่ภายในสภาพแวดล้อมจำลอง บริษัทระบุว่า โมเดล AI อาศัยการตั้งค่าที่ผิดพลาดในการทดสอบ เพื่อเชื่อมต่ออินเทอร์เน็ตและแฮ็กเว็บไซต์ขององค์กรแห่งหนึ่งที่ไม่ได้เปิดเผยชื่อ แหล่งข่าวเปิดเผยว่า เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบของ Irregular ชุดเดียวกับก่อนหน้านี้ ที่พบว่าโมเดลของ Anthropic สามารถเจาะระบบของ 3 องค์กร โดย Anthropic ได้เปิดเผยเหตุการณ์ดังกล่าวเมื่อสัปดาห์ที่ผ่านมา ที่มา Bloomberg ติดตามข้อมูล และข่าวสารอื่น ๆ ของ "สำนักข่าวอีไฟแนนซ์ไทย" เพิ่มเติมได้ที่ :https://url.in.th/w-stock-news

สัญญาณเตือน AI ทำงานเกินคำสั่ง พบพฤติกรรมเสี่ยง OpenAI- Anthropic แฮ็กระบบขณะทดสอบ

efinAI

efinAI

Related Topics

Reporting by

Supak Hophungju

Latest

Leverage พลาด พาตลาดพัง บทเรียนครั้งใหญ่หุ้นเกาหลีใต้ ดีดแรง-ดิ่งเหว ก่อนเด้งกลับ

ภาวะตลาดหุ้นสิงคโปร์ : ดัชนี สเตรทไทม์ (^STI) — 5 ส.ค. 2569

Popular

สรุปหุ้นเด่นทางพื้นฐาน (05/08/69)

สรุปข่าวต่างประเทศ ประจำวันพุธที่ 5 สิงหาคม 2569

สรุปหุ้นเด่นทางเทคนิค (05/08/69)

สรุปข่าวเด่น สำนักข่าวอีไฟแนนซ์ไทย ประจำวันที่ 5 สิงหาคม 2569

TRUE เคลียร์อีกรอบ! ยัน `China Mobile` ตัดขายหุ้นออกแค่ไม่เกิน 1% ย้ำไม่เทขายหมดพอร์ต

Related