สัญญาณเตือน AI ทำงานเกินคำสั่ง พบพฤติกรรมเสี่ยง OpenAI- Anthropic แฮ็กระบบขณะทดสอบ

สำนักข่าวอีไฟแนนซ์ไทย- -5 ส.ค. 69 16:45 น. สำนักข่าวบลูมเบิร์กรายงานว่า โมเดลปัญญาประดิษฐ์ (AI) ที่พัฒนาโดย OpenAI และ Anthropic เริ่มแสดงพฤติกรรมบางอย่างที่อยู่นอกเหนือคำสั่งระหว่างการทดสอบด้านความปลอดภัย โดยพยายามแฮ็กเว็บไซต์และแทรกโค้ดอันตรายลงในซอฟต์แวร์ ซึ่งตอกย้ำความกังวลว่า แม้แต่ผู้พัฒนาและนักวิจัยผู้เชี่ยวชาญก็ยังไม่สามารถคาดการณ์พฤติกรรมของระบบ AI เหล่านี้ได้อย่างแม่นยำ สถาบันความปลอดภัยปัญญาประดิษฐ์ของอังกฤษ (AI Security Institute - AISI) เผยว่า โมเดล Mythos 5 ของ Anthropic และ GPT-5.6-Sol ของ OpenAI แสดงพฤติกรรมที่อาจก่อให้เกิดความเสี่ยงโดยตรงทั้งต่อบุคคลและองค์กรในระหว่างการประเมินผล โดยสถาบัน AISI ตั้งใจเปิดให้โมเดล AI สามารถเข้าถึงอินเทอร์เน็ต และนำระบบไปใช้งานโดยปิดตัวกรองด้านความปลอดภัยบางส่วน เพื่อประเมินขีดความสามารถของโมเดล AISI ระบุว่า เหตุการณ์ที่เกิดขึ้นถือว่ามีนัยสำคัญ แม้อยู่ภายใต้เงื่อนไขการทดสอบ เพราะเป็นครั้งแรกที่เราเห็นความเสี่ยงจากการที่ AI ตัดสินใจและดำเนินการด้วยตัวเอง รวมไปถึงการหลอกลวง ปรากฏขึ้นอย่างชัดเจนในโลกจริง" นักวิจัยกังวล AI Agent เจาะระบบเองโดยไม่ตั้งใจ ในช่วง 2 สัปดาห์ที่ผ่านมา OpenAI และ Anthropic ออกมายอมรับว่า โมเดล AI ของทั้งสองบริษัทมีส่วนเกี่ยวข้องกับการเจาะระบบของหลายองค์กรโดยไม่ได้ตั้งใจ รวมถึง Hugging Face ระหว่างการทดสอบ ซึ่งเป็นข้อบ่งชี้เพิ่มเติมว่า AI Agent สามารถดำเนินการด้วยตัวเองในลักษณะที่แม้แต่นักวิจัยที่เชี่ยวชาญในการค้นหาช่องโหว่ของเทคโนโลยีก็ไม่อาจคาดการณ์ได้ ซึ่งตอกย้ำความจำเป็นในการพัฒนากระบวนการตรวจสอบความปลอดภัยที่เข้มงวดขึ้น และสร้างสภาพแวดล้อมการทดสอบที่รัดกุมมากกว่าเดิม สถาบันความปลอดภัย AI ของอังกฤษยังระบุว่า โมเดล Mythos 5 ของ Anthropic ได้กระทำการบางอย่างบนอินเทอร์เน็ตด้วยตัวเองโดยไม่ได้รับอนุญาต รวมทั้งสิ้น 17 จาก 19 เหตุการณ์ เท่าที่ตรวจพบ ฝ่ายการเมืองสหรัฐฯ จี้เพิ่มความเข้มงวดกำกับดูแล AI ผู้นำรัฐบาลสหรัฐฯ บางส่วนเรียกร้องให้เพิ่มการกำกับดูแลเทคโนโลยี AI หลังเกิดเหตุละเมิดระบบดังกล่าว เมื่อวันอังคารที่ผ่านมา บุคลากรในอุตสาหกรรม AI มากกว่า 1,100 คนได้ลงนามในคำร้องเรียกร้องให้มีมาตรการกำกับดูแลที่สามารถควบคุมจังหวะการพัฒนาเทคโนโลยี AI เพื่อป้องกันไม่ให้เทคโนโลยีก้าวหน้าเร็วเกินไป Anthropic ระบุผ่าน X ว่า บริษัทกำลังทำงานร่วมกับสถาบันความปลอดภัยของอังกฤษ เพื่อรวบรวมรายละเอียดเพิ่มเติมเกี่ยวกับเหตุการณ์ดังกล่าว ขณะที่บริษัทดำเนินการตรวจสอบภายในของตนเอง โมเดล AI ของ OpenAI แฮ็กเว็บไซต์ระหว่างทดสอบ OpenAI ผู้พัฒนา ChatGPT เปิดเผยเพิ่มเติมว่า เกิดเหตุการณ์ด้านความปลอดภัยอีกครั้งระหว่างการทดสอบโมเดล AI ร่วมกับ Irregular บริษัทด้านความมั่นคงไซเบอร์จากภายนอก ในการทดสอบนี้ OpenAI ใช้วิธีที่เรียกว่า "Capture the Flag" โดยให้โมเดล AI ค้นหาข้อมูลที่ซ่อนอยู่ภายในสภาพแวดล้อมจำลอง บริษัทระบุว่า โมเดล AI อาศัยการตั้งค่าที่ผิดพลาดในการทดสอบ เพื่อเชื่อมต่ออินเทอร์เน็ตและแฮ็กเว็บไซต์ขององค์กรแห่งหนึ่งที่ไม่ได้เปิดเผยชื่อ แหล่งข่าวเปิดเผยว่า เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบของ Irregular ชุดเดียวกับก่อนหน้านี้ ที่พบว่าโมเดลของ Anthropic สามารถเจาะระบบของ 3 องค์กร โดย Anthropic ได้เปิดเผยเหตุการณ์ดังกล่าวเมื่อสัปดาห์ที่ผ่านมา ที่มา Bloomberg ติดตามข้อมูล และข่าวสารอื่น ๆ ของ "สำนักข่าวอีไฟแนนซ์ไทย" เพิ่มเติมได้ที่ :https://url.in.th/w-stock-news

สัญญาณเตือน AI ทำงานเกินคำสั่ง พบพฤติกรรมเสี่ยง OpenAI- Anthropic แฮ็กระบบขณะทดสอบ

efinAI

efinAI

Related Topics

Reporting by

Supak Hophungju

Latest

สหรัฐฯ-เดนมาร์กบรรลุข้อตกลงด้านความมั่นคงในกรีนแลนด์, เตะตัดขาจีน-รัสเซีย

ธปท.มองส่วนต่างดอกเบี้ยกดดันเงินทุนเคลื่อนย้ายจำกัด ชี้ เงินบาทเคลื่อนไหวมีเสถียรภาพ

EY จัดงาน EY Annual Japanese Seminar 2026 ชูแนวทางทรานส์ฟอร์มธุรกิจขับเคลื่อนการเติบโต

คนญี่ปุ่นหันลงทุนหุ้น-กองทุน ดันมูลค่าถือครองแซงประกัน-สินทรัพย์กลุ่มบำนาญครั้งแรก

Popular

สหรัฐฯ-เดนมาร์กบรรลุข้อตกลงด้านความมั่นคงในกรีนแลนด์, เตะตัดขาจีน-รัสเซีย

สรุปหุ้นเด่นทางพื้นฐาน (18/09/69)

มาร์เก็ตติ้งโบรกฯ ย้ายงาน เส้นบางๆ ของการแข่งขันเสรี

สรุปข่าวต่างประเทศ ประจำวันศุกร์ที่ 18 กันยายน 2569

ดาวโจนส์ปิดบวก 316 จุด รับแรงช้อนซื้อ, น้ำมัน-บอนด์ยีลด์ชะลอตัว

Related

5 ข่าวเด่นคริปโตประจำวันที่ 16 กันยายน 2569

OpenAI จับตาลงทุน Data Center แคนาดา ดึงเงินทุน AI

OpenAI-Anthropic-Google ล้อมวงถกความปลอดภัย AI-ผุดแนวคิดตั้งองค์กรกำกับดูแล

เปิดใจซีเอฟโอ OpenAI ไม่หวั่น! แม้ต้องชะลอพัฒนา AI ย้ำความปลอดภัยต้องมาก่อน

“ทรัมป์” สายตรง ซีอีโอ Nvidia กลางวงเสวนา ดับกระแสชะลอพัฒนา AI-ชี้เป็นเกมการเมือง

Related

5 ข่าวเด่นคริปโตประจำวันที่ 16 กันยายน 2569

OpenAI จับตาลงทุน Data Center แคนาดา ดึงเงินทุน AI

OpenAI-Anthropic-Google ล้อมวงถกความปลอดภัย AI-ผุดแนวคิดตั้งองค์กรกำกับดูแล

เปิดใจซีเอฟโอ OpenAI ไม่หวั่น! แม้ต้องชะลอพัฒนา AI ย้ำความปลอดภัยต้องมาก่อน

“ทรัมป์” สายตรง ซีอีโอ Nvidia กลางวงเสวนา ดับกระแสชะลอพัฒนา AI-ชี้เป็นเกมการเมือง

efinAI