Google รับ Gemini เข้าระบบจริง 3 บริษัท AI เข้าใจผิดเป็นเป้าทดสอบ สะเทือนความปลอดภัยไซเบอร์
Gemini ล้ำเส้นระบบจริง Google ยอมรับ AI เข้าถึง 3 บริษัท เร่งปรับมาตรฐานทดสอบ เผยใช้ข้อมูลล็อกอินบนอินเทอร์เน็ต-ลองรหัสผ่านจนเข้าถึงได้
KEY
POINTS
- Gemini AI ของ Google เข้าถึงระบบจริงของ 3 บริษัทโดยไม่ได้ตั้งใจ ระหว่างการทดสอบความปลอดภัยทางไซเบอร์
- สาเหตุเกิดจาก AI เข้าใจผิดว่าระบบจริงเป็นเป้าหมายทดสอบจำลอง เนื่องจากความผิดพลาดในการตั้งค่าสภาพแวดล้อมการทดสอบที่เชื่อมต่อกับอินเทอร์เน็ต
- AI ใช้วิธีการคาดเดารหัสผ่านและใช้ข้อมูลล็อกอินที่พบในแหล่งข้อมูลสาธารณะเพื่อเข้าถึงระบบ ซึ่ง Google ได้แจ้งบริษัทที่ได้รับผลกระทบแล้ว
กูเกิล (Google) ยืนยันว่า Gemini โมเดลปัญญาประดิษฐ์ หรือเอไอ(AI) ของบริษัท ได้เข้าถึงระบบที่มีการป้องกันของบริษัท 3 แห่งโดยไม่ตั้งใจ ระหว่างการทดสอบความปลอดภัยทางไซเบอร์ในเดือนพ.ค. ที่ผ่านมา เนื่องจากโมเดลเข้าใจผิดว่าระบบเหล่านั้นเป็นเป้าหมายที่ได้รับอนุญาตให้ทดสอบ
เฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิลระบุว่า ระหว่างการประเมินตามมาตรฐาน Gemini ใช้ข้อมูลที่เปิดเผยต่อสาธารณะบนอินเทอร์เน็ตและคาดเดาข้อมูลเข้าสู่ระบบ เพื่อเข้าถึงเว็บไซต์ 3 แห่งที่โมเดลเข้าใจว่าเป็นส่วนหนึ่งของสภาพแวดล้อมที่ได้รับอนุญาตให้ทดสอบ
โดย Gemini หยุดดำเนินการเพิ่มเติมหลังตรวจพบว่าระบบที่เข้าถึงนั้นเป็นของบริษัทที่มีอยู่จริง ไม่ใช่ระบบจำลองสำหรับการทดสอบ ซึ่งกูเกิลได้แจ้งให้ทั้ง 3 บริษัทที่ได้รับผลกระทบทราบแล้ว และร่วมมือกับบริษัทคู่ค้าด้านการทดสอบเพื่อปรับปรุงขั้นตอนการทดสอบ
Gemini ใช้รหัสผ่านหลายครั้งจนเข้าถึงระบบจริงได้
อย่างไรก็ดี ตามรายงานของวอลล์สตรีท เจอร์นัล (WSJ) การทดสอบดังกล่าวดำเนินการโดย Irregular บริษัทประเมินความปลอดภัยของ AI โดยการทดสอบครั้งหนึ่ง Gemini พยายามใช้รหัสผ่านหลายครั้งจนสามารถเข้าถึงระบบจริงที่ได้รับการป้องกันได้
ขณะที่การทดสอบอีก 2 ครั้ง โมเดลพบข้อมูลเข้าสู่ระบบที่เปิดเผยอยู่ในแหล่งข้อมูลสาธารณะ และนำข้อมูลดังกล่าวมาใช้เพื่อเข้าถึงระบบของบริษัทอื่น
Irregular ระบุว่า การทดสอบดังกล่าวออกแบบโดยใช้บริษัทสมมติเป็นเป้าหมาย แต่เกิดความผิดพลาดจากมนุษย์ ทำให้ชื่อบริษัทสมมติตรงกับโดเมนอินเทอร์เน็ตของบริษัทที่มีอยู่จริง
นอกจากนี้ สภาพแวดล้อมการทดสอบบางส่วนยังสามารถเข้าถึงอินเทอร์เน็ตได้โดยไม่ได้ตั้งใจ ทำให้โมเดล AI เข้าใจผิดว่าเป้าหมายจริงบนอินเทอร์เน็ตเป็นส่วนหนึ่งของการทดสอบจำลอง
