Gemini เจาะระบบ 3 บริษัทระหว่างทดสอบความปลอดภัยไซเบอร์

สำนักข่าวรอยเตอร์ส รายงานว่า Gemini ของ Google เข้าถึงอินเทอร์เน็ตและเจาะระบบของบริษัทอื่นระหว่างการทดสอบความสามารถด้านความปลอดภัยทางไซเบอร์ นับเป็นกรณีแรกที่เป็นที่ทราบว่าระบบปัญญาประดิษฐ์ของบริษัทสามารถดำเนินการดังกล่าวได้โดยอัตโนมัติ

การเจาะระบบเกิดขึ้นในเดือนพฤษภาคม ระหว่างการทดสอบด้านความปลอดภัยทางไซเบอร์ที่ดำเนินการโดย Irregular บริษัทอิสระที่ทำการประเมินด้านความปลอดภัยทางไซเบอร์

เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวว่า ในระหว่างการประเมินตามมาตรฐาน Gemini พบข้อมูลสาธารณะทางออนไลน์ และคาดเดาข้อมูลรับรองเพื่อเข้าถึงเว็บไซต์ 3 แห่งที่โมเดลคิดว่าอยู่ภายในขอบเขตของการทดสอบ

แอดกินส์ กล่าวในแถลงการณ์ว่า ได้ทำให้หน่วยงานทั้ง 3 แห่งรับทราบเรื่องดังกล่าว และได้ทำงานร่วมกับพันธมิตรด้านการฝึกอบรมของเราเกี่ยวกับการเปลี่ยนแปลงที่พวกเขาได้ดำเนินการกับกระบวนการทดสอบแล้ว เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกฝนโมเดลปัญญาประดิษฐ์ที่ทรงพลังให้สามารถดำเนินการอย่างมีความรับผิดชอบ

ส่งผลกระทบต่อห้องปฏิบัติการปัญญาประดิษฐ์รายอื่น

โฆษกของ Irregular กล่าวว่า เหตุการณ์ดังกล่าวเกี่ยวข้องกับประเด็นเดียวกันกับที่ส่งผลกระทบต่อห้องปฏิบัติการปัญญาประดิษฐ์รายอื่น และห้องปฏิบัติการที่เกี่ยวข้องทั้งหมดได้รับแจ้งเรื่องนี้ในช่วงปลายเดือนกรกฎาคม “ปัญหาทั้งหมดที่ทราบในส่วนของเราได้รับการแก้ไขและยุติลงแล้วเมื่อหลายสัปดาห์ก่อน” โฆษกกล่าว

เหตุการณ์ในลักษณะเดียวกันที่เกี่ยวข้องกับ Irregular ได้รับการเปิดเผยโดย Meta, Anthropic และ OpenAI โดย Meta ระบุในเดือนสิงหาคมว่า เหตุการณ์ดังกล่าว ไม่ได้เกี่ยวข้องกับการหลุดออกจากสภาพแวดล้อมแซนด์บ็อกซ์ หรือการโจมตีทางไซเบอร์ที่ซับซ้อน ขณะที่ Irregular ระบุว่ากำลังดำเนินการจัดทำแนวปฏิบัติที่ดีที่สุดสำหรับการประเมินความปลอดภัยทางไซเบอร์ของปัญญาประดิษฐ์อย่างปลอดภัย

เหตุการณ์เหล่านี้ทำให้เกิดคำถามเกี่ยวกับมาตรการป้องกันที่จำเป็น ขณะที่เอเจนต์ปัญญาประดิษฐ์มีความเป็นอิสระมากขึ้น รวมถึงมีความสามารถในการเข้าถึงอินเทอร์เน็ตและระบบคอมพิวเตอร์มากขึ้น

ในกรณีหนึ่ง โมเดล Gemini คาดเดารหัสผ่านหลายครั้งจนสามารถเข้าถึงระบบที่มีการป้องกันได้ ส่วนอีก 2 กรณี โมเดลพบข้อมูลรับรองในคลังข้อมูลสาธารณะ ซึ่งทำให้โมเดลสามารถเข้าถึงระบบที่มีการป้องกันได้ในเวลาต่อมา ตามรายงานของ Wall Street Journal ซึ่งเป็นสื่อที่รายงานข่าวนี้เป็นแห่งแรกเมื่อวันศุกร์ที่ผ่านมา