thansettakij
thansettakij
Google เตือนภัย AI แฮกระบบได้เองโดยไม่ต้องมีมนุษย์คุม

Google เตือนภัย AI แฮกระบบได้เองโดยไม่ต้องมีมนุษย์คุม

18 พ.ย. 69 | 04:10 น.
อัปเดตล่าสุด :18 พ.ย. 69 | 04:10 น.

Google พบผู้โจมตีใช้ AI ค้นหาช่องโหว่และลงมือเจาะระบบได้อัตโนมัติ เพิ่มแรงกดดันให้องค์กรเร่งอัปเดตซอฟต์แวร์ก่อนตกเป็นเป้าหมาย

KEY

POINTS

  • ผู้ก่อภัยไซเบอร์เริ่มใช้ AI (LLM) ในการค้นหาช่องโหว่และโจมตีระบบโดยอัตโนมัติได้เอง โดยไม่ต้องมีมนุษย์ควบคุม
  • AI ช่วยให้ผู้โจมตีวิเคราะห์แพตช์ซอฟต์แวร์เพื่อหาช่องโหว่ และพุ่งเป้าโจมตีระบบที่ยังไม่ได้อัปเดตได้อย่างรวดเร็วยิ่งขึ้น
  • พบแนวโน้มการโจมตีรูปแบบใหม่ที่เรียกว่า "LLMJacking" คือการขโมยสิทธิ์เข้าถึงโมเดล AI ขององค์กรเพื่อนำไปขายต่อ

Google Threat Intelligence Group (GTIG) และ Mandiant เปิดเผยรายงาน AI Threat Tracker ระบุว่า ในไตรมาสล่าสุด GTIG พบเป็นครั้งแรกว่าผู้ก่อภัยไซเบอร์ใช้ระบบที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM) ทำงานอัตโนมัติตั้งแต่ค้นหาช่องโหว่ของซอฟต์แวร์ไปจนถึงใช้ช่องโหว่นั้นโจมตี โดยไม่ต้องมีมนุษย์ควบคุมระหว่างกระบวนการ

Google เตือนภัย AI แฮกระบบได้เองโดยไม่ต้องมีมนุษย์คุม

ออกแพตช์แล้ว องค์กรยังเสี่ยงถูกเจาะ

Google ระบุว่า ผู้โจมตีใช้ AI วิเคราะห์อัปเดตซอฟต์แวร์เพื่อระบุว่าช่องโหว่ใดเพิ่งได้รับการแก้ไข แล้วมุ่งโจมตีระบบที่ยังติดตั้งแพตช์ไม่ทัน องค์กรจึงมีเวลาน้อยลงระหว่างที่ผู้พัฒนาซอฟต์แวร์ออกตัวแก้ไขกับช่วงที่ผู้โจมตีเริ่มลงมือ

จอห์น ฮัลต์ควิสต์ หัวหน้านักวิเคราะห์ของ GTIG ระบุว่า ผู้โจมตีส่วนใหญ่ยังมุ่งเป้าไปที่ช่องโหว่ที่ทราบอยู่แล้วและยังไม่ได้รับการแก้ไขในระบบเป้าหมาย โดย AI ช่วยให้ลงมือได้เร็วขึ้นและขยายการโจมตีได้ในวงกว้างขึ้น

พบใช้ AI หลายตัวช่วยบุกรุกเป้าหมายจริง

รายงานพบว่าทั้งกลุ่มอาชญากรไซเบอร์และกลุ่มที่ได้รับการสนับสนุนจากรัฐนำ AI มาใช้ในหลายขั้นตอนของปฏิบัติการ หนึ่งในกรณีที่ GTIG เปิดเผยคือการใช้เครื่องมือที่ให้ AI หลายตัวทำงานร่วมกันเพื่อช่วยดำเนินการบางขั้นตอนในการบุกรุกเป้าหมายในภาคการบินและอวกาศของสหรัฐฯ

ขโมยสิทธิ์ใช้ AI ไปขายต่อ

อีกแนวโน้มที่รายงานจับตาคือ LLMJacking ซึ่งผู้ก่อเหตุขโมยข้อมูลรับรองการเข้าถึงโมเดล AI และทรัพยากรคลาวด์จากองค์กรที่ถูกเจาะ ก่อนนำสิทธิ์เข้าถึงโมเดลไปขายต่อผ่านบริการใต้ดิน โดยค่าใช้งานอาจตกอยู่กับองค์กรเจ้าของบัญชี

Google ระบุว่า ความเร็วของการโจมตีกำลังเพิ่มแรงกดดันให้ภาคธุรกิจปรับวิธีรับมือ โดยใช้ระบบอัตโนมัติช่วยตรวจหาช่องโหว่ จัดลำดับความเสี่ยง และเร่งแก้ไขระบบที่มีโอกาสตกเป็นเป้าหมาย

ที่มา:  GTIG AI Threat Tracker