การ์ทเนอร์ ชี้จุดบอดอันตราย Gen AI จี้ผู้บริหารไอทีจัดการเร่งด่วน
การ์ทเนอร์ อิงก์ ชี้จุดบอดสำคัญที่เกิดจากความเสี่ยงจากการนำ Generative AI มาใช้งาน ที่ผู้บริหารไอทีมักมองข้ามและส่งผลกระทบตามมาโดยไม่ได้ตั้งใจ โดยผู้บริหาร CIO ต้องให้ความสำคัญ เร่งแก้ไขความท้าทายที่ซ่อนเร้นเหล่านี้ในแบบเชิงรุก เพื่อให้มั่นใจว่าจะได้รับคุณค่าจากการนำ GenAI มาใช้งาน และหลีกเลี่ยงความล้มเหลวในโครงการ AI
KEY
POINTS
- การ์ทเนอร์เตือนถึงจุดบอดและความเสี่ยงที่ซ่อนอยู่ในการนำ Gen AI มาใช้ในองค์กร ซึ่งผู้บริหารมักมองข้าม เช่น Shadow AI, หนี้ทางเทคนิค, การเสื่อมถอยของทักษะ และการผูกติดกับผู้ให้บริการ
- การที่พนักงานแอบใช้เครื่องมือ Gen AI ที่ไม่ได้รับอนุญาต (Shadow AI) เป็นความเสี่ยงเร่งด่วนที่อาจนำไปสู่การรั่วไหลของข้อมูล การละเมิดทรัพย์สินทางปัญญา และปัญหาด้านความปลอดภัย
- การพึ่งพา Gen AI มากเกินไปอาจสร้างปัญหาในระยะยาว ทั้งหนี้ทางเทคนิคที่มีค่าบำรุงรักษาสูง การสูญเสียทักษะความเชี่ยวชาญของบุคลากร และการขาดความยืดหยุ่นจากการผูกมัดกับผู้ให้บริการรายเดียว
นายอรุณ จันทรเศกการัน รองประธานนักวิเคราะห์การ์ทเนอร์ บริษัทที่ให้ข้อมูลเชิงลึกด้านธุรกิจและเทคโนโลยี เปิดเผยว่า “เทคโนโลยีและเทคนิคการใช้งานของ Gen AI กำลังพัฒนารุดหน้าไปอย่างรวดเร็วอย่างที่ไม่เคยเกิดมาก่อน พร้อม ๆ กับความคาดหวังที่สูงลิ่วขององค์กรผู้ใช้ นั่นทำให้ผู้บริหาร CIO ต้องเผชิญความท้าทายของการเป็นผู้นำท่ามกลางภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลานี้
แม้องค์กรต่าง ๆ จะให้ความสำคัญกับความท้าทายเร่งด่วนของ Gen AI อาทิ คุณค่าทางธุรกิจ ความปลอดภัย และความพร้อมของข้อมูล แต่พวกเขาอาจมองข้ามจุดบอดสำคัญเหล่านี้ เนื่องจากเป็นผลกระทบในระดับรอง ๆ ลงมาที่ไม่ค่อยปรากฏให้เห็นอย่างชัดเจนตั้งแต่แรก โดยความเสี่ยงอย่าง Shadow AI, หนี้ทางเทคนิค (Technical Debt), การเสื่อมถอยของทักษะ (Skills Erosion), ความต้องการด้านอธิปไตยข้อมูล (Data Sovereignty), ปัญหาการทำงานร่วมกัน (Interoperability Issues) และการผูกติดกับผู้ให้บริการรายเดียว (Vendor Lock-In) ล้วนเป็นคลื่นใต้น้ำที่บดบัง และบ่อนทำลายความสำเร็จในระยะยาว
เพื่อรักษาขีดความสามารถในการแข่งขันและความยืดหยุ่น ผู้บริหาร CIO ต้องจัดการทั้งความท้าทายที่มองเห็นได้และความเสี่ยงที่ซ่อนเร้นอยู่ในการนำ Gen AI มาใช้ พร้อมจัดลำดับความสำคัญเพื่อแก้ไขจุดบอดเหล่านี้ได้อย่างเหมาะสม ดังนี้:
ผลสำรวจการ์ทเนอร์ของผู้นำด้านความปลอดภัยทางไซเบอร์จำนวน 302 ราย ระหว่างเดือนมีนาคม-พฤษภาคม ปี 2568 เผยว่า 69% ขององค์กรสงสัยหรือมีหลักฐานว่าพนักงานกำลังใช้ Gen AI สาธารณะที่ต้องห้าม
การนำเครื่องมือ AI ที่ไม่ได้รับอนุญาตมาใช้อย่างรวดเร็วอาจนำไปสู่ผลกระทบทั้งที่มองเห็นและมองไม่เห็น เช่น การละเมิดทรัพย์สินทางปัญญา การเปิดเผยข้อมูล และความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้น การ์ทเนอร์คาดการณ์ว่า ภายในปี 2573 มากกว่า 40% ขององค์กรจะเผชิญเหตุการณ์ด้านความปลอดภัยหรือการปฏิบัติตามข้อกำหนดที่เชื่อมโยงกับ Shadow AI ที่ไม่ได้รับอนุญาต
“เพื่อจัดการกับความเสี่ยงเหล่านี้ CIO ควรกำหนดนโยบายสำหรับการใช้เครื่องมือ AI ทั่วทั้งองค์กรที่ชัดเจนเพื่อดำเนินการตรวจสอบกิจกรรม Shadow AI เป็นประจำ และบูรณาการการประเมินความเสี่ยง Gen AI เข้ากับกระบวนการประเมินและตรวจสอบซอฟต์แวร์บริการ (SaaS Assessment Processes) เพื่อให้แน่ใจว่าตอบโจทย์ธุรกิจ ทั้งด้านประสิทธิภาพ ความปลอดภัย การใช้งาน และการปฏิบัติตามข้อกำหนด” อรุณกล่าวเพิ่มเติม
หนี้ทางเทคนิคจาก AI
การ์ทเนอร์คาดการณ์ว่า ภายในปี 2573 องค์กร 50% จะเผชิญกับการอัปเกรด AI ที่ล่าช้าและ/หรือต้นทุนการบำรุงรักษาที่เพิ่มขึ้นเนื่องจากหนี้ทางเทคนิคของ Gen AI ที่ไม่ได้รับการจัดการ
นายอรุณ ให้ความเห็นเสริมว่า “องค์กรต่าง ๆ ตื่นเต้นกับความเร็วในการตอบสนองของ Gen AI แต่ด้วยต้นทุนที่สูงลิ่วในการบำรุงรักษา แก้ไข หรือปรับเปลี่ยนสิ่งที่ AI สร้างขึ้น เช่น โค้ด เนื้อหา และการออกแบบ อาจกัดกร่อนผลตอบแทนที่ได้จากการลงทุนตามที่ GenAI สัญญาไว้ ดังนั้นการจัดทำมาตรฐานที่ชัดเจนสำหรับการตรวจสอบและจัดทำเอกสารสินทรัพย์ที่ AI สร้างขึ้น และติดตามตัวชี้วัดหนี้สินทางเทคนิคในแดชบอร์ด IT จะช่วยให้องค์กรสามารถดำเนินการได้แบบเชิงรุกเพื่อป้องกันการหยุดชะงักที่มีค่าใช้จ่ายสูง”
ความต้องการด้านอธิปไตยข้อมูลและ AI ที่เพิ่มขึ้น
การ์ทเนอร์คาดการณ์ว่า ภายในปี 2571 รัฐบาล 65% ทั่วโลกจะนำข้อกำหนดด้านอธิปไตยทางเทคโนโลยีมาใช้เพื่อเพิ่มความเป็นอิสระและป้องกันการแทรกแซงด้านกฎระเบียบจากต่างแดน
ข้อจำกัดด้านกฎระเบียบเกี่ยวกับการแบ่งปันข้อมูลหรือใช้โมเดลการแบ่งปันข้อมูลแบบข้ามประเทศ (Cross-Border Data) สามารถชะลอการปรับใช้ AI ทั่วทั้งองค์กร เพิ่มต้นทุนรวมของการเป็นเจ้าของระบบไอทีต้นทุนการเป็นเจ้าของทั้งหมด (Total cost of Ownership หรือ TCO) และส่งผลให้ได้ผลลัพธ์ที่ไม่เหมาะสม
เพื่อจัดการกับความท้าทายเหล่านี้ CIO ต้องสร้างอธิปไตยข้อมูล (Data Sovereignty) ใส่เข้าไปในกลยุทธ์ AI ตั้งแต่เริ่มต้น โดยการให้ทีมกฎหมายเข้ามามีส่วนร่วมตั้งแต่เนิ่น ๆ และจัดลำดับความสำคัญของผู้ให้บริการที่ตอบสนองความต้องการด้านอธิปไตยข้อมูลและ AI
การเสื่อมถอยของทักษะ
การพึ่งพา AI มากเกินไปอาจกัดกร่อนความเชี่ยวชาญ การตัดสินใจ และความรู้โดยนัยของมนุษย์ที่มีความสำคัญ ซึ่งไม่สามารถถ่ายทอดหรือทดแทนได้ง่าย ๆ โดยการเสื่อมถอยของทักษะนี้เกิดขึ้นอย่างค่อยเป็นค่อยไปและมักไม่มีใครสังเกตเห็น ดังนั้นผู้บริหาร CIO อาจไม่รับรู้ถึงความเสี่ยงจนกว่าองค์กรจะมีปัญหาในการทำงานเมื่อไม่ได้ใช้งาน AI หรือเมื่อ AI เกิดการล้มเหลวเป็นกรณีพิเศษและต้องใช้สัญชาตญาณมนุษย์เข้ามาช่วย
“เพื่อป้องกันการสูญเสียความรู้และความสามารถขององค์กรไปเรื่อย ๆ องค์กรควรระบุว่าการตัดสินใจและงานที่เกิดจากฝีมือของมนุษย์นั้นมีความจำเป็นในด้านใด และออกแบบโซลูชัน AI เพื่อเสริม ไม่ใช่มาแทนที่ทักษะเหล่านี้”
การผูกติดกับระบบนิเวศและทำงานกับผู้ให้บริการเดียว
องค์กรที่มุ่งมั่นนำศักยภาพ Gen AI มาใช้ประโยชน์ในวงกว้าง มักเลือกผู้ให้บริการเพียงรายเดียวเพื่อความรวดเร็วและความง่าย ซึ่งการพึ่งพาเชิงลึกนี้ส่งผลกระทบต่อความคล่องตัวทางเทคนิคและอำนาจในการต่อรองเจรจาเกี่ยวกับด้านราคา เงื่อนไข หรือระดับการให้บริการในอนาคต
ผู้บริหาร CIO จำนวนมากมักประเมินความเชื่อมโยงระหว่างข้อมูล โมเดล หรือเวิร์กโฟลว์การทำงานต่ำไป และยึดติดกับ API ที่ออกแบบมาเฉพาะจากผู้ให้บริการ ไม่ว่าจะเป็นพื้นที่จัดเก็บข้อมูล (Data Leaks) และเครื่องมือที่มีบนแพลตฟอร์ม (Platform Tools)
“การจัดลำดับความสำคัญของมาตรฐานเปิด API และสถาปัตยกรรมแบบโมดูลาร์เพื่อออกแบบชุดเทคโนโลยี AI จะช่วยให้องค์กรสามารถหลีกเลี่ยงการผูกติดกับผู้ให้บริการรายใดรายหนึ่งมากจนเกินไป นอกจากนี้ผู้บริหาร CIO ต้องสร้างมาตรฐานการทำงานร่วมกันในโครงการนำร่อง Gen AI และมีการประเมินผล”