เปิดยุทธศาสตร์จีนคุมความเสี่ยง AI หวั่นหลุดการควบคุมมนุษย์

จีนกำลังพัฒนากรอบกำกับดูแลเพื่อรับมือความเสี่ยงจากปัญญาประดิษฐ์ขั้นแนวหน้าและระบบปัญญาประดิษฐ์แบบเอเจนต์ที่อาจสูญเสียการควบคุม โดยเน้นมาตรฐานทางเทคนิค การกำกับดูแล การประเมินความปลอดภัย และการทดสอบจากภายนอก ขณะเดียวกัน จีนยังเตือนถึงความเสี่ยงจากโมเดลปัญญาประดิษฐ์ของสหรัฐฯ และโมเดลแบบเปิดที่อาจถูกดัดแปลงและนำไปใช้โดยมีการกำกับดูแลจำกัด

คำเตือนจากนักวิจัยของ Anthropic ผู้พัฒนาปัญญาประดิษฐ์ชั้นนำของสหรัฐฯ ว่าโมเดลปัญญาประดิษฐ์ที่มีความสามารถเพิ่มขึ้นอาจหลุดพ้นจากการควบคุมของมนุษย์ ได้รับความสนใจในจีน ซึ่งผู้กำหนดนโยบายกำลังเตรียมรับมือความเสี่ยงบางประการในลักษณะเดียวกัน

สหรัฐฯ และจีนเป็นสองแรงขับเคลื่อนสำคัญของการพัฒนาปัญญาประดิษฐ์ขั้นแนวหน้าและการนำเทคโนโลยีดังกล่าวไปใช้ทั่วโลก โดยทั้งสองประเทศมีความขัดแย้งกันเกี่ยวกับนโยบายปัญญาประดิษฐ์และแนวทางปฏิบัติของอุตสาหกรรม และประเด็นเหล่านี้มีกำหนดเป็นหัวข้อสำคัญในการเจรจาระหว่างสองประเทศในช่วงปลายเดือนนี้

จีนมองปัญญาประดิษฐ์เป็นความเสี่ยงที่บริหารจัดการได้ 

ขณะที่การถกเถียงในสหรัฐฯ มุ่งเน้นไปที่คำถามว่าปัญญาประดิษฐ์ขั้นแนวหน้าอาจเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติหรือไม่ ผู้กำหนดนโยบายของจีนโดยทั่วไปมองว่าปัญญาประดิษฐ์เป็นเทคโนโลยีที่มีศักยภาพสูงแต่สามารถกำกับดูแลได้ โดยความเสี่ยงสามารถควบคุมได้ผ่านมาตรฐานทางเทคนิค กฎระเบียบ และการกำกับดูแลโดยรัฐ

Brian Tse ผู้ก่อตั้งและประธานเจ้าหน้าที่บริหารของ Concordia AI ซึ่งเป็นกลุ่มวิจัยด้านความปลอดภัยและธรรมาภิบาลปัญญาประดิษฐ์ที่มีฐานอยู่ในปักกิ่งและสิงคโปร์ กล่าวว่า “ผู้เชี่ยวชาญชาวจีนและชาวอเมริกันส่วนใหญ่เห็นตรงกันเกี่ยวกับความเสี่ยงของปัญญาประดิษฐ์” พร้อมระบุว่าความแตกต่างอยู่ที่ “วิธีการกำหนดกรอบและจัดลำดับความสำคัญของความเสี่ยง”

จีนยังไม่ได้เสนอให้มีผู้ตรวจสอบอิสระเข้าไปประจำอยู่ภายในบริษัทปัญญาประดิษฐ์ ตามแนวทางที่ Anthropic เสนอ ขณะที่กรอบกำกับดูแลที่กำลังพัฒนาของจีนพึ่งพาภาระหน้าที่ของผู้พัฒนา มาตรฐานที่ได้รับการสนับสนุนจากรัฐ การประเมินความปลอดภัย และการทดสอบจากภายนอก

แนวทางดังกล่าวยังได้รับอิทธิพลจากความแตกต่างสำคัญในอุตสาหกรรมปัญญาประดิษฐ์ของทั้งสองประเทศ

ผู้พัฒนาปัญญาประดิษฐ์ของจีนส่งเสริมโมเดลแบบเปิดมากขึ้น โดยโมเดลประเภทนี้หมายถึงระบบที่พารามิเตอร์พื้นฐานสามารถดาวน์โหลด ตรวจสอบ และดัดแปลงได้ อย่างไรก็ตาม คู่แข่งชั้นนำของจีนในสหรัฐฯ เช่น Anthropic และ OpenAI ไม่เปิดเผยข้อมูลจำเพาะเหล่านี้ต่อสาธารณะ

จีนเร่งป้องกันเหตุการณ์ระบบ AI Agent หลุดการควบคุม

นโยบายที่ออกในเดือนพฤษภาคมโดยหน่วยงานกำกับดูแลไซเบอร์ของจีน หน่วยงานวางแผนเศรษฐกิจ และกระทรวงอุตสาหกรรม ระบุว่า “การสูญเสียการควบคุมในการปฏิบัติงาน” เป็นความเสี่ยงด้านความปลอดภัยสำหรับระบบปัญญาประดิษฐ์เอเจนต์ ซึ่งเป็นระบบที่สามารถวางแผนและดำเนินงานหลายขั้นตอนได้อย่างเป็นอิสระมากกว่าแชตบอททั่วไป

กฎดังกล่าวกำหนดให้ผู้พัฒนาปรับปรุงความสามารถในการค้นหา แทรกแซง ระงับ และกู้คืนจากพฤติกรรมที่ไม่เหมาะสมของระบบปัญญาประดิษฐ์เอเจนต์

นโยบายดังกล่าวยังเรียกร้องให้ผู้พัฒนาป้องกันความเสี่ยงต่าง ๆ รวมถึงการปนเปื้อนของข้อมูล การบิดเบือนอัลกอริทึม และช่องโหว่ของระบบ นอกจากนี้ยังระบุว่าผู้ใช้ควรได้รับข้อมูลเกี่ยวกับการตัดสินใจโดยอัตโนมัติของระบบเอเจนต์ และยังคงมีอำนาจในการตัดสินใจขั้นสุดท้าย

จีนยังได้เริ่มร่างมาตรฐานแห่งชาติภาคบังคับด้านความปลอดภัยของระบบปัญญาประดิษฐ์เอเจนต์ โดย Tse จาก Concordia ระบุว่า มาตรฐานดังกล่าวจะเป็นมาตรฐานประเภทนี้ฉบับแรกของโลก

Wang Lihong เจ้าหน้าที่อาวุโสของหน่วยงานกำกับดูแลไซเบอร์ กล่าวว่าเมื่อวันที่ 1 กันยายน จำเป็นต้องเฝ้าระวังเป็นพิเศษต่อกรณีที่โมเดลปัญญาประดิษฐ์ขั้นแนวหน้าสามารถหลบเลี่ยงสภาพแวดล้อมแซนด์บ็อกซ์ หลีกเลี่ยงขอบเขตด้านความปลอดภัย และโจมตีระบบการผลิตภายนอกในโลกจริง

จีนมองเห็นความเสี่ยงจากโมเดลชั้นนำของสหรัฐฯ

Chen Yixin รัฐมนตรีว่าการกระทรวงความมั่นคงแห่งรัฐของจีน เขียนในสื่อของรัฐบาลเมื่อวันอาทิตย์ที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ขั้นสูงของสหรัฐฯ เช่น Mythos ของ Anthropic และ GPT-5.5-Cyber ของ OpenAI อาจก่อให้เกิดความเสี่ยงร้ายแรงต่อโครงสร้างพื้นฐานสารสนเทศที่สำคัญของจีน และเรียกร้องให้เสริมสร้างความปลอดภัยด้านปัญญาประดิษฐ์อย่างครอบคลุม

ผู้พัฒนาปัญญาประดิษฐ์ของจีนส่งเสริมโมเดลแบบเปิดส่วนหนึ่งด้วยเหตุผลที่ว่า ทีมความปลอดภัยทางไซเบอร์สามารถตรวจสอบ ดัดแปลง และนำโมเดลดังกล่าวไปใช้งานเพื่อการป้องกันได้

Hugging Face ซึ่งเป็นแพลตฟอร์มคลังโมเดลปัญญาประดิษฐ์ กล่าวว่า บริษัทใช้ GLM-5.2 ซึ่งเป็นโมเดลแบบเปิดที่พัฒนาโดย Z.AI ของจีน เพื่อวิเคราะห์การบุกรุกในเดือนกรกฎาคมโดยเอเจนต์ของ OpenAI ที่หลุดออกมา หลังจากโมเดลของสหรัฐฯ ที่มีข้อจำกัดเข้มงวดกว่าพิสูจน์แล้วว่ามีประโยชน์น้อยกว่าสำหรับงานพิสูจน์หลักฐานทางนิติวิทยาศาสตร์

อย่างไรก็ตาม ผู้เชี่ยวชาญยังเน้นย้ำถึงความเสี่ยงจากโมเดลแบบเปิด ซึ่งสามารถถูกดัดแปลงและเผยแพร่ซ้ำได้โดยมีการกำกับดูแลเพียงเล็กน้อย

นักวิจัยระบุว่า Kimi K3 ของ Moonshot เมื่อเดือนที่แล้วสามารถหลบเลี่ยงแซนด์บ็อกซ์ทดสอบของสถาบันความมั่นคงด้านปัญญาประดิษฐ์ของสหราชอาณาจักรได้ โดยเหตุการณ์ดังกล่าวสะท้อนให้เห็นความเสี่ยงที่โมเดลปัญญาประดิษฐ์ของจีนอาจหลบเลี่ยงการควบคุมที่ออกแบบมาเพื่อจำกัดการเข้าถึงและการดำเนินการของโมเดลได้เช่นเดียวกับโมเดลจากสหรัฐฯ Moonshot ไม่ได้ตอบคำขอความคิดเห็นของ Reuters เกี่ยวกับเรื่องดังกล่าว

หน่วยงานกำกับดูแลชี้ความเสี่ยงจาก “การสูญเสียการควบคุม” ปัญญาประดิษฐ์

จีนได้บรรจุสถานการณ์การสูญเสียการควบคุมในอนาคตอย่างชัดเจนเป็นครั้งแรกในกรอบความปลอดภัยด้านปัญญาประดิษฐ์ที่เผยแพร่ในเดือนกันยายน 2024 ภายใต้แนวทางของสำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีน (CAC)

เอกสารดังกล่าวระบุว่า ไม่สามารถตัดความเป็นไปได้ที่ปัญญาประดิษฐ์ในอนาคตจะสามารถเข้าถึงทรัพยากรภายนอกได้ด้วยตนเอง จำลองตัวเอง พัฒนาความตระหนักรู้ในตนเอง และแสวงหาอำนาจจากภายนอก ซึ่งก่อให้เกิดความเสี่ยงในการแข่งขันกับมนุษย์เพื่อควบคุมอำนาจ

CAC เผยแพร่กรอบดังกล่าวฉบับขยายในเดือนกันยายน 2025 โดยกรอบฉบับใหม่ได้ทำให้สถานการณ์ดังกล่าวมีความชัดเจนมากขึ้น โดยระบุว่าปัญญาประดิษฐ์อาจเกิดการก้าวกระโดดด้านความฉลาดครั้งใหญ่และเกิดขึ้นอย่างฉับพลันโดยไม่คาดคิด ก่อนที่จะเข้าถึงทรัพยากร จำลองตัวเอง และแสวงหาอำนาจ นอกจากนี้ยังเพิ่มหลักการกำกับดูแลว่าการใช้งานที่น่าเชื่อถือ ป้องกันการสูญเสียการควบคุม

การตีความโดยผู้เชี่ยวชาญที่เผยแพร่ในเวลาต่อมาบนเว็บไซต์ของหน่วยงานกำกับดูแลไซเบอร์ ระบุว่า หลักการใหม่ดังกล่าวมีเป้าหมายเพื่อป้องกันความเสี่ยงจากการสูญเสียการควบคุมที่คุกคามการอยู่รอดและการพัฒนาของมนุษย์ และกล่าวถึงสถานการณ์ที่เป็นไปได้ของปัญญาประดิษฐ์หลุดออกมา

แนวทาง “การชะลอการพัฒนา” ที่แตกต่างกัน

แนวทางด้านกฎระเบียบของจีนแตกต่างจากข้อเรียกร้องของแวดวงความปลอดภัยด้านปัญญาประดิษฐ์บางส่วนในโลกตะวันตก ซึ่งเรียกร้องให้ผู้พัฒนาชะลอหรือระงับการพัฒนาโมเดลที่มีความสามารถสูงที่สุด จนกว่าจะมีมาตรการป้องกันที่เข้มแข็งเพียงพอ

ในทางกลับกัน ตั้งแต่ช่วงต้นปีนี้ จีนผลักดันการบูรณาการปัญญาประดิษฐ์เข้าสู่อุตสาหกรรมทุกประเภท ซึ่งเป็นส่วนหนึ่งของความพยายามของปักกิ่งที่จะทำให้เทคโนโลยีเป็นเครื่องยนต์ขับเคลื่อนใหม่ของเศรษฐกิจใหญ่อันดับสองของโลก

อย่างไรก็ตาม จีนก็แสดงให้เห็นว่าสามารถชะลอการนำเทคโนโลยีไปใช้งานได้เมื่อเจ้าหน้าที่เห็นว่าการกำกับดูแลยังไม่สามารถก้าวตามทัน

ในปี 2023 บริษัทจีนได้ชะลอการเปิดตัวแชตบอตเป็นเวลาหลายเดือน ขณะที่ CAC ดำเนินการจัดทำกฎที่กำกับดูแลบริการปัญญาประดิษฐ์แบบรู้สร้าง บริษัทต่าง ๆ เปิดตัวผลิตภัณฑ์สำคัญหลายรายการหลังจากกฎดังกล่าวมีผลบังคับใช้ในเดือนสิงหาคมของปีนั้น