Satya Nadella เสนอให้แยกโมเดล AI ออกจากระบบควบคุม พร้อมบันทึกการทำงานที่ตรวจสอบได้ และเปิดทางให้ผู้มีอำนาจสั่งหยุดระบบระหว่างปฏิบัติงาน

เมื่อวันที่ 10 ตุลาคม 2026 Satya Nadella ประธานเจ้าหน้าที่บริหารของ Microsoft เผยแพร่ข้อเสนอผ่านแพลตฟอร์ม X ให้ทบทวนแนวทางการออกแบบและควบคุมระบบ AI โดยเน้นว่า องค์กรไม่ควรพึ่งพาคำรับรองจากผู้พัฒนาโมเดลหรือความสามารถของ AI เพียงอย่างเดียว แต่ควรออกแบบระบบให้สามารถสังเกต ตรวจสอบ และจำกัดการทำงานได้อย่างเป็นรูปธรรม เขาเปรียบเทียบแนวคิดนี้กับ “เบรกฉุกเฉิน” ซึ่งช่วยให้ผู้มีอำนาจสามารถหยุดหรือระงับการทำงานของ AI ได้ แม้ระบบกำลังปฏิบัติภารกิจอยู่

ข้อเสนอของ Nadella ครอบคลุมการแยกโมเดล AI ออกจากระบบที่จัดการและประสานการทำงาน รวมถึงการกำหนดสิทธิ์การเข้าถึงข้อมูลและเครื่องมือจากภายนอกโมเดล เพื่อไม่ให้ AI สามารถเปลี่ยนแปลงหรือหลีกเลี่ยงกลไกควบคุมของตนเองได้โดยง่าย นอกจากนี้ เขายังเสนอให้บันทึกการกระทำสำคัญของระบบเป็นหลักฐานที่มนุษย์อ่านและตรวจสอบย้อนหลังได้ พร้อมป้องกันการแก้ไขโดยไม่ได้รับอนุญาต ตลอดจนทดสอบระบบอย่างต่อเนื่อง ทั้งในสถานการณ์ปกติและกรณีที่เกิดข้อผิดพลาดหรือการโจมตี

ความท้าทายในการควบคุม AI Agent ปรากฏในกรณีของ Anthropic เช่นกัน โดยเมื่อวันที่ 9 ตุลาคม 2026 TechCrunch รายงานว่า บริษัทระงับการเข้าถึงอินเทอร์เน็ตจริงในการประเมิน AI Agent ภายใน หลังพบพฤติกรรมที่ไม่คาดคิดจากระบบบางตัว เช่น การใช้ช่องโหว่ของเว็บไซต์ การเข้าถึงฐานข้อมูลโดยไม่เสียค่าธรรมเนียม และการส่งข้อมูลแจ้งเหตุฆาตกรรมอันเป็นเท็จไปยังตำรวจฟิลาเดลเฟีย

รายงานดังกล่าวระบุว่า Anthropic จะจำกัดการเข้าถึงอินเทอร์เน็ตในการประเมินภายใน จนกว่าจะมั่นใจว่าสามารถติดตามและควบคุมพฤติกรรมของระบบได้มากขึ้น กรณีนี้แสดงให้เห็นถึงความสำคัญของการจำกัดสิทธิ์เข้าถึง การจัดสภาพแวดล้อมสำหรับทดสอบให้เหมาะสม และการเฝ้าติดตามการทำงานของ AI Agent อย่างใกล้ชิด อย่างไรก็ตาม พฤติกรรมที่พบในระหว่างการประเมินไม่ควรถูกนำไปสรุปว่า AI ทุกระบบจะทำงานในลักษณะเดียวกัน
 

อ้างอิง
Ha, A. (2026, October 10). Microsoft’s Satya Nadella says AI models need an ‘emergency brake’. TechCrunch. https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-mode…
Nadella, S. [@satyanadella]. (2026, October 10). โพสต์เกี่ยวกับการออกแบบระบบ Super Intelligence ให้ตรวจสอบและควบคุมได้ [โพสต์บน X]. https://x.com/satyanadella/status/2108931348857827686
Bellan, R. (2026, August 9). The AI safety test is becoming a safety risk. TechCrunch. https://techcrunch.com/2026/08/09/the-ai-safety-test-is-becoming-a-safe…

Fernholz, T. (2026, October 9). Anthropic can’t reliably control its AI agents — it’s cutting off its internal evals from the live internet instead. TechCrunch. https://techcrunch.com/2026/10/09/anthropic-cant-reliably-control-its-a…

อัปเดตข่าวเด่นวิทยาศาสตร์ประจำวันได้ที่ เว็บไซต์ Curiosity - Science News Today