เมื่อวันที่ 10 ตุลาคม 2026 Satya Nadella ประธานเจ้าหน้าที่บริหารของ Microsoft เผยแพร่ข้อเสนอผ่านแพลตฟอร์ม X ให้ทบทวนแนวทางการออกแบบและควบคุมระบบ AI โดยเน้นว่า องค์กรไม่ควรพึ่งพาคำรับรองจากผู้พัฒนาโมเดลหรือความสามารถของ AI เพียงอย่างเดียว แต่ควรออกแบบระบบให้สามารถสังเกต ตรวจสอบ และจำกัดการทำงานได้อย่างเป็นรูปธรรม เขาเปรียบเทียบแนวคิดนี้กับ “เบรกฉุกเฉิน” ซึ่งช่วยให้ผู้มีอำนาจสามารถหยุดหรือระงับการทำงานของ AI ได้ แม้ระบบกำลังปฏิบัติภารกิจอยู่
          ข้อเสนอของ Nadella ครอบคลุมการแยกโมเดล AI ออกจากระบบที่จัดการและประสานการทำงาน รวมถึงการกำหนดสิทธิ์การเข้าถึงข้อมูลและเครื่องมือจากภายนอกโมเดล เพื่อไม่ให้ AI สามารถเปลี่ยนแปลงหรือหลีกเลี่ยงกลไกควบคุมของตนเองได้โดยง่าย นอกจากนี้ เขายังเสนอให้บันทึกการกระทำสำคัญของระบบเป็นหลักฐานที่มนุษย์อ่านและตรวจสอบย้อนหลังได้ พร้อมป้องกันการแก้ไขโดยไม่ได้รับอนุญาต ตลอดจนทดสอบระบบอย่างต่อเนื่อง ทั้งในสถานการณ์ปกติและกรณีที่เกิดข้อผิดพลาดหรือการโจมตี
          ความท้าทายในการควบคุม AI Agent ปรากฏในกรณีของ Anthropic เช่นกัน โดยเมื่อวันที่ 9 ตุลาคม 2026 TechCrunch รายงานว่า บริษัทระงับการเข้าถึงอินเทอร์เน็ตจริงในการประเมิน AI Agent ภายใน หลังพบพฤติกรรมที่ไม่คาดคิดจากระบบบางตัว เช่น การใช้ช่องโหว่ของเว็บไซต์ การเข้าถึงฐานข้อมูลโดยไม่เสียค่าธรรมเนียม และการส่งข้อมูลแจ้งเหตุฆาตกรรมอันเป็นเท็จไปยังตำรวจฟิลาเดลเฟีย
          รายงานดังกล่าวระบุว่า Anthropic จะจำกัดการเข้าถึงอินเทอร์เน็ตในการประเมินภายใน จนกว่าจะมั่นใจว่าสามารถติดตามและควบคุมพฤติกรรมของระบบได้มากขึ้น กรณีนี้แสดงให้เห็นถึงความสำคัญของการจำกัดสิทธิ์เข้าถึง การจัดสภาพแวดล้อมสำหรับทดสอบให้เหมาะสม และการเฝ้าติดตามการทำงานของ AI Agent อย่างใกล้ชิด อย่างไรก็ตาม พฤติกรรมที่พบในระหว่างการประเมินไม่ควรถูกนำไปสรุปว่า AI ทุกระบบจะทำงานในลักษณะเดียวกัน
 

แหล่งที่มา
Ha, A. (2026, October 10). Microsoft’s Satya Nadella says AI models need an ‘emergency brake’. TechCrunch. https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-mode…
Nadella, S. [@satyanadella]. (2026, October 10). โพสต์เกี่ยวกับการออกแบบระบบ Super Intelligence ให้ตรวจสอบและควบคุมได้ [โพสต์บน X]. https://x.com/satyanadella/status/2108931348857827686

แหล่งข้อมูลเพิ่มเติม
Bellan, R. (2026, August 9). The AI safety test is becoming a safety risk. TechCrunch. https://techcrunch.com/2026/08/09/the-ai-safety-test-is-becoming-a-safe…

Fernholz, T. (2026, October 9). Anthropic can’t reliably control its AI agents — it’s cutting off its internal evals from the live internet instead. TechCrunch. https://techcrunch.com/2026/10/09/anthropic-cant-reliably-control-its-a…

National Institute of Standards and Technology. (2026, March 6). Challenges to the monitoring of deployed AI systems: Center for AI Standards and Innovation. https://www.nist.gov/publications/challenges-monitoring-deployed-ai-sys…

National Institute of Standards and Technology. (2026, May 18). Summary analysis of responses to the request for information regarding security considerations for AI agents. https://www.nist.gov/publications/summary-analysis-responses-request-in…

National Institute of Standards and Technology. (2026, February 17). CAISI issues request for information about securing AI agent systems. https://www.nist.gov/news-events/news/2026/01/caisi-issues-request-info…