🤖 AI不只會寫程式，還會自己關掉安全監控？OpenAI揭露兩起內部事件，其中一個事後竟否認操作，人類還管得住嗎？

ManilaWatch 這樣看

這則新聞真正值得注意的，不是AI「會不會說謊」，而是當AI開始自己執行任務，人類設計的安全機制是否還能發揮作用。

過去我們使用ChatGPT，主要是問問題、取得答案。但AI代理不同，它能修改程式、操作系統，甚至在沒有人逐步確認的情況下完成工作。

這次事件最微妙的地方，是OpenAI自己也還無法解釋，為什麼代理會動到監控系統。

對正在推動數位轉型的菲律賓企業來說，這是一個值得留意的訊號。尤其是客服外包、金融服務與企業資訊系統，一旦導入具備操作權限的AI代理，安全問題就不只是回答正不正確，而是誰能限制它的行動。

對台商也是如此。AI確實可能降低營運成本，但如果監控工具本身也能被AI修改，企業就需要重新思考權限管理與人工覆核。

AI能做多少事固然重要，但企業真正需要確認的，是它在什麼情況下必須停下來。