我應該在 Windows 11 上啟用智能體 AI 功能嗎？不應該，這存在安全風險，原因如下。

• Windows 11 的智慧型代理 AI 功能引入了系統級自動化，使作業系統能夠代表您點擊、輸入和執行操作。
• 雖然這些功能強大，但它們仍處於實驗階段，並會帶來嚴重的安全和隱私風險。
• 對於大多數用戶而言，目前不建議啟用智能體人工智慧。

微軟開始在Windows 11中測試「智慧體 AI」 ，這項全新的系統級功能允許人工智慧像真人一樣代表用戶進行點擊、輸入和操作應用程式。這是該作業系統幾十年來最雄心勃勃的變革之一。雖然它承諾帶來強大的自動化功能，但目前的實現方式也帶來了大多數用戶尚未準備好應對的安全和隱私風險。

如果你在「設定」應用程式中看到新的「實驗性代理功能」開關，你可能會想，開啟它是否真的能帶來便利。簡而言之，答案是否定的。至少目前還不值得。微軟本身也無法保證其安全性，而且該公司表示，安全並非“一次性功能”，而是一項“持續承諾”，這意味著一旦出現錯誤或問題，微軟會立即進行處理。

換句話說，目前對於一般使用者而言，啟用智慧體人工智慧所帶來的風險遠大於節省時間所帶來的好處。

能夠為你行事的AI，也能與你作對的AI。

在 Windows 11 中，最顯著的變化在於人工智慧不再侷限於產生答案。代理功能使系統能夠在作業系統的一個獨立會話（稱為「代理工作區」）中執行任務。這意味著，即使您在主桌面會話中繼續工作，代理程式也可以開啟應用程式、管理檔案並完成多步驟操作。

這固然強大，但也催生了一種新型攻擊。與聊天機器人不同，人工智慧代理可以修改你的系統。一旦出現問題（例如指令錯誤、用戶操作失誤或提示被篡改），後果將影響你的實際文件和應用程序，而不僅僅是對話窗口。

需要注意的是，代理工作區最初運行在獨立的系統會話中。但是，在未來的版本中，微軟計劃將代理工作區部署為輕量級且安全的虛擬環境，並賦予其獨立的權限和功能。

交叉提示注入是一個真正的威脅

微軟指出了一種名為「跨提示注入」的新型攻擊，這種攻擊利用隱藏在網頁、文件或應用程式介面中的文字劫持代理程式的指令流。惡意網站可以嵌入指令，悄無聲息地指示代理下載惡意軟體。由於代理人擁有執行系統操作的權限，因此這類攻擊比傳統的提示操縱更具潛在危害。

這並非理論上的風險，而是智能體系統中一個眾所周知的弱點，研究人員已經反覆證實了這一點。而Windows 11目前才剛開始著手解決這個問題。

代理人可以存取您的個人資料夾。

啟用功能後，代理帳戶將自動獲得「文件」、「下載」、「桌面」、「圖片」、「影片」和「音樂」資料夾中檔案的讀寫權限。

這對於代理人完成任務至關重要，但也意味著代理人的任何錯誤、誤解或指示洩露都可能影響個人資料。誤將文件整理到錯誤的資料夾是一回事，誤刪除或移動大量文件則是另一回事。

許多用戶還沒有做好準備來應對人工智慧自主處理本地數據所帶來的後果。

幻覺會演變成系統層面的錯誤。

人工智慧模型仍然會出現幻覺並誤解指令。通常情況下，這無害，但如果啟用了自主行動功能，幻覺可能會導致運行錯誤的應用程式、無意中修改或刪除檔案、訪問不安全的網站，或在工作流程中執行錯誤步驟。

當人工智慧獲得作業系統物理控制權時，即使是微小的錯誤也可能造成重大後果。

即使你忘記了，它也會一直在後台運行。

目前，在這個首個預覽版中，存在一些已知問題。例如，如果「副駕駛操作」功能處於啟動狀態，系統可能會拒絕進入睡眠狀態或關機。您甚至可能會看到“其他人仍在使用此電腦”的警告。

代理程式在後台持續運行，且不會引起明顯的可見性，這可能會導致混亂、更新停滯，或者進程在用戶認為已經停止後仍然持續很長時間。

你的設備會在你不知不覺中變成多用戶系統。

Windows 11 上的智能體人工智慧是一個令人興奮的概念。它代表著一個未來：電腦可以自動執行日常任務，簡化工作流程，並更像是智慧助理而非被動設備。然而，就目前而言，該功能尚未完善，仍處於實驗階段，安全防護薄弱，容易受到新型攻擊。

這種組合不適合安裝在主力個人電腦上。

結論

如果您是開發人員、安全研究人員，或是有意嘗試人工智慧尖端技術的人員，那麼在受控環境下啟用智慧體功能或許值得一試。如果您是普通用戶，尤其是那些在電腦上儲存個人或工作文件的用戶，建議關閉此功能。

風險真實存在，保護措施尚不成熟，效益仍有限。 Windows 11 正在為未來強大的自動化層奠定基礎，但目前這項技術還需要更多時間才能開放給一般使用者。