電玩/軟體 Windows 11 啟用 Agentic 代理 AI 實驗功能, 但可能出現幻覺、安全風險

soothepain

full loading
已加入
9/17/03
訊息
22,395
互動分數
1,983
點數
113
網站
www.coolaler.com
微軟近期在 Windows 11 中加入 Agentic 體驗,讓 AI 代理能在系統中自動執行任務,例如整理檔案、操作應用程式、讀寫資料等。不過,這些功能仍處於實驗階段,微軟也明確提醒使用者:代理模型可能會出現幻覺、執行非預期動作,並伴隨新的安全風險。幻覺簡單說就是亂做事。

w11_agentic_1.jpg


在 Windows 11 Build 26220.7262 中,設定頁面加入了新的 Experimental agentic features 選項(位於 系統 > AI Components)。此功能預設關閉,需由系統管理員手動啟用。一旦開啟,Windows 會立即跳出警告,明確指出這些功能仍在實驗中,可能對裝置造成影響。

w11_agentic_2.jpg


啟用後,系統會建立一個 Agent Workspace 代理在其中以獨立帳號執行任務,與使用者帳號完全分離。代理擁有自己的執行環境與桌面 Session,並只在使用者授權後存取特定資料。Windows 指出,所有代理動作都會留下可稽核記錄,以便後續檢視。然而,這種架構同時讓代理具備持續運作能力,能在背景長期操作檔案,也因此擴大了攻擊面。

目前微軟警告的最大風險來自 跨提示注入(Cross-Prompt Injection,XPIA) 。攻擊者可將惡意指令藏在一般文件、文字框或 UI 元素中,而代理在執行任務時可能會誤讀這些內容,進而:
  • 執行被篡改的指令
  • 安裝不明程式
  • 洩露敏感資料如付款資訊
  • 下載惡意檔案
即使代理透過獨立帳號執行,且遵循最低權限原則,預設仍能讀寫使用者的常用資料夾:Documents、Downloads、Desktop、Pictures、Videos、Music。微軟表示未來將加入更細緻的權限控管與更完整的防注入機制,但目前仍有多項限制與風險。

值得注意的是,相關代理功能也已陸續用於 Copilot Labs 中的 Copilot Actions 。這讓 Copilot 能直接操作使用者電腦,但也代表更高的安全要求。微軟已強調,代理功能的安全性會採持續演進方式更新,並將在正式推廣前提升透明度、權限可控度與審核能力。

目前 Insider 用戶在使用 Build 26220.7262 時,也可能遇到以下問題:
  • Copilot 仍在運作時,Windows 可能無法進入睡眠
  • 關機時可能出現 其他使用者仍在使用這台 PC 警告
  • 企業環境中,代理帳號可能留下 Intune 管理設定檔,無法正常清除

微軟已知曉相關 Bug,並承諾後續將修正。

整體來看,Agentic 功能是微軟下一階段的 AI 介面核心,但目前仍處於高風險、高變動、以測試與收集回饋為主的階段。若你不需要讓 AI 幫忙背景操作你的 PC,建議暫時維持關閉,待安全機制更成熟後再評估啟用。