同時,也將提升企業在微軟產品與服務中對AI模型及agent與企業資料互動的可視性。企業已能掌握AI模型大部分的外部活動,卻往往難以完整追溯從接收指令到產出結果之間的運作過程,也因此難以獨立驗證模型的行為。微軟董事長暨執行長Satya Nadella於 Microsoft Ignite 2026大會宣布,推出「AI Transparency Initiative」,進一步落實微軟對提升AI安全性的承諾。
微軟資安事業群執行副總裁Hayete Gallot表示:「要讓安全控管措施有效發揮作用,每個組織都需要更深入掌握AI模型本身的運作情況。透過這項倡議,我們將提升各類模型的透明度,這是強化安全防護、提升威脅遏止能力的重要一步,也有助於組織更有效地釐清責任歸屬並追溯AI行為。」企業正逐步將AI模型與資料、工具、存取憑證及基礎架構連結,交由agent自主採取行動,無須在每個執行步驟都取得人工核准。
現有的安全控管機制雖然能監測AI模型的多數外部活動,卻無法深入掌握模型內部的運作情況,也難以獨立驗證模型對自身行為的描述,使企業難以完整理解agent採取特定行動的背景與脈絡。
這類證據缺口可能帶來資安、法規遵循、稽核及責任歸屬等風險。面對能力日益提升的agent所衍生的內部威脅風險,資安團隊需要全新的信任架構加以因應。微軟指出,AI透明度倡議涵蓋三大方向。首先,推動開放且適用於全產業的共同標準。微軟將擴大參與美國國家標準暨技術研究院(National Institute of Standards and Technology,NIST)的 SI Agent Standards Initiative,並運用相關研究成果,研擬適用於全產業的 AI 透明度、安全性與治理開放標準。
其次,透過跨產業合作建立完整的AI生態系。微軟正與埃森哲(Accenture)、Adobe、KPMG、萬事達卡(Mastercard)、Volvo Cars等超過40家組織合作,共同制定開放標準,協助打造具備明確問責機制、可獨立驗證,且在設計階段即將安全納入考量的AI系統,且無論採用何種模型或供應商皆能適用。
第三,將相關標準整合至微軟產品與服務。微軟將把這項倡議的成果導入Microsoft AI、Microsoft Foundry及Microsoft Copilot,讓客戶能運用所產生的相關證據,搭配微軟或其他供應商提供的資安與合規工具,強化 AI 系統的管理與治理。
微軟表示,當agent能夠存取資料、工具及憑證時,其所帶來的風險與擁有特殊權限的內部人員相似,但agent能以機器的速度與規模執行任務,因此更需要獨立的監督機制。
此倡議旨在建立適用於不同AI模型與供應商的共同機制,涵蓋封閉式及開放權重模型。如此一來,即使開發團隊更換或更新agent所使用的模型,IT與資安團隊仍能維持安全治理能力,合規團隊也能持續稽核其的行為。除此之外,微軟認為,每個組織都應具備三項關鍵能力,掌握AI系統存取的資源與執行的行為、獨立驗證其操作,以及控管AI被允許執行的事項。
資料來源:MoneyDJ理財網
歡迎加入台視財經台粉絲團: