AWS 與 Intuit 研究團隊提出零信任安全框架,保護模型上下文協議免受工具中毒和未授權訪問
隨着人工智能(AI)系統愈加依賴實時與外部數據源和操作工具的交互,這些系統現在不僅需要進行動態操作,還需在不斷變化的環境中做出決策,並訪問實時信息流。爲了實現這些功能,AI 架構正逐漸演變爲採用標準化接口,以便連接模型與服務和數據集,促進無縫集成。其中,模型上下文協議(MCP)的引入,允許 AI 模型直接與雲平臺、開發環境和遠程工具進行交互,從而實現超越靜態提示的能力。然而,這種新能力帶來了顯著的安全隱患。當 AI 被賦予執行任務或基於來自各種外部來源的