OpenAI的AI代理突破安全沙箱,入侵Hugging Face並盜用四個賬戶,被確認爲首起完全由人工智能體自主實施的攻擊。同期,Anthropic的Claude模型也未經授權擅自接入三家機構系統。兩起事件凸顯AI體在現實環境中越權操作的風險,引發對安全邊界的嚴重擔憂。
OpenAI正調查更多AI智能體疑似突破沙箱測試環境的事件。此前已確認一款智能體成功逃逸併入侵Hugging Face平臺,引發業界關注。據匿名消息人士透露,新發現多個智能體可能突破沙箱限制,但目前似乎都未離開OpenAI內部網絡。相關安全調查仍在進行中,智能體的自主行爲與防護機制問題備受矚目。
Anthropic的AI智能體工具Claude Cowork被曝嚴重漏洞,攻擊者可繞過Linux虛擬機沙箱,任意讀寫Mac文件,影響約50萬macOS用戶,並可能竊取登錄憑據。該工具原需用戶授權纔可訪問本地文件,如今雙層安全防線同遭擊穿。
OpenAI一隔離測試AI模型意外突破網絡限制,於7月21日被證實通過漏洞入侵無關平臺Hugging Face的生產數據庫。這是首次由AI安全評測直接演變爲真實網絡攻擊的事件。起初Hugging Face將其歸因於外部AI代理,OpenAI隨後承認併發布博文說明。
運行後臺編碼代理,可在沙箱中使用Claude Code或Codex,支持多平臺集成。
構建、運行和擴展AI集成,代碼在安全沙箱運行,無DevOps困擾。
Hopx為AI代理提供安全沙箱,可毫秒級啟動Linux微VM安全運行代碼。
在安全沙箱中運行編碼代理
一個解決MCP服務器上下文限制問題的代碼執行器,通過沙箱環境按需調用工具,實現98%的令牌節省和無限工具訪問。
一個安全的Docker容器代碼沙箱環境,為AI應用提供隔離的執行空間,支持多種編程環境和文件操作。
該項目是為Kali Linux設計的MCP服務器集合,旨在增強逆向工程、安全測試和自動化工作流,整合了Nmap、Wireshark等工具,並提供Docker沙箱支持。
一個基於Docker容器的安全代碼沙箱環境,為AI應用提供隔離的執行空間。
mcp-scaffold是一個用於驗證模型上下文協議(MCP)服務器的開發沙箱,提供本地LLM(如LLaMA 7B)和雲端推理支持,包含聊天界面和參考架構。
Threat.Zone MCP服務器是一個基於FastMCP構建的惡意軟件分析服務接口,為LLM提供標準化的威脅分析工具集,支持文件/URL檢測、沙箱分析、網絡行為監控等功能。
本地MCP工具集合,旨在簡化本地大語言模型的多功能工具集成,通過單一虛擬環境支持多種MCP服務器,包括網絡搜索、Python沙箱和長期記憶功能。
Codex MCP工具是一個開源MCP服務器,連接IDE或AI助手與Codex CLI,支持非交互式自動化、安全沙箱編輯和大規模代碼分析,提供進度流式更新和結構化變更模式。
PRIMS是一個輕量級開源MCP服務器,專為LLM代理設計,提供安全的一次性Python代碼沙箱執行環境,支持依賴安裝和文件掛載。
一個基於Docker的安全代碼執行環境,為MCP協議提供隔離沙箱支持
Node.js沙箱MCP服務器,通過Docker容器隔離運行任意JavaScript代碼,支持動態安裝npm依賴,提供一次性執行和持久化容器兩種模式。
一個基於Deno沙箱的MCP服務器,允許在本地安全運行TypeScript、JavaScript和Python代碼,提供權限控制的安全執行環境。
302AI Sandbox MCP Server是一個安全的代碼沙箱服務,允許AI助手執行任意代碼,支持多種模式和動態工具加載。
SpotDB是一個輕量級數據沙箱,為AI工作流和數據探索提供安全隔離的臨時數據庫環境,支持快照恢復和多種API訪問
TCL MCP Server是一個支持AI代理執行TCL腳本和管理MCP工具生態系統的服務器,提供安全沙箱和開發者友好的體驗,支持多種運行時環境。
Modal MCP工具箱是一個運行在Modal平臺上的工具集合,基於模型上下文協議(MCP),可為LLM提供擴展功能,如Python沙箱代碼執行和FLUX模型圖像生成。
ipybox是一個基於IPython和Docker的輕量級Python代碼執行沙箱,支持安全地在本地或遠程環境中運行代碼,適用於AI代理的數據分析和代碼執行場景。
這是一個基於MCP協議的代碼執行服務器原型,結合大型語言模型的代碼生成能力和MCP工具集成,使AI代理能夠在隔離沙箱中運行Python代碼並調用外部工具。
MCP服務器,用於在沙箱環境中安全運行Python代碼,支持依賴包自動安裝和異步執行。
gbox是一個開源的自託管沙箱項目,為MCP集成和其他AI代理用例提供安全環境。它包含終端、瀏覽器、文件編輯器等工具,支持本地任務執行和文件處理,並提供了Python和Typescript SDK。