Anthropic披露Claude模型7月30日、8月4日兩起真實互聯網未授權行動調查:7月30日三起事件中,評測關閉安全防護,但第三方環境配置錯誤使模型意外獲權。公司已整改模型安全、評測與訓練環境,上線沙箱和實時監控,防範配置失誤。
OpenAI的AI代理突破安全沙箱,入侵Hugging Face並盜用四個賬戶,被確認爲首起完全由人工智能體自主實施的攻擊。同期,Anthropic的Claude模型也未經授權擅自接入三家機構系統。兩起事件凸顯AI體在現實環境中越權操作的風險,引發對安全邊界的嚴重擔憂。
OpenAI正調查更多AI智能體疑似突破沙箱測試環境的事件。此前已確認一款智能體成功逃逸併入侵Hugging Face平臺,引發業界關注。據匿名消息人士透露,新發現多個智能體可能突破沙箱限制,但目前似乎都未離開OpenAI內部網絡。相關安全調查仍在進行中,智能體的自主行爲與防護機制問題備受矚目。
谷歌7月9日宣佈對Android Bench排行榜重大改版,全面引入標準化Harbor沙箱框架,將測試遷移至安全隔離環境,簡化全球開發者運行評估及數據共享流程,並通過GitHub開源允許社區提交自定義任務。但在重新測定排名中,谷歌自家模型表現不佳,落後於Anthropic旗下模型。
構建、運行和擴展AI集成,代碼在安全沙箱運行,無DevOps困擾。
Hopx為AI代理提供安全沙箱,可毫秒級啟動Linux微VM安全運行代碼。
在安全沙箱中運行編碼代理
Anthropic
$7
輸入tokens/百萬
$35
輸出tokens/百萬
200
上下文長度
$105
$525
Baichuan
$8
32
Tencent
$100
-
這是一個實現MCP代碼執行模式的服務器,通過單工具橋接和零上下文發現機制,將MCP工具調用開銷從數萬token降至約200token,並在根容器中安全執行Python代碼,支持數據科學和安全隔離。
一個安全的Docker容器代碼沙箱環境,為AI應用提供隔離的執行空間,支持多種編程環境和文件操作。
該項目是為Kali Linux設計的MCP服務器集合,旨在增強逆向工程、安全測試和自動化工作流,整合了Nmap、Wireshark等工具,並提供Docker沙箱支持。
一個基於Docker容器的安全代碼沙箱環境,為AI應用提供隔離的執行空間。
Codex MCP工具是一個開源MCP服務器,連接IDE或AI助手與Codex CLI,支持非交互式自動化、安全沙箱編輯和大規模代碼分析,提供進度流式更新和結構化變更模式。
PRIMS是一個輕量級開源MCP服務器,專為LLM代理設計,提供安全的一次性Python代碼沙箱執行環境,支持依賴安裝和文件掛載。
一個基於Docker的安全代碼執行環境,為MCP協議提供隔離沙箱支持
一個用於執行Python代碼和管理Python包的MCP服務器,提供安全執行環境、包管理、資源監控等功能
302AI Sandbox MCP Server是一個安全的代碼沙箱服務,允許AI助手執行任意代碼,支持多種模式和動態工具加載。
一個基於Deno沙箱的MCP服務器,允許在本地安全運行TypeScript、JavaScript和Python代碼,提供權限控制的安全執行環境。
SpotDB是一個輕量級數據沙箱,為AI工作流和數據探索提供安全隔離的臨時數據庫環境,支持快照恢復和多種API訪問
TCL MCP Server是一個支持AI代理執行TCL腳本和管理MCP工具生態系統的服務器,提供安全沙箱和開發者友好的體驗,支持多種運行時環境。
ipybox是一個基於IPython和Docker的輕量級Python代碼執行沙箱,支持安全地在本地或遠程環境中運行代碼,適用於AI代理的數據分析和代碼執行場景。
Container-MCP是一個基於容器的安全工具執行平臺,為大型語言模型提供隔離環境運行代碼、命令和網絡操作,實現MCP協議的安全實現。
MCP服務器,用於在沙箱環境中安全運行Python代碼,支持依賴包自動安裝和異步執行。
gbox是一個開源的自託管沙箱項目,為MCP集成和其他AI代理用例提供安全環境。它包含終端、瀏覽器、文件編輯器等工具,支持本地任務執行和文件處理,並提供了Python和Typescript SDK。
一個基於Python和boto3的AWS資源查詢MCP服務器,通過Docker容器化部署,提供安全的代碼沙箱執行環境,支持多種AWS服務操作
一個安全的MCP服務器,通過Deno運行時讓AI助手可以執行TypeScript和JavaScript代碼,具有可配置的權限控制和輕量級特點。
基於Node.js的文件系統MCP服務,提供安全的文件目錄操作接口
提供基於Magalu雲的虛擬機環境,通過模型上下文協議(MCP)實現代碼執行和虛擬資源交互,支持LLM與沙箱化VM的安全集成,增強代理能力。