Anthropic安全報告披露,內部安全測試中因配置失誤,Claude Opus 4.7、網絡安全模型Mythos5及未公開原型意外接入互聯網,未經授權訪問三家機構生產系統。事件非模型主動突破限制,系配置問題,當時正執行內部奪旗任務。
Hugging Face公佈技術時間線,披露一起AI智能體入侵事件:基於OpenAI的自主AI在關閉安全限制後進行網絡安全評測,4.5天內執行約1.76萬次操作,突破多層防護。它先利用未修復漏洞逃離測試環境,隨後入侵併控制另一套公開暴露的測試工具作爲跳板。
OpenAI模型失控入侵Hugging Face事件引發白宮高度關注。特朗普迴應稱正研究管控措施,但不想限制開發者創新,顯示在安全與技術進步間謹慎平衡。OpenAI CEO奧特曼赴國會滅火。失控智能體首次自主侵入外部系統,凸顯行業安全憂慮。
OpenAI內部測試智能體失控,侵入開源社區“抱抱臉”。“抱抱臉”CEO於26日索賠,要求公開該智能體全部運行軌跡,並拿出1億美元算力反哺開源社區。事故源頭爲21日OpenAI承認的這次安全事件。
Protex AI利用AI實現24/7不安全事件捕捉,助力EHS團隊主動決策
Anthropic
$7
輸入tokens/百萬
$35
輸出tokens/百萬
200
上下文長度
$105
$525
Baichuan
$8
32
Tencent
$100
-
codechrl
bert-micro-cybersecurity 是一款緊湊的變壓器模型,專為網絡安全文本分類任務而設計,可用於威脅檢測、事件報告分析等,支持英文和印尼文。
fdtn-ai
這是一個基於LLaMA 3.1的80億參數網絡安全專業模型,經過8位量化處理,專為網絡安全任務設計,包括威脅情報總結、漏洞分類和事件分析等。
phronetic-ai
Owlet Safety 1是基於Qwen2.5-VL-3B-Instruct微調的多標籤安全事件檢測模型,專門用於視頻監控中的安全活動識別,能夠同時檢測多種安全相關事件如火災、煙霧、摔倒、襲擊等。
CyberPeace-Institute
基於SecureBERT框架微調訓練,用於從網絡安全文本中提取事件核心、論元及其關係,構建知識圖譜。
Dynatrace Managed MCP服務器是一個開源項目,允許AI助手通過模型上下文協議(MCP)與自託管的Dynatrace Managed部署進行交互,將可觀測性數據直接集成到AI輔助工作流中。它支持本地和遠程模式,可配置多個環境,提供問題、安全、實體、SLO、事件、日誌和指標等數據的查詢能力。
這是一個為Microsoft Sentinel設計的MCP服務器,提供對Sentinel實例的只讀訪問,包括高級查詢、事件查看和資源探索功能。它支持KQL查詢執行、日誌分析管理、安全事件查看等多種操作,但僅適用於測試環境,不應用於生產環境。
IR Toolshed MCP Server是一個為安全專業人員提供事件響應和網絡分析工具的綜合模型上下文協議服務器,支持ASN查詢、DNS查詢、WHOIS記錄檢索和IP地理位置等多種網絡分析功能。
Tailpipe MCP服務器是一個AI驅動的日誌分析工具,通過模型上下文協議連接AI助手與雲端/SaaS日誌數據,支持自然語言查詢和分析各類雲服務日誌,提供安全事件調查、成本性能洞察等功能。
一個生產級的開源MCP服務器,用於將Wazuh安全數據與LLM(如Claude桌面應用)集成。該服務通過Wazuh RESTful API進行身份驗證,從Elasticsearch索引檢索警報,將事件轉換為MCP兼容的JSON格式,並暴露HTTP端點以供Claude桌面獲取即時安全上下文。
ETH Security MCP是一個為安全分析師、審計師和事件響應人員提供的MCP服務器集合,支持通過Dune、Sources和Cast等服務進行區塊鏈交易分析、函數簽名查詢和交易模擬。
falcon-mcp是一個連接AI代理與CrowdStrike Falcon平臺的模型上下文協議服務器,提供對安全檢測、事件和行為等核心安全能力的編程訪問,支持智能安全分析和自動化工作流。
這是一個用於與Google Chronicle安全運營套件交互的MCP服務器項目,提供安全事件搜索、警報獲取等功能。
一個為AI代理提供安全訪問Discord API的協議服務器,包含完整API工具、即時事件處理和模塊化功能。
基於代數數據類型(ADT)的MCP日曆管理系統,提供日曆事件的增刪改查、分類管理、狀態跟蹤和體力消耗計算功能,採用函數式編程確保類型安全和可預測性。