近日,Chaofan聯合發佈論文《Your Agent Is Mine》,首次系統性揭露第三方LLM路由器(中轉站)已成爲AI Agent領域最致命的中間人攻擊點。核心原理在於路由器即應用層MITM,現代AI Agent幾乎全部依賴第三方服務,導致開發者可能已在不知不覺中被完全掌控。這一發現讓依賴OpenRouter、LiteLLM等低價中轉服務的開發者瞬間警醒。
Mercor旗下開源項目LiteLLM遭供應鏈攻擊,影響數千家企業。攻擊由TeamPCP組織發起,惡意代碼被注入項目。勒索組織Lapsus$聲稱竊取內部數據,並公開Slack記錄、工單截圖等敏感信息。
AI網關初創公司LiteLLM宣佈移除爭議工具Delve,以迴應社區對數據隱私和模型透明度的質疑,試圖挽回用戶信任。該工具原用於優化提示詞分析,但被指在處理敏感數據時存在隱患。
LiteLLM因安全漏洞終止與合規公司Delve合作,將轉投競爭對手進行安全認證。此前其開源版本遭惡意軟件攻擊,暴露出Delve在安全審計中的失職,引發行業對AI基礎設施合規性的擔憂。
簡化LLM完成和嵌入調用的開源庫
LiteLLMs
Turkish-Llama-8b-v0.1是基於LLaMA-3 8B模型完全微調的土耳其語文本生成模型,使用了30GB土耳其語數據集訓練。
Meta-Llama-3-70B-Instruct的GGUF量化版本,適用於本地部署和推理
Meta-Llama-3-8B-Instruct的GGUF量化版本,適用於本地部署和推理
一個集成LiteLLM的MCP服務器,用於處理OpenAI模型的文本補全
該腳本用於從GitHub頁面抓取MCP服務器的配置信息,主要針對LiteLLM使用。通過解析JSON配置或下拉菜單中的Docker、npx等配置實現數據採集。