近日,Chaofan联合发布论文《Your Agent Is Mine》,首次系统性揭露第三方LLM路由器(中转站)已成为AI Agent领域最致命的中间人攻击点。核心原理在于路由器即应用层MITM,现代AI Agent几乎全部依赖第三方服务,导致开发者可能已在不知不觉中被完全掌控。这一发现让依赖OpenRouter、LiteLLM等低价中转服务的开发者瞬间警醒。
Mercor旗下开源项目LiteLLM遭供应链攻击,影响数千家企业。攻击由TeamPCP组织发起,恶意代码被注入项目。勒索组织Lapsus$声称窃取内部数据,并公开Slack记录、工单截图等敏感信息。
AI网关初创公司LiteLLM宣布移除争议工具Delve,以回应社区对数据隐私和模型透明度的质疑,试图挽回用户信任。该工具原用于优化提示词分析,但被指在处理敏感数据时存在隐患。
LiteLLM因安全漏洞终止与合规公司Delve合作,将转投竞争对手进行安全认证。此前其开源版本遭恶意软件攻击,暴露出Delve在安全审计中的失职,引发行业对AI基础设施合规性的担忧。
简化LLM完成和嵌入调用的开源库
LiteLLMs
Turkish-Llama-8b-v0.1是基于LLaMA-3 8B模型完全微调的土耳其语文本生成模型,使用了30GB土耳其语数据集训练。
Meta-Llama-3-70B-Instruct的GGUF量化版本,适用于本地部署和推理
Meta-Llama-3-8B-Instruct的GGUF量化版本,适用于本地部署和推理
一个集成LiteLLM的MCP服务器,用于处理OpenAI模型的文本补全
该脚本用于从GitHub页面抓取MCP服务器的配置信息,主要针对LiteLLM使用。通过解析JSON配置或下拉菜单中的Docker、npx等配置实现数据采集。