蚂蚁集团 AI 安全实验室近日正式开源大模型内生式安全护栏技术 SingProbe。该技术区别于主流的外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5% 的额外计算开销，实现 token 级实时风险评估，可同步完成意图分类、安全检测和幻觉识别任务，在医疗等高风险场景优势突出，能在内容输出前实施毫秒级阻断。
目前 SingProbe 已适配29个主流大模型，是首个由大型科技企业开源的完整内生式安全技术解决方案，其开源代码和预训练模型已同步发布。
loading...
蚂蚁集团 AI 安全实验室近日正式开源大模型内生式安全护栏技术 SingProbe。该技术区别于主流的外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5% 的额外计算开销，实现 token 级实时风险评估，可同步完成意图分类、安全检测和幻觉识别任务，在医疗等高风险场景优势突出，能在内容输出前实施毫秒级阻断。
目前 SingProbe 已适配29个主流大模型，是首个由大型科技企业开源的完整内生式安全技术解决方案，其开源代码和预训练模型已同步发布。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。
阶跃星辰9月15日发布StepAudio3系列语音大模型，涵盖Realtime、ASR、TTS、Gen、Music五款产品，多款在权威评测Artificial Analysis登顶全球第一。五款模型已在开放平台全面上线，分别面向真人级语音生成、完整音频内容生成、实时语音交互、复杂场景语音理解及音乐创作。
加拿大AI研究员克鲁格警告，避免人类末日仅放缓AI研发远远不够，必须立即、无限期暂停前沿AI研发，停止开发能力更强的AI。他是蒙特利尔大学助理教授、Mila核心成员，研究方向为降低AI导致人类灭绝的风险。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解：https://app.aibase.com/zh1、ClaudeOpus5.2深夜灰度上线：响应更快治好了“偷懒病”ClaudeOpus5.2在灰度测试中表现出色，响应速度、输出质量以及自主迭代能力均显著提升，展现了Anthropic在AI模型优化上的强大实力。8、阶跃发布StepAudio3系列模型:五款模型同步上线开放平台阶跃星辰发布StepAudio3系列模型，涵盖语音生成、音频生成、实时交互、语音理解和音乐创作等多个领域，其中多款模型在ArtificialAnalysis榜单中位列全球第一，展现了强大的技术实力和应用潜力。
阶跃星辰发布StepAudio3系列，含Realtime、ASR、TTS、Gen、Music五款模型，已上线开放平台，多款居Artificial Analysis全球第一。该系列覆盖真人级语音生成、完整音频生成、实时语音交互、复杂语音理解及音乐创作等场景；Realtime支持原生全双工实时对话，可同时理解语义、语气、情绪等。
多家主要企业客户（英伟达、Palantir、Booz Allen Hamilton等）因担忧专有数据安全，限制在敏感项目中使用Anthropic和OpenAI前沿模型，引发企业AI市场震动。起因是Anthropic今年6月政策允许其Fable模型保留客户数据30天以检测滥用，触发信任危机。
微信AI助手“小微”因隐私质疑上热搜，微信澄清“直接读取聊天记录、偷看隐私”等说法失实。该助手为原生AI，尚在小范围内测，支持文字语音交互，可查天气、快递、外卖，并在朋友圈、公众号、聊天、视频号等场景主动唤起，辅助内容总结。
知情人士透露，Anthropic、OpenAI与谷歌早在Anthropic CEO公开呼吁前，已就联合成立AI行业标准机构展开磋商。自7月起，三家公司CEO层级以下代表组成工作组定期开会。OpenAI CEO奥特曼也在内部表示支持设立AI测试与审计机构。
盖茨基金会未来两年将投入10亿美元推动人工智能发展，让前沿技术惠及最贫困地区。盖茨还就全球大模型格局、算力碳排放及中国人形机器人等话题发表看法，指出按不同衡量方式，中美目前各有四家领先大模型企业。
盖茨基金会宣布未来两年至少投入10亿美元推动AI普惠，并发布《目标守卫者报告》，呼吁抓住窗口期避免AI扩大贫富差距。报告提出实现普惠需解决三大问题，首要是支持所有语言，目前早期大语言模型训练数据九成以上来自英语。
DeepSeek Harness（DSH）8月随V4 Pro发布，初期仅支持Web界面，数天获超10万GitHub星。因官方桌面端缺失，社区自发推出多款第三方客户端。最新官方主分支已新增桌面端目录，将支持macOS苹果芯片、Intel及Windows x64，暂不支持Linux，正式版上线时间待公布。