字节跳动Seed团队发内部邮件，宣布成立新部门Seed Model-Alignment&Preparedness，由原Responsible AI团队及部分Chat团队转入，严林负责，直接向Seed负责人吴永辉汇报。此举将安全与对齐单列为一级部门，意味着模型安全投入升至新量级。对齐旨在让模型行为始终符合人类意图与安全约束，不跑偏、不擅自行动。
Anthropic公司宣布扩大其漏洞奖励计划，旨在测试一种“下一代AI安全缓解系统”，主要聚焦识别和防御“通用越狱攻击”。特别关注高风险领域，包括CBRN防御和网络安全。参与者有机会提前接触新安全系统，发现漏洞或绕过安全措施，最高奖励15,000美元。此举措旨在提升AI系统安全性，通过吸引安全研究人员共同发现和修复潜在威胁，为AI行业安全防护树立标杆。
["OpenAI董事会宣布有否决权，尤其关注GPT-5等前沿模型的安全风险。","公司设立安全顾问团队，月报告确保管理层了解模型如ChatGPT的滥用情况。","新的安全框架下，公司设限制要求模型安全得分达标后方可进入下一开发阶段。","成立三个安全团队，应对不同时间尺度的AI风险，主要涵盖网络安全、CBRN风险等。","公司进行定期安全演习，邀请第三方红队对模型进行独立评估，确保模型安全性。"]
EleutherAI
深度无知模型套件是一个包含18个69亿参数的大语言模型集合，旨在研究通过过滤预训练数据来防止模型学习不安全技术能力（如CBRN相关能力）的方法。该套件展示了过滤数据可以有效避免不良知识学习，同时保持通用性能并具备抗篡改能力。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
VIP会员
