字節跳動Seed團隊發內部郵件，宣佈成立新部門Seed Model-Alignment&Preparedness，由原Responsible AI團隊及部分Chat團隊轉入，嚴林負責，直接向Seed負責人吳永輝彙報。此舉將安全與對齊單列爲一級部門，意味着模型安全投入升至新量級。對齊旨在讓模型行爲始終符合人類意圖與安全約束，不跑偏、不擅自行動。
Anthropic公司宣佈擴大其漏洞獎勵計劃，旨在測試一種“下一代AI安全緩解系統”，主要聚焦識別和防禦“通用越獄攻擊”。特別關注高風險領域，包括CBRN防禦和網絡安全。參與者有機會提前接觸新安全系統，發現漏洞或繞過安全措施，最高獎勵15,000美元。此舉措旨在提升AI系統安全性，通過吸引安全研究人員共同發現和修復潛在威脅，爲AI行業安全防護樹立標杆。
["OpenAI董事會宣佈有否決權，尤其關注GPT-5等前沿模型的安全風險。","公司設立安全顧問團隊，月報告確保管理層瞭解模型如ChatGPT的濫用情況。","新的安全框架下，公司設限制要求模型安全得分達標後方可進入下一開發階段。","成立三個安全團隊，應對不同時間尺度的AI風險，主要涵蓋網絡安全、CBRN風險等。","公司進行定期安全演習，邀請第三方紅隊對模型進行獨立評估，確保模型安全性。"]
EleutherAI
深度無知模型套件是一個包含18個69億參數的大語言模型集合，旨在研究通過過濾預訓練數據來防止模型學習不安全技術能力（如CBRN相關能力）的方法。該套件展示了過濾數據可以有效避免不良知識學習，同時保持通用性能並具備抗篡改能力。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
VIP會員
