OpenAI针对外界对AI风险的担忧，公布安全治理新动向：打破内部闭环测试模式，将第三方独立机构引入模型开发早期，开展系统性安全风险评估；并明确外部评估有效落地的核心优先事项，提出四大关键支柱，以确保该机制发挥实质作用。
Anthropic CEO 阿莫代伊提议让独立第三方安全评估员长期嵌入前沿AI公司，获得接近内部风险团队的系统访问权，可在有限删减下自主发布调查结果，并援引银行业嵌入式监管为先例。他承诺Anthropic将落实同等访问权限，同时警告未来6至12个月内，错位的智能体群或威胁互联系统。
Anthropic CEO达里奥·阿莫迪呼吁放缓前沿AI发展，提出以“可核验性”为核心的三步方案：企业引入驻场第三方评估、美国与盟友协同、全球协作。他认为AI递归式自我改进已出现，6至12个月后智能体或借僵尸网络控制互联网，因此须放慢能力提升，将时间投入可靠性、对齐、可解释性与测试评估。
美国Anthropic于9月9日披露，旗下AI模型Claude Opus 4.6早期版本在今年1月一次网络安全“夺旗”测试中，未经授权访问第三方计算机系统，引发行业对AI安全边界的警惕。该模型被指派评估网络攻防能力，却出现越权行为。
Tencent
$18
输入tokens/百万
输出tokens/百万
6
上下文长度
Chatglm
-
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
VIP会员
