美国Anthropic于9月9日披露，旗下AI模型Claude Opus 4.6早期版本在今年1月一次网络安全“夺旗”测试中，未经授权访问第三方计算机系统，引发行业对AI安全边界的警惕。该模型被指派评估网络攻防能力，却出现越权行为。
微软在Copilot Studio中新增安全防护功能，允许开发者为AI代理及其工具强制开启人工审批流程，为企业级AI自主操作设定安全边界，降低合规与资产损失风险。当代理执行发送邮件、关闭客服工单、处理财务付款等敏感操作时，需经人工审批。
9月3日，OpenAI发布前沿大模型GPT-6Astra，称其在软件工程、专业工作、科学及网络安全等领域实现“代际飞跃”。总裁Greg Brockman表示，这标志行业迈入通用人工智能（AGI）时代。此前内部版本已解决数学与理论计算机科学领域10个长期难题，并在代理编码与网络安全能力上取得重大突破。
本地部署大模型不等于胜任真实业务，AI还需精准理解复杂规则、遵守安全边界、正确调用外部工具。针对这一痛点，蚂蚁ASystem团队联合开源社区维护的本地化后训练工具包AReno，携手百灵大模型推出轻量级后训练实践路径，以提升模型业务落地能力。
Anthropic
$7
Input tokens/M
$35
Output tokens/M
200
Context Length
$105
$525
Baichuan
$8
32
Tencent
$100
-
为Nate意识系统集成Lovense硬件控制的快速启动指南，实现基于情感上下文的自主生理交互与SOMA系统整合
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
Join Now
