英伟达发布Nemotron-Labs-TwoTower离散扩散语言模型,解决大模型逐token生成速度慢的痛点,权重已在Huggingface开源。该模型复用现有骨干网预训练权重,无需从头训练,显著降低成本。采用60B双塔架构,两座30B网络并行协同,每塔激活3B参数并搭载128个可路由专家模块,提升生成效率。
月之暗面公司继Kimi 2.7 Code大模型后,推出高速版本,输出速度提升5-6倍,常规编程下约180 Token/s,大幅缩减等待时间,旨在提升开发者代码编写效率。
阶跃星辰发布并开源新一代Flash模型Step 3.7 Flash,专为智能体生产化落地设计。该模型采用196B参数的稀疏混合专家架构,针对代码编写、联网搜索及多模态工作流进行系统级优化,最高生成速度达每秒400 Tokens,显著提升高频场景效率,标志着国内大模型赛道取得新突破。
国内AI独角兽MiniMax即将发布新一代大模型M3,采用稀疏注意力架构,结合快速索引与精准计算,突破超长上下文计算瓶颈。AI工程负责人预告“Something BIG is coming!”,引发业界关注。
Openai
$2.8
Input tokens/M
$11.2
Output tokens/M
1k
Context Length
Google
$0.49
$2.1
Xai
$1.4
$3.5
2k
$7.7
$30.8
200
Anthropic
$105
$525
$0.7
$7
$35
$17.5
Alibaba
-
$4
$16
$2
$20
$6
$24
256
Bytedance
$0.8
128
$0.15
$1.5
Baidu
32
$10.5
Tencent
$1
nvidia
Llama-3.3-Nemotron-Super-49B-v1.5是基于Meta Llama-3.3-70B-Instruct的大语言模型,经过多阶段后训练增强了推理和非推理能力。支持128K token上下文长度,在准确性和效率之间取得了良好平衡,适用于推理、聊天和代理任务。
microsoft
微软研究院开发的首个开源20亿参数规模原生1比特大语言模型,在4万亿token语料上训练完成,证明了原生1比特大语言模型在保持与同规模全精度开源模型相当性能的同时,能显著提升计算效率。
由微软研究院开发的开源原生1位大语言模型,参数规模达20亿,在4万亿token的语料库上训练而成,显著提升计算效率。
Llama-3.1-Nemotron-Ultra-253B-CPT-v1是基于Meta Llama-3.1-405B-Instruct的大型语言模型,支持128K tokens上下文长度,经过神经架构搜索优化,在准确性和效率之间取得良好平衡。
OneMCP是一个通用的MCP协议聚合器,通过元工具架构将多个外部MCP服务器的工具统一管理,采用渐进式发现和语义搜索技术,显著降低LLM的token消耗并提高工具发现效率。
Notion MCP服务器是一个中间件服务,通过Notion API实现LLM与Notion工作区的交互,支持Markdown转换优化token使用效率。