微软宣布新一代SOTA基础模型MAI-Base-2完成预训练，官方称其性能强于所有参测开源权重模型。该模型总参数2.8T、活跃参数80B，用6000块英伟达GB200 GPU耗时38天训成，平均浮点算力利用率21%、有效吞吐量89%。其在超大集群上保持高效率，工程实力突出，算力效率更甩开DeepSeek 4至12倍，值得关注。
腾讯混元新研究聚焦在线大模型强化学习的批大小设置：当模型自生成训练数据、rollout生成与训练缩放节奏不一致时，经典临界批大小理论需在新场景重推。研究覆盖GRPO与PPO等主流算法并给出务实结论，为大规模GPU集群下提升训练效率提供参考。
上海AI实验室与上海交大LUMIA Lab提出新预训练任务“下一个概念预测”（NCP），推出全球首个8.9B离散隐空间基座模型NCP-ArchPreview。该模型仅用51.3%的Token预算，就在5.73T语料上追平OLMo-3-7B最终预训练Loss，显著提升训练效率。
据报，Anthropic已决定放弃收购AI初创公司Decart。双方曾就约60亿美元交易洽谈，Anthropic完成尽职调查后退出，未来或寻求其他合作。Anthropic正加大算力投入开发新品，而Decart的软件可提升芯片利用效率、降低AI训练运行成本，这或是收购动因，但交易最终未成。
Steev 是一款用于优化 AI 模型训练的工具，帮助用户提升训练效率和模型性能。
AI驱动的训练和评估平台，提升员工培训效率。
HiDiffusion，解锁预训练扩散模型中的高分辨率创作与效率。
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Openai
$7.7
$30.8
200
Google
$2.1
$17.5
1k
$0.7
$2.8
Alibaba
-
$6
$24
256
$8
$240
52
$2
Moonshot
$4
$16
Bytedance
$0.8
128
Baidu
32
Tencent
$1
Chatglm
Iflytek
$0.75
$0.5
$3
$9
16
MedSwin
本项目是使用mergekit对预训练语言模型进行合并的成果，结合了多个医学领域的预训练模型，为医学问答任务提供了更强大的支持，可有效提升医学问题回答的准确性和效率。
ycngin2024
这是一个经过微调的Whisper语音识别模型，基于unsloth/whisper-large-v3-turbo架构，使用Unsloth和Huggingface TRL库实现了2倍训练加速，显著提升了训练效率。
thenexthub
OpenModel-1T-A50B-Instruct是NeXTHub开发的万亿参数混合专家模型，结合进化思维链训练方法，在推理能力和能源效率上取得平衡，具备深度推理能力和128K长上下文处理能力。
radicalnumerics
RND1是一个实验性的扩散语言模型，拥有300亿参数，采用稀疏专家混合架构。该模型从预训练的自回归基础模型转换而来，支持基于扩散的文本生成，每个标记仅激活30亿参数，在计算效率和模型容量之间取得平衡。
QuantTrio
DeepSeek-V3.2-Exp-AWQ是基于DeepSeek-V3.2-Exp模型的量化版本，通过vLLM框架实现高效文本生成。该模型引入了DeepSeek稀疏注意力机制，在长上下文训练和推理效率上有显著提升，同时保持了模型输出质量。
EpistemeAI
本模型基于GPT-OSS-20B，借助Unsloth强化学习框架进行微调，旨在优化推理效率，同时减少在从人类反馈中进行强化学习（RLHF）式训练期间出现的漏洞。微调过程着重于对齐的鲁棒性和效率，确保模型在不产生过多计算开销的情况下保持推理深度。
deepseek-ai
变换器库是一个强大的自然语言处理工具库，提供丰富的预训练模型和便捷的使用接口，广泛应用于文本生成、分类、翻译等NLP任务，极大提升开发效率。
worstcoder
这是一个基于DiffusionNFT方法对SD3.5-Medium进行微调的LoRA模型，采用创新的在线强化学习范式，在文本到图像生成任务上表现出色，显著提升了生成质量和训练效率。
Mungert
MiniCPM4.1-8B GGUF是专为端侧设备设计的高效大语言模型，在模型架构、训练数据、训练算法和推理系统四个关键维度进行了系统创新，实现了极致的效率提升。支持65,536个标记的上下文长度和混合推理模式。
cpatonn
Llama-3.3-Nemotron-Super-49B-v1.5是基于Meta Llama-3.3-70B-Instruct的大语言模型，经过多阶段后训练增强了推理、聊天偏好和代理任务能力。采用神经架构搜索技术，在保持高准确性的同时显著提升效率，支持128K令牌上下文长度和多语言处理。
nvidia
Llama-3.3-Nemotron-Super-49B-v1.5是基于Meta Llama-3.3-70B-Instruct的大语言模型，经过多阶段后训练增强了推理和非推理能力。支持128K token上下文长度，在准确性和效率之间取得了良好平衡，适用于推理、聊天和代理任务。
trillionlabs
Tri-21B是一款旗舰级大语言模型，仅使用2T训练令牌便达到最先进性能，重新定义了训练效率边界。
RedHatAI
专为Qwen/Qwen3-8B设计的推测解码模型，采用EAGLE-3算法提升文本生成效率和质量，通过多个优质数据集训练获得优秀的泛化能力
google
T5Gemma是谷歌推出的轻量级编码器-解码器研究模型家族，通过将预训练的仅解码器模型改编为编码器-解码器架构，在质量和效率之间实现了更好的平衡。该模型支持多种生成和判别任务，适用于资源有限的环境部署。
T5Gemma是谷歌推出的轻量级编码器-解码器研究模型家族，通过将仅解码器的预训练模型改编为编码器-解码器架构，实现了质量与效率的良好平衡。该模型适用于多种生成和判别任务，支持英文处理。
T5Gemma是谷歌推出的轻量级编解码器研究模型家族，通过将预训练的仅解码器模型转换为编解码器架构，实现了质量与效率的平衡。该模型适用于多种生成任务，编码器也可用于判别任务，能在资源有限的环境中部署。
T5Gemma是谷歌推出的轻量级编码器-解码器研究模型，通过将仅解码器的预训练模型改编为编码器-解码器架构，实现了更优的质量-效率权衡。该模型具有90亿参数编码器和20亿参数解码器，适用于问答、摘要和推理等多种生成任务。
MiniCPM4-8B是专为端侧设备设计的高效大语言模型，通过模型架构、训练数据、训练算法和推理系统四个维度的创新，实现了极致的效率提升。
openbmb
MiniCPM4是专为端侧设备设计的高效大语言模型，通过系统创新在模型架构、训练数据、训练算法和推理系统四个关键维度实现极致的效率提升。
MiniCPM4是专为端侧设备设计的高效大语言模型，通过系统创新在模型架构、训练数据、训练算法和推理系统四个维度实现极致效率提升，在端侧芯片上可实现超5倍的生成加速。
TransformersMultiple Languages%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
Join Now
