OpenAI正加速研发下一代旗舰模型，但受安全对齐与测试基础设施影响，发布时间未定。《The Information》10月称，员工预计2026年底前推出一至两款新模型，旗舰升级是否包含尚不确定。新旗舰采用与Astra相同的“循环深度”循环Transformer技术，使模型在生成下一词元前多次循环运算。
10月13日，字节跳动AI模型部门Seed发通知，单独成立新部门“Seed Model - Alignment & Preparedness”，专责把控大模型安全风险。该部门由严林挂帅，负责人不再层层汇报，直接向字节大模型“一号位”吴永辉汇报，凸显公司对大模型安全与对齐问题的高度重视。
字节跳动Seed团队发内部邮件，宣布成立新部门Seed Model-Alignment&Preparedness，由原Responsible AI团队及部分Chat团队转入，严林负责，直接向Seed负责人吴永辉汇报。此举将安全与对齐单列为一级部门，意味着模型安全投入升至新量级。对齐旨在让模型行为始终符合人类意图与安全约束，不跑偏、不擅自行动。
字节跳动 Seed 成立“Seed Model-Alignment & Preparedness”部门，由严林负责，向吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员转入，强化模型安全与对齐投入。新部门重点提升智能体模型安全能力，防范化学、生物、放射及核等前沿风险，工作覆盖模型规范、安全评估与对齐训练。
Mindgard是攻击者对齐的AI安全平台，可发现、评估和红队测试AI系统。
Vokal是人类与智能体协作的操作层，可对齐请求、运行智能体并保存决策。
Patronus AI开发模拟研究和基础设施，加速迈向人类对齐的AGI。
Pixal3D是像素对齐AI 3D生成器，支持图转3D和文本生成动画
Baidu
-
Input tokens/M
Output tokens/M
Context Length
Stepfun
Chatglm
8
128
$100
TomoroAI
TomoroAI/tomoro-colqwen3-embed-4b是一款先进的ColPali风格多模态嵌入模型，能够将文本查询、视觉文档（如图像、PDF）或短视频映射为对齐的多向量嵌入。该模型结合了Qwen3-VL-4B-Instruct和Qwen3-Embedding-4B的优势，在ViDoRe基准测试中表现出色，同时显著减少了嵌入占用空间。
DevQuasar
这是NVIDIA基于Qwen3架构开发的32B参数奖励模型，专门用于强化学习中的奖励评分和原则对齐，帮助训练更安全、更符合人类价值观的AI系统。
Mungert
PokeeResearch-7B是由Pokee AI开发的70亿参数深度研究代理模型，结合了AI反馈强化学习（RLAIF）和强大的推理框架，能够在工具增强的大语言模型中实现可靠、对齐和可扩展的研究级推理，适用于复杂的多步骤研究工作流程。
valiantcat
Qwen-Image-Edit-MeiTu是基于Qwen-Image-Edit的改进版本，采用DiT架构微调，专注于提升复杂图像编辑中的视觉一致性、美学质量和结构对齐能力。
ashllay
基于Stable Diffusion XL，采用Inversion-DPO方法微调UNet权重，结合直接偏好优化（DPO）技术和反演方法，提升图像生成质量和对齐度的扩散模型
prithivMLmods
Qwen3-4B-SafeRL是Qwen3-4B模型的安全对齐版本，通过强化学习训练增强模型抵御有害或对抗性提示的鲁棒性。该版本采用混合奖励函数优化，平衡安全性、有用性和最小化不必要拒绝三个目标。
Jackrong
本项目通过创新的两阶段训练流程，将GPT的推理能力蒸馏到Llama-3.1-8B模型中。首先通过监督微调进行知识蒸馏和格式对齐，然后利用强化学习激励模型自主探索和优化推理策略，专注于数学推理领域的能力突破。
yujieouo
G²RPO是一种新颖的强化学习框架，专门用于流模型的偏好对齐，通过粒度化奖励评估机制显著提升生成质量
unsloth
Granite-4.0-H-Small是IBM开发的具有320亿参数的长上下文指令模型，基于Granite-4.0-H-Small-Base微调而成。该模型结合了开源指令数据集和内部合成数据集，采用监督微调、强化学习对齐和模型合并等技术，在指令遵循和工具调用能力方面有显著提升，特别适合企业级应用。
Granite-4.0-H-Micro是IBM开发的30亿参数长上下文指令模型，基于Granite-4.0-H-Micro-Base微调而来。该模型结合了开源指令数据集和内部合成数据集，采用监督微调、强化学习对齐和模型合并等技术开发，具备结构化的聊天格式，在指令遵循和工具调用能力方面表现优异。
Granite-4.0-H-Tiny是IBM开发的具有70亿参数的长上下文指令模型，基于Granite-4.0-H-Tiny-Base进行微调。该模型结合了开源指令数据集和内部合成数据集，采用监督微调、强化学习对齐和模型合并等技术开发，具备增强的指令跟随和工具调用能力，特别适用于企业级应用。
Granite-4.0-Micro是IBM开发的30亿参数长上下文指令模型，基于Granite-4.0-Micro-Base微调而来。该模型结合了开源指令数据集和内部合成数据集，采用监督微调、强化学习对齐和模型合并等技术开发，具备增强的指令遵循和工具调用能力，特别适用于企业级应用。
Granite-4.0-H-Small是IBM开发的具有320亿参数的长上下文指令模型，基于Granite-4.0-H-Small-Base微调而成。该模型结合了开源指令数据集和内部合成数据集，采用监督微调、强化学习对齐和模型合并等技术开发，在指令遵循和工具调用能力方面有显著提升。
Qwen
Qwen3-4B-SafeRL是基于Qwen3-4B模型的安全对齐版本，通过强化学习训练并结合Qwen3Guard-Gen的奖励信号，增强了模型对有害或对抗性提示的鲁棒性，在保证安全性的同时避免产生过于简单或回避性的拒绝行为。
EpistemeAI
本模型基于GPT-OSS-20B，借助Unsloth强化学习框架进行微调，旨在优化推理效率，同时减少在从人类反馈中进行强化学习（RLHF）式训练期间出现的漏洞。微调过程着重于对齐的鲁棒性和效率，确保模型在不产生过多计算开销的情况下保持推理深度。
tencent
SRPO是一种针对扩散模型的人类偏好对齐方法，通过Direct-Align技术和语义相对偏好优化，显著提升了FLUX.1-dev模型的真实感和美学质量，解决了多步去噪计算成本高和依赖离线奖励微调的问题。
NousResearch
Hermes 4 14B是由Nous Research基于Qwen 3 14B开发的前沿混合模式推理模型，在数学、代码、STEM、逻辑推理、创造力和格式保真输出等方面有显著提升，同时保持了通用助手的质量和广泛的中立对齐。
Qwen3-4B-Instruct-2507是阿里云推出的40亿参数大语言模型，基于Unsloth Dynamic 2.0量化技术，在通用能力、长尾知识覆盖、用户偏好对齐和长上下文理解等方面都有显著提升。
Qwen3-4B-Instruct-2507是Qwen3-4B非思考模式的更新版本，在通用能力、长尾知识覆盖、用户偏好对齐和长上下文理解等方面有显著提升。采用Unsloth Dynamic 2.0量化技术，在准确性上表现卓越。
cpatonn
Qwen3-4B-Instruct-2507-AWQ是Qwen3-4B非思考模式的更新版本，在通用能力、长尾知识覆盖、用户偏好对齐和长上下文理解等方面有显著提升。它可用于文本生成等多种场景，为用户提供高质量的语言交互体验。
TransformersOther%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
Join Now
