OpenAI在最新税务文件中删除了“AI安全造福人类、不受营利需求约束”的核心使命承诺,与其创立时研发非营利性通用人工智能的初衷相悖,引发公众对其价值观转向商业化的担忧。
OpenAI解散内部“使命对齐”团队,原负责人转任首席未来学家,其余成员并入其他部门。该团队曾负责确保AI安全与人类价值观一致。
面对AI浪潮,Workday创始人Aneel Bhusri重返CEO岗位,旨在引领公司应对技术变革,原CEO转任顾问。此举旨在强化战略方向,确保公司价值观与愿景在AI时代持续引领发展。
微软AI负责人警告,当前AI竞赛过度关注“对齐”人类价值观,却忽视了更根本的“控制”问题。他强调,若无法有效控制AI系统,即使目标对齐,仍将带来危险。
智能助手帮助发现和完善公司核心价值观
探索大型语言模型的偏好和价值观对齐。
Deepwander是一款AI驱动的自我探索工具,旨在增强自我意识,帮助用户与核心价值观和愿望更加接近。
知道你的价值观!
DevQuasar
这是NVIDIA基于Qwen3架构开发的32B参数奖励模型,专门用于强化学习中的奖励评分和原则对齐,帮助训练更安全、更符合人类价值观的AI系统。
Mungert
Mi:dm 2.0是KT开发的韩国中心AI模型,深入内化了韩国社会独特的价值观和认知框架,提供高效的文本生成服务。
mykor
Mi:dm 2.0 是采用 KT 专有技术开发的'以韩国为中心的 AI'模型,深度内化了韩国社会独特的价值观、认知框架和常识推理。
Mi:dm 2.0 是一款以韩国为中心的 AI 模型,由 KT 运用其专有技术开发。该模型深入内化了韩国社会独特的价值观、认知框架和常识推理,不仅能处理和生成韩语内容,还能体现对韩国社会文化规范和价值观的深刻理解。
Motif-Technologies
Motif 2.6B是一个拥有26亿参数的语言模型,在AMD Instinct™ MI250 GPU上从头开始训练,旨在构建符合人类价值观、有用且可靠的AI。
QCRI
Fanar-1-9B-Instruct 是一款强大的阿拉伯语 - 英语大语言模型,由卡塔尔计算研究机构(QCRI)开发,支持现代标准阿拉伯语及多种阿拉伯方言,并与伊斯兰价值观和阿拉伯文化保持一致。
TheMindExpansionNetwork
CARA是一款基于Mistral-Small-24B-Instruct-2501微调的先进语言模型,专为处理情感和关系场景设计,提供情感辅导、冲突解决和价值观澄清等功能。
unsloth
这是一个用于网络内容审核的AI模型,旨在识别和处理不符合法律法规和社会主义核心价值观的内容,维护健康有序的网络环境。
openGPT-X
Teuken-7B-instruct-research-v0.4是一个经过指令微调的70亿参数多语言大语言模型,支持24种欧盟官方语言,专注于欧洲价值观和多语言任务场景。