搜索全球AI产品动态

全球开源解决方案领导者红帽公司近日宣布启动革命性开源项目llm-d，专门应对生成式AI大规模推理的迫切需求。该项目汇聚了CoreWeave、Google Cloud、IBM Research和NVIDIA等行业巨头作为创始贡献者，旨在通过突破性技术让大语言模型推理云满足最严苛的生产服务级目标。推理时代来临，挑战日益严峻根据Gartner最新数据预测，"到2028年，随着市场成熟，80%以上的数据中心工作负载加速器将专门部署用于推理，而非训练用途。"这一趋势凸显了推理技术的战略重要性。然而，随着推理模型复杂性和规

近日，Mozilla旗下开源项目Llamafile发布0.9.3版本，正式宣布支持Qwen3系列大语言模型。这一更新通过融合llama.cpp与Cosmopolitan Libc，将复杂的大模型推理过程浓缩为一个可执行文件，极大提升了跨平台便携性和部署效率。AIbase深入解读这一突破性进展，探索Llamafile如何为AI开发者与用户带来全新体验。技术核心:单文件集成，极致便携Llamafile的最大亮点在于其单文件可执行设计。通过整合llama.cpp的高效推理能力与Cosmopolitan Libc的跨平台兼容性，Llamafile将模型权重、推理代码和运行环境打包为一个独

蚂蚁集团旗下分布式数据库OceanBase今日宣布了一项重大人才和组织体系升级，旨在全力保障公司AI战略的高效落地。OceanBase CEO杨冰在全员信中透露了这一决定。根据全员信内容，OceanBase CTO杨传辉将担任公司AI战略的“一号位”，全面统筹AI战略的制定以及相关技术和产品的落地实施。为强化AI能力建设，OceanBase成立了全新的AI平台与应用部，由杨传辉兼任负责人（Acting）。该部门整合了原有的ODC和OAS团队，并迎来蔡飞志、王赫的加入。其核心任务是全力推进“DATAxAI”平台的搭建与应用开发

OpenAI 近期推出了一项新系统，旨在监控其最新的 AI 推理模型 o3和 o4-mini，以阻止与生物和化学威胁相关的提示。该系统的目标是防止模型提供可能教唆他人实施有害攻击的建议，确保 AI 的安全性。OpenAI 表示，o3和 o4-mini 在能力上较之前的模型有显著提升，因此在恶意用户手中可能带来新的风险。根据 OpenAI 的内部基准测试，o3在回答关于某些生物威胁的相关问题时，表现得尤为出色。为了应对这些风险，OpenAI 开发了这个新的监控系统，称之为 “以安全为中心的推理监测器”。这个监测器

IBM周一发布了其大型计算机硬件的最新产品——IBM z17。这款完全加密的大型机由IBM Telum II处理器驱动，专为250多种AI用例而设计，包括AI代理和生成式AI应用场景。虽然大型机可能被一些人视为过时技术，但据消息人士透露，当今71%的《财富》500强企业仍在使用它们。根据咨询公司Market Research Future的数据，到2024年，大型机市场价值估计将达到53亿美元。z17每天能处理4500亿次推理运算，比2022年发布的前代产品IBM z16提升了50%。新系统设计理念是能够与其他硬件、软件和开源工具完全集成，提

曾饱受医疗文书工作困扰的英国医生艾哈迈德·克尔万，在转行成为企业家后，创立了名为 Taxo 的初创公司。该公司致力于利用人工智能技术，大幅减轻医疗保健领域长期存在的复杂管理负担。Taxo 近日宣布完成500万美元种子轮融资，由 Y Combinator、General Catalyst 和 Character Capital 联合领投，显示出投资者对这一创新解决方案的浓厚兴趣。克尔万表示，在他作为医生的职业生涯初期，繁琐的文书工作令他震惊，有时他每天仅能花费三个小时照料病人，其余时间都被保险索赔等行政事务占据。如

近日，谷歌在开发者平台 Google AI Studio 及 Gemini 应用程序上发布了其最新的人工智能推理模型 ——Gemini2.5。此模型具备停下来 “思考” 的能力，标志着人工智能技术的新进步。谷歌还推出了 Gemini2.5Pro Experimental，这款多模式推理 AI 模型被认为是迄今为止最智能的。Gemini2.5的发布是谷歌针对每月20美元的 Gemini Advanced 订阅者的一项新服务，用户可以体验到其强大的推理能力。自从2024年9月 OpenAI 发布首个 AI 推理模型以来，各大科技公司如 Anthropic、DeepSeek、谷歌和 xAI 等纷纷推出了各自的推理模

腾讯混元 T1正式版上周发布后，不少用户关心何时能够在元宝中使用这一新版本。对此，腾讯官方在最新消息中宣布，混元 T1正式版与 DeepSeek V3最新版一同上线，为用户带来了全新的体验。混元 T1正式版是腾讯自研的深度思考模型，与之前的 T1Preview 版本相比，进行了全面的升级。新版本不仅提升了速度和性能，还显著改善了综合效果，能够实现秒级响应，满足用户对推理模型的高效需求。用户体验的优化使得混元 T1在各类推理任务中表现得更加出色。此外，与混元 T1同时推出的还有 DeepS

前英特尔首席执行官帕特・盖尔辛格（Pat Gelsinger）近日在英伟达2025年 GPU 技术大会的《Acquired》播客中表示，英伟达的人工智能(AI)图形处理器(GPU)定价策略过高，难以支持大规模的 AI 推理任务。盖尔辛格指出，推理是部署 AI 模型的关键环节，当前行业的发展趋势应该更关注推理，而英伟达的技术在成本效益上难以满足这一需求。图源备注：图片由AI生成，图片授权服务商Midjourney他提到，英伟达用于 AI 训练的处理器价格高达现实所需的10，000倍之多。虽然盖尔辛格承认早期生成式 AI 的快速

OpenAI人工智能推理研究主管Noam Brown近日在英伟达GTC大会的小组讨论中表示，某些形式的“推理”AI模型本可以提前20年出现，如果研究人员当时“知道正确的方法和算法”的话。他指出，这个研究方向之所以被忽视，存在多种原因。Brown回忆起他在卡内基梅隆大学从事博弈AI研究的经历，包括曾击败顶级人类扑克职业选手的Pluribus。他表示，当时他帮助创建的AI的独特之处在于，它能够“推理”解决问题，而不是依赖纯粹的暴力计算。Brown提到，人类在棘手的情况下会花费大量时间思考，这或

在3月18日的 GTC 大会上，Nvidia 首席执行官黄仁勋宣布了一项令人奋的计划，旨在通过新推出的软件 Dynamo，将 DeepSeek 的人工智能处理速度提高30倍。此举是 Nvidia 对 DeepSeek 公司 R1人工智能程序引发的市场动荡的回应。DeepSeek 的技术能够显著降低每个查询所需的计算量，导致投资者对 Nvidia 的未来前景表示担忧。Nvidia 的 Dynamo 软件能够将 AI 推理任务分配到多达1000个 GPU 上并行处理，极大地提升了查询吞吐量。黄仁勋表示，使用新的 Blackwell 芯片，Dynamo 能够在相同的架构下提供30倍的处理能力。

谷歌近日宣布对其推理模型Flash Thinking2.0进行重大升级，同时将深度研究功能的访问权限扩展至所有用户。此次更新带来了多项实用功能，显著提升了人工智能系统的处理能力和用户体验。根据官方介绍，Flash Thinking2.0最新版本新增了文件上传功能，并大幅提高了处理速度。对于Gemini Advanced用户而言，该系统现在能够在单个上下文窗口中处理高达100万个标记的信息量，这意味着AI可以同时分析和理解更大规模的数据集。与此同时，谷歌通过Flash Thinking2.0对深度研究功能进行了优化。升级后的

Cerebras Systems 近日宣布将在北美和欧洲新建六座数据中心，以提升其人工智能（AI）推理能力。这一举措将大大增强公司的算力，支持各类 AI 应用的发展。根据计划，85% 的计算能力将集中在美国，其中已有三座设施在加州的圣克拉拉、斯托克顿和德克萨斯州的达拉斯投入运营。接下来，新中心将分别在明尼阿波利斯(预计2025年第二季度)、俄克拉荷马城和蒙特利尔(预计2025年第三季度)，以及亚特兰大和法国(预计2025年第四季度)开张。图源备注：图片由AI生成，图片授权服务商Midjourney新数据中

3月10日，鸿海富士康在技术创新的道路上迈出了重要一步，正式推出其首款 AI 推理大模型 “FoxBrain”。这一模型不仅是富士康的自我突破，更标志着台湾省地区在 AI 推理领域的崭新起点。富士康表示，FoxBrain 将涵盖数据分析、数学运算、推理能力和代码生成等多项功能，未来还计划进行开源，以便于更广泛的技术应用与社区合作。据富士康透露，该模型的训练过程使用了120块强大的英伟达 H100GPU，仅用一个月的时间便成功构建了该模型。FoxBrain 是基于 Meta Llama3.1开发而成，特别优化了繁体

AI圈再掀巨浪!阿里巴巴震撼发布并全面开源了其最新力作——通义千问QwQ-32B推理模型。这款被寄予厚望的新模型，并非徒有虚名，而是经过大规模强化学习的千锤百炼，在硬核的数学运算、复杂的代码编写以及通用的AI能力上实现了质的飞跃，整体性能已经能够正面硬刚行业标杆DeepSeek-R1，实力不容小觑。更令人兴奋的是，通义千问QwQ-32B一举打破了高性能AI模型“高价难用”的魔咒。它如同AI界的“平民英雄”，大幅降低了部署和使用门槛，即使是普通玩家的消费级显卡，也能轻松驾驭，实

近日，字节跳动豆包大模型团队联合M-A-P开源社区发布SuperGPQA，一个覆盖285个研究生级学科、包含26，529道专业问题的知识推理基准测试。该数据集不仅涵盖数学、物理等主流学科，还首次将轻工业、农业、服务科学等长尾学科纳入评估体系，填补了现有基准测试在长尾知识领域的空白。SuperGPQA已被用于揭示开源与闭源模型的性能差距，成为AI发展的重要工具。传统基准如MMLU和GPQA学科覆盖不足50个，长尾学科占比不到5%，且因数据来源单一（如维基百科）和众包标注不可靠，难以衡量模型在

DeepSeek在知乎开设官方账号，发布了《DeepSeek-V3/R1推理系统概览》技术文章，首次详细披露其模型推理系统的优化细节和成本利润率信息，标志着备受关注的"DeepSeek开源周"正式结束。文章介绍了DeepSeek-V3/R1推理系统的两大优化目标:"更大的吞吐，更低的延迟"。为实现这些目标，DeepSeek采用了大规模跨节点专家并行（EP）技术，尽管这增加了系统复杂性。文章重点阐述了如何利用EP技术增加批量大小、隐藏传输耗时以及实现负载均衡。特别值得注意的是，DeepSeek罕见地公开了其成本和利润率数据

360智脑团队与北京大学联合研发的中等量级推理模型 Tiny-R1-32B-Preview 正式发布。这一模型仅以5%的参数量，成功逼近了 Deepseek-R1-671B 的满血性能，展现了小模型在高效推理领域的巨大潜力。该模型在多个关键领域的表现尤为突出。在数学领域，Tiny-R1-32B-Preview

2月25日，Anthropic公司正式发布其最新推理模型——Claude3.7Sonnet。这款模型以其创新的设计理念和显著提升的编程能力，迅速成为行业焦点。Claude3.7Sonnet的核心创新在于其将快速回答与深度思考能力融合于一体，模拟人类大脑的思维方式，为用户提供更流畅的交互体验。

近期，斯坦福大学和华盛顿大学的 AI 研究人员成功训练出了一款名为 s1的 AI 推理模型，训练成本不足50美元，所需的云计算信用额度也非常低。这项研究成果于上周五发布，表明 s1在数学和编程能力测试上表现不逊于 OpenAI 的 o1模型和 DeepSeek 的 R1模型。s1的代码和数据已在 GitHub 上公开，供其他研究者使用。研究团队表示，他们从一个现成的基础模型出发，通过蒸馏技术进行微调，以提取出所需的推理能力。s1的蒸馏过程使用了谷歌的 Gemini2.0Flash Thinking Experimental 模型，这种方法与加州大学