字节跳动Seed团队在最新论文中揭示，大语言模型处理超长文本时性能波动，主要源于分块KV缓存压缩技术的“相位敏感性”。为降低长上下文推理内存消耗，该技术通过固定步幅将连续标记窗口压缩为更少条目，却引入Token相对于压缩窗口的新位置坐标，造成检索偏差，进而引发性能波动。
Anthropic新成立的分子生物学实验室取得首个重大成果：动用950个AI Agent集群连续运行21小时、消耗约2.1亿Token，从噬菌体DNA中自主发现人类未知的全新酶系统——阵列关联逆转录酶系统（ART）。该系统结构与“上帝手术刀”CRISPR高度相似，为生命科学前沿带来新突破。
腾讯混元与WorkBuddy联合发布Hy4 preview升级公告，针对用户反馈的复杂任务长思考、过度自我验证等问题进行专项优化并全量上线。经Bench指标与人工评测双重验证，新版在保持任务效果的同时，显著降低任务轮次及输入输出消耗。
9月7日，腾讯混元与WorkBuddy联合团队宣布混元Hy4preview模型升级全量上线。此次升级基于用户与开发者反馈，专项优化复杂任务下长思考、过度自我验证等问题，并通过Bench指标与人工评测双重验证，确保优化不牺牲任务效果。
Openai
$2.8
输入tokens/百万
$11.2
输出tokens/百万
1k
上下文长度
Google
$0.49
$2.1
Xai
$1.4
$3.5
2k
Anthropic
$105
$525
200
$0.7
$7
$35
Alibaba
$4
$16
$6
$24
256
$2
$20
-
Bytedance
$0.8
$0.15
$1.5
Baidu
32
$10.5
Tencent
$1
$8
$0.75
$0.35
400
rhysjones
该模型源自karpathy的llm.c项目，为研究bfloat16性能而转换为HuggingFace格式，训练过程消耗了1500亿token。
princeton-nlp
Sheared-LLaMA-2.7B是基于Llama-2-7b通过剪枝和继续预训练得到的轻量级语言模型，仅消耗50B tokens预算。
MCP文本编辑器服务器是一个基于Model Context Protocol的文本文件编辑服务，提供行导向的文本文件操作能力，支持高效的部分文件访问以减少LLM工具的token消耗。具备并发编辑检测、多文件原子操作和多种编码支持等特性。
godoc-mcp是一个高效的Go文档访问工具，通过MCP协议为LLM提供结构化、低token消耗的Go项目文档访问服务，支持本地和远程包文档查询。
OneTool是一个统一的MCP服务器，通过Python API暴露100多种工具，大幅减少AI调用工具时的token消耗和成本，避免上下文污染，支持Web搜索、数据库、文件操作、图表绘制等多种功能。
用于对xcstrings（字符串目录）文件进行增删改查操作的CLI工具和MCP服务器，提供针对性的本地化键值管理，避免AI助手处理大型文件时消耗过多token。
一个基于MCP协议的内存缓存服务器，通过高效缓存语言模型交互数据来减少token消耗，支持自动管理和配置优化。
NCP是一个MCP协议智能编排器，将多个MCP服务器统一管理，通过语义理解自动路由工具调用，大幅减少AI工具的认知负担和token消耗，提升AI助手的工作效率和响应速度。
MCP BatchIt是一个MCP工具调用批处理服务器，通过聚合多个MCP工具调用到一个请求中，显著减少AI代理的通信开销和token消耗。
一个优化的Playwright MCP服务器，采用客户端-服务端架构实现浏览器自动化，通过创新的语义快照算法大幅减少页面内容传输量，保留关键元素的同时降低90%的token消耗。
OneMCP是一个通用的MCP协议聚合器，通过元工具架构将多个外部MCP服务器的工具统一管理，采用渐进式发现和语义搜索技术，显著降低LLM的token消耗并提高工具发现效率。
基于语义搜索的代码导航MCP服务器，通过AI嵌入和AST解析实现高效代码检索，减少token消耗
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
VIP会员
