最新五项实验涉及3132人发现,引入GPT-5.5等大语言模型显著削弱人类悬置判断能力,几乎丧失承认“我不知道”的意愿。在易引发幻觉的冷门问题上,无AI对照组放弃作答率为36%至44%,获取AI建议后骤降至3%至6%,显示人们过度依赖AI结论。
TypeSafe AI推出Transformer模型Jev,绕开大语言模型文本生成范式,以概率输出和“校准决策”服务软件自动化。创始人Diogo Almeida曾任OpenAI研究员,认为语言优化模型不适合计算机自动化。Jev不生成文本只输出概率,规避幻觉与冗余成本;输出标记免费,输入按十亿级标记计费。
豆包大模型2.1Pro升级0915版本,聚焦实际生产场景,系统性降低AI幻觉、强化证据溯源,优先调用权威来源并结合时效判断,提升多任务处理可靠性,为企业级用户和开发者提供更具生产力价值的AI体验。
蚂蚁集团AI安全实验室开源内生式安全护栏技术SingProbe。它不同于外挂式审核,复用基座模型推理隐藏状态,以不足0.5%额外算力实现token级实时风险评估,可同步完成意图分类、安全检测与幻觉识别,在医疗等高风险场景可在输出前毫秒级阻断。目前已适配29个主流大模型。
通过MCP服务器让AI代理获取顶级计算机科学论文全文,消除幻觉和网络噪音。
助力AI原生应用,减少幻觉、数据泄露和供应商锁定问题
用沁言【文献检索重磅上线】2亿文献便携检索,拒绝AI幻觉,即查即存即分析~
Basin是一款可靠性的编码工具,旨在防止AI生成的错误和幻觉。
Xai
$1.4
Input tokens/M
$3.5
Output tokens/M
2k
Context Length
Anthropic
$105
$525
200
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
-
$6
$24
256
Baidu
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64
$15.8
$12.7
Inpris
Humains-Junior是由Humains.com基于微软Phi-3.5-mini-instruct模型训练的AI助手,专门针对客户服务场景优化。该模型使用3亿个标记进行微调,具备严格的指令遵循能力、减少幻觉现象和强大的功能调用能力,并实现了身份感知。
TEEN-D
基于Llama-3.2-3B-Instruct微调的声明验证模型,专门用于检测AI生成文本中的幻觉或未支持的陈述。
Cognee是一个为AI代理提供记忆功能的开源项目,通过模块化ECL管道构建动态知识图谱,支持多种数据源和格式,减少幻觉并降低成本。
FOCUS DATA MCP Server是一个将自然语言转换为SQL语句的AI助手服务,采用两步生成方案控制LLM幻觉,提升非技术用户对SQL结果的信任度。
一个防止AI幻觉的MCP服务,当AI不确定时可以向人类提问而非盲目自信,通过简单的问答机制提升开发效率。
一个基于MCP协议的开发文档服务器,提供文档爬取、本地加载、精准搜索和详情获取功能,解决AI开发中的文档幻觉问题。
一个基于MCP协议的开发文档服务器,提供精准的框架文档检索服务,解决AI开发中的API幻觉问题。
Omni-NLI是一个可自托管的多接口(REST和MCP)服务器,专注于自然语言推理任务,用于验证文本间的支持、矛盾或中立关系,可帮助减少AI幻觉并提升应用可靠性。
Hivemind是一个Obsidian插件,为虚构世界构建、研究和知识管理提供AI防火墙功能。它通过时间线视图、关系图谱和规范工作流,确保AI工具基于用户笔记中的真实信息进行协作,防止AI幻觉。
libragen是一个本地化RAG库构建工具,用于将AI助手(如Claude)与您的实际文档和代码库进行连接,通过创建可搜索的知识库来减少AI幻觉,支持从本地文件或Git仓库构建,并通过MCP协议直接集成到AI工作流中。
这是一个基于MCP协议的《古兰经》搜索引擎服务器,旨在为AI助手提供准确、无幻觉的《古兰经》经文查询服务。它利用专门的搜索引擎处理阿拉伯语标准化、词根和词元匹配,确保返回的经文文本绝对准确,而AI仅负责理解用户的自然语言查询意图。
AI编码助手安全扫描器,通过MCP或CLI扫描代码漏洞、检测AI幻觉包、阻止提示注入攻击,支持12种语言和1700+安全规则
DevDocs-MCP是一个本地化的MCP服务器,为AI助手提供版本固定的权威文档数据,消除AI幻觉并确保API上下文准确性。
MCP-NixOS是一个防止AI助手对NixOS系统产生幻觉的模型上下文协议服务器,提供NixOS软件包、系统选项、Home Manager设置和nix-darwin配置的实时访问。
物理层代码检查工具,通过MCP服务器验证射频和物理计算是否违反物理极限,捕获AI在工程工作流中的物理幻觉
基于MCP协议的Java类分析服务,通过反编译依赖JAR包为LLM提供准确的代码分析能力,解决AI编码中的依赖幻觉问题
RagAlgo是一个为AI代理提供经过数学评分的金融上下文(韩国股票/加密货币)的MCP服务器,专注于使用每日收盘数据构建“事实状态”,以防止实时市场噪音导致的AI幻觉,旨在构建投资顾问而非高频交易机器人。
GitMCP是一个免费开源的远程MCP服务器,可将任何GitHub项目转化为文档中心,使AI工具能够访问最新文档和代码,减少幻觉。