AI图像水印技术遭重大冲击,新工具UnMarker可在5分钟内破解多数主流水印,包括谷歌HiDDeN和SynthID系统,引发业界对水印安全性的重新审视。
近日,字节跳动的 Seed 团队在人工智能领域再传佳音,推出了一种新型的 PHD-Transformer(Parallel Hidden Decoding Transformer),这项创新突破了预训练长度的限制,有效解决了推理过程中的 KV 缓存膨胀问题。随着大型推理模型的迅速发展,研究人员在后训练阶段尝试通过强化学习方法来生成更长的推理链,并在复杂的推理任务上取得了显著成果。受到启发,字节 Seed 团队决定探索在预训练阶段进行长度扩展的可能性。传统的长度扩展方法常常涉及在序列中插入文本或潜在向量,这些方式往往导致
字节跳动宣布推出高效预训练长度缩放技术(Efficient Pretraining Length Scaling),通过创新的Parallel Hidden Decoding Transformer(PHD-Transformer)框架,显著提升大语言模型(LLM)在长序列预训练中的效率与性能。据AIbase了解,该技术在保持推理效率的同时,支持高达2048K(2M)的上下文长度训练,解决了传统框架在数据异构性与计算平衡上的瓶颈。相关研究已在arXiv公开,引发了AI研究社区的广泛关注。核心创新:PHD-Transformer优化长序列训练字节跳动的PHD-Transformer通过独特的键值缓存(KV Cache)管理策略与架构优
["IBM宣布成立了5亿美元企业AI风险基金,旨在投资各类人工智能公司,从初创企业到高增长企业。","该基金旨在加速生成式人工智能技术的研发,提供财务支持、战略指导和运营专业知识。","IBM在人工智能领域一直积极投资,合作伙伴包括Hugging Face和HiddenLayer。"]
HiddenLayer端到端平台检测威胁、保护模型,确保大规模安全合规采用AI。
社交创意生成AI
一个由叙事AI驱动的全新社交角色扮演体验
HiddenKise
卡维尔是基于roberta-base微调的文本分类模型,专门用于将文本分为六大威胁类别:银行欺诈、恐怖袭击、生命威胁、网络诈骗、信息泄露和日常对话,助力威胁情报平台自动检测和管理威胁。
team-lucid
Hubert(Hidden-Unit BERT)是Facebook提出的一种语音表征学习模型,采用自监督学习方式直接从原始波形信号中学习语音特征。