AI圖像水印技術遭重大沖擊,新工具UnMarker可在5分鐘內破解多數主流水印,包括谷歌HiDDeN和SynthID系統,引發業界對水印安全性的重新審視。
近日,字節跳動的 Seed 團隊在人工智能領域再傳佳音,推出了一種新型的 PHD-Transformer(Parallel Hidden Decoding Transformer),這項創新突破了預訓練長度的限制,有效解決了推理過程中的 KV 緩存膨脹問題。隨着大型推理模型的迅速發展,研究人員在後訓練階段嘗試通過強化學習方法來生成更長的推理鏈,並在複雜的推理任務上取得了顯著成果。受到啓發,字節 Seed 團隊決定探索在預訓練階段進行長度擴展的可能性。傳統的長度擴展方法常常涉及在序列中插入文本或潛在向量,這些方式往往導致
字節跳動宣佈推出高效預訓練長度縮放技術(Efficient Pretraining Length Scaling),通過創新的Parallel Hidden Decoding Transformer(PHD-Transformer)框架,顯著提升大語言模型(LLM)在長序列預訓練中的效率與性能。據AIbase瞭解,該技術在保持推理效率的同時,支持高達2048K(2M)的上下文長度訓練,解決了傳統框架在數據異構性與計算平衡上的瓶頸。相關研究已在arXiv公開,引發了AI研究社區的廣泛關注。核心創新:PHD-Transformer優化長序列訓練字節跳動的PHD-Transformer通過獨特的鍵值緩存(KV Cache)管理策略與架構優
["IBM宣佈成立了5億美元企業AI風險基金,旨在投資各類人工智能公司,從初創企業到高增長企業。","該基金旨在加速生成式人工智能技術的研發,提供財務支持、戰略指導和運營專業知識。","IBM在人工智能領域一直積極投資,合作伙伴包括Hugging Face和HiddenLayer。"]
HiddenLayer端到端平臺檢測威脅、保護模型,確保大規模安全合規採用AI。
社交創意生成AI
一個由敘事AI驅動的全新社交角色扮演體驗
HiddenKise
卡維爾是基於roberta-base微調的文本分類模型,專門用於將文本分為六大威脅類別:銀行欺詐、恐怖襲擊、生命威脅、網絡詐騙、信息洩露和日常對話,助力威脅情報平臺自動檢測和管理威脅。
team-lucid
Hubert(Hidden-Unit BERT)是Facebook提出的一種語音表徵學習模型,採用自監督學習方式直接從原始波形信號中學習語音特徵。