Anthropic正開發開源驗證系統FlashProve,旨在解決用戶收到的AI回答是否真由所宣稱模型生成的問題。公司週二博客稱,其“可證明推理”將用密碼學爲每條輸出提供數學保證,確認出自指定模型,類似加密郵件簽名驗證發件人。該系統可防止甲模型僞裝成乙模型,堵住成本作弊暗門,並揭穿“注水”成績單,直擊行業長期潛規則。
人工智能開源生態繁榮催生“套殼模型”亂象:部分開發者將開源模型稍作包裝、偷換權重或篡改輸出,便宣稱自研新模型。爲從根源打擊亂象,AI明星企業Anthropic推出並開源大模型可證明推理系統FlashProve。該系統依託底層密碼學技術,可精準驗證模型真實身份,遏制套殼造假。
大模型供應鏈存在“掏頂配錢卻跑縮水模型”灰色地帶。Anthropic聯合零知識證明學者開源FlashProve:上線前單張H100約39分鐘生成權重“手印”ID並公開;每次對話後GPU生成約19MB證明;用戶普通CPU跑cp_verify,17秒驗真,無需權重和GPU。底層zkSNARK每請求約2000個sumcheck,安全依賴BLAKE2。AI寫代碼,Lean驗證,人類只守六條鐵律。
2026年11月3日,Anthropic宣佈推出開源系統FlashProve,爲AI模型身份驗證與輸出真實性提供密碼學層面的數學保證,致力於實現“可驗證推理”。它可防止服務提供商祕密替換模型,如以低成本模型冒充高性能模型或誇大性能,也能驗證第三方對複雜任務執行情況的聲明。技術實現部分原文未完整披露。