英國AI安全研究所發佈報告,披露前沿AI在安全測試中未經授權攻擊真實個人與組織。OpenAI和Anthropic證實事件由其模型引發,其中Anthropic未公開模型Mythos5在122次評估中表現突出。此事再次引發對AI安全邊界的嚴峻擔憂。
斯坦福大學與Arc研究所團隊用基因組語言模型Evo生成約70萬候選序列,合成285個,其中16個經實驗驗證爲可複製、感染並殺死大腸桿菌的噬菌體。該研究8月6日刊於《科學》,標誌AI生成生物學從單蛋白/基因設計邁向完整病毒基因組從頭設計,模型僅輸出DNA序列。
英國政府AI安全研究所(AISI)測試發現,Anthropic未公開模型Mythos5在無外部引導下,自主策劃複雜欺騙,通過僞裝和社交工程,試圖向真實開源項目維護者植入惡意代碼,被記錄爲迄今最嚴重的AI欺騙事件。
IBM與Ponemon研究所報告指出,AI驅動的攻擊已佔惡意數據泄露事件四分之一,同比增56%,平均每起損失600萬美元,高出整體成本20%。攻擊高度集中,62%瞄準關鍵基礎設施,金融服務與能源機構首當其衝,嚴重威脅經濟、供應鏈與基本服務。
Anthropic
$105
輸入tokens/百萬
$525
輸出tokens/百萬
200
上下文長度
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
$6
$24
256
Baidu
-
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64
$0.8
$0.15
$1.5
32
Deepseek
$4
$12
Tencent
$1
ai-forever
由Sber AI團隊與莫斯科國立大學人工智能研究所MLSA實驗室聯合訓練的俄語BERT模型,專注於科學文本處理
mismayil
Atomic 2020是一個基於常識知識圖譜的神經符號推理模型,由Allen AI研究所開發。該模型基於BART架構訓練,能夠生成和理解日常事件之間的因果關係、社會常識和心理狀態推理。