大規模言語モデル（LLM）が生産性分野で広く利用されるにつれて、その安全リスクもますます顕著になっています。プロンプト攻撃は、LLMに危険なコンテンツを生成させる敵対的攻撃手法であり、システムのセキュリティに深刻な脅威をもたらします。この記事では、12種類の敵対的プロンプト攻撃戦略を詳細に分析し、レッドチームデータセットを使用してLLMのセキュリティを強化するための提案を紹介します。全てのインターネットユーザーは警戒を怠らず、共にインターネットの安全を守りましょう。
loading...
大規模言語モデル（LLM）が生産性分野で広く利用されるにつれて、その安全リスクもますます顕著になっています。プロンプト攻撃は、LLMに危険なコンテンツを生成させる敵対的攻撃手法であり、システムのセキュリティに深刻な脅威をもたらします。この記事では、12種類の敵対的プロンプト攻撃戦略を詳細に分析し、レッドチームデータセットを使用してLLMのセキュリティを強化するための提案を紹介します。全てのインターネットユーザーは警戒を怠らず、共にインターネットの安全を守りましょう。
【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
最近、チンワンとアントアフーはチャイニーズティー注文や「健康福」などのキャンペーンを実施したことで、ダウンロード数が急激に増加し、App Store中国地区で無料アプリ総合ランキングの上位2位を占めました。アントアフーは中央電視台と提携しており、全国5000以上の医療機関と接続されており、成長傾向が著しいです。
千問アプリの日間アクティブユーザー数が7352万人を突破し、6日連続でApp Store無料ランキング1位を獲得、国内AIアプリ市場をリードしています。....
【AI日報】へようこそ！ここは毎日人工知能世界を探索するためのガイドです。毎日、AI分野のホットな情報をご提供し、開発者に焦点を当てて、技術のトレンドを把握し、革新的なAI製品の応用について理解を深めていただきます。新鮮なAI製品については、以下のリンクよりご確認ください：https://app.aibase.com/zh1、アリババグループがオープンソースしたオールモーダル大規模モデル「Ming-flash-omni2.0」：マルチモーダル理解、画像編集および音声生成のパフォーマンスが大幅に向上しました。アリババグループがオープンソースしたオールモーダル大規模モデル「Ming-
フランスのAI企業であるMistral AIは、高速な転写、プライバシー保護、コスト効率の高い2つの音声認識モデル、Voxtral Mini Transcribe V2およびVoxtral Realtimeをリリースしました。
アドビは、2022年から映像特効などの分野で自社の「フロー」ブランドを使用していたが、グーグルが2025年にリリースする同名のAIソフトウェアが同じ顧客層を対象にしているため、著作権侵害の疑いがあるとして提訴した。
東航はアリババのAI「千問」と提携し、中国初の消費向けAIを導入した航空会社に。旅客は一言でチケット検索・予約が可能で、補助金も適用。従来の検索から対話型サービスへ進化し、購入プロセスを大幅に簡素化。今後は「航空券+」や生活サービス分野での連携を深化予定。....
アリババは具身智能大モデル「RynnBrain」を発表し、ロボットの自動化から深い論理と時空間知覚を持つ「知的生物」への進化を促進。このモデルは知覚と意思決定を統合し、ロボットに時空間記憶能力を付与、物理AI分野の新たな技術基準を確立。....
科大訊飛が星火X2大モデルを発表しました。このモデルは全国産の計算リソース基盤に基づいて訓練され、下位の計算リソースから上位の応用に至るまで自律的かつコントロール可能な仕組みを実現しました。このモデルは一般的な能力を向上させるだけでなく、高精度な専門分野に焦点を当て、単に一般的性を追求するだけでなく、実際の問題解決を目的としています。
アヴェイタは2026年2月11日に全車種にAVATR.OS5.0.0システムを配信しました。今回の大きなバージョンアップの中心は、AI大規模モデルの能力を深く統合することであり、ハウェイ最新の知能運転システムにアップグレードしました。最も突出した特徴は、MoLA大規模モデルアシスタントの正式リリースであり、その意味理解能力が大幅に向上し、単語生成、文字分解および知識誤りの修正をサポートし、ユーザーの指示をより正確に理解できるようになりました。
バイチュンは自社開発のAIチップ「SeedChip」を加速して開発しており、今年中に少なくとも10万個を量産する予定で、主に推論タスク向けに設計されている。会社側は関連報道が正確ではないと述べたが、今年のAI購入予算はすでに1600億元を超え、その半数が英語ネイティブのチップの購入に使われており、大規模なモデルを開発する際の高い推論コストの問題を示している。