GoogleのAIチャットボットGeminiが大規模な「蒸留攻撃」に遭遇。攻撃者は10万回以上の繰り返し質問でモデル内部メカニズムを漏洩させ、AIシステムの複製や強化を試みた。Googleは攻撃の主な動機は商業的と指摘し、業界で大規模言語モデルの安全性への関心が高まっている。....
OpenAIは「ミッションアラインメント」チームを解散し、元責任者はチーフフューチャリストに異動。他のメンバーは別部門に統合。このチームはAIの安全性と人間の価値観の一致を担当していた。....
OpenAI CEOサム・アルトマンは、AIエージェントの利便性から人間が過剰な権限を委譲する危険性を警告。自身の経験から、安全性を軽視した信頼が社会リスクを招くと指摘。....
韓国は世界初の包括的なAI規制法案である「AI基本法」を推出し、安全性と信頼性を確保し、韓国が世界のAI三強の一つとなることを目指しています。この法律はすでに全面的に効力を発揮しており、EUに先行しています。この法律は、核セキュリティ、医療・健康、交通輸送、金融ローン審査などの高影響力「AIシステム」を重点的に規制しています。
TENDERDはAIで駆動される車隊管理プラットフォームで、運用効率、安全性、持続可能性を向上させます。
AIエージェントをリアルタイムで保護し、脱獄攻撃や注入攻撃を阻止し、安全性を確保します。
viAct.aiは、建設における安全性、生産性、環境コンプライアンスを可視化AI技術で最適化します。
AIインテグリティソリューション。AIシステムの安全性、コンプライアンス、パフォーマンスを確保します。
Google
$0.7
入力トークン/百万
$2.8
出力トークン/百万
1k
コンテキスト長
Anthropic
$7
$35
200
$2.1
$17.5
$21
$105
Alibaba
$3.9
$15.2
64
-
Bytedance
$0.8
$2
128
Deepseek
$4
$12
Tencent
$1
32
Openai
$1.75
$14
400
$525
Chatglm
Iflytek
GeneralAnalysis
GA Guard CoreはGeneral Analysisが開発したオープンソースの審査モデルで、違法活動、憎悪発言、個人情報漏洩など7種類の違反コンテンツを検出して分類するために専用に設計されており、AIアプリケーションの安全性とコンプライアンスを保障します。
aligner
モデルに依存しないプラグアンドプレイモジュールで、オープンソースおよびAPIベースのモデルに適用可能。残差補正戦略によりAI安全性を強化
Filesystem MCP Serverは、Model Context Protocol (MCP)に準拠したNode.jsベースのファイルシステムツールサーバーで、AIエージェントに安全かつ効率的なファイルアクセス機能を提供します。プロジェクトのルートディレクトリを制限することで操作の安全性を確保し、バッチ操作をサポートすることで通信オーバーヘッドを削減し、読み書き、編集、検索、権限管理などの様々なファイル管理機能を提供します。
Fastly MCPは、モデルコンテキストプロトコル(MCP)を通じてFastly API機能をAIアシスタントに統合するツールで、ユーザーがAIを通じてCDNサービス、キャッシュ、セキュリティ設定などを管理できると同時に、APIキーの安全性を保護します。
BoostSecurity MCPは、AIエージェントの開発ワークフローを保護するためのセキュリティツールで、サードパーティのソフトウェアパッケージの安全性を検証することで、サプライチェーン攻撃を防止し、複数のプログラミング言語とパッケージエコシステムをサポートします。
Fastly MCPは、モデルコンテキストプロトコル(MCP)を通じてFastly APIの機能をAIアシスタントに統合するツールです。自然言語の命令を使ってCDNサービス、キャッシュ、セキュリティ設定などを管理することができ、APIキーの安全性も保証されます。
uMCPはUnity用に特別に設計されたMCPプロトコルサーバー実装で、AIエージェントとUnityアプリケーションを接続し、安全性と拡張性を備えています。
AIM Guard MCPは、AIセキュリティ保護サーバーで、AIエージェントにセキュリティ分析、コンテンツ検出、および保護指令ツールを提供し、MCPのやり取りの安全性を保護します。
MCPターミナルサーバーは、安全なコマンドラインインターフェースサービスで、AIモデルにターミナル対話機能を提供し、システムの安全性を保証します。
UltimateCoder MCPは、開発者やエンジニア向けに設計されたローカル優先の自動化サーバーで、ターミナルコマンドの自動化、ファイル編集、AIツールの強化機能を提供します。ローカル操作をサポートしてデータの安全性を確保し、高度なファイル処理、プロセス制御、コード検索機能を備えており、大規模なコードリファクタリングや自動化ワークフローに適しています。
MemoriaはMCPサーバーで、Gitの履歴を分析することでコードファイル間の隠れた依存関係を明らかにし、AIがコードをリファクタリングする際に機能を破壊しないようにします。完全にローカルで動作し、コードをクラウドにアップロードする必要はありません。ファイル間の結合関係、リスクスコア、古い依存関係を検出することで、コード変更の安全性を確保します。
YetiBrowser MCPは完全にオープンソースのブラウザ自動化MCP実装で、ローカルのMCPサーバーとブラウザ拡張機能を通じてAIアシスタントが実際のブラウザタブを制御できるようにします。すべてのデータはローカルで処理され、透明性と安全性が保証されます。
MCPizzaは非公式のドミノピザAPIに基づくMCPサーバーで、AIアシスタントがピザ注文機能を実現できます。店舗検索、メニュー閲覧、注文管理などの機能が含まれ、安全性を確保するために実際の注文をデフォルトで無効にしています。
MemoraMCPはNext.jsフレームワークに基づくAIエージェント用ストレージプロジェクトで、IPFS技術を利用してデータの安全性と検証性を確保し、自主的なデプロイをサポートしています。
CodePortal MCPはローカルコードプロジェクト管理サーバーで、プロジェクト構造の組織化、AIモデルへのアクセス、およびAPIキー管理機能を提供し、安全性と自動化に重点を置いています。
PydanticAIは、Pydanticチームによって開発されたPythonエージェントフレームワークで、生成AIを使った本番グレードのアプリケーション開発を簡素化することを目的としています。複数のAIモデルをサポートし、Pydanticの検証と構造化された出力を統合し、依存性注入システム、ストリーミングレスポンス、グラフサポートを提供し、Pydantic Logfireとシームレスに統合されています。型安全性と効率性が求められるAIアプリケーションの構築に適しています。