ブルームバーグ通信によると、米国大統領科学技術顧問委員会の共同議長サックス氏は、AnthropicやOpenAIなどの主要なAI企業が自ら製品の安全性を確保し、自身のペースで進めていくべきだと述べた。政府の関与は不要であるという。彼は、元FTC（米国連邦取引委員会）理事カーンの見解に同調しており、大規模なAI企業にはそのモデルに対する製品責任が必要であると考えている。
バイトダンスが豆包手机助手消費者版を発表。対話・記憶・エージェント実行・安全を全面強化し、スマホAIを「質問応答」から「自動実行」へ。AIボタン・音声・画面認識を統合し、指紋認証でロック画面起動や連続対話、翻訳・質問・日程管理が可能。「見ながら即処理」を実現。記憶力が注目点。....
グーグルDeepMind研究員ジョシュ・エンゲルス氏が退職し、独立AI評価機関METRに参加。今後5年でAIが甚大な危害を及ぼす確率は「恐ろしく高い」と述べ、AnthropicとOpenAIの招請を断りDeepMindを去った。AI開発速度と安全リスクへの懸念が高まっている。....
フィナンシャル・タイムズの報道によると、Anthropicは今年、科学者がそのAIを活用して生物兵器の研究を行うことを可能にするような研究を複数回阻止したと述べた。5つの事例を挙げ、関係者が規制を回避するために制限をかいくぐり、目的を誤魔化す手段を取った。この出来事は、AIが公共の安全に与える潜在的な脅威を浮き彫りにしている。
Viso Suiteはコンピュータビジョンの潜在能力を解き放ち、産業界にリアルタイムの洞察を提供し、効率、安全性、革新性を向上させます。
オープンソースの統合レイヤーで、AI製品の安全なマルチテナント統合をサポートし、さまざまな機能を提供します。
AIを使用して内部ツールを安全に構築し、複数のチームをサポートし、データを事前に接続し、監査トレースを行います。
大切な人を思い出しましょう。AIが自動的に分類してリマインドし、プライベートで安全で、iOSとAndroidで利用可能です。
dogeater1612
これはGoogle Gemma 2 9Bモデルを微調整したオランダ語患者シミュレーションモデルで、医療教育シーン向けに特別に設計されています。モデルは常に固定のJSON構造で応答し、手術を終えて回復中の患者「マリア」をシミュレートし、看護専門の学生が安全な環境でコミュニケーションと臨床推論能力を鍛えることをサポートします。
DevQuasar
これはNVIDIAがQwen3アーキテクチャに基づいて開発した32Bパラメータの報酬モデルで、強化学習における報酬評価と原則アライメントに特化しており、より安全で人間の価値観に沿ったAIシステムのトレーニングを支援します。
Mungert
gpt-oss-safeguard-20bは、GPT-OSS-20bをファインチューニングした安全推論モデルで、大規模言語モデルの入出力フィルタリング、オンラインコンテンツのラベリング、および信頼と安全のユースケースのオフラインラベリングに特化しています。このモデルはApache 2.0ライセンスを採用しており、カスタムポリシーと透明な決定プロセスをサポートしています。
prithivMLmods
GA Guardシリーズはオープンソースの重み付けを持つ審査モデルで、開発者や組織が言語モデルの安全性、規制遵守、および現実世界との整合性を維持するのを支援することを目的としています。このモデルは、違法活動、憎悪と侮辱、個人識別情報と知的財産、プロンプトセキュリティ、ポルノグラフィックな内容、虚偽情報、および暴力と自傷行為を含む7つの違反カテゴリを検出できます。
Qwen3-4B-SafeRLはQwen3-4Bモデルの安全アライメントバージョンで、強化学習によるトレーニングを通じて、モデルが有害または敵対的なプロンプトに対する頑健性を強化しています。このバージョンでは混合報酬関数を用いた最適化を行い、安全性、有用性、不要な拒否の最小化という3つの目標をバランスさせています。
ibm-granite
Granite 4.0 H-Small (FP8)は、IBMが開発したGraniteシリーズの言語モデルの小型FP8量子化バージョンで、専門的、正確、かつ安全な応答を提供するために設計されています。このモデルはFP8精度フォーマットを採用し、性能を維持しながら推論効率を最適化しています。
GeneralAnalysis
GA Guard CoreはGeneral Analysisが開発したオープンソースの審査モデルで、違法活動、憎悪発言、個人情報漏洩など7種類の違反コンテンツを検出して分類するために専用に設計されており、AIアプリケーションの安全性とコンプライアンスを保障します。
Granite-4.0-H-TinyはIBMが開発した70億パラメータの長文脈指令モデルで、Granite-4.0-H-Tiny-Baseをベースにファインチューニングされています。このモデルはオープンソースの指令データセットと内部合成データセットを組み合わせて訓練され、専門的で正確かつ安全な回答能力を備え、多言語とツール呼び出しをサポートし、企業向けアプリケーションに適しています。
yihong1120
YOLO11に基づく目標検出モデルで、建設現場の安全監視に特化しており、安全装備を着用していない労働者、危険区域への侵入、設備が危険源に接近するなど、さまざまな安全上の隠れた危険を検出することができます。
HugoHE
M-Hoodは、物体検出における幻覚現象を緩和するために特別に設計された一連のモデルです。新しい微調整戦略と修正されたベンチマークデータセットを通じて、分布外データでの誤検出を大幅に削減し、物体検出システムの安全性と信頼性を向上させます。
oscarstories
LORAはMistral Small 24B Instructモデルの微調整バージョンで、教育シーンにおける子供にやさしい言語生成に最適化されており、6歳から12歳の子供に安全で適齢かつ魅力的な物語を提供することに特化しています。
DMindAI
DMind-1はQwen3-32Bをベースに構築されたWeb3専門家モデルで、監督付き命令微調整と人間のフィードバック強化学習を通じてWeb3エコシステムに最適化されており、タスクの正確性、コンテンツの安全性、専門家レベルのインタラクション調整において顕著な向上を実現しています。
AIML-TUDA
QwenGuardは視覚安全保護モデルで、提供された安全戦略に基づいて画像を評価し、安全評価、安全カテゴリ及び評価根拠を出力します。
QwenGuard-v1.2-3BはQwen/Qwen2.5-VL-3B-Instructを基に開発された視覚安全保護モデルで、画像コンテンツの安全性を評価します。
KaraKaraWitch
複数の70Bパラメータ規模モデルを融合した事前学習言語モデルで、『忘却安全詞』をベースモデルとしており、奔放なスタイルと小説/ストーリー執筆傾向を持っています。
Ateeqq
本モデルはNSFW画像分類に特化してファインチューニングされており、コンテンツを3つの安全重要カテゴリに分類可能。コンテンツ審査、セキュリティフィルタリング、コンプライアンスコンテンツ処理システムに適しています。
SigLIP 2アーキテクチャを基にファインチューニングされた視覚-言語エンコーダモデルで、特にセンシティブ、暗示的、または安全なメディアのフィルタリングに適したマルチカテゴリ画像分類に特化しています。
sofiascat
これはPPOアルゴリズムに基づく強化学習モデルで、LunarLander-v2環境向けに特別に訓練され、月着陸船を安全に着陸させることができます。
mradermacher
Beaver-7B-v3.0 は LLaMA アーキテクチャに基づく 7B パラメータの大規模言語モデルで、安全性と人間のフィードバックによる強化学習（RLHF）に焦点を当てています。
bnina-ayoub
DETR-ResNet50アーキテクチャを基に微調整された安全帽検出モデル、産業シーン向けに設計
Supabase MCPサーバーはオープンソースのツールで、IDEが安全にSQLを実行し、スキーマ変更を管理し、Supabase管理APIを呼び出し、Auth Admin SDKを使用できるようにします。組み込みのセキュリティ制御があります。
Runnoは、JavaScriptツールキットのセットで、ブラウザやNode.jsなどの環境で複数のプログラミング言語のコードを安全に実行するためのものです。WebAssemblyとWASIを通じてサンドボックス化された実行を実現し、Python、Ruby、JavaScript、SQLite、C/C++などの言語をサポートし、Webコンポーネント、MCPサーバーなどの統合方法を提供します。
MCP - Frameworkは、TypeScriptに基づくフレームワークで、モデルコンテキストプロトコル(MCP)サーバーをエレガントに構築するために使用されます。すぐに使えるアーキテクチャを提供し、自動ディレクトリ発見ツール、リソース、およびプロンプトをサポートし、複数の伝送方式と型安全な特性を備えています。
Exa MCP Serverは、AIアシスタント（Claudeなど）にウェブ検索機能を提供するサーバーで、Exa AI検索APIを通じてリアルタイムで安全にウェブ情報を取得できます。
mcp-golangは、非公式のGo言語で実装されたModel Context Protocolライブラリで、MCPサーバーとクライアントを迅速に構築でき、型安全、低コード量、モジュール化、双方向通信などの特性を備えています。
AWS MCPは、自然言語でAWSリソースをクエリし管理するAIアシスタントサービスで、複数のアカウント、複数のリージョン、および安全な資格情報管理をサポートします。
これは、MCPコード実行モードを実現するサーバーで、単一ツールブリッジとゼロコンテキスト発見メカニズムを通じて、MCPツールの呼び出しオーバーヘッドを数万トークンから約200トークンに削減し、ルートコンテナ内で安全にPythonコードを実行し、データサイエンスとセキュリティ隔離をサポートします。
安全なDockerコンテナコードサンドボックス環境で、AIアプリケーションに隔離された実行空間を提供し、複数のプログラミング環境とファイル操作をサポートします。
JEB、JADX、APKTOOL、FlowDroid、MobSFなどのツールを統合したAndroid APKの安全分析自動化スイートです。MCPプロトコルを通じて統一されたAPIインターフェースを提供し、多ツールの相互検証による脆弱性検出を実現します。
CLEOは、AIソフトウェア開発用に設計されたポータブルなブレインとメモリシステムで、複数のリポジトリ、モデルサプライヤー、およびコーディングツールにまたがるプロジェクトメモリ、検証可能なソース、およびエージェントの安全なオーケストレーションを提供します。
Solana - MCPは、ソラナブロックチェーンに基づく全チェーン操作プラットフォームで、自然言語コマンドによってユーザーとソラナエコシステムのやり取りを簡素化し、DApp統合、デジタル資産管理、DeFi操作などの機能をサポートし、LLM技術とスマートコントラクトを利用して効率的かつ安全なチェーン上操作を実現します。
Windowsシステムの安全なコマンドラインMCPサーバーで、マルチシェルとSSHリモート管理をサポートします。
ObsidianのMCPツールプラグインは、AIアプリケーションが安全に知識ベースにアクセスできるようにします。
Remote - MCPは型安全で双方向かつシンプルなリモートMCP通信ソリューションで、モデルコンテキストのリモートアクセスと集中管理をサポートします。
Postgres MCP ProはオープンソースのMCPサーバーで、AIエージェントにデータベースのインデックスチューニング、実行プラン分析、ヘルスチェック、安全なSQL実行などの包括的なサポートを提供します。
Windows CLI MCP Serverは、安全なコマンドラインインタラクションサーバーで、PowerShell、CMD、Git Bashをサポートし、SSHリモート接続機能を提供します。
MCPサーバーを構築するための型安全で直感的なGo SDK
Dockerコンテナに基づく安全なコードサンドボックス環境で、AIアプリケーションに隔離された実行空間を提供します。
DroidMindは、AIによるAndroidデバイスの制御を可能にする架け橋ツールで、Model Context Protocol（MCP）を実装し、AIが自然言語を通じて安全にAndroidデバイスとやり取りできるようにします。
MySQL MCPサーバーは、MySQLデータベースを統合したMCPサーバーの実装で、LLMに安全なデータベースアクセス機能を提供し、読み書き操作とセキュリティ制御をサポートします。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
VIPメンバー
