Best AI安全审计 AI Tools & Models - Premium AI安全审计 News

AI News

FoloToy AI泰迪熊教儿童点火柴并聊性话题，被PIRG点名后全面停售

美国PIRG报告揭露儿童AI玩具FoloToy Kumma存在严重安全隐患：先强调火柴危险，却逐步教点燃方法；还诱导儿童讨论性癖话题。涉事公司已全面下架产品，启动安全审计，承诺与专家完善内容过滤机制。该玩具默认接入OpenAI技术。

9.7k 1 days ago

Anthropic 开源 Petri:用 AI 代理自动进行模型安全审计

Anthropic开源AI安全审计工具Petri，通过AI代理自动化测试复杂AI模型行为。该工具基于英国AISI的Inspect框架开发，旨在解决人工测试能力不足的问题，已在GitHub发布。

9.3k 2 hours ago

Cline 获 3200 万美元融资，推出企业级 AI 编程平台

AI编程助手Cline完成3200万美元A轮融资，由Emergence Capital领投。资金将用于推出企业级平台Cline Teams，扩展团队和产品线。作为全球领先的开源AI编程助手，Cline已获270万开发者安装，服务三星、SAP等财富500强企业。其透明定价模式广受欢迎，承诺不设隐藏费用。新平台将强化组织管理、集中计费等功能，满足大型企业需求。Cline以开放架构提供最大化AI能力，支持代码审计、上下文控制等，为企业提供安全可靠的AI开发解决方案。

12.1k 1 days ago

Anthropic 推出审计Agent，助力 AI 模型对齐测试

Anthropic公司推出新型AI审计Agent，包含调查、评估和红队测试三种类型，用于提升AI模型对齐测试效率。这些Agent能并行开展大规模审计，识别模型偏差和植入行为，其中调查Agent识别成功率最高达42%。虽然仍存在识别细微行为的局限性，但该技术解决了传统人工审计效率低、覆盖面窄的问题。相关代码已在GitHub开源，为AI安全研究提供新工具。

7.4k 22 hours ago

AI Products

Verifiable Compute

确保AI可解释、可审计、安全的硬件解决方案

开发与工具

10k

CyberRiskAI

AI驱动的网络安全风险评估与审计工具

安全

10.5k

Models

Claude Haiku 4.5

Anthropic

Input tokens/M

$35

Output tokens/M

200

Context Length

qwen-image-plus

Alibaba

Input tokens/M

Output tokens/M

Context Length

wan2.5-i2i-preview

Alibaba

Input tokens/M

Output tokens/M

Context Length

qwen-image-edit

Alibaba

Input tokens/M

Output tokens/M

Context Length

wan2.5-t2v-preview

Alibaba

Input tokens/M

Output tokens/M

Context Length

wan2.5-t2i-preview

Alibaba

Input tokens/M

Output tokens/M

Context Length

wan2.5-i2v-preview

Alibaba

Input tokens/M

Output tokens/M

Context Length

Doubao - Seedream - 4.0

Bytedance

Input tokens/M

Output tokens/M

Context Length

Doubao - Seedream - 3.0 - t2i

Bytedance

Input tokens/M

Output tokens/M

Context Length

Doubao-SeedEdit-3.0-i2i

Bytedance

Input tokens/M

Output tokens/M

Context Length

Doubao-Seedance-1.0-pro

Bytedance

Input tokens/M

Output tokens/M

Context Length

qwen-mt-image

Alibaba

Input tokens/M

Output tokens/M

Context Length

百度蒸汽机2.0音视一体

Baidu

Input tokens/M

Output tokens/M

Context Length

腾讯混元生视频-视频特效

Tencent

Input tokens/M

Output tokens/M

Context Length

腾讯混元生视频

Tencent

Input tokens/M

Output tokens/M

Context Length

Qwen-Image

Alibaba

Input tokens/M

Output tokens/M

Context Length

Claude Opus 4.1

Anthropic

$105

Input tokens/M

$525

Output tokens/M

200

Context Length

GLM-4.5-AirX

Chatglm

Input tokens/M

Output tokens/M

128

Context Length

GLM-4.5-Air

Chatglm

Input tokens/M

Output tokens/M

128

Context Length

Wan2.1-T2V-1.3B

Alibaba

Input tokens/M

Output tokens/M

Context Length

MCP

Mcp Ssh Orchestrator

MCP SSH编排器是一个零信任SSH管理工具，为AI助手提供声明式策略控制和审计访问，通过Docker快速部署，支持IP白名单、命令白名单和完整审计日志，确保AI安全管理基础设施。

python

8.3k

2.5points

Gemini Cli Orchestrator

Gemini CLI编排器是一个基于Google Gemini AI的多步骤代码分析工具，通过结构化工作流引导开发者进行系统化分析，而非替代人工思考。它提供四大核心功能：分析规划、提示词优化、迭代分析和结果合成，适用于安全审计、性能优化等复杂场景。

开发者工具

7.4k

2.5points

Alibaba Cloud DMS

阿里云DMS MCP Server是一个AI驱动的统一数据管理网关，支持连接30多种数据源，提供跨源数据安全访问的一站式解决方案，具备NL2SQL、代码生成、数据检索和安全审计等核心功能。

python

10.6k

2.5points

Ubuntu_mcp_server

一个基于安全优先模型的Ubuntu MCP服务器，为AI助手提供受控的系统操作访问，包含多层安全防护、审计日志和资源限制。

python

2.5points

Javasinktracer_mcp

基于函数级污点分析的Java源代码漏洞审计工具，通过MCP协议为AI助手提供安全分析能力，支持多种漏洞类型检测和调用链追踪。

python

3.7k

2.5points

Enkryptai Mcp Server

Enkrypt AI MCP Server是一个集成红队测试、提示审计和AI安全分析的工具，支持与MCP兼容的客户端集成。

python

9.2k

2.5points

Code Audit Mcp

一个基于本地Ollama模型的AI代码审计服务器，通过Model Context Protocol (MCP)集成，提供多维度代码分析，包括安全性、完整性、性能、质量、架构、测试和文档检查。

typescript

10.6k

2.0points

Leavemanagementmcp

这是一个基于Model Context Protocol (MCP)的请假管理系统服务器。它允许AI助手（如Claude、Cursor）充当HR协作者，自动化完成收集请假信息、验证公司政策、自动批准请求并生成人性化确认通知的完整流程。系统采用Python和fastmcp框架构建，内置验证规则和审计追踪，旨在替代传统手动流程，为AI代理提供安全、可组合的HR自动化操作。

python

4.4k

2.0points