AI-Infra-Guard

详情介绍

随着AI技术深入各行各业，AI框架本身的安全漏洞、模型的“越狱”风险以及新兴的模型上下文协议（MCP）服务安全问题，正成为企业和开发者面临的严峻挑战。腾讯开源的AI-Infra-Guard正是为了应对这些挑战而生。

这是一款轻量级、跨平台的安全扫描工具，帮助用户在复杂的AI基础设施中主动发现风险。它的核心能力覆盖了从底层基础设施到上层模型应用的多个安全层面。它内置了庞大的指纹库和漏洞库，能够精准识别包括Ollama、ComfyUI、vLLM等在内的30多种主流AI框架及版本，并关联近400个已知CVE漏洞，进行高效匹配检测。它敏锐地捕捉到MCP这一新兴技术带来的安全风险，专门设计了基于AI Agent驱动的检测模块，可以扫描源代码或远程URL，发现九大类MCP安全风险。它还关注大模型应用本身的安全，内置了多个精选的越狱评测集，能快速对模型进行Prompt安全体检，生成安全报告。通过简单的命令行操作，无论是本地扫描、指定目标还是批量读取，AI-Infra-Guard都能帮助企业将安全检查左移到开发和运维的各个环节。

官网入口地址：

项目的官方介绍页面托管在腾讯的GitHub Pages上，你可以从这里了解项目背景和动态： https://tencent.github.io/AI-Infra-Guard/

下载/源代码地址：

AI-Infra-Guard 是一个完整的开源项目，所有代码都托管在GitHub上，你可以从这里获取、使用或参与贡献： https://github.com/Tencent/AI-Infra-Guard

功能介绍：

AI-Infra-Guard 的功能围绕AI系统面临的三大核心安全风险展开，形成了一个从基础设施到应用层的立体扫描能力：

1. 基础设施漏洞扫描：这是工具的基础能力。它支持对30多种主流AI框架和组件进行精准的指纹识别，覆盖了从模型训练、部署到推理的各个环节，如深度学习框架PyTorch、TensorFlow，模型服务框架vLLM、Triton，以及AI应用ComfyUI、Ollama等。在识别出具体组件及版本后，工具会将与内置的近400个已知CVE漏洞数据库进行比对，快速发现潜在的安全隐患。

2. MCP Server 安全检测：随着AI Agent的普及，模型上下文协议（MCP）服务成为新的攻击面。AI-Infra-Guard 创新性地引入了基于AI Agent驱动的检测模块，可以扫描MCP Server的源代码或直接检测远程URL，系统性地识别九大类安全风险，不当的权限配置、敏感信息泄露、注入攻击风险等，为这一新兴领域提供了安全评估手段。

3. 大模型安全体检：针对大模型应用，该工具内置了多个精选的越狱评测集和提示词攻击样本。它可以快速对目标模型进行自动化测试，评估模型在面对恶意或诱导性提示词时的表现，判断是否存在“越狱”风险，并最终生成一份清晰的大模型安全体检报告，帮助开发者了解模型的鲁棒性。

应用场景：

• 企业AI资产漏洞管理：安全团队可以使用AI-Infra-Guard定期对公司内部所有AI相关服务器、容器和依赖组件进行扫描，建立AI资产清单，并持续跟踪漏洞修复进度。

• DevSecOps与CI/CD集成：开发团队可以将它集成到持续集成/持续部署流水线中。在每次构建或部署AI应用前，自动扫描所依赖的框架和代码，确保没有高危漏洞流入生产环境，实现安全左移。

• AI应用上线前安全评估：在发布一个新的AI服务或上线一个集成了大模型的功能前，用它对整个技术栈进行一次全面的“体检”，包括基础设施漏洞、MCP服务安全性和模型自身的安全性。

• 红队演练与安全研究：安全研究员可以使用它来快速探测目标AI系统的技术栈和潜在脆弱点，为更深入的安全测试提供前期信息。

定价信息

AI-Infra-Guard 是一个开源免费的项目。用户可以自由下载、使用和修改代码，无需支付任何授权费用。运行成本主要取决于运行扫描任务所消耗的计算资源，非常低。

AI-Infra-Guard常见问题