AI 前沿发现
GitHub 开源
CyberSunil/LLMVault：OWASP LLM Top 10 AI安全实战训练平台（181⭐）
LLMVault 是一款基于 OWASP LLM Top 10 的 AI 安全实战训练平台，覆盖提示注入、RAG 安全、Agent 安全等典型漏洞场景。支持交互式渗透测试与防御演练，适合 AI 安全工程师技能进阶、企业红蓝对抗及培训教学，帮助深入理解大语言模型攻击向量与缓解措施。
查看原文 →内容为平台聚合整理，原文与最新动态以来源页面为准。
加微信 · 获取使用指导与更多资源
节点安装、依赖模型、下载问题均可咨询；群内持续更新精选资源。
扫码进资源群
扫码加客服微信图文介绍
本项目是一个基于 OWASP LLM Top 10 构建的、具有故意安全缺陷的 AI 安全训练平台，专为 AI 安全、提示注入、RAG 安全、Agent 安全及生成式 AI 渗透测试而设计。它模拟真实应用中的漏洞环境，帮助学习者理解并防御大语言模型常见攻击向量。
核心功能亮点
- 场景覆盖全面：平台集成了 OWASP LLM Top 10 中多种典型威胁，包括提示注入、不安全的输出处理、训练数据投毒、供应链漏洞等，并提供对应攻击与修复演示。
- 交互式实战演练：用户可在可控环境中执行 prompt injection、数据泄露、权限绕过等操作，实时观察模型响应与安全机制失效过程。
- 多维度安全训练：覆盖 RAG 检索增强生成、Agent 自主决策等前沿领域的攻击面，支持对生成式 AI 应用的渗透测试实践。
- 学习资源内置：每个漏洞示例附带简要说明与缓解建议，便于对照学习。
适用场景
- 面向 AI 安全工程师、渗透测试人员的安全技能进阶训练。
- 企业安全团队评估内部 LLM 应用防护水平、开展红蓝对抗演练。
- 高校或培训机构进行人工智能安全方向实践教学。
- 合规审查场景下验证安全控制措施的有效性。
上手提示
- 建议具备基础的大语言模型（LLM）调用与提示工程知识。
- 练习时请结合 OWASP LLM Top 10 官方文档，理解每类漏洞的本质。
- 所有操作应在授权环境中进行，禁止将平台漏洞用于未经授权的系统。
- 初次使用可从“提示注入”模块开始，逐步进入更复杂的 Agent 安全场景。
作者/来源：CyberSunil
常见问题
LLMVault 是什么？
LLMVault 是一个基于 OWASP LLM Top 10 构建的 AI 安全实战训练平台，内置提示注入、RAG 安全、Agent 安全等故意漏洞，供学习者在安全环境中进行渗透测试与防御练习。
如何开始使用 LLMVault？
建议具备基础的 LLM 调用与提示工程知识。初次使用可从“提示注入”模块入手，逐步进阶至 Agent 安全场景。所有操作需在授权环境中进行。
LLMVault 包含哪些安全训练场景？
平台覆盖 OWASP LLM Top 10 中主要威胁类型，包括提示注入、不安全的输出处理、训练数据投毒、供应链漏洞、过度代理等，并提供攻击演示与修复建议。
LLMVault 适合哪些人群使用？
适合 AI 安全工程师、渗透测试人员、企业安全团队进行安全技能进阶；也适用于高校或培训机构的人工智能安全实践教学，以及红蓝对抗演练。
LLMVault 与 OWASP LLM Top 10 的关系？
LLMVault 直接基于 OWASP LLM Top 10 漏洞列表设计，每个模块对应特定威胁，可结合官方文档深入理解每类漏洞的原理与缓解方法。