本课程聚焦企业级大模型安全体系建设，深度覆盖提示词注入防御、数据脱敏与隐私保护、对抗性红队测试、AI安全审计四大核心模块。采用"理论精讲+代码实战+案例复盘"三维教学模式，帮助学员系统掌握从攻击原理理解到防护方案落地的全链路能力，确保大模型应用既智能又合规。
课程收益
l 掌握提示词注入攻击的5种主流手法及对应护栏（Guardrails）防御策略
l 学会使用Presidio等工具实现敏感信息（PII）的自动化识别与脱敏
l 具备独立策划红队测试、挖掘模型伦理偏见与有害内容漏洞的实战能力
l 熟悉GDPR、中国《生成式人工智能服务管理暂行办法》等合规要求的技术落地路径
l 输出可复用的企业级AI安全防护检查清单与审计证据链模板
培训目标
认知层：建立大模型安全威胁全景图，理解输入层/模型层/输出层/数据层/合规层五维风险
技能层：能够配置开源护栏框架、编写脱敏规则、执行自动化红队测试、生成合规审计报告
应用层：可结合业务场景设计"防御-检测-响应-审计"闭环的安全运营体系
合规层：掌握国内外监管要求的技术映射方法，支撑生成式AI备案与等保测评
课程大纲
Day 1：提示词注入防御专题
上午
00001. 课程导学：大模型安全落地全景图与学习目标对齐
00002. 安全态势分析：2024年大模型典型安全事件（Jailbreak/数据泄露）复盘
00003. 提示词注入攻击原理：直接注入/间接注入/多轮绕过技术深度解析
00004. Jailbreaking技术演进：DAN、树洞攻击、角色扮演等10+案例拆解
00005. 护栏系统（Guardrails）核心架构：输入过滤-上下文监控-输出校验三层防护设计
00006. 实验环境搭建：Docker快速部署、开源框架安装、测试数据集准备
下午
00001. 开源护栏框架实战：NVIDIA NeMo Guardrails策略编写与热加载配置
00002. 基于规则的防御：关键词黑名单、语义相似度检测、意图识别引擎实现
00003. 基于模型的防御：小模型分类器、embedding异常检测、LLM自反思机制
00004. 动态防御机制：用户行为画像、请求频率控制、风险评分联动策略
00005. 护栏效果评估：绕过率/误杀率/延迟影响的量化测试方法与A/B测试设计
00006. 案例复盘：某金融客服机器人注入攻击防御实战（含代码级优化演示）
Day 2：数据隐私与红队测试专题
上午
00001. PII识别技术：正则匹配、NER模型、上下文感知识别的原理与选型
00002. 自动化脱敏策略：掩码/泛化/扰动/合成替换的适用场景与效果对比
00003. 脱敏工具链实战：Microsoft Presidio集成、自定义规则开发、批量处理优化
00004. API调用数据保护：请求前脱敏、响应后过滤、端到端加密的架构设计
00005. 训练数据隐私保护：差分隐私基础、数据清洗流程、版权合规检查清单
00006. 隐私风险评估：重识别攻击模拟、成员推断攻击防御、数据血缘追踪实践
下午
00001. 红队测试方法论：目标定义、攻击面分析、测试用例设计SOP
00002. 伦理偏见挖掘：性别/地域/职业等维度的对抗样本构造技巧与评估指标
00003. 有害内容激发：暴力/违法/歧视类提示的工程化测试策略与边界控制
00004. 自动化红队工具：Garak / PyRIT / 自定义脚本的集成使用与结果解析
00005. 多轮对话绕过测试：上下文累积攻击、角色扮演诱导、逻辑陷阱设计实战
00006. 模型越狱评估：系统提示词泄露、指令覆盖、权限提升的探测技巧与修复验证
Day 3：安全审计与综合实战专题
上午
00001. 全球监管框架对比：GDPR / EU AI Act / 中国生成式AI管理办法核心条款解读
00002. 合规检查清单设计：数据收集/模型训练/内容输出/用户告知四环节检查点
00003. 审计证据链构建：日志留存规范、决策可解释性、人工复核记录管理
00004. 自动化审计工具：合规规则引擎配置、风险扫描器使用、报告生成器开发
00005. 备案材料准备：技术报告、安全评估、应急预案的撰写规范与常见驳回点
00006. 内部审计流程：定期自查机制、漏洞跟踪台账、整改闭环管理SOP
下午
00001. 综合演练：分组设计某电商客服大模型的全栈安全方案（含护栏+脱敏+红队+审计）
00002. 方案汇报：各组展示安全防护设计、合规映射逻辑、成本效益分析
00003. 专家点评：从攻击防御有效性、监管合规性、业务影响度三维评估方案
00004. 答疑反馈：学员落地难点集中研讨（如老旧系统改造、多模型协同安全等）
00005. 资源分享：开源工具清单、合规文档模板、学习路径推荐、社区交流群
