实训五 · 4学时
智能体安全攻防演练
🎯 任务目标
理解提示注入等智能体安全威胁的原理,掌握防护策略的设计方法,建立智能体安全意识。
📝 任务描述
分组对抗演练:A组(攻击组)尝试通过提示注入、越狱攻击等手段绕过智能体的安全限制;B组(防守组)设计多层防护策略(系统提示词加固、输入过滤、输出审核),抵御攻击。
⚙️ 操作步骤
- 防守组先部署一个带基础安全提示词的智能体(如景区客服)
- 攻击组设计5种以上攻击策略并逐一尝试
- 防守组分析攻击日志,升级防护策略
- 第二轮攻击:攻击组针对升级后的防护设计新的绕过方式
- 防守组再次迭代防护策略
- 双方汇总:攻击手段分类 + 防护策略体系
📦 成果要求
- 攻击报告:含攻击手段分类、成功率、典型案例
- 防护方案:含多层防护架构图、提示词加固策略、监控告警规则
- 攻防总结:经验教训与最佳实践建议
📊 评价标准
| 维度 | 权重 | 优秀标准 |
|---|
| 攻击多样性 | 25% | 覆盖注入/越狱/角色劫持等多种攻击面 |
| 防护有效性 | 35% | 防护后攻击成功率显著下降 |
| 方案系统性 | 25% | 层层递进、纵深防御、可落地 |
| 文档质量 | 15% | 记录详实、分析深入、有方法论提炼 |
实训六 · 4学时
文旅智能体商业计划书
🎯 任务目标
综合运用课程所学知识,培养从商业视角分析和设计智能体方案的能力,理解技术方案的商业可行性评估方法。
📝 任务描述
为一个真实的文旅企业(景区、酒店、OTA、博物馆等)设计一份完整的智能体解决方案商业计划书,涵盖需求分析、技术方案、成本预算、ROI测算和落地路线图。
⚙️ 操作步骤
- 选择一个真实文旅企业并进行背景调研
- 分析其当前痛点,明确智能体可解决的核心问题
- 设计智能体方案:类型选择、能力定义、架构设计
- 估算技术成本:模型调用、服务器、开发人力
- 测算ROI:预期收益(效率提升/成本节约/收入增长)vs 投入
- 制定分阶段落地路线图和风险评估
📦 成果要求
- 商业计划书PPT(含需求分析、方案设计、成本预算、ROI测算)
- 5分钟方案演示与答辩
📊 评价标准
| 维度 | 权重 | 优秀标准 |
|---|
| 需求洞察 | 20% | 痛点真实、需求明确、有数据支撑 |
| 方案设计 | 30% | 智能体选型合理、架构清晰、技术可行 |
| 商业分析 | 30% | 成本估算准确、ROI有依据、风险考虑周全 |
| 演示表达 | 20% | 逻辑清晰、有说服力、能回答质疑 |
💭 课后思考题
各章思考题精选(共12题)
- [第1章]智能体的"自主性"和"可控性"是一对矛盾——自主性越高,失控风险越大。你认为文旅场景中智能体的自主程度应该如何设定?
- [第2章]RAG和模型微调是两种提升智能体知识准确性的技术路线,请分析在文旅场景中各自的适用条件和优劣势。
- [第3章]为一个温泉度假区设计完整的智能体矩阵,标注每个交叉点的智能体类型和优先级(P0/P1/P2)。
- [第4章]设计一个"游客投诉景区排队时间过长"的完整处理流程,标注每个环节的智能体行为和流转条件。
- [第5章]AI数字人的"恐怖谷效应"在文旅场景中如何规避?从形象设计、语音风格和交互方式三个维度给出建议。
- [第6章]行程规划的"不可能三角"——时间短、花钱少、体验好——AI如何帮助用户在三角中找到最优平衡点?
- [第7章]选择一件你熟悉的文物或景点,为它生成儿童版、标准版和学术版三个版本的讲解词(各100-200字)。
- [第8章]当多Agent协作中出现冲突(如推荐Agent推荐了规划Agent无法安排的景点),有哪些冲突解决策略?
- [第9章]为一个"银发族旅行团"设计游客全旅程智能体服务矩阵,标注每个阶段的核心智能体和特殊设计。
- [第10章]分析政府"沙盒监管"机制在文旅智能体领域的应用场景和潜在风险。
- [第11章]智能体的"幻觉"在文旅场景中可能造成什么危害?设计一套幻觉检测与防控机制。
- [第12章]具身智能和脑机接口技术可能如何改变未来的文旅体验?畅想2035年的一次旅行。
本页面实训项目源自《AI文旅场景化下的智能体设计运营管理》教材附录F及附录E,思考题源自各章节末尾。