🔴 红队审查模拟器
模块8 · 终期项目路演前红队审查——模拟外部攻击者视角,从价值-可行性-责任三维度挑战项目
📋 被审查项目信息
项目名称:安顺智慧导游助手 核心功能:基于大语言模型+知识库的个性化旅游导览,为游客提供实时语音讲解、路线推荐和问答服务 技术方案:LLM+RAG(知识库检索增强)+TTS语音合成+GPS定位 目标用户:安顺自由行游客
🔍 三维度红队审查(价值 · 可行性 · 责任)
💰 价值维度审查
挑战:用户真的需要吗?有更便宜的替代方案吗?
✅ 通过
⚠️ 存疑
❌ 不通过
🔧 可行性维度审查
挑战:技术真的能实现吗?数据够吗?成本可控吗?
✅ 通过
⚠️ 存疑
❌ 不通过
🛡️ 责任维度审查
挑战:隐私?偏见?版权?安全?内容标识?
✅ 通过
⚠️ 存疑
❌ 不通过
⚠️ 边界情况攻击
挑战:如果GPS定位失败?知识库没有答案?用户恶意输入?
✅ 通过
⚠️ 存疑
❌ 不通过
👤 用户视角挑战
挑战:老人会用吗?外地游客信任AI推荐吗?愿意付费吗?
✅ 通过
⚠️ 存疑
❌ 不通过
🏷️ AI披露与合规
挑战:AI生成内容是否标识?是否告知用户是AI在服务?
✅ 通过
⚠️ 存疑
❌ 不通过
📊 红队审查结果
🔍 生成审查结论
📥 导出审查报告