LLM大语言模型高级应用 · 第1讲 · 词元与提示词
SESSION 01 · AI TOKEN & PROMPT ENGINEERING

第 1 讲 · 解密大模型心智:AI 词元与 Prompt 工程

大模型不"理解"语言,它只预测下一个 Token —— 本讲带你拆开词元(Token)、看清注意力机制,并把"随口一问"升级为可复现的结构化 Prompt。

90 分钟73 名跨专业同学含 Token 实时估算器作业 1(10 分)

本讲课件(12 页)

← → 方向键翻页
—
LECTURE 01 · 目标

本讲你要带走的三件事

90 分钟 · 面向 73 名跨专业同学 · 全程可扫码跟练

① 看懂它

理解大模型是"概率续写器"

知道 Token 是什么、怎么切

能解释"为什么数不对 r"

② 算得清

估算中英文 Token 消耗

理解上下文窗口与成本

具备 Token 预算意识

③ 写得出

掌握 CRISPE / CO-STAR

会写结构化、可复现的 Prompt

能做 JSON 约束输出

考核方式:过程性实践 40%(3 次作业)+ 期末综合大作业 60%。
MODULE 01 · 破除迷信

大模型不"理解"语言,它只预测下一个 Token

课堂提问:为什么模型会说 strawberry 里只有 2 个 r?

❌ 常见误解

模型"读懂"了我的问题

它在数据库里查答案

它具备常识与意识

✅ 真实机制

切成 Token ID 序列

隐空间自回归概率预测

逐 Token 采样往外"蹦"

🔍 直接后果

计数/算术易错

长文本越靠后越"跑偏"

幻觉来自概率而非事实

  • 心智模型:大模型 = 读过海量文本的"超级续写器",输出概率上最可能的下一段文字。
  • 教学启示:与其问"它知不知道",不如问"我给了它多少上下文、多明确的约束"。
MODULE 02 · AI 词元

Token 是什么:BPE 字节对编码如何切分文字

词表规模通常 3 万~20 万;高频相邻字节对反复合并
# BPE 合并示意(英文)
h u g  ->  hug      l o w e s t  ->  low + est

# 中文示例
"阿莫西林克拉维酸钾分散片" -> 阿/莫/西/林/克/拉/维/酸/钾/分散/片
约 11+ 个 Token;而常见英文单词往往只占 1 个 Token。

🔤 子词 Subword

生僻字与专业词被拆得极碎

直接影响理解与生成质量

📐 压缩率差异

英文 ≈ 1 token / 0.75 词

中文 ≈ 1~2 token / 汉字

⚠️ 专业词陷阱

药名 / 化学式 / 古文被乱切

计数与换算类任务易翻车

MODULE 02 · Token 经济学

Token 就是钱:窗口、计费与预算

同样一段话,中文消耗通常是英文的 1.5~2 倍
方案 / 场景上下文窗口输入成本输出成本适用判断
云端大模型 API64K ~ 128K按百万 Token 计费输出通常贵于输入能力最强,数据出网
腾讯 ima 知识库按检索片段注入检索 + 片段计费同上知识可控、可溯源
本地 Ollama 7B4K ~ 32K(可配)0 元(电费+显存)0 元数据不出本机
长文档整投需 100K 以上成本高成本高应改用 RAG 切片
  • 省 Token 三招:① 只给必要上下文;② 用模板压缩表述;③ 复用会话前缀缓存。
  • 算一笔账:一条工作流每天 20 次 × 每次约 4K Token,一个月 ≈ 240 万 Token。
MODULE 03 · 注意力

Self-Attention:模型如何决定"该看哪里"

Q(查询)× K(键)→ 相似度打分 → softmax 权重 → 加权求和 V(值)

① 切分 Token

文字 → Token ID 序列

② 生成 QKV

每个 Token 三组向量

③ 注意力打分

Q·K 相似度

④ 加权融合

softmax 权重 × V

⑤ 采样输出

下一个 Token 概率分布

⑥ 循环往复

直到生成结束符

  • 上下文窗口:一次能"看到"的 Token 上限,从 4K → 128K → 1M 持续扩张。
  • 大海捞针(NIAH):关键信息埋在长文中部时常被"中间遗忘"——重要内容放开头或结尾更稳。
MODULE 04 · 框架

CRISPE:把"随口一问"升级为"工程指令"

六要素齐全 = 换人执行也能得到一致结果
字母含义要回答的问题示例(药学场景)
CCapacity 角色你是谁?你是一名三甲医院临床药师
RRequest 请求要做什么?审核这份处方的配伍禁忌
IInsight 背景有什么前置信息?患者 68 岁,肌酐清除率 45 ml/min
SStatement 陈述任务具体描述逐条列出禁忌并给出循证依据
PPersonality 风格什么语气与格式?严谨、面向医师、分条陈述
EExperiment 示例要不要样例 / 多方案?先给 1 个示例,再输出 3 个候选
CO-STAR(Context / Objective / Style / Tone / Audience / Response)更适合文案与创作类任务。
MODULE 04 · 进阶

四种让输出质量翻倍的进阶手法

从"能用"到"好用"的关键分水岭

🎯 Few-shot 少样本

给 1~3 个输入-输出样例

用样例锚定格式与风格

比描述要求更省 Token

🧠 CoT 思维链

加一句"请逐步推理"

先推理再给结论

数学与逻辑题准确率显著提升

🔁 自洽与反思

生成 3 个方案后自评

再挑最优并说明取舍

📦 JSON Schema

明确字段名与类型

要求"只输出 JSON"

便于程序直接解析入库

# 结构化输出约束示例(第 4 讲工作流会反复用到)
请只输出如下 JSON,不要任何解释文字:
$ {"风险点": "...", "依据": "...", "建议": "...", "置信度": 0-1}
MODULE 04 · 跨专业

四大专业群 · 同一框架的不同 Prompt 设计

73 人覆盖药学、旅游、化工、数据、特教、心理、英语、文化遗产、音乐、舞蹈、体育等

💊 医药生物群

阿莫西林克拉维酸钾 → 分词陷阱

病案结构化抽取(JSON)

文献综述:限定近 5 年 RCT

🏞 数字文旅群

屯堡地戏唱词 → 古文分词

黄果树一日游路书生成

小红书爆款文案(CO-STAR)

⚗ 理工大数据群

C₆H₁₂O₆ → 化学式被切碎

实验数据清洗脚本生成

异常值判定规则结构化输出

🎨 人文特教群

IEP 个别化教案改写

无障碍语言简化(可读性分级)

心理陪伴对话的安全边界

课堂任务(8 分钟):用 CRISPE 写一个本专业专属 Prompt,在下方模拟器中估算 Token 消耗,并与"随口一问"版本对比输出质量。
MODULE 04 · 避坑

新手最常踩的 6 个 Prompt 坑

改掉这六条,输出质量立刻上一个台阶

❌ 低效写法

「帮我写个方案」——无角色无背景

所有要求塞进一段 800 字长句

不给示例,指望它"猜"格式

一次提问塞 5 个不相关任务

把整本 PDF 复制进对话框

一次不满意就放弃

✅ 高效写法

CRISPE 六要素齐全,一次说清

分条列点,关键约束编号

给 1~3 个 Few-shot 样例

复杂任务拆成多轮,逐步收敛

长文档交给知识库(第 2 讲 RAG)

把不满意之处直接反馈让它改

记住:Prompt 不是"问问题",而是写一份给实习生看的需求说明书。
延伸阅读 · IMA

祝老师 ima 知识库中的提示词工程资料

课后可在 ima 中检索下列资料(教学共享知识库)
  • 人工智能与旅游创新应用-教学共享知识库:《提示词工程与数据分析入门》、《01_AI工具与提示词实验手册.md》、《各Agent详细提示词库》。
  • 大数据与旅游业课程实践:《智慧旅游提示词训练器.xlsx》、《大模型进阶应用与数字文旅深度融合》。
  • AI赋能教学:《教师必会的28组提示词》《30个常用的DeepSeek提示词模版》《7大教学模块提示词设计技巧!附完整提示词模板!》。
  • AI赋能教学科研:《与AI大模型对话促进深度思维:提问设计的科学与艺术》。
进入方式:ima 客户端 / 小程序 → 搜索上述知识库名称 → 关键词检索即可。
HOMEWORK 01

实践作业 1 · 专属专业结构化 Prompt 工程手册(10 分)

提交:课程门户「作业中心」或 ima 笔记归入班级共享库
  • 任务:结合本人专业挑选 3 个典型场景(用药咨询 / 爆款脚本 / 实验步骤分析 / 无障碍教案等),用 CRISPE 或 CO-STAR 撰写结构化 Prompt。
  • 交付:① Prompt 全文;② 模型输出截图;③ Token 消耗估算表;④ 与"随口一问"版本的对比分析(200 字)。
  • 评分:框架完整性 4 分 · 专业深度 3 分 · 复现与对比 2 分 · 规范提交 1 分。
SUMMARY · 第 1 讲

小结与下一讲预告

  • ① 大模型不是"检索答案",而是基于 Token 做概率续写。
  • ② 中英文 Token 消耗不对称,专业词汇会被切碎;Token 就是预算。
  • ③ 注意力存在"中间遗忘",重要信息放首尾,长文档交给 RAG。
  • ④ CRISPE / CO-STAR + Few-shot + JSON Schema 是最短路径。
下一讲:知识库构建、RAG 检索增强与本地大模型部署 —— 让模型"只说我们知道的话"。
1 / 12

课堂互动实验

手机 / 电脑均可直接操作

🔤 Token 实时估算器

输入任意文本,估算它会被切成多少 Token(按主流分词器的经验系数估算), 并对比中英文消耗差异与成本。
0估算 Token 数
0字符数
0Token / 字符
¥0单次成本(示例单价)
等待输入…

案例与视频

AI 与未来职业:为什么全校不同专业都要懂大模型(站内视频)

案例 A · 医药

药名"阿莫西林克拉维酸钾分散片"被切成 11+ Token,导致模型在计数与换算上出错 —— 必须用结构化 Prompt 补偿。

案例 B · 文旅

屯堡地戏唱词属古文,分词粒度极细且缺乏语料,需借助知识库与人工校验。

案例 C · 化学

C₆H₁₂O₆ 被拆成多个片段,模型难以"看见"完整分子式,计算类任务应改用工具调用。

相关智能体 · 扫码直达

全部为 zgdgt.cn 已上线页面
文旅智能体矩阵文旅智能体矩阵扫码打开zgdgt.cn/wenlv-agents.html
AI 工具导航AI 工具导航扫码打开zgdgt.cn/ai-nav.html
课程 AI 助教课程 AI 助教扫码打开zgdgt.cn/course-ai-assistant.html
智能体市场智能体市场扫码打开zgdgt.cn/agents-marketplace.html

本讲实践作业

实践作业 1 · 专属专业结构化 Prompt 工程手册(10 分)

提交方式:课程门户「作业中心」上传,或在 ima 中新建笔记归入班级共享知识库。

任务:结合本人专业挑选 3 个典型场景,用 CRISPE 或 CO-STAR 撰写结构化 Prompt。
交付:Prompt 全文 + 输出截图 + Token 估算表 + 对比分析(200 字)。
评分:框架完整性 4 · 专业深度 3 · 复现对比 2 · 规范 1。

课件与资源下载

← 返回课程总览4 讲导航与全部资源第 2 讲 →下一讲内容