SESSION 01 · AI TOKEN & ATTENTION
第 1 讲 · 解密大模型心智 ：AI 词元(Token)与 Prompt 工程
大模型为什么数不对「草莓有几个 r」？为什么同一句话中文比英文更「费钱」？本讲从 Token 出发，拆开 Transformer 黑盒，让你第一次真正看懂：模型眼中的世界不是文字，而是一串 词元 ID。
🎯 教学目标
学完本讲，你应当能够……
① 看穿本质
- 理解大模型不是「懂语言」，而是基于概率预测下一个 Token 的引擎
② 掌握分词
- 理解 BPE 分词原理，说清中英文压缩率差异的由来
③ 理解机理
- 掌握上下文窗口与自注意力(Self-Attention)如何决定「记住多少」
④ 能用工具
- 用结构化 Prompt 框架，为本专业设计零歧义提示词
🧠 核心知识模块
四大模块，从「是什么」到「怎么用」
🦜 模块 1 · 破除 AI 迷信
从「鹦鹉学舌」到「隐空间语义建模」
- 大模型本质：不断预测「下一个词元」的概率机器
- 为什么数不对 strawberry 里有几个 r？为什么数不准笔画？
- 因为模型看到的是 Token，不是字母/笔画
- 视觉演示：一句话在模型眼中 = 一串 Token ID 数字
🔬 模块 2 · AI 词元(Token)底层剖析
词表构建与 Token 经济学
- 词表构建算法：BPE（字节对编码）、WordPiece
- 中英文字符的非对称性：1 个汉字常占 1~2 Token，1 个英文单词常仅 1 Token
- Token 计费经济学：输入/输出分别计费，API 预算怎么控
- 上下文窗口演进：4K → 128K → 1M，及「大海捞针」瓶颈
👁️ 模块 3 · 注意力机制与 Prompt 工程
模型如何「关注」你的话
- QKV 向量匹配与注意力权重：谁和谁「更相关」
- 上下文越长，注意力越「摊薄」，关键信息要前置
- 结构化输出控制：JSON 约束、Few-shot 少样本提示
- Prompt 框架：RCTF（角色/上下文/任务/格式）、CS4（Context/System/Step/Structured Output/Systematic Structure）
🧪 模块 4 · 跨专业随堂演练
用本专业语料，看分词真相
- 用下方「Token 实测台」比对医药名词/文旅古文/化工化学式
- 观察：谁的 Token 效率最低？为什么？
- 结论：结构化、术语规范的输入，往往更省 Token、更准
🧪 交互实验室 1 · Token 实时拆分与成本测算台
在下方输入任意文本，实时观察大模型视角的分词切片与 Token 消耗 / 成本估算（确定性算法，结果每次一致）。
💊 医药：长药名
🏔️ 文旅：屯堡古文
🧪 化工：反应式
🎨 特教：IEP 需求
0
字符数
0
Token 数
0.00
Token/字符
0
中文 Token
0
英文 Token
¥0
预估成本(输入)
💡 结论：汉字与术语往往被切成多个 Token，而英文词常整体成 Token——这正是「中文更费 Token」的原因，也是提示词要「术语规范、结构清晰」的现实理由。
📊 关键知识速查
| 对比维度 | 中文 | 英文 | 启示 |
|---|---|---|---|
| Token 效率 | 1 汉字 ≈ 1~2 Token | 1 单词 ≈ 1 Token（约 4 字符） | 同等语义，中文常更「贵」，写 Prompt 要精简 |
| 上下文窗口 | 4K→128K→1M 演进 | 同左 | 超长上下文有「大海捞针」衰退，关键信息前置 |
| 分词算法 | BPE / WordPiece | BPE | 词表决定了模型的「字符盲区」 |
| 计费口径 | 输入 + 输出分别计费 | 同左 | 输出通常更贵，控制冗长输出 = 省钱 |
🎓 跨专业随堂案例
同一原理，四种专业的真实落地
💊 医药：用药咨询不「胡编」
- 痛点：药名长、配伍禁忌多，模型幻觉风险高
- 作法：术语规范化 + 结构化 Prompt 约束输出字段
🏔️ 文旅：屯堡文案更有「味」
- 痛点：爆款文案同质化
- 作法：用角色+风格+要点三要素，约束生成结构
🧪 理工：化学式别再被「切碎」
- 痛点：C6H12O6 被切成多段，计算易错
- 作法：Few-shot 示例 + 明确输出格式
🎨 特教：IEP 需求结构化
- 痛点：个别化教案差异大、要素多
- 作法：模板化 Prompt，逐项对齐教学目标
📎 本讲资源与延伸
扫码/点击直达
