第 1 章 · LLM 与 Prompt 基础

Token 是什么？为什么说上下文窗口是大模型应用的第一约束？

大模型是怎么生成下一个字的？自回归生成和 KV Cache 是什么关系？

temperature 和 top_p 分别在调什么？什么场景调低、什么场景调高？

system prompt 和 user prompt 有什么区别？为什么指令要放 system？

大模型为什么会幻觉？应用层能做哪些缓解？

Embedding 是什么？为什么语义相近的两句话向量距离就近？

推理模型（thinking 类）和普通模型有什么区别？什么任务值得用？

说说你常用的 Prompt 技巧；few-shot 什么时候有效、什么时候反而有害？

CoT 为什么有效？推理模型时代还需要手写 CoT 吗？

怎么让模型稳定输出合法 JSON？结构化输出的几种实现与兜底策略？

什么是上下文工程？它和提示词工程是什么关系？

什么是 context rot？为什么上下文越长模型反而变笨？

多轮历史越来越长你怎么压缩？compaction 时什么必须保真？

Prompt 缓存是什么原理？怎么设计 prompt 才能「缓存友好」？

什么是提示词注入？你的应用怎么防？