理解大语言模型

理解大语言模型《理解大语言模型》中文 Web Edition 新章节。https://imbrooklyn.dev/books/understanding-llms/zh-hans/zh-CN第 40 章从提示词走向上下文工程https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-40/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-40/用可复现的契约检查实际输入、证据边界和上下文预算。Tue, 15 Sep 2026 00:00:00 GMT第 41 章结构化输出：建立机器可验证的数据契约https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-41/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-41/逐项读懂 JSON 与 Schema，区分结构通过、事实正确和失败分支。Tue, 15 Sep 2026 00:00:00 GMT第 42 章工具调用：模型提出请求，谁来执行https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-42/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-42/沿订单只读请求核对参数、授权、执行和结果回填。Tue, 15 Sep 2026 00:00:00 GMT第 43 章 MCP：互操作的稳定概念与版本边界https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-43/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-43/定位 MCP 各方职责，检查固定协议版本的只读通信。Tue, 15 Sep 2026 00:00:00 GMT第 44 章现代检索：从 BM25 到稠密检索、混合检索与重排https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-44/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-44/用保留的同一 FAQ 比较完整词法、稠密、混合与重排结果。Tue, 15 Sep 2026 00:00:00 GMT第 45 章从零构建有引用的 RAGhttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-45/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-45/沿版本化原文跟踪检索、上下文、引用答案与拒答。Tue, 15 Sep 2026 00:00:00 GMT第 46 章 RAG 工程与分层评测https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-46/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-46/分层定位流水线失败，用明确的不确定性评估单项配对改进。Tue, 15 Sep 2026 00:00:00 GMT第 47 章理解 Agent 的起点：工作流、状态与记忆https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-47/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-47/跟踪同一个差旅问题，弄清状态怎样变化、模型能在哪里选择，以及流程为何一定会停下来。Tue, 15 Sep 2026 00:00:00 GMT第 48 章 Agent Skills：封装可复用做法https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-48/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-48/把资料来源核验封装成有输入输出契约、按需加载、可执行检查和来源记录的 Skill。Tue, 15 Sep 2026 00:00:00 GMT第 49 章可靠 Agent：权限、预算、回放与恢复https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-49/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-49/跟踪一次取消响应丢失，理解具体审批、持久回执、有限重试，以及不重复副作用的恢复。Tue, 15 Sep 2026 00:00:00 GMT第 50 章从模型评测扩展到系统评测https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-50/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-50/沿整个助手的处理路径定位失败，并用保留的人工标签校准本地 Judge。Tue, 15 Sep 2026 00:00:00 GMT第 51 章幻觉、偏见、隐私与版权：持续治理https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-51/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-51/沿着一次制度问答的数据流，落实责任、保留与删除规则，以及可核查的治理证据。Tue, 15 Sep 2026 00:00:00 GMT第 52 章提示词注入、越狱与不可信输入输出https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-52/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-52/沿本地攻击的输入到输出路径检查边界，再用相同夹具验证具体控制。Tue, 15 Sep 2026 00:00:00 GMT第 53 章秘密、权限、租户隔离与供应链安全https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-53/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-53/把身份、获批操作和经审查的依赖绑定到可观察的安全边界。Tue, 15 Sep 2026 00:00:00 GMT第 54 章从 Notebook 到可用服务与可信的用户体验https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-54/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-54/跟踪一次带引用的回答，理解本地服务的鉴权、取消竞态、失败处理，以及帮助用户作判断的界面。Tue, 15 Sep 2026 00:00:00 GMT第 55 章 LLMOps I：版本记录、运行追踪与发布回滚https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-55/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-55/记录一次请求的全部依赖，拒绝有问题的本地候选，并分清回放、重新计算与故障恢复。Tue, 15 Sep 2026 00:00:00 GMT第 56 章 LLMOps II：缓存、故障应对、服务目标与反馈https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-56/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-56/算清缓存边界、过载与下游故障，给服务目标明确的分母，再把反馈变成经过审核的回归案例。Tue, 15 Sep 2026 00:00:00 GMT第 57 章毕业项目：交付一个可评测的个人知识助手https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-57/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-57/沿真实请求、失败样例、权限检查、评测和恢复记录，验收一个能力边界明确的知识助手。Tue, 15 Sep 2026 00:00:00 GMT第 5 章从向量、矩阵到批处理与形状https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-05/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-05/逐维跟踪嵌入行如何组成批次，手算点积、矩阵乘法与余弦，并识别补齐和语义错位。Sun, 13 Sep 2026 00:00:00 GMT第 6 章从分数到概率、损失与困惑度https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-06/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-06/逐步计算 Softmax、目标损失、平均损失、困惑度与有方向的 KL，明确分母、单位、数值稳定性和任务边界。Sun, 13 Sep 2026 00:00:00 GMT第 7 章机器学习与神经网络的最小训练闭环https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-07/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-07/完整跟踪一次梯度更新，再用固定二维数据诊断实测过拟合，分清训练集、验证集和测试集的职责。Sun, 13 Sep 2026 00:00:00 GMT第 8 章真实文本不是干净字符串https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-08/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-08/分清屏幕文字、Unicode 码点、UTF-8 字节与 Token，检验双语检索键契约，并跟踪不可逆的信息损失。Sun, 13 Sep 2026 00:00:00 GMT第 9 章关键词、词袋与 TF-IDF：建立稀疏基线https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-09/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-09/在同一份冻结的双语数据上完成 KA-0，构造完整计数与 TF-IDF 表示，比较三种词法排序，并保留失败证据。Sun, 13 Sep 2026 00:00:00 GMT第 10 章从稀疏表示到 Word2Vec 与神经语言模型https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-10/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-10/从词法失败引出学习静态表示，完整跟踪固定窗口神经语言模型，分别比较检索与续写任务，并暴露上下文缺失。Sun, 13 Sep 2026 00:00:00 GMT第 11 章 RNN：把过去带到当前https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-11/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-11/亲手展开三个递归时间步，区分共享参数与变化的状态，再比较窗口外线索和逐步衰减的线索。Sun, 13 Sep 2026 00:00:00 GMT第 12 章为什么 RNN 会忘：BPTT、LSTM/GRU 与上下文化表示https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-12/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-12/沿时间反向追踪误差，计算共享权重的梯度，比较门控状态路径，并理解 ELMo 怎样产生上下文化表示。Sun, 13 Sep 2026 00:00:00 GMT第 13 章 Seq2Seq：读完再写为何形成瓶颈https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-13/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-13/跟踪编码器、右移后的训练目标和自行接续的生成过程，区分前缀差异与固定向量中的信息碰撞。Sun, 13 Sep 2026 00:00:00 GMT第 14 章 Attention：当前输出应该看输入哪里https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-14/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-14/手算两次跨序列注意力读取，比较删去状态与删去输入后重新编码的结果，并找出仍然存在的递归依赖。Sun, 13 Sep 2026 00:00:00 GMT第 15 章自注意力与 Q/K/Vhttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-15/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-15/用三个位置的小矩阵，算清投影、缩放、逐行概率和加权求和的每一步。Sun, 13 Sep 2026 00:00:00 GMT第 16 章掩码与多头注意力https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-16/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-16/先规定谁能看谁，再识别未来信息泄漏，并算清两个头怎样拼接和投影。Sun, 13 Sep 2026 00:00:00 GMT第 17 章拼出完整的 Transformer 块https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-17/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-17/沿一个位置的表示，走过位置相加、注意力、残差、层归一化和共享的非线性网络。Sun, 13 Sep 2026 00:00:00 GMT第 18 章 Transformer 家族：BERT、GPT 与 T5https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-18/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-18/用同一句话比较可见信息和预测目标，分清架构、训练目标、训练阶段与产品界面。Sun, 13 Sep 2026 00:00:00 GMT第 19 章深入分词：BPE、WordPiece、SentencePiece 与字节级方法https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-19/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-19/手算小词表的逐次合并，检验文本能否往返还原，并固定 Mini GPT 的分词接口。Sun, 13 Sep 2026 00:00:00 GMT第 20 章从零拼出 Mini GPThttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-20/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-20/将原始记录、固定 token ID、每一步张量、词表 logits 和 CPU 损失核对连成 MG-1。Sun, 13 Sep 2026 00:00:00 GMT第 21 章训练、保存和审问 Mini GPThttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-21/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-21/读懂真实的 CPU 训练曲线，恢复同一条训练过程，并逐步检查 MG-2 生成成功和失败的原因。Sun, 13 Sep 2026 00:00:00 GMT第 22 章什么使语言模型成为 LLMhttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-22/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-22/从 Mini GPT 和模型卡出发，分清规模、复用范围、训练阶段、解题推理能力与提供模型服务的界面。Sun, 13 Sep 2026 00:00:00 GMT第 23 章预训练数据流水线与治理https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-23/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-23/跟踪小语料的解析、过滤、去重、信息替换、配比和污染检查，并为两个持续项目保留可追查的数据卡。Sun, 13 Sep 2026 00:00:00 GMT第 24 章模型、数据与算力如何共同扩展https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-24/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-24/逐项算清训练预算，读懂经验幂律，并区分训练计算最优与部署全过程的成本。Sun, 13 Sep 2026 00:00:00 GMT第 25 章现代稠密 LLM 的三个组件：RoPE、RMSNorm 与 SwiGLUhttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-25/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-25/逐步计算旋转、归一化和门控前馈网络，再把三项改动放回同一个残差块。Sun, 13 Sep 2026 00:00:00 GMT第 26 章高效、稀疏与替代架构地图https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-26/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-26/分清保存上下文、比较位置和使用参数的不同开销，再判断架构改动节省了什么。Sun, 13 Sep 2026 00:00:00 GMT第 27 章大规模训练：系统分工与资源估算https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-27/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-27/先算清权重、梯度、优化器状态和激活，再判断精度与并行怎样节省资源。Sun, 13 Sep 2026 00:00:00 GMT第 28 章机制可解释性：可解码、相关与因果不是一回事https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-28/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-28/用匹配的干预对照，分清激活里存在的信息与模型实际使用的信息。Sun, 13 Sep 2026 00:00:00 GMT第 29 章生成策略：从分数到采样https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-29/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-29/沿同一候选列表，跟踪分数变换、筛选、重归一化、抽样和停止。Sun, 13 Sep 2026 00:00:00 GMT第 30 章模型运行：预填充、解码、KV 缓存与量化https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-30/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-30/跟踪请求的首个 token、后续 token 和逐渐增长的缓存，再计算用近似数值换空间的代价。Sun, 13 Sep 2026 00:00:00 GMT第 31 章高效服务：缓存复用、内核、推测解码与批处理https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-31/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-31/用同一工作负载比较四种不同优化，分开首 token 等待、后续速度与吞吐。Sun, 13 Sep 2026 00:00:00 GMT第 32 章先写模型评测契约https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-32/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-32/比较候选之前，先把用户场景变成固定样例、评分规则、基线与否决条件。Sun, 13 Sep 2026 00:00:00 GMT第 33 章按证据选择 API 或本地模型https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-33/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-33/用可复现、带核验日期的比较完成 KA-1，允许否决全部候选，并分清实测与假设。Sun, 13 Sep 2026 00:00:00 GMT第 34 章 SFT：从续写到遵循指令https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-34/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-34/把对话展开为下一个 Token 的预测目标，检查损失掩码，并区分指令训练与参数高效适配。Sun, 13 Sep 2026 00:00:00 GMT第 35 章偏好优化：RLHF、DPO 与对齐边界https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-35/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-35/审阅偏好对，计算相对参考策略的惩罚，并跟踪 RLHF 与 DPO 究竟更新了什么。Sun, 13 Sep 2026 00:00:00 GMT第 36 章解题推理能力怎样训练：监督、RLVR 与核验器https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-36/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-36/用可核验的住宿报销小题，区分生成解答、检查解答与利用反馈训练。Sun, 13 Sep 2026 00:00:00 GMT第 37 章运行时增加计算：采样、搜索、验证和停止https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-37/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-37/在明确预算下比较参数不变时的答案选择，把失败候选、核验成本和停止条件一起算进去。Sun, 13 Sep 2026 00:00:00 GMT第 38 章能力不足该改哪里：提示、检索、工具还是参数https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-38/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-38/保留 KA-1 的失败证据，用真实的运行侧配对比较判断该修改哪一层。Sun, 13 Sep 2026 00:00:00 GMT第 39 章继续预训练、微调与 LoRA/QLoRAhttps://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-39/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-39/把训练数据和目标与可训练参数分开，再算清低秩更新的维度、数量和边界。Sun, 13 Sep 2026 00:00:00 GMT第 1 章先观察：LLM 是什么，又不是什么https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-01/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-01/从五组对话案例出发，学会判断回答是否合格，分清模型、信息来源和执行操作的软件各自负责什么。Thu, 10 Sep 2026 00:00:00 GMT第 2 章一个 Token 的旅程：训练和模型运行不是一回事https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-02/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-02/沿着一个 Token 的生成过程，分清输入变化与参数更新，再用六组对照说明系统究竟记住了什么。Thu, 10 Sep 2026 00:00:00 GMT第 3 章文本怎样变成 Token、ID 和嵌入向量https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-03/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-03/手算中英文分词和嵌入查表，弄清编码何时会丢失信息、词表为何要与模型配套，再计算向量的余弦相似度。Thu, 10 Sep 2026 00:00:00 GMT第 4 章从 N-gram 到 Bigram：手算语言模型https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-04/https://imbrooklyn.dev/books/understanding-llms/zh-hans/ch-04/从计数开始搭建语言模型，手算序列概率和生成过程，再看平滑与更长的上下文各能解决什么问题。Thu, 10 Sep 2026 00:00:00 GMT