标签: LLM
该标签下的全部文章 "LLM".
怎样让程序可靠接住模型输出：结构化输出与校验
从 JSON 到 Schema，再到订单核验，理解格式保证、未知字段和有限修复的边界。
Prompt 改了以后真的更好吗：从失败样本到持续改进
以同一套工单分类器建立对照评测，理解数据划分、版本、注入样本与自动优化。
文字怎样变成模型的输入：Token、Tokenizer 与向量表示
更新于:LLM 基础沿一句售后问题，手推子词切分，观察聊天模板、Token ID、掩码和 Embedding 如何组成模型输入。
Transformer 怎样处理一句话：从 Attention 到完整计算过程
更新于:LLM 基础用向量手算和完整前向代码，解释 QKV、多头、位置编码、FFN、残差、归一化与输出投影，并理解 GQA 和 MoE。
大模型怎样学会回答：训练、指令微调与生成策略
更新于:LLM 基础从错位标签和交叉熵走到梯度更新，解释预训练、SFT、偏好优化与 LoRA，再用概率例子理解采样和幻觉。
一次对话怎样运行：上下文、KV Cache 与流式生成
更新于:LLM 基础从两次请求的差异理解历史、窗口预算、Prefill、Decode、KV Cache 与流式返回。
模型怎样看图和听声音：多模态与实时对话
更新于:LLM 基础从破损照片和语音售后问题，理解视觉编码、跨模态连接、语音链路、播放与打断，以及多模态证据的边界。
怎样把模型用进应用：能力、显存、速度、成本与可靠性
更新于:LLM 基础用同一组客服任务理解质量、延迟、Token 费用与失败处理，再决定调用方式。