文章
已发布的全部文章。
从开源项目学习 RAG:沿着 Haystack 追踪一次入库与查询
固定 Haystack 2.9.0 阅读文档编码、存储、检索、提示装配与生成边界,并迁移到售后案例。
Prompt 为什么能改变模型回答:从生成原理到上下文组织
从工单分类理解条件概率、消息角色、任务边界、历史与资料怎样共同影响回答。
怎样用示例和步骤教会模型完成任务
用对照样本、金额提取和可核验的中间结果,解释上下文学习、任务分解与推理策略。
如何写好一个 Prompt:从需求到可用版本
完整设计工单提示,处理歧义、复杂输入与不同任务,并用带注释代码装配可追溯的请求。
怎样让程序可靠接住模型输出:结构化输出与校验
从 JSON 到 Schema,再到订单核验,理解格式保证、未知字段和有限修复的边界。
外部文字为什么会变成指令:Prompt Injection 与任务边界
用客户消息、引用资料和只读工具解释注入如何传播,以及提示边界与程序授权各自负责什么。
Prompt 改了以后真的更好吗:从失败样本到持续改进
以同一套工单分类器建立对照评测,理解数据划分、版本、注入样本与自动优化。
从开源项目学习 Prompt:沿着 DSPy 源码追踪一次调用
固定 DSPy 2.6.27,追踪任务声明、消息装配、输出解析和示例优化,再迁移到自己的工单程序。
文字怎样变成模型的输入:Token、Tokenizer 与向量表示
更新于:LLM 基础沿一句售后问题,手推子词切分,观察聊天模板、Token ID、掩码和 Embedding 如何组成模型输入。
Transformer 怎样处理一句话:从 Attention 到完整计算过程
更新于:LLM 基础用向量手算和完整前向代码,解释 QKV、多头、位置编码、FFN、残差、归一化与输出投影,并理解 GQA 和 MoE。