Build. Learn. Document. Repeat.
持续学习,持续实践,持续沉淀。
欢迎来到我的数字花园 🌱。
我习惯将学习、实践与思考沉淀为可复用的笔记,希望把零散的信息整理成系统化的知识,也希望它们能在未来的某一天再次帮助自己,或帮助正在阅读的你。
我相信知识不是一次性整理完成的文档,而是在学习、实践和复盘中不断生长的网络。
如果某篇文章帮助到了你,希望它也能成为你知识网络中的一个节点。
🕰️ 最近笔记
结构化输出是什么:拿到 JSON 不等于拿到有效业务数据
AI / LLM让模型从一段文字里提取订单信息,返回下面这样的 JSON,程序就能直接创建订单了吗?
普通响应与流式响应:同一份答案如何交付
AI / LLM调用模型接口时,普通响应会等答案全部生成后再返回;流式响应则在生成过程中陆续返回文本片段,客户端收到一段,就可以展示一段。
上下文窗口是什么:为什么输入不长也会超限
AI / LLM用户只问了一小句话,请求却提示上下文超限,可以先看应用实际发了什么:除了当前问题,可能还有历史对话、检索资料、工具说明和执行结果。
temperature、top_p 与输出长度分别控制什么
AI / LLM调用模型时,经常会设置 temperature、top_p 和输出长度上限。前两个影响每一步怎样选 Token,最后一个限制最多生成多少。它们不是同一个作用,也不直接决定回答是否正确。
Token 是什么:为什么字数不能直接换算模型用量
AI / LLM“你好,世界”有 5 个字符,用 cl100k_base 编码会得到 6 个 Token,换成 o200k_base,又只需要 3 个。
一次模型调用的输入究竟包含什么
AI / LLM聊天时,前面已经说了目的地、预算和人数,后来只补一句“住哪儿合适?”,模型为什么还能接着回答?
用 Python Decimal 计算 Token 费用:单位、缓存与金额精度
AI / LLM假设一次模型调用用了 1000 个输入 Token,其中 800 个命中缓存,又生成了 200 个输出 Token。总共用了 1200 个 Token,但计算费用时,不能把这个总数直接乘一个单价。
初识 Jev:让 AI 帮程序做判断
AI / AgentJev 是 TypeSafe AI 推出的模型,用来做分类、打分和判断。比如,读一条客服消息,判断用户是不是要求退款,再把结果交给程序处理。它不负责写客服回复,返回的是选项、分数或概率。
Python 对象相等判断:从 JavaScript 理解 ==、!= 与 is
Engineering / Python在 JavaScript 中,两个分别创建的对象,即使属性完全一样,a === b 也会得到 false。带着这个经验读 Python,下面的代码就容易让人困惑:
Python 懒加载:初始化究竟在什么时候发生
Engineering / Python一个搜索服务可能需要加载模型,但程序启动后,不一定马上有人搜索。如果创建服务时就加载模型,即使最后没有执行搜索,也已经付出了加载的时间和内存开销。
📝 关于这些笔记
这里的大部分内容都来自实际学习和开发过程。
为了方便长期维护,每篇笔记都会尽量按照统一的知识结构整理,例如:
| 类型 | 说明 |
|---|---|
Theory | 概念讲解、原理分析、成因对策 |
Practice | 实践指南、实现方案、最佳实践 |
Snippet | 代码片段、实用函数 |
Reference | 学习笔记、语法参考 |
Tutorial | 上手教程、快速入门、搭建指南 |
Cheatsheet | 命令备忘、配置速查 |
Experience | 踩坑记录、FAQ、排查过程 |
希望每一篇笔记不仅能解决当前的问题,也能成为未来可以快速检索和复用的知识资产。
📖 知识导航
-
🤖 AI 大模型、AI 应用开发以及相关技术实践。
-
💻 Engineering 记录软件开发、编程实践与工程设计思考。
-
☁️ Infrastructure 沉淀开发环境、部署流程与基础设施相关知识。
-
🛠 Tools 分享提升效率的工具、配置与个人工作流。