Ai on 编程心语

端侧 Embedding 模型实战：为本地 RAG 选对编码器

Fri, 07 Aug 2026 08:00:00 +0800

做本地 RAG（检索增强生成）时，大部分人把精力花在 LLM 选型上——7B 还是 13B？量化到 4bit 够不够？但真正决定 RAG 检索质量的，往往是管道入口处的 Embedding 模型。

Thu, 06 Aug 2026 08:00:00 +0800

想象你是老板，想雇一个全能的 AI 助手帮你管服务器。问题来了：助手很聪明，但不会开服务器——它看不到你的服务，也没法操作。

MCP（Model Context Protocol）就是给 AI 装上手的标准协议：把本地服务的 API 包装成 AI 能看懂、能调用的工具列表。2025 年 Anthropic 开源后，已经成为 Agent 生态的事实标准。

Tue, 04 Aug 2026 08:00:00 +0800

接入大模型三个月，账单比想象中高出一大截。翻日志发现一个扎心的事实：大量请求是重复的。

LLM 按 token 计费，重复推理就是纯浪费。本文分享一套实战验证过的三层缓存方案，从上到下依次是：精确缓存 → 语义缓存 → 供应商 Prompt Cache，三层叠加通常能把成本降 50% 以上，顺带把响应延迟从秒级降到毫秒级。

Sun, 02 Aug 2026 08:00:00 +0800

接入大模型后最头疼的问题：你让它"提取订单信息"，它给你返回一段带语气词、Markdown 代码块、甚至把键名从 order_id 改成 orderId 的自由文本。下游程序一解析就崩。

Sun, 26 Jul 2026 08:00:00 +0800

传统代码审查（Code Review）依赖人工逐行检查，耗时久、标准不统一。而托管的 AI 审查服务（如 GitHub Copilot、CodeRabbit）虽然强大，却存在两个痛点：

Wed, 15 Jul 2026 08:00:00 +0800

剖析勘智云平台的七种CV任务、数据标注、模型训练、KModel部署全流程，给出基于开源工具链的自建方案。

Mon, 13 Jul 2026 08:00:00 +0800

二十年前学编程，第一关是语法。C语言的指针、Java的泛型、Python的缩进——你要花大量时间记规则、查文档、对着报错信息发呆。那时候"会编程"的门槛，很大一部分是"记住了多少语法"。