https://www.ithome.me/tags/%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9/ Recent content in 模型压缩 on 编程心语 Hugo zh-CN Mon, 31 Aug 2026 11:00:00 +0800 https://www.ithome.me/post/2026/08/31/edge-model-pruning-guide/ Mon, 31 Aug 2026 08:00:00 +0800 https://www.ithome.me/post/2026/08/31/edge-model-pruning-guide/ <h2 id="压缩三件套还差最后一块拼图">压缩三件套，还差最后一块拼图</h2> <p>前两周我们聊了端侧模型的<strong>量化</strong>（INT8/INT4 把权重从 4 字节压到 0.5 字节）和<strong>知识蒸馏</strong>（小模型学大模型的输出）。今天补上三件套的最后一块：<strong>剪枝（Pruning）</strong>，把权重矩阵里不重要的参数直接置零。</p> https://www.ithome.me/post/2026/08/12/edge-ai-knowledge-distillation/ Wed, 12 Aug 2026 08:00:00 +0800 https://www.ithome.me/post/2026/08/12/edge-ai-knowledge-distillation/ <p>上次我们用 INT8 量化把 MobileNetV2 从 14 MB 压到 3.5 MB（见<a href="https://www.ithome.me/post/2026/08/07/on-device-quantization-model/" rel="">端侧模型 INT8 量化实战</a> ）。但量化是事后减肥：模型该多大还多大，该多笨还多笨。今天聊另一种压缩思路——<strong>知识蒸馏（Knowledge Distillation）</strong>，它发生在训练阶段：让小模型拜大模型为师，直接把大模型脑子里的判断力继承下来。</p> <p>一句话概括：<strong>量化管体积，蒸馏管智商</strong>。两者不冲突，先蒸馏再量化，是端侧部署的标准组合拳。</p>