首页 / 合集系列 / 大模型本地部署全攻略（合集）
📚 大模型本地部署全攻略（合集）
从 Token 到 Transformer 讲透大模型，再到硬件/量化选型、Ollama 与 llama.cpp 部署、服务化与调优、提示词/工具调用、RAG 与微调，循序渐进掌握本地大模型部署。
怎么学：按 ①→⑩ 顺序学习，每篇讲透「是什么 → 组成 → 怎么装/怎么用 → 怎么运维 → 用什么工具」。学完整个合集，你就能独立完成本方向从入门到上手的核心工作。点击下方任意一篇进入。
- 大模型本地部署全攻略（一）：从 Token 到 Transformer 的入门
从 Token 到 Transformer 通俗讲透大模型原理，搞清楚它到底在算什么。
- 大模型本地部署全攻略（二）：硬件与量化选型，跑一个模型要什么
讲透量化与显存原理，给你一张「跑多少参数模型要多少显存」的选型表。
- 大模型本地部署全攻略（三）：Ollama 与 llama.cpp 从零跑通
用 Ollama 五分钟跑通第一个本地对话，讲清它和 llama.cpp 到底在干什么。
- 大模型本地部署全攻略（四）：服务化与调优——API、并发与显存
从 KV Cache 原理到并发与限流，把本地模型服务化成可用的公共 API。
- 大模型本地部署全攻略（五）：提示词、结构化输出与工具调用实践
用角色、约束与工具调用让本地模型稳定干活，附运维场景实战案例。
- 大模型本地部署全攻略（六）：RAG 与微调——进阶落地与选型
讲清 RAG 与微调各自的边界与原理，给你一套「本地知识库 + 专用模型」的进阶方案。
📌 提示：合集各篇已在文末互相衔接（上一篇/下一篇）；学完建议动手实操验证，遇到问题先记录、再排查、再复盘。