Ollama 多卡 GPU 与并发服务实战
覆盖 ollama serve、模型拉取/加载、OLLAMA…
Archive
标签： AI
大模型选型对比表：常见开源大模型怎么选
一张表看清常见开源大模型的参数量、显存、方向与适用场景，附选…
本地大模型 vs 云端 API：选型与成本测算
不背结论，教你算清本地 vs 云端的成本与选型逻辑，并明确提…
大模型幻觉治理与安全加固实践
讲清幻觉与安全风险的成因，按业界公认做法给出一套治理与加固清…
AI 大模型专业名词全解析：一次看懂所有术语与英文缩写
从 LLM、Token、Transformer 到量化、RA…
大模型本地部署全攻略（四）：服务化与调优——API、并发与显存
从 KV Cache 原理到并发与限流，把本地模型服务化成可…
大模型本地部署全攻略（五）：提示词、结构化输出与工具调用实践
用角色、约束与工具调用让本地模型稳定干活，附运维场景实战案例…
大模型本地部署全攻略（六）：RAG 与微调——进阶落地与选型
讲清 RAG 与微调各自的边界与原理，给你一套「本地知识库 …
大模型本地部署全攻略（一）：从 Token 到 Transformer 的入门
从 Token 到 Transformer 通俗讲透大模型原…
大模型本地部署全攻略（二）：硬件与量化选型，跑一个模型要什么
讲透量化与显存原理，给你一张「跑多少参数模型要多少显存」的选…