大模型本地部署全攻略（三）：Ollama 与 llama.cpp 从零跑通
用 Ollama 五分钟跑通第一个本地对话，讲清它和 lla…
Archive
标签： AI
大模型微调实战入门：LoRA 低资源微调思路
从数据准备到 LoRA 训练与评估，搞清低资源微调的适用场景…
本地大模型并发调优实战：吞吐、延迟与显存管理
从 KV cache 到量化与并发参数，调优本地大模型的吞吐…
大模型服务化部署实战：OpenAI 兼容 API 与限流配置
用 OpenAI 兼容 API 把本地大模型服务化，配好限流…
AI Agent 实战入门：让大模型自动调用工具完成运维任务
从 function calling 到工具执行与风险控制，…
用大模型写运维脚本：从需求到可用的自动化脚本
教你把需求交给大模型生成脚本，并讲清人工审查与测试流程。
向量检索实战：用 bge 模型给日志做语义搜索
本地跑 embedding 模型做日志语义检索，讲清向量化、…
大模型辅助运维实战：日志分析与告警归类案例
用 Ollama + 提示词给日志做自动化归类，附可直接套用…
RAG 实战：用向量库搭建内网知识库问答
从切分、向量化到检索生成，用开源组件搭建内网知识库问答。
大模型本地部署实战：Ollama 与 llama.cpp 对比与选型
Ollama 与 llama.cpp 本地部署大模型完整对比…