大模型微调实践：LoRA/QLoRA 训练与评估部署
微调vs RAG、LoRA/QLoRA原理、数据集构建、训练…
Archive
标签： AI
RAG 效果优化实践：切分/混合检索/重排/评估
切分策略、Embedding选型、混合检索与RRF、rera…
大模型服务化部署：vLLM/TGI/并发/GPU调度
推理框架对比、API服务化、连续批处理、GPU多实例与监控成…
大模型部署资源规划：显存/GPU/并发与成本估算
模型规模与显存估算、推理/训练资源、并发吞吐、GPU 选型、…
向量数据库实战：Milvus/Qdrant/pgvector 选型与调优
主流向量库选型、HNSW/IVF 索引、部署、写入检索、性能…
大模型运维 Agent 实战：工具调用/自动排障与安全边界
运维 Agent 架构、Function Calling、可…
AI 与智能运维(AIOps)趋势观察：运维的角色变化
AIOps 的应用场景(告警降噪/故障预测/日志/自动化)与…
本地大模型 RAG 与推理部署实战：资源评估与加速
从模型选型、显存/资源测算到 Ollama/vLLM 部署与…
本地大模型运维进阶：显存、并发与成本调优
讲服务化的显存构成（权重+KV cache×并发）、量化对效…
RAG 检索增强调优实战：分块、向量化与重排
按文档→切分→embedding→向量库→检索→重排→生成全…