华为 Atlas 800I A2 部署 Qwen2.5-32B 全栈 AI 应用实践

xiaorui2个月前 (06-01)157
华为 Atlas 800I A2 部署 Qwen2.5-32B 全栈 AI 应用实践
本文记录在鲲鹏+昇腾硬件上,基于 openEuler、vLLM-Ascend、Dify、RagFlow、Milvus 搭建大模型私有化知识库的完整过程,方便日后快速复现,记录一下。...