云 X DeepSeek产品技术方案分享

腾讯云

X

DeepSeek产品技术方案——国内率先提供DeepSeek联网搜索目录一、腾讯云知识引擎+DeepSeek——免部署，分钟级搭建应⽤二、腾讯云TI平台+DeepSeek——灵活精调和部署私有DeepSeek三、腾讯云向量数据库+DeepSeek——构建⾼质量国产「纯⾎」RAG应⽤腾讯云知识引擎+DeepSeek——免部署，分钟级搭建应⽤腾讯云全栈AI服务上线DeepSeek模型通过DeepSeek

API

和应用开发平台多级能力，满足用户各类需求知识引擎应用开发平台：面向初级开发者&企业运营API服务：面向资深开发者&企业开发者（满血版）（零代码）腾讯云DeepSeek

API服务调$——安全、ۚ可$ᱎػԍ$—;fl@ᕆƒ

;α/ᤒ཮fl@$,ഗᨗ᧦}ใ ÇᕆƒⒸ%Çूഐªʑآᐮس@ඩᠴfl.flƒ.qmbqdding.}fl౯fi÷ഐª¾ៈⒸ¿,;fi;αÇूAI

αªʑAPIഐªഅ8;.@A.Ⓐ$;྿fl$fi᫁ $,آfiਨ⎝flø྿fl

þᰱ§;@ம᣻ϣÇू¢@;ԑøOpqnAI API #fiᡓ,آ¾ ᢣ${£ʑ腾讯云大模型应用开发平台“知识引擎”——免部署，分钟级搭建应用6目标客户和场景：面向具备简单开发能力的初级开发者、企业运营人员；可通过模型选择、提示词模版、RAG配置能力等加速大模型应用构建，实现与自身业务系统的无缝对接。主要优势：国内率先支持「DeepSeek满血版+私域知识管理+实时搜索」于一体；分钟级搭建大模型应用；集成私域知识库，让AI更专业，支持复杂图文混排文档解析。接⼊搜狗搜索增强API，⼀键开关，即可让DeepSeek实时获取互联⽹最新资讯，提升时效性和回答准确度。腾讯云TI平台+DeepSeek——灵活精调和部署私有DeepSeekTI平台产品核心能力面向实战的一站式大模型精调部署解决方案AI建模部署大模型精调快速试一试：零代码一键部署大模型，网页问答体验推理效果精调训练：低代码、灵活自定义两种精调模式自由选择数据训练调试部署应用数据中心内置推理加速：全新升级Angel推理加速能力，加速比可达2倍大模型调用：统一的大模型调用API及体验工具，大幅缩短业务接入大模型能力周期AI资产管理自研混元大模型从零训练自主创新的通用大模型7b

13b

70b

不同参数量级自研行业大模型金融/汽车/医疗，提升垂类任务性能支持知识增强、实时更新知识库开源大模型DeepSeek全系Llama/baichuan/chatglm/Qwen等资源管理云服务器公有云HCC高性能服务器，一键纳管私有化服务器，支持X86+ARM统一纳管分布式文件存储公有云分布式文件存储CFS/Turbofs/Goosefsx私有化NFS协议存储NAS/CSP数据构建预置3大类精调数据处理pipeline数据标注CV，大模型相关的标注工具多种训练工具：具备周期调度能力的可视化建模，低门槛深度学习场景化工具，交互式代码开发工具，专业的通用任务调度工具分布式稳定训练：支持多机多卡大规模训练，故障自动重启续训镜像制作：基于jupyter的高效自定义镜像制作工具训练指标监控：丰富的指标监控及告警，覆盖网络及GPU算力内置训练加速：全新升级Angel训练框架加速能力，性能提升30%精调数据配比训练：内置100+任务类型精调配比数据AI框架训练工坊模型部署Pyspark，pytorch,

vllm，megatron等通用训练框架triton,vllm,sglang,sd,pmml等通用推理框架容器底座公有云自带容器底座TKE私有化自带容器底座TCS分布式推理：解决大参数量模型部署，提供超长上下文窗口TI平台DeepSeek使用场景DeepSeek企业级精调与推理AI业务系统知识引擎应用数智人智能客服知识引擎模型服务客户专属模型模型训练DeepSeek满血版其他开源模型DeepSeek蒸馏版模型全参/LoRA

SFT模型部署DeepSeek全系模型客户专属模型DeepSeek系列模型腾讯云精调知识大模型混元系列模型行业大模型TI平台专属模型兼容OpenAI接口规范混元系列模型 其他开源模型私有API(公网、VPC)蒸馏RAG知识文档知识问答工作流联网搜索配置项DeepSeek联网助手开发对接文档问答 知识摘要文档解析意图识别向量检索文档拆分多轮改写大模型API前端应用DeepSeek全系支持专属模型产出DeepSeek全系模型精调快速基于垂直领域高质量数据，进一步提升模型在特定领域的效果基于DeepSeek

R1蒸馏较小模型实现知识迁移。大幅降低推理成本，在保证效果的同时提升响应速度。私有API调用DeepSeek全系模型部署从算力，模型，调用接口完全自主可控的部署方案，服务于前端AI应用DeepSeek部署方案DeepSeek全系大语言模型支持服务部署DeepSeek全系列核心收益一体化服务管理工具及推理加速能力Angel推理加速并行解码模型量化并行优化Sampling及batch优化服务管理与运营指标监控 鉴权/限流 流量分配实时掌握服务性能、调用量、资源消耗等关键指标自动调度符算力资源，弹性灵活应对业务峰谷容器调度HPA扩缩容 定时扩缩容 组合扩缩容提供多种扩缩容策略，满足不同场景的灵活资源需求算力调度纳管资源组 按量计费算力池大模型专属GPU算力 CPU及传统GPU算力包月独享 按需按量一体化服务管理工具独享GPU算力集群私有API服务调用企业级鉴权流控超大模型启动加速长上下文(64~128K)高并发、高可用R1-Distill-Qwen-32BR1-Distill-Qwen-14BR1-Distill-Qwen-1.5BR1-Distill-Llama-70BR1、V3满血版R1-Distill-Qwen-7BR1-Distill-Llama-8B算力投入持续降低DeepSeek精调方案DeepSeek全系大语言模型支持SFTDeepSeek全系列核心收益注重灵活性、扩展性的生产级大模型精调工具链蒸馏后模型多模式精调R1-Distill-Qwen-32BR1-Distill-Qwen-14BR1-Distill-Qwen-1.5BR1-Distill-Llama-70BR1、V3满血版R1-Distill-Qwen-7BR1-Distill-Llama-8B全流程训推⼯具链，注重实战灵活性、扩展性内置

Angel加速能⼒，切实提升训推效率训练过程⽩盒化、资源碎⽚监控、训练资源调度灵活可配，切实提升资源利⽤率满血版模型一键精调256卡H20全参SFT8小时全参+LoRA双模式低至1卡A10DeepSeek蒸馏方案DeepSeek全系大语言模型支持SFT内置R1模型一键部署R1模型部署

R1问题清洗

R1推理结果⽣成

构造蒸馏数据集无关数据过滤剔除 R1推理服务调用 清洗R1推理结果选择并精调目标模型蒸馏模型

效果评估评估对比模型效果在线服务 数据构建 数据构建 数据构建 任务式建模 模型评测快速灵活、易扩展直观快速基于TI平台精调工具链，迁移R1高级推理能力至小尺寸模型，以更低推理成本满足垂直场景下的业务需求TI平台的DeepSeek实践全行业适用、让DeepSeek更好用蒸馏精调服务部署探索期探索期稳定期稳定期TI平台

×DeepSeek面向实战的精调部署平台全周期均可切入使用启动阶段启动阶段TI平台价值内置蒸馏方案，开箱即用内置全系模型，一键精调痛点不知道怎么基于R1蒸馏模型开源框架繁多，不知道怎么选痛点TI平台价值工具链易上手，快速验证效果统一资源纳管，灵活腾挪算力验证效果链路长，耗时久算力空闲情况多，ROI低痛点TI平台价值故障感知修复+监控，高可用细致的资源级权限管控故障多，无法长时间稳定运行规模扩大，人/物料管理难度高TI平台价值内置全系模型，一键部署免费体验，快速验证效果痛点开源资源分散，准备周期长解决技术问题，体验效果滞后痛点TI平台价值配置⾃主可控，快速验证并发⽤量统一资源纳管，灵活切换根据业务量探索资源⽤量机型差异大，选型难痛点TI平台价值一键多副本，快速线性扩缩容持续升级推理加速，降本增效业务量变化，服务调整难度大算力投入大，优化成本长期存在腾讯云向量数据库+DeepSeek——构建⾼质量国产「纯⾎」RAG应⽤DeepSeek+腾讯云向量数据库：构建高质量国产「纯血」RAG应用腾讯云向量数据库作为RAG应⽤中的核⼼组件，提供独特的「AI套件」功能，⽤户仅需上传原始⽂档即可快速构建知识库，并可结合腾讯云TiOne或HAI平台快速部署DeepSeek模型搭建⾼质量RAG应⽤，如：企业内部知识库、内外部智能客服、代码助⼿等。客户选择腾讯云向量数据库的核心依据「首家」获得权威机构标准认证性能领先⾏业平均⽔平2倍以上，单QPS成本降低75%，

极具性价⽐成本、性能大幅度领先105253381159405000100001500020000768维度QPS对比

17666 128维度腾讯云向量数据库0.771.23301234单QPS成本（元/月）