版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
互联网企业服务行业技术实践指引2.0基于云上技术创新,加速商业模式落地©2023iResearchInc.CONTENTS目录010203互联网企业服务发展新风向B
a
c
k
g
r
o
u
n
d互联网企业服务场景解决方案及实践S
o
l
u
t
i
o
n
s
a
n
d
P
r
a
c
t
i
c
e
s互联网企业服务发展趋势前瞻D
e
v
e
l
o
p
m
e
n
t
T
r
e
n
d
s201互联网企业服务发展新风向Background3现状及挑战服务商亟需破解定制开发、持续交付难题,探索更多收入增长和利润空间随着企业数字化转型进程的加速,互联网企业服务市场面临着历史性的机遇和挑战。服务商需要在标准化和定制化中间寻找平衡点,并提升自身竞争力。同时,为了实现创新和增长,客户结构和成本结构的优化势在必行。上述因素共同驱动着互联网企业服务商在技术和商业领域不断探索新的可能性。互联网企业服务业务现状及挑战服务价值延伸定制需求满足产品持续交付海外市场拓展安全合规建设•
企业降本增效诉求突出,希望降低对人工重复性操作的依赖;•
企业信息化程度较低、管理标准化程度不足,存在较多的定制开发需求;•
提供持续服务,通过高效、高质量的升级迭代巩固市场地位;•
中小企业经营风险加剧续费率承压,需寻求新的增长可能;•
应满足监管要求,避免客户隐私和敏感数据的泄露,维系客户信任;•
数据驱动成为数字化转型主线,叠加智能化功能进行差异化竞争。•
资本降温,盈利重要性提升,需•
头部客户出海,要求厂商在海外市场提供相应的产品和服务。•
数据安全法落地,更需加强安全合规建设,向健康、可持续发展。•
中大型企业更需要与既有系统之间进行集成。降低开发、测试、运维的边际成本。来源:艾瑞咨询研究院自主研究及绘制。©2023.8iResearchInc.4应对及创新方向一:智能化探索AI技术与业务场景的融合,助力降本增效,迈向数据驱动随着数字化转型进程的深入,下游客户对互联网企业服务在降本增效和辅助决策提出新的要求,厂商纷纷探索业务场景与AI技术的结合,力求实现差异化竞争。现阶段,AI技术在灵活性较低、规则性较强的场景中已经发挥出明显的效果,但在处理复杂流程、多维数据的过程中仍存在一定的局限性。ChatGPT的兴起为AI技术注入了新的活力,也为互联网企业服务市场带来了新的可能性。随着技术的演进和经验的积累,未来AI技术将有望在数据驱动、智能决策方面发挥出更大的价值。互联网企业服务与AI技术的结合下游客户需求驱动下游客户需求驱动AI技术结合方向AI技术结合方向业务场景深挖业务场景深挖计算机视觉人力:简历筛选财税:自动报销医疗:病灶分析需求点1:降本增效人脸/人体识别图像识别/搜索在灵活性弱、规则性强的工作中替代人工,促进流程自动化金融:远程开户知识图谱客服:智能外呼法律:庭审记录办公:纪要转录金融:欺诈风控智能语音&自然语言处理需求点2:辅助决策语音/文本机器人声纹识别盘活内外部数据,通过更准确的分析和预测,增强企业竞争力营销:智能推荐零售:库存优化采购:价格预测工业:智能排产机器学习来源:艾瑞咨询研究院自主研究及绘制。©2023.8iResearchInc.5应对及创新方向二:云原生云原生帮助企业实现敏捷开发,适应需求动态变化云原生技术的应用成为企业服务商提升产品开发与交付效率的关键。微服务架构通过解耦和服务化提高了系统的灵活性、可伸缩性和可维护性,让服务商能对每个模块独立进行开发、部署和扩展。云原生的应用让服务商在竞争激烈的市场中能更快推出创新的产品和服务,从而获得持续的业务增长和竞争优势,同时帮助客户顺应行业风向,抓住市场机遇。云原生助力敏捷开发2022年全球公司应用迭代周期对比容器云微服务虚拟化的进阶,让程序可以在不同的环境中运行7%12%松耦合架构,能独立开发、扩展和部署各个服务15%云原生23%自动化部署和编排通过自动化工具和流程确保应用程序的频繁更新和交付,与CI/CD共同推进DevOps的实现30%Serverless让企业专注业务代码,无需关注服务器配置管理31%云原生下企业服务商典型开发模式23%Serverless开发模式18%16%设计、开发、测试敏捷迭代容器开发模式微服务25%微服务微服务企业服务商FaaSBaaS客户全部公司几乎在所有几乎在所有开发部署阶开发部署阶段容器平台段均应用云原生技术的均应用云原生公司基础软件基础资源技术的公司需求反馈一天多次每天每周每月或每季度临时更新来源:艾瑞咨询研究院自主研究及绘制。来源:CNCF2022ANNUALSURVEY,艾瑞咨询研究院自主研究及绘制。©2023.8iResearchInc.
©2023.8iResearchInc.6应对及创新方向三:SaaS+PaaSSaaS+PaaS模式将定制主导权让渡于客户,让服务商交付更轻量对企业而言:SaaS软件能满足轻量、弹性的需求,但部分功能的自由度仍然受限,而SaaS+PaaS的产品形态能有效解决产品轻量化与定制兼容的难题。aPaaS提供了图形化界面和可视化应用搭建,减少了开发时间和复杂性;iPaaS为开发者提供了完整的开发环境,节省了部署环境的时间和成本。对服务商而言:利用PaaS将部分定制能力交付于客户,让研发人员从繁重的交付前工作中解放,而将重心放在交付后的客户服务于产品迭代上,实现人力资源的有效利用与良性循环。PaaS在应用中的能力支撑PaaS对互联网企业服务的价值行业应用产品交付产品二开产品使用产品运维降维开发SaaS应用OP应用••定制软件SaaS••厂商••业务人员••厂商低代码/aPaaS表单设计模型设计流程编排/(标准化)业务人员厂商需求沟通业务逻辑编排规则设计……••开发人员业务人员••开发人员厂商(迭代)••aPaaS••开发人员开发人员iPaaS••开发人员业务人员••开发人员厂商(迭代)SaaS+aPaaS集成中台API平台••开发人员业务人员••开发人员厂商(迭代)•SaaS+PaaS•开发人员IaaS基础资源来源:艾瑞咨询研究院自主研究及绘制。©2023.8iResearchInc.7应对及创新方向四:海外拓展向海外市场探索新商机,东南亚成出海新焦点为扩大国际影响力和实现多渠道拓客,服务商开始积极探索海外市场,成为跨境服务商服务全球客户。跨境服务商除服务境内外客户外,还帮助希望迅速进入海外市场、实现本土化运营的企业提供产品和服务。主要出海市场中,欧美地区各行业相对成熟,对娱乐性强、高客单价的产品接受度高;东南亚等地监管相对宽松,尚有人口红利,适合高性价比、劳动密集型产品。受GDPR及区域合规政策影响,目前跨境服务商的主要业务阵地从欧美转向东南亚、中亚、日韩等地区倾斜。2020-2026年中国云出海市场规模增长情况厂商出海市场倾向35.4%欧娱乐、制造、数字科技成熟,用户付费意愿高•美
•
适合产品单价高,娱乐性强的产品860.9云出海市场规模(亿元)市
•
例:音视频、直播、社交娱乐、游戏、无人机、汽车、科技类零售电商、场传统金融、制造业研发基地等41.2%CAGR256.52022128.62020存量市场:欧美出2026e海重心产品服务专业性提升谋求需求端新突破增量市场:东南亚+中亚+日韩出海动因+6%中国国内市场饱和•••东随企业出海而出海提升海外影响力南
•东西文化交汇,宗教语言复杂,监管相对宽松,讲究性价比,用户基数大适合产品尚有人口红利可挖掘,监管相对敏感的行业例:快消类零售电商,数码产品,数字金融,制造业生产装配工厂等亚••2019-2021年,中国品牌全球信任指数增加6%市•场备注:云出海市场指中国企业在中国大陆地区以外使用云服务的市场。来源:专家访谈、用户调研、结合艾瑞咨询市场估值模型计算。来源:艾瑞咨询研究院自主研究及绘制。©2023.8iResearchInc.©2023.8iResearchInc.8应对及创新方向五:安全合规网络及数据安全监管趋严,国内各行业安全政策纷纷落地试行随着企业数字化转型和业务上云进程加快,企业受到攻击、信息泄露等风险大幅提升。企业愈发重视网络、数据安全合规,同时各国政府均加强对网络和数据安全的监管,出台了一系列保护用户数据隐私、防止数据泄露和恶意攻击的政策。国内及海外安全相关政策中,对工业、汽车、医疗、电商等涉及大量个人信息的行业政策管控力度相对更大。相比之下,海外政策尤其GDPR强调数据主体的知情权、同意权等,而国内安全合规政策更加注重政府监管和国家安全。中国安全合规相关政策梳理(部分)海外安全合规相关政策梳理(部分)发布日期法规名称《工业和信息化领域数据安全管理办法(试行)》《网络产品安全漏洞收集平台备案管理办法》《数据出境安全评估办法》地区发布日期2020.112020.112018.112018.052020.112019.112020.112020.082019.08法规名称《关于国际数据传输的建议草案》《数据治理法提案》2022.122022.102022.072022.06欧盟《非个人数据自由流动条例》《通用数据保护条例》(简称GDPR)《加州隐私权利法案》(简称CPRA)《国家安全与个人数据法》《移动互联网应用程序信息服务管理规定》2022.06《网络安全标准实践指南——个人信息跨境处理活动安全认证规范》2022.012021.112021.06《网络安全审查办法》《个人信息保护法》《数据安全法》美国加拿大巴西《2020数字宪章实施法》中国各行业安全合规相关政策梳理(部分)《通用数据保护法》(简称LGPD)《消费者数据权利修正法案》澳大利亚行业
发布日期法规名称韩国2020.012020.10《个人信息保护法》、《信息通信网法》、《信用信息法》《个人数据保护法(修订)草案》(简称PDPA)2022.06
《电力行业网络安全管理办法(修订征求意见稿)》电力能源2022.06
《电力行业网络安全等级保护管理办法(修订征求意见稿)》新加坡印度医疗工业交通金融2022.04
《药品监管网络安全与信息化建设“十四五”规划》2022.02
《工业和信息化领域数据安全管理办法(试行)》2022.03
《车联网网络安全和数据安全标准体系建设指南》2022.04
《证券期货业网络安全管理办法(征求意见稿)》2019.122021.012021.01《个人数据保护法案》《数据管理框架》(简称DMF)《跨境数据流动合同范本》(简称MCC)东盟来源:公开信息,艾瑞咨询研究院自主研究及绘制。来源:安徽省贸促会,艾瑞咨询研究院自主研究及绘制。©2023.8iResearchInc.©2023.8iResearchInc.902互联网企业服务场景解决方案及实践S
o
l
u
t
i
o
n
sa
n
dP
r
a
c
t
i
c
e
s10CONTENTS目录0102人工智能ArtificialIntelligence高性能计算CloudHighPerformanceComputing03商业增长BusinessGrowth0405内容创作ContentCreation业务管理BusinessManagement11人工智能ArtificialIntelligence12人工智能业务需求分析AI技术从传统1.0迈入AI2.0时代,对AI基础设施带来巨大挑战ChatGPT的现象级爆火,代表着AI大模型技术取得重大突破,新一代AI技术正在从技术、平台到应用等多个层面引发革命。AI大模型也在加速对智能对话助手、办公助手、文生图、文生视频、文生3D模型、AI
agent、具身智能等各个场景中的渗透,全面提升各行业生产效率,创造巨大产业价值。新一代AI场景典型业务需求高质量数据获取大规模高性能GPU集群稳定高效AI平台低成本推理数据质量对大模型的效果有决定性作用,但目前仍存在数据获取难、数据安全要求高、数据清洗复杂等问题。大模型对高性能GPU、高速网络和高性能存储要求更高。大规模训练的稳定性至关重要,故障恢复是巨大挑战,大规模分布式训练推理框架和加速等工程能力要求高。整体GPU利用率不高,单一主流显卡较贵,推理成本对业务规模形成关键制约。©2023.8iResearchInc.13AI通用技术解决方案全生命周期大模型训练与推理方案,助力生产力飞跃腾讯云依托强大的基础设施和服务能力,为客户提供AI场景全生命周期解决方案。基于腾讯云内部在AI领域的技术打磨和沉淀,利用高性能的算力和高吞吐网络,以及高性能存储和缓存方案,大幅降低了大模型训练和推理门槛,加快客户业务开发迭代速度,提升产业创新效率。方案架构方案优势一站式的机器学习平台,提升AI研发效率业务流程标注训练评估测试部署从数据处理和标注、大规模分布式训练、模型管理、推理部署、模型精调等环节提供全流程稳定高效解决方案。机器学习平台数据中心训练工坊模型管理模型服务资源组理模型精调显著提升训练和推理加速效果,有效降低成本提供大规模分布式训练和推理框架,从通信算法、网络、高性能算子、编译优化、硬件加速等方面提供全方位优化加速能力。加计算图优化框架通信算法编译优化算子生成硬件加速速优化训练推理网络层高性价比的高性能计算集群基提供高性能GPU计算集群、高吞吐并行文件存储和高性能低延迟星脉网络,全面提升技术底座,支撑新一代AI创新。础设施高性能HCC集群CFSTurbo高性能存储无损星脉网络©2023.8iResearchInc.14基于云原生技术实现资源统一管理和调度,分钟级快速故障恢复需求背景企业概览业务挑战•成立于2021年12月,MiniMax是国内同时拥有文本、语音、视觉三模态融合的通用大模型引擎能力,并打通产品全链路的创业公司。MiniMax坚持“与用户共建智能(IntelligencewithEveryone)”的理念,希望用来自用户的反馈反哺给技术,从而拓展创造力的边界,致力于为社会提供促进生产力提升的有效工具。•••随着参数规模增长、海量数据涌入,计算资源捉襟见肘,如果算力不足,大模型研发进度将被严重影响。自建难以满足客户需求,自建过程中的每一台物理服务器上架、通电、调试都要耗费大量人力,效率很低。大模型训练、推理,需要由成百上千台服务器共同处理,如果自己搭架构,很容易在性能和成本上落后。解决方案与产出价值方案架构实现了资源的高效整合,资源利用率大幅提升,降本增效计算单元Process•借助自研星脉网络,将集群通信带来的算力损耗降到更低;腾讯云CFS
Turbo、COS+GooseFS高性能存储,让上千个计算节点能同时高速读取训练数据,随着实测符合预期、可用性达到99.9%,集群规模很快提升到千卡级以上;另一方面,利用腾讯云TKE,MiniMax实现了对不同规格云服务器的统一管理和调度,各种类型的应用和服务得以部署在同一套基础设施上,资源实现了高效整合,资源利用率大幅提升。基于云原生的支撑,实现整体用云成本降低20+%。AI训练代码算法工程师Repo管理AI框架denpendenciessshdPythonCUDAK8s层流程引擎分钟级故障快速恢复及自愈,最大化保障任务连续进Infra层sshd行Python存储CFS/CoS等CUDA星脉网络•云原生的管理方式,支撑7*24小时的全局监控视角,支持编排、框架、实例等多层级运维工程师的指标监控。一旦触发故障,能够在5分钟内恢复任务、10分钟内恢复基础设施,无需人工干预完成,能够最大化保障任务连续进行。©2023.8iResearchInc.15深度合作,助力出门问问大模型及AIGC产品矩阵迭代创新需求背景企业概览业务挑战•出门问问是一家以生成式AI和语音交互为核心的AI公司,为全球多个国家和地区提供AI智能硬件、AI政企服务,以及面向创作者的AIGC工具,致力于打造国际领先的通用大模型,通过AI技术、产品及商业化三位一体发展,成为全球AICoPilot的引领者。据灼识咨询报告,出门问问是亚洲起步最早、收入规模最大专注于生成式AI的人工智能公司。•••不同的模型需要不同规格的算力搭配:从通用大模型“序列猴子”到奇妙元、魔音工坊等AIGC产品,需不同性价比的算力资源。新业务的模式需要与云产品协同创新:数字人、CoPilot等业务都有很多的创新性功能,标准的云产品功能无法满足。AIGC生成内容需要满足监管需求:LLM交互式内容中,可能有违规内容存在,必须做到及时发现与处理。解决方案与产出价值方案架构为不同的业务需求,提供最匹配的算力•从序列猴子的推理、到数字人的渲染、以及TTS音色的训练等需求,腾讯云为出门问问提供了多种算力搭配,并持续配合做优化,包括高性能的黑石裸金属服务器、为应对突发请求而做的秒级GPU服务器启动、GB级镜像高速缓存等,支撑大模型及AIGC业务的快速增长。大模型和AIGC业务魔音工坊序列猴子奇妙元1、根据业务需求进行
2、不同业务需求,提3、利用天御安全对生成内容进行合规审核产品功能协同创新供最匹配的算力集群围绕业务需求实现产品功能协同创新产品创新常规云产品GPU集群v100••新的业务形态对云产品也提出了更高的效率和功能要求,腾讯云与出门问问产品团队,围绕业务诉求,对产品进行升级或创新,联调打磨了包括高精度智能抠图在内多个功能,满足业务需求。COS-CICFSTKECVMCSS天御安全TRTC云数据库T4通过安全产品审核,为业务运营合规保驾护航人脸核身视立方利用天御安全产品,对大模型的输入与输出进行审核,针对不同应用给出不同的关键字匹配方案,快速准确地发现违规内容,并通过阈值来决定是否交由人工复审,已累计拦截65万次,为内容合规保驾护航。其他©2023.8iResearchInc.16提供大规模训练集群,自动化故障恢复能力保障训练的可持续性需求背景企业概览业务挑战•智谱AI致力于打造新一代认知智能大模型,专注于做大模型的中国创新。公司合作研发了双语千亿级超大规模预训练模型GLM-130B,推出了千亿基座的对话模型ChatGLM及开源单卡版模型ChatGLM-6B,并打造大模型产品矩阵,包括高效率代码模型CodeGeeX、高精度文图生成模型CogView、多模态对话语言模型VisualGLM-6B等。公司践行ModelasaService的市场理念,推出大模型MaaS开放平台(),基于领先的千亿级多语言、多模态预训练模型,实现高效率、通用化的“模型即服务”AI开发新范式。•••作为LLM大模型的头部玩家,在优化现有产品的同时,还需要不断做自我突破,对算力需求十分迫切。训练数据体量巨大,单文件大小为T级,大集群分布式训练对存储产品的吞吐要求极高。在服务器发生故障时,对分布式大模型训练带来的影响较大,需要在最短的时间处理并修复。解决方案与产出价值方案架构提供大规模训练算力的保障同时,实现可靠网络保障•腾讯云作为国内H800首发云厂商,搭载自研的星脉网络,为每台GPU服务器提供了3.2T的交互带宽,即保证了超强算力,也能为超大规模的训练集群提供可靠的网络保障。|VPC|VPC云联网互通3.2T星脉网络毫秒级集群监控提供高性能CFS产品存取训练数据,满足集群训练需求腾讯云提供Turbo性能型CFS产品,容量与吞吐能力可自主选择,最大容量100P,最高吞吐100GB/s,单文件大小可突破10T及以上,满足集群训练需求。••Turbo性能型CFS分钟级故障恢复自动化故障恢复机制,大大减轻集群训练影响H800高性能计算集群腾讯云结合大模型客户的服务经验,总结出一套自动化的故障发现与恢复机制,利用毫秒级的监控能力,可以快速发现与定位硬件故障,结合客户的预授权,自动修复故障能力在分钟级,大大减轻了因故障导致的集群训练影响。容量:10T-100P吞吐:2GB-100GB/s©2023.8iResearchInc.17高性价比算力+全套安全防护能力,保障海量用户安全访问需求背景企业概览业务挑战••右脑科技,一家专注于视频/图像生成方向的AI科技公司,旗下有VegaAI绘画生成产品,为用户提供AI智能生成业务。通过AI智能结合用户输入字段进行智能图片生成,提升创作者工作效率。VegaAI绘画使用自研模型构建文生图、图生图推理平台,基于中英文描述或上传自定义图片,利用AI模型为用户生产多风格、多画质的图片。平台注册用户数百万。•为保障平台正常运营,需要加强用户上传图片和AI生成图片的合规审核,并且具有防攻击防盗刷等业务安全能力。••模型微调对算力和存储要求高,同时需要控制成本。AI推理生成图片或视频需要高性价比的GPU算力及推理加速能力支持和大量文件读加速需求。解决方案与产出价值方案架构DDOS高防包、WAF、验证码服务保证企业网站安全针对安全需求,腾讯云解决方案有效解决了网站被攻击停服,网站漏洞注入,网站恶意注册等挑战。用户用户用户用户•高防包/WAF输入文本、图片业务平台验证码资源调度文本审核插件集成图片审核用户管理计费服务运营数据日均百万级图片审核,助力业务运营合规••针对图片审核需求,在最接近COS数据源的地方完成审核,降低了中间传输成本,并为业务提供每天百万级图片审核服务,审核的准确率>95%。TACO推理加速GPU集群高性价比GPU降低40%算力成本,推理加速提高30%效率资源层高性价比的GPU、CFSTurbo高性能存储以及GooseFS加速能力,支撑数十亿参数图像/视频生成模型多机训练。高性价比GPU降低40%算力成本,推理加速提高30%效率。数据加载COS+GooseFSCFSTurbo©2023.8iResearchInc.18针对图片模型进行推理加速,模型推理性能提升30%需求背景企业概览技术挑战•朗镜科技(Trax中国)是一家计算机视觉解决方案与数据分析公司,利用自身领先的人工智能、图像识别、众包平台以及物联网(IoT)将图像转化为实时、可执行的洞察,通过先进AI技术辅以BI实时数据报告和渠道竞争分析等,帮助客户提升响应能力和运营的准确性。•••商品识别业务场景每天近千万张图片需要进行AI推理识别,同时对精度要求高,高精度模型推理延时较高,占整体服务的时长高。每天新增海量的小图片,针对存储的读写性能要求非常高,需要具有灵活的扩展性及高性能存储的方案,支持其业务长期的发展。训练与推理场景的IT费用快速增长,有强烈的降本诉求。解决方案与产出价值方案架构模型推理性能提升30%,大幅度提升ROICLB负载均衡TKE容器服务•使用腾讯云TI-ACC模型加速功能,不需要进行模型格式转换和适配,快速完成集成,模型推理性能提升30%,
服务QPS提升45%,IT整体成本下降20%。TI-ACC推理加速服务Redis云数据库PODPODPODPOD图像识别速度提升20%,实现核心业务链路优化¼V100¼V100¼V100¼V100••优化了从图片接收到图片识别的核心业务链路,处理时长缩短2s,提升了20%。qGPUCONTAINER消除存储增长瓶颈,满足持续增长的大规模图片存储需求GPUNODECFS高性能存储解决自建NAS可扩展性差及并发写同一目录遇到死锁问题,CFS支持按量弹性扩容,很好满足持续增长的大规模图片存储的需求。MongoDB云数据库CFSTURBO文件存储COS对象存储©2023.8iResearchInc.19利用模型管理和加速能力实现线上商品识别4倍提速需求背景企业概览技术挑战•••系统架构耦合紧密,扩展能力较弱,整体GPU资源利用率低;使用Python框架、Python部署,高精度模型推理时延较高;业务存在固定波峰波谷期,无法按时弹性伸缩达到资源节省。•勤策(原外勤365)是掌控网络旗下基于SaaS模式的企业级销售业务平台,专注服务于消费品行业的数字化。勤策提供陈列检查和商品识别的能力,能够帮助客户实现商品的智能分类。解决方案与产出价值在CV、NLP、推荐等模型推理场景中,腾讯云AI加速产品TI-ACC允许用户在仅新建一个优化任务的情况下,即可进行推理加速优化,在模型推理时可显著节省推理时间和计算成本。方案架构轻量化接入用户•在TI-ACC平台使用模型优化功能加速Python框架模型,将加速后模型部署为在线推理服务,通过公网API接口调用的方式对接自身业务应用。ModelA:domainxxxModelB:domainxxxModelC:domainxxxModelE:domainxxxModelF:domainxxxModelG:domainxxx客户VPCnginxhttp://domainxxxModelA:domainAModelB:domainBModelC:domainCModelE:domainEModelF:domainFModelG:domainG模型性能深度优化,实现降本DB写消息读消息•使用TI-ACC平台模型优化后,优化GPU卡选型,平均推理延迟降低3-4倍,QPS提升2-3倍,成本降低50%。业务逻辑服务2(Java)队列TIONEhttp://domainE:8000/tionehttp://domainG:8000/tione满足业务弹性突发需求http://domainA:8000/tionehttp://domainF:8000/tionepythonpythonpythonModelFpython•为勤策的业务逻辑与模型服务设计解耦,两者独立分布部署,按需独立扩容。使用TI-ONE实现推理服务定时弹性伸缩能力,消峰填谷。ModelAModelBModelCModelEModelATIACC©2023.8iResearchInc.20高性能计算CloudHighPerformanceComputing21高性能计算业务需求分析云端HPC生态完善,具备更高的灵活性与扩展性,支持各类仿真任务2018年起,国内高性能计算(HPC)领域,CloudHPC初见端倪。CloudHPC是将高性能计算资源部署在云端,为用户提供强大的计算能力,以满足科研、工程、金融、基因组学、气象学等领域对大规模并行计算的需求。云端Cloud
HPC从场景架构上可分为三层,自底向上分别是公有云Infrastructure层、云原生Cloud
HPC平台层、云端HPC应用层。与传统的高性能计算相比,CloudHPC具有更高的灵活性和可扩展性,能够根据用户需求快速调整计算资源,降低了高性能计算的门槛。CloudHPC典型业务需求提供极致弹性算力提升研发效能保障数据安全与合规计算任务会随着项目周期波动,对算力的需求也会随之频繁增减。云端可提供充沛的弹性算力实现压缩项目周期目的。云端提供设计、代码编写、弹性制品编译、代码仓托管等端到端的研发工具,并实现代码的不落地运行,提高研发效率。提供端到端全链接加密机制、账号身份管理、操作审计、入侵检测等完备的安全措施,保障数据安全。©2023.8iResearchInc.22高性能计算技术解决方案灵活的云原生、混合云部署模式,结合云端无尽算力,提升研发效率传统HPC面临算力紧缺与算力闲置之间难平衡,资源管理困难。通常需要按峰值算力一次性采买IT设备,IT资金占用成本高。在项目高峰阶段,常伴随着算力资源紧缺、人力等待算力;在项目低谷阶段,常常表现出算力闲置、资源浪费。腾讯云HPC高性能计算解决方案为用户提供了一种全面的三层架构能力,包括业务流程支撑、研发工作流程提效以及基础设施的灵活部署模式。帮助用户在保证安全性的同时,提高研发效率和业务流程的运行效率。解决方案方案优势主流HPC应用软件支持主流HPC应用软件SynopsysGromacsCadenceLammpsMentor…MatlabSparkTensorFlow支持科学研究、工程领域、生物领域、大数据分析和人工智能领域等常见HPC场景的软件运行。NCBIBLASTOpenFoam…工作流程腾讯云桌面CVD一站式的研发效能提升工具,大幅提高研发效率THPC平台CloudStudio云开发编译CODING代码仓库LSFTHPCSlurm弹性伸缩任务管理集群监控多队列管理包括Cloud
Studio和Coding。这些工具可以帮助用户进行仿真设计、代码编写、弹性制品编译、代码仓托管等工作,实现代码的不落地运行。基础设施计算资源存储资源环境安全高主CVM裸金属第四代次大园区文件存储并行存储对象存储块存储加密存储
统一权限IDaaS操作审计入侵检测提供了丰富的算力款型,满足HPC场景下各种性能、容量、性价比的需求大内存CVM性价比机型云端高性能缓存终端安全外发加密满足各类计算任务差异化需求的机型规格,提供最大3T的内存和最高3.8Ghz的主频能力。此外,腾讯云还提供了多种存储方案,包括文件存储、并行文件存储以及高性能缓存。部署模式混合云弹性削峰专属本地云CDC云原生存算分离托管上云©2023.8iResearchInc.23为创新驱动型用户提供为应用优化的一站式研发云平台需求背景企业概览业务挑战•速石科技(fastone)致力于构建为应用定义的云,帮助企业实现以业务为导向的IT自动化,助力研发驱动行业创新。目前在半导体、新药研发、汽车/智能制造、高校科研、人工智能、金融科技等领域有诸多落地经验。•随着产品性能与设计要求不断提升,产品迭代生命周期不断缩短,企业普遍面临研发对计算资源需求高、IT环境维护难度大、业务架构与IT架构不灵活、降本增效需求高、国产化/合规化需求愈发强烈等问题,为企业和厂商带来了挑战。解决方案与产出价值提升20倍研发效率,有效降低成本75%以上方案架构•基于本地+腾讯云灵活部署及交付混合云环境,帮助用户提升20倍研发效率,降低成本达到75%以上,加快市场响应速度,面向全球开展竞争。WebVNC&SSH极速交付速度及弹性能力,提升产品竞争力集群管理监控告警队列管理用户管理作业管理资源分配EDA管理IT-CAD服务业务保障数据管理•实现小时级交付,Auto-Scale功能可自动监控任务数量,弹性开关资源。速石科技EDA研发平台腾讯云SDK/API/服务独享云端运行环境,有效保障企业客户数据安全大内存机型块存储裸金属机型对象存储GPU机型备份存储高主频机型专线接入性价比机型线路优化资源稳定性保障资源capacity保障•通过腾讯云的集团账号体系,为每个企业客户提供一个独享的云端运行环境。可以在半小时内完成安全环境交付。腾讯云©2023.8iResearchInc.24算力池弹性调度,配合存储与安全管控,支撑AI推理降本提效需求背景企业概览业务挑战•中科视拓(南京)科技有限公司(简称AutoDL),是一家专业从事人工智能计算中心建设与运营的高科技公司,面向“大AI圈”内的科研工作者和科技企业,提供弹性、省钱、好用的普惠AI云算力服务。AutoDL服务超过400家企业,以及10万+个人开发者,是目前全国最大的C端AI算力入口。•••市场对算力需求有周期性波动,业务高速发展时常遇到算力供应不足的情况,需要多规格算力机器且灵活的扩容方案。客户在算力使用上对稳定性有极高的要求,原有算力机器稳定性不足,出问题恢复时间较长。平台有被黑产攻击和利用的风险,需要保障平台运营安全。解决方案与产出价值方案架构算力弹性供给能力,提升平台效率与竞争力•通过双方联合建区,供应稳定的独立算力资源和专属保障措施,解决了客户在高峰期缺乏丰富算力的问题。加上适配各HPC应用场景下的定制化方案,极大提升了平台效率与竞争力。高防IPCLB①注册/登录/充值/租用实例②匹配资源/调度官网系统算力调度系统业务集群云-Redis云-Mysql主机安全主机安全消息队列RocketMQ版CVM-Docker-CVM-Docker-GOGO全套安全防护方案,保障平台安全可持续运营CVM-Docker-CVM-Docker-GOGO••利用T-Sec天御系列安全产品,提供从系统安全到AI内容审核的全套防护方案,显著降低了平台运行风险和内容违规风险,保障了客户利益和业务合规。日志服务CLS③租用算力调度③自有算力调度镜像/模型仓库COS-Bucket-社区镜像算力池内容安全GPU集群GPU
GPUCPU集群提升交付效率,整体IT成本下降40%以上CPUCPUGPUCOS-Bucket-个人镜像依靠腾讯云高质量BGP带宽,全地域内网互联及高性能存储,帮助客户灵活设计各地算力池镜像调度方案,极速完成镜像拉取和系统准备工作,比原有方式缩短20%以上时间,整体IT成本下降40%以上。④拉取镜像、加载模型自有算力托管GPUGPUGPUGPU©2023.8iResearchInc.25“存算分离”
保障用云安全,仿真任务周期缩短30%~50%需求背景企业概览业务挑战•燧原科技是国内第一家同时拥有高性能云端训练和云端推理产品的创业公司,同时也是国内第一个发布第二代人工智能训练产品组合的公司。专注人工智能领域云端和边缘算力产品,致力为通用人工智能打造算力底座,提供原始创新、具备自主知识产权的AI加速卡、系统集群和软硬件解决方案。••算力需求大,本地机房无法满足。在流片时间点固定的情况下,本地IDC算力无法满足大芯片设计及验证。在保障6-8个月项目周期及数据合规的前提下,需要快速补充算力。基于合规要求,部分核心数据需要线下存储,如何在上云和本地之间保障安全。解决方案与产出价值缩短仿真周期30%,节省千万IT设备投入方案架构•后仿阶段相比前仿阶段算力增加了数倍,为保障流片时间节点前完成仿真任务,腾讯云保障燧原的峰值算力供给,部分case从原来13小时降低到5小时。提升作业并发100%、缩短仿真周期30%,节省千万IT设备投入。角色权限匹配调度平台云端仿真计算高性能HPC调度器前端设计仿真验证任务提交NFS数据缓存云桌面项目组租户隔离海量算力弹性伸缩按需使用队列隔离后端设计“存算分离”架构,保障合规要求•基于混合云“存算分离”架构,核心资产采用存储在线下本地存储,云端仿真结果直接回写线下存储,解决弹性算力需求与数据合规保障的矛盾。系统运行监控行为审计内网调用SSO单点登录本地PC核心数据存储R&D装备库终端防护保持研发使用习PDK库代码仓库License服务器iOR数据防泄漏本地环境•实现云端惯调度器兼容本地作业流程及脚本转义。©2023.8iResearchInc.26商业增长BusinessGrowth27数字营销业务需求分析向精细化营销转型,通过提升内容质量与营销策略促进转化基于发现、吸引、保留和培育客户的链路,智能营销场景可以划分为增量用户挖掘、内容创意生产、投放渠道优化、全生命周期运营四大板块。随着流量红利逐渐见顶,粗放式的营销策略已经难以帮助企业实现有效的用户增长,因而迫切需要向精细化营销转型,提升营销的效率和质量。考虑技术与场景结合的价值,营销类服务商在营销风控与内容营销方面的痛点突出,可依托云厂商的技术能力快速实现资金利用效率提升和满足营销合规需求,并可在此基础上,进一步运用数据分析反哺企业的营销策略。数字营销典型业务需求营销数据分析营销风控AI智能营销通过人工智能技术和算法来辅助和优化市场营销活动的策略,实现自动化营销,降低人员投入成本。通过大数据技术实现人群标签画像、业务圈人和营销触达,沉淀用户全体系数据,提升营销效率和优化用户体验。精准打击欺诈流量,识别羊毛党,筛除无效流量,避免营销费用浪费,提升营销资金利用率。©2023.8iResearchInc.28数字营销技术解决方案助力营销客户实现精细化流量运营,提升业务转化围绕数字营销在内容创作、广告投放、营销触达及私域运营的流量全链路,结合腾讯云在语音、图片方面的基础AI能力、大数据处理能力以及内容创作、安全风控等PaaS平台能力,助力数字营销类SaaS平台实现精细化流量运营,降低营销成本,提升用户转化率。解决方案方案架构方案优势敏捷数据集成和高效数据标签加工营销场景智能语音内容营销广告投放私域营销短信营销直播••数据集成能力更敏捷:利用DataInlong实现全自动数据集成和调度,比传统自建方案更稳定和敏捷;数据标签加工更高效:基于ClickHouse及Doris实现复杂的标签加工和高效人群圈选。内容制作营销触达营销自动化RPA机器人营销数据管理用户画像营销分析人群分析短视频制作营销活动页广告落地页营销建站语音系统短信系统直播平台业务中台流量平台DSP系统标签系统行为数据转化分析行为分析虚假流量精准识私域运营系统营销工作流别•使用腾讯云天御TAF快速进行流量分析,识别虚假设备和虚假用户,将单次曝光风险以流量欺诈评分方式输出,辅助业务决策。PaaS平台
智能创作平台低代码平台AI中台安全风控智能推荐数据中台Oceanus分析中台Doris全场景AI基础能力辅助营销自动化基础AI能力语音识别图片识别语音合成数据万象基础数据能力EMRClickHouse自然语言处理•腾讯云为客户提供图片、视频、语音、文本全媒体的素材处理的AI能力,满足短视频制作、直播分析、语音标签分析、智能问答等多营销场景的技术需求。DatalnLong基础计算能力基础安全能力CVM
TKE
GPUKMS加密
安全审计
数据库字段加密
WEB防火墙
主机安全©2023.8iResearchInc.29托管式营销数据分析,有效应对弹性需求、降低运维成本需求背景企业概览业务挑战•珍岛是国内知名的营销及销售SaaS解决方案提供商,致力于打造全球领先的智能营销云平台,专注于人工智能、大数据、云计算在数字营销及企业数字化智能化领域的创新与实践,面向全球企业提供营销力软件及服务,现已形成IaaS、PaaS、All-in-oneAISaaS智能营销云平台。•••私有部署成本高:IDC私有化部署人力成本高、客户部署数量多、交付工作量大,单项目通常需要5天+级别的交付。开源运维成本高:开源产品CDH和ClickHouse遇到问题后的修复成本高,大数据运维开发人员的额外工作量大。弹性扩容效率低:传统采购和部署方式,无法应对弹性需求。解决方案与产出价值方案架构数据集成能力更敏捷标签管理••利用EMR+datainlong实现全自动数据集成和调度,比传统自建datax/canal方案更稳定和敏捷,支持字段变更预警。标签操作ClickHouse集群场景1.可视化分析/即席查询
业务分析场景2.业务圈人外部/业务
datainlong数据库DLC-用户属性&事件Hive/HDFS用户属性表用户事件表数据标签加工更高效标签同步(CK有更新就同步)标签加工基于ClickHouse实现复杂标签加工和圈人业务,多达1000+列属性字段,通过全托管模式降低运维成本。hbase用户特征大宽表用户标签表-实时&离线用户特征大宽表实时写入-用户属性&事件场景3.基于用户ID点查定时同步实时标签交付成本更低、成本更可控用户属性和行为埋点
日志实时标签redis定时同步实时标签Flink任务Kafka实时标签利用OceanusFlink的Serverless模式,实现根据流量大小自动弹性扩缩容,成本降低50%。采用EMR代替自建CDH,降低80%人力工作量。SDK•Oceanus集群Flink-CEPFlink-sink业务Kafka场景4.消费-触发营销业务营销维表redis/hbase下发规则规则系统Join©2023.8iResearchInc.30通过存算分离改造降低运维成本和架构复杂度需求背景企业概览业务挑战•泰迪熊移动是一家智慧通讯服务提供商,定位为帮助移动终端更好地实现智慧化营销为目标,凭借庞大的移动终端用户规模,智慧化营销服务,全球化业务生态布局及全场景运营服务,为客户提供多元化多场景的云服务解决方案。••由于业务飞速发展,原本所采用的大数据整体架构由于大部分利用开源组件自定制,面临巨大的运维挑战。数据增长导致原本存放在HDFS上的数据需要针对磁盘容量进行预测,成本上升。解决方案与产出价值依托CLS为核心,在简化泰迪熊日志采集、存储、消费的逻辑基础上,结合EMR+COS的存算分离方案以及COS生命周期逻辑,将历史日志降冷存储,降低计算和存储成本;并同时通过开始COS元数据加速,以及调整流开窗大小来优化数据存储性能。方案架构提升任务执行准点•率通过利用大数据存算分离方案,解决原先任务突发时,在HDFS上IOPS过高致使坏盘率高,导致任务经常失败重试,无法按时完成的问题。实时链路业务日志离线链路SparkHiveDWSKafkaNiFiCOSDWDODS数据清洗&格式转换解决运维人力短缺问题CLS••泰迪熊业务发展快,从原先自建NiFi、Kafka、Hadoop集群等庞大技术栈转为利用CLS、EMR、COS等PaaS组件,不再需要进行基础设施和组件的维护。ParquetinCOS业务信息打点信息用户成本降低超20%使用大数据存算分离方案之后,整体大数据集群成本下降20%以上。CSV离线文件COSSpark©2023.8iResearchInc.31实时数仓与大数据平台,支撑业务分析决策与快速迭代需求需求背景企业概览业务挑战••深圳兔展智能科技有限公司成立于2014年6月,是国内H5技术在营销领域的缔造者,是一家以大数据驱动的技术营销公司。兔展营销云业务系统结合日志及画像数据,实现营销素材的传播分析、人群圈选、转化分析、漏斗分析、数据看板等能力。••大数据环境有多套不同技术栈,需同时面向私有化及公有云部署,运维复杂维护成本高,并希望统一技术栈。随着数据量增长,业务系统对稳定性、性能有更高的要求,老的开源大数据架构不能满足业务需求。解决方案与产出价值统一技术栈,提升开发效方案架构大数据平台•腾率讯云大数据产品兼容开源协议,使用一套技术栈来满足公有云和私有化部署的需求,提升业务开发效率。数据源数据集成Ckafka实时计算实时OLAP数据应用流计算Oceanus云数仓CDW实时业务数据库内容推荐数据ETLCDW-DorisADS降低交付和运维成本,提升稳定性SQLJAR••基于Doris构建数仓架构,ODS、DWS、DWS、ADS层数据均在Doris上进行处理,降低开发、交付和运维成本30%以上。通过Oceanus和DataInlong实现实时和离线数据的稳定高效同步。用户画像分析DWSDWDODS离线离线离线同步Binlog订阅Ckafka日志数据DataInLong异构数据同步传播分析满足高并发聚合查询需求Doris适用于OLAP多维分析,结合Aggregate和Unique数据模型满足高并发聚合查询需求。埋点数据•数据开发治理平业务BI台WeData©2023.8iResearchInc.32利用天御流量反欺诈,提升异常流量甄别能力10%需求背景企业概览业务挑战••尼洱研究是独立于尼尔森的专业市场研究公司,其于2021年3月受让了尼尔森在中国市场的媒体测量业务,并得到了尼尔森的相关商标和技术授权。••品牌与广告商在其互联网广告、数字视频以及其他网络内容的营销活动中,为了能够触达真实受众,需要对真实广告流量进行检测和对异常流量进行甄别。作为一家专业的第三方监测公司,尼洱研究同全球大数据科学家共同研发构建了科学的测量方法论,并针对国内市场特性和变化趋势,提供更具优势及适用性的全域数字广告测量方案,助力品牌精确定位营销效果,优化投放策略。基于上述流量反欺诈需求,尼洱研究希望:1.
准确识别伪造曝光、伪造点击、伪造下载、注水流量等欺诈行为,甄别渠道质量,帮助企业客户节省营销费用;2.
按照不同的业务场景,自由调整流量反欺诈的使用方式。解决方案与产出价值在程序化广告投放的过程中,当广告曝光的请求达到广告服务商的DSP系统,DSP系统会将设备相关信息以及广告相关信息传给天御TAF反欺诈服务,天御TAF返回广告的风险等级,DSP系统结合自身策略判定是否参与本次竞价。方案架构异常流量甄别能力增强,优化投放效率,提高投放价值广告曝光请求ADXDSP••尼洱研究在实践中帮助众多广告主实现了复杂异常流量甄别能力的增强,异常流量识别比例平均提升5%-10%,进而协助品牌主或客户进一步优化投放效率,降低了投放损耗。未来,尼洱研究与天御流量反欺诈的合作将惠及更多的广告主,帮忙品牌主或客户进一步提高营销效率,提升互联网广告投放价值。退量/竞价与否天御TAF©2023.8iResearchInc.33基于视频语音识别和数据标注能力,助力品牌实现品效合一需求背景企业概览业务挑战••福州果集信息科技有限公司是社交媒体平台数据、产品与全链路服务提供商。数据覆盖抖音、快手、小红书、Bilibili、微信公众号、微信视频号等平台,利用大数据挖掘、AI学习、自然语言处理等技术,分析海量账号的粉丝画像、文章、视频、直播间等数据,并结合强大的数字营销服务能力,为行业用户提供产品、技术服务及行业解决方案,助力品牌的营销决策并有效实现“品效合一”。•••视频音频识别:精准从视频内容中剥离并识别出文案的文本内容。数据标注:自媒体营销内容增量迅猛且更新迅速,为快速迭代模型,需要高效高质量的数据供应。训练推理加速:图片识别、文案内容理解的模型训练以及推理需求带来日益增加的算力成本。目前果集已为超过1000家品牌方、3000个MCN机构、数十万企业商家、数百万运营者提供全面的产品及服务。解决方案与产出价值精准语音识别,准确率达90%+直播录制文件COS对象存储文案文本模型训练/推理加速数据标注服务••在口语化、标准普通话场景下的字准率达到90%+。语音识别ASR高效数据标注,保障服务质量TI平台高效率标注工具+高质量保障流程+完善的基地管理制度,保障高质量数据供应。算力资源池算法训练、推理加速成本显著优化GPU-CVMCVM文案理解处理场景,LLM算法训练加速比•1.4倍+。©2023.8iResearchInc.34智能客服业务需求分析人工智能技术与智能客服深度结合,持续优化客户服务质量在人工智能、大数据、云计算等技术的赋能下,客服行业正越来越多地应用客服机器人辅助人工坐席,利用文字、图片、语音等媒介进行售前咨询、售中答疑、售后关怀等工作,提高客户服务的响应效率与服务质量。一方面,面对日益增长的客服质检需求,客服行业将人工智能技术引入到语音质检环节中,实现对客服人员服务质量的持续改进。另一方面,高质量智能外呼人声合成服务让自动化外呼得到了广泛应用,有效帮助客户提升业务转换率。自然语言处理技术的应用,将有助于对聊天内容进行自动化归类分析,帮助企业降本增效。智能客服典型业务需求语音质检智能外呼智能化语音识别准确率不高,特别是方言、噪声、小语种识别上有较大难度。合成的语音和真人差距大,体验不好,为达到更好的用户体验,需要进行音色定制。目前大模型生成内容质量尚不稳定,在商业化过程中,仍有不少挑战需要解决。©2023.8iResearchInc.35智能客服技术解决方案“语音识别+自然语言处理+语音合成”协同配合,提升自动化处理效率基于多种序列神经网络结构并支持中文普通话、英文、粤语、基于自有业务及客户成功案例,积累丰富多样的语料库提供RESTful
API和SDK,支持全终端语音识别模型鲁棒性佳,识别精度高,准确度高达98%采用multitask训练方法,在通用以及垂直领域有业内领先的识别精度韩语、日语、泰语和上海话等23种方言的语音识别海量内外部业务验证算法业界领先支持多平台设备支持语种丰富噪声环境识别强质检结果关键字提取情绪分析坐席语音文本内容客户画像角色分离语音识别ASRLLM大语言模型智能分词文本分类意图识别运营分析录音文件用户语音语音特征音色定制积累深厚服务高效接口全面技术上:整合了腾讯内部优秀的
NLP
能力,拥有数千篇相关技术专利和论文服务上:曾为数十个腾讯亿级用户产品提供坚实的服务支撑腾讯云平台保障服务高效稳定,可以根据不同的客户需求,提供数据动态扩容能力,并且配备完善及时的开发者支持,全心打造腾讯云人工智能和自然语言处理能力开放平台提供了词法级、句法级、篇章级、向量级以及综合文本审核等数十个模块的文本处理能力,提供一站式地解决常见的中文语义分析需求©2023.8iResearchInc.36通过语音转文字减少电话质检对人工的依赖,实现降本增效需求背景企业概览业务挑战••中通天鸿作为客户中心解决方案提供商,致力于利用人工智能和大数据技术,打造极致高效的全渠道客户服务运营系统,通过将连接和交互、服务和营销、数据处理和分析能力融为一体,助力企业快速发展。自研的通信资源平台、云呼叫中心平台、智能客服系统等产品,以及基于服务和营销场景的数字化转型项目,正在为各级政府和近千家的大型跨地域企事业单位提供服务。•••人工外呼业务占比大、成本高:外呼业务中,人工拨打的占比较大,耗费较多人力。人工质检成本投入高:目前服务客户多为金融机构,有大量咨询、投诉电话需要进行人工质检,人力成本居高不下。方言识别困难,影响外呼效率:外呼场景中时常遇到地方性方言,方言识别困难大大影响了外呼的执行效率。解决方案与产出价值语音转文字帮助人工坐席提升40%质检效率全渠道统一接入电话机器人智能接待知识最大化复用数据自动流转全生命周期服务闭环系统对接•通过客服坐席电话语音信息转换成文字信息,提升质检效率40%,并节省人力成本。全场景一体化智能客服平台智能文本机器人智能呼入机器人智能外呼机器人智能转人工人机耦合坐席辅助实时质检呼叫系统查询智AI机器人人工坐席超大规模质检工作自动化完成,降低人力依赖微信APPWebIM入
能接工单系统办理••大幅提升呼叫中心工作质量管控能力,完成人力不可能完成的超大规模呼叫中心的电话录音质检。客户CRM系统以通话数据为中心智能坐席工作台以客户信息为中心运营管理服务台知识库系统商城微博来电弹屏富媒体CRM多轮对话
场景服务知识图谱
热点分析智能质检
用户画像个性化声学和语言模型训练,准确识别方言数据同步业务系统其它系统智出
能输在线客服
留言表单
智能工单•针对有方言处理需求的场景,提供个性化声学和语言模型训练,准确识别方言,提升沟通效率。人机协同
邮件短信TTS引擎知识库ASR引擎NLP引擎意图识别知识图谱©2023.8iResearchInc.37针对自建ASR识别集群,引入腾讯云提升语音识别准确性需求背景企业概览业务挑战•巨量云隶属于北京绿讯科技有限公司,于2016年创立,是中国新兴的移动商务服务解决方案提供商,在移动商务的平台技术、应用产品、销售渠道和服务网络等领域开展了全方位的深度合作,并积累了丰富的行业经验。巨量云主营业务包括短信验证码、彩信手机报、短信批量发送等,服务客户涉及涵盖政府、教育、金融、餐饮、娱乐、汽车、零售、医疗、房产、互联网等多个行业。截止目前,巨量云拥有1万+家注册企业,200+家国内外知名企业和数十家世界500强企业正在使用绿讯科技的通讯服务,其产品覆盖全国300+城市,服务范围遍布全球240个国家和地区,渠道代理商和技术合作伙伴已达200余家。••语音识别准确性挑战高,容易影响语音质检结果:巨量云自建ASR识别集群,对识别效果有较高要求,如准确性不理想会影响语音质检的结果。如外呼高峰时无法立即进行语音识别,会影响后续干预工作:语音外呼高峰并发大,语音识别需要在通话结束后的几分钟内出结果,语音外呼涉诈需要快速发现并及时干预,自建识别集群难以满足这部分弹性需求。••解决方案与产出价值技术架构识别率提升2以上,帮助质检结果优化运营商•噪声、方言场景语音识别率提升2%以上。1.
运营商下载语音文件到本地机房;下载服务外呼录音2.
在本地机房使用ffmpeg将wav转成mp3;3.
上传到对象存储,并将ASR识别结果回调。云上语音识别,满足弹性算力要求••通过云上语音识别,满足业务弹性的算力要求。外呼录音下载IDC腾讯云算力转化格式,有效实现降本增效上传COS通过算力转化格式,在提升上传效率的同时降低带宽成本。利用本地机房的现有算力转换格式,减小语音文件体积。ffmpeg语义理解对象存储语音识别回调结果©2023.8iResearchInc.38精准识别未接通客户状态,提升外呼资源利用率需求背景企业概览业务挑战•••基智科技是一家智能销售服务提供商,基于AI+大数据技术为ToB企业提供全流程的智能销售服务。基智科技通过知识图谱、ASR、NLP等帮助企业识别意向用户,为企业提供目标用户的详细属性标签。通过实时更新全网企业数据、用户行为数据、语音数据、运营商数据等,基智科技利用大数据精准挖掘目标用户,助力企业节省获客成本,提升销售效率。••语音接通前的资源浪费亟待优化:智能外呼场景下,客户商机线索宝贵、资源有限,需要通过各种途径提升线索的转化率,根据客户历史数据分析,在语音接通之前会损失大量宝贵资源。智能外呼话术更新迭代慢,无法及时跟进市场变化:基智科技需要根据市场环境及需求的变化及时调整客服话术,语料的积累以及识别的准确性至关重要。解决方案与产出价值技术架构识别方案加强客户理解,提升触达率•通过一句话识别解决方案,识别出未接通客户的详细状态,并针对由于环境影响的客户进行二次呼叫,提升触达率。外呼系统业务调度接通后接通后助力构建智能客服语音模型TTS音色定制接通前接通前其他云厂商••腾讯云在语音识别模型上的多样化以及极高的准确率,助力基智科技构建智能客服语音模型。腾讯云实时识别富媒体识别一句话识别实时识别定制客服音色,提升客户服务体验通过定制化客服音色,使机器人语音更贴近真人的标准。再次呼叫未接通客户池©2023.8iResearchInc.39企业直播业务需求分析应用前沿技术,保障企业直播低延迟、强互动、沉浸式体验随着企业直播应用的日益深入,企业对直播服务商的产品技术和服务能力均提出了更高的要求。产品技术能力方面,AI和虚拟技术的应用,驱动着企业直播向更加实时互动、易用,更具沉浸感的方向进阶。其中,AI技术应用相对较为成熟,主要包含音视频能力、直播智能审核、自动矫正、虚拟背景等;MR技术则更加新颖,目前在头部直播服务商已有初步的尝试与探索,可通过立体场景模版、真实光照模拟等技术,实现虚拟发布会等富有科技感的直播场景,拓宽了企业直播的想象空间。企业直播典型业务需求无延迟体验流畅不卡顿虚拟直播技术应用音画实时同步,还原线下线上直播实时互动,支持毫秒级沉浸式全真互联体验。弱网、抖动网络环境下也可流畅播放,保障直播观看体验。可支持十万级并发用户数,提供企业级直播对稳定性保障。©2023.8iResearchInc.40企业直播技术解决方案丰富的直播生态服务,满足企业直播多场景直播业务需求腾讯云提供整套的直播解决方案,适用于各类场景的直播服务,为客户提供稳定安全的直播能力。1)直播产品包括标准直播、快直播以及虚拟直播平台,能够满足营销直播、活动直播、会议展会等直播场景需求;2)结合TRTC产品,可满足教育直播、线上医疗等互动连麦场景企业直播需求;3)结合云点播产品,为企业内训、线上课堂等直播回看场景提供方案支撑。解决方案方案架构方案优势大容量,高并发,广覆盖主播企业直播供应商观众•直播服务支持百万级用户并发推流;全球2000+节点覆盖,高可扩展性及负载均衡;音视频集群保障直播带宽储备,支持海量用户实时播放。••腾讯云腾讯云视频服务全方位安全防护,多种防盗保护推流SDK播放SDK•多种防盗链鉴权保护,内容安全不易泄露;全方位安全防护,实时监控预警,关键事件及时回调。标准直播快直播•直播推流直播拉流多端支持网络加速多端支持画质提升TRTC虚拟直播一体化直播方案,全链路支撑直播服务•丰富的SDK&插件支持,多平台直播打通;支持多端、多平台接入;支持弱网加速、画质提升、美颜等直播扩展能力。••多协议支持云点播多场景拓展功能©2023.8iResearchInc.41快直播+TRTC为客户提供高质量、低延时、个性化的直播方案需求背景企业概览业务挑战••保利威是企业级视频SaaS领导品牌,致力于通过可集成、可定制的视频直播技术,为企业搭建自主私域直播系统,并提供直播全流程运营与现场执行服务。••客户企培教育场景有强烈的高清画面、低延时连麦需求,同时支持万人场次观众有一致的观看体验。保利威采用SaaS、aPaaS模式帮助企业快速部署专属直播系统,可应用于教育、企业培训、营销、会展、招聘、年会等业务场景,助力企业实现基于在线视频技术的数字化学习、数字化营销转型,沉淀品牌数字资产、构建品牌全场景全链路直播矩阵。能够协同保利威售后团队,提供高质量、高稳定、快速响应的直播服务。解决方案与产出价值方案架构多重机制保障直播安全••采用多重安全机制,包括内容识别、数据加密、身份验证等手段确保了客户通信和直播安全。点播CDN连麦观众观众TRTC提升研发效能,降低20%+开发成本便捷的接入方式,丰富的场景组件,帮助客户快速实现直播美颜,以及对象存储COS主播直播CDN丰富的互动玩法,降低20+%开发成本。美颜SDK提供低延时、高稳定的服务质量,提升用户体验稳定顺滑完成10万+人次大型直播支持。低于800ms延时,实现稳定流畅的直播体验。渲染卡顿下降30%,接入成功率提升10%。快直播转码质检录制加密•••TKE容器主播©2023.8iResearchInc.42P2P+TKE解决方案,击破成本难题,提供稳定、安全的直播能力需求背景企业概览业务挑战••目睹成立于2015年,是中国领先的数字化活动平台及运营服务厂商,拥有多项业内领先的超高清视频云技术,提供多样化的产品与服务解决方案,涵盖SaaS、aPaaS以及活动运营服务。目睹服务覆盖科技、医疗、汽车、制造等30+行业,年支持线上活动125万场,服务79%的在华世界500强和众多国内头部企业,平台安全稳定性高,适用场景丰富,同时也是腾讯生态重要合作伙伴。越来越多的企业意识到视频直播只是技术手段,提升数字化活动的质量从而更好的赋能业务才是关键:•快速高效组织一场数字化活动,无延时互动体验,多维度互动数据,让活动效果可评估可衡量;•高并发的活动情况下,平台运行的安全稳定性和保障服务如何让企业无忧。解决方案与产出价值方案架构提供多种解决方案,解决峰值带宽压力回溯hostmudu.tv•P2P提供公网和局域网两种方案,解决公网带宽压力。主播端CDN边缘节点原站IP.CLB带宽成本降低三分之一,助力成本优化••P2P分享率达80%,带宽成本降低三分之一。L北京L实现硬件成本和配置成本的有效管控上海广州局域网替换EVPN方案,省去巨额硬件成本和配置成本。P2P组P2P组云原生弹性服务P2P组©2023.8iResearchInc.43内容创作ContentCreation44在线设计业务需求分析在线设计的未来是AIGC应用的成熟化,智能设计场景有无限可能在线设计SaaS的本质是内容生产,在以云计算、大数据、5G、AI等为代表的数字经济背景下,传统的设计工具,已由绘图的操作层面转向基于云端协同、模型设计及AI生成的在线设计阶段。技术平台也由传统的本地化部署,发展到云计算时期以及融合AI发展期。在线设计典型业务需求海量文件存储AI辅助设计AI绘图海量设计文件,存储空间大,数量
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2024年度虚拟现实教育培训系统设计与实施合同3篇
- 课件的应用教学课件
- 2024年度新能源开发合同:某太阳能发电项目的投资及建设3篇
- 2024年度商标转让合同(标的:一个商标的所有权)3篇
- 2024年度影视制作与传媒发行合同
- 2024年度羽毛球器材研发与改进合同
- 物流信息技术与应用 课件 9.项目九 数据交换与共享技术 上
- 《常青树启动宣导》课件
- 八年级数学上册 17 特殊三角形教学案 (新版)冀教版
- 合肥某中学办公楼设计计算书
- 抹灰整改通知单
- 锅炉日常运行记录表
- 城轨列车空转滑行现象的机械影响因素探究
- 水厂运行质量控制管理规程
- 国外表面活性剂名称
- 学习能力的培养ppt课件
- 水蒸汽热力学
- 中国抑郁障碍防治指南(第二版)简介完整版
- 旅行社低价竞争问题的分析与思考
- 涂料生产工艺流程(SEM)
- Aisino A3常见问题分析及服务技巧
评论
0/150
提交评论