2024MaaS框架与应用研究报告_第1页
2024MaaS框架与应用研究报告_第2页
2024MaaS框架与应用研究报告_第3页
2024MaaS框架与应用研究报告_第4页
2024MaaS框架与应用研究报告_第5页
已阅读5页,还剩38页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

MaaS框架与应用研究报告(2024)目录一、MaaS概述 1(一)MaaS起源与概念 1(二)大模型促使MaaS快速发展 2(三)MaaS助推大模型规模化落地 5二、MaaS发展现状及挑战 7(一)MaaS产业发展现状 7(二)MaaS发展面临的挑战 10三、MaaS框架与能力要求 13(一)MaaS框架说明 13(二)模型平台层 14(三)模型层 18(四)应用开发层 20(五)模型服务协议框架 23四、MaaS应用分析 25(一)MaaS落地条件及优势场景解析 25(二)MaaS行业实践案例及成效剖析 28五、总结与展望 36主要参考文献 39编制说明 40图目录图1 MaaS上下游关系示意图 7图2 MaaS产业图谱 9图3 MaaS两种落地模式特点对比图 10图4 MaaS框架图 13图5 MaaS定位与比较示意图 14图6 模型平台层能力架构图 15图7 零代码微调模型界面示意图 17图8 模型层能力架构图 18图9 ModelScope模型层实践图 20图10 应用开发层能力架构图 21图AppBuilder架构图 23图12 服务协议架构图 24图13 MaaS在各行业应用占比 26图14 企业价值链各环节生产场景占比图 27图15 MaaS应用案例统计图 28图16 平安银行服务平台 29图17 平安银行MaaS服务平台落地效果 30图18 中国电科院一体化MaaS平台架构 31图19 广东移动私域大模型体系 32图20 金融风控MaaS 34图21 金融风控领域MaaS建模与传统建模效果对比 34图22 金融风控大模型与传统定制模型性能对比 35表目录表1 大模型落地问题及MaaS解决方式 5MaaS框架与应用研究报告(MaaS框架与应用研究报告(2024年)1《模型即服务:机器学习小而美的未来》11《模型即服务:机器学习小而美的未来》1一、MaaS概述随着以大模型为核心的人工智能技术的深入发展,模型即服务(MaaS,ModelasaService)作为一种新型人工智能服务模式焕发新生。本章将明确MaaS的概念及主要的服务能力范围,剖析大模型时代MaaS快速发展的必然性,阐述MaaS在解决大模型规模化落地方面的重要意义。(一)MaaS起源与概念MaaS基本形态早已形成。2012年美国数据科学家DJ·帕蒂尔(DJPatil)首次提出MaaS概念1,即“将机器学习算法打包成可重复使用的服务,使企业能够快速地构建、部署和监控模型,无须开发和维护底层基础架构”,以此来适应AI模型需求快速增长的情况。此时MaaS多以AI能力开放平台的形式存在,平台之上承载人脸识别、光学字符识别(OCR)等特定场景的AI能力。该类AI能力由若干个模型及规则、数据库等组合构成,但覆盖功能和场景有限,应用方式较为单一,主要以工具包(SDK)等方式嵌入至业务系统。传统AI模型落地成本低且泛化性不足,MaaS所带来的增益尚不明显。大模型以其庞大的参数量与独特的模型结构展现了良好性能,推理能力的提高使得模型可以解决复杂逻辑问题,泛化性的提升拓宽了其应用范围,生成能力的增强赋予了模型更多的创造性。然而,模型的高性能对数据和算力的需求也相应增长,成本的增加使得模MaaS框架与应用研究报告(MaaS框架与应用研究报告(2024年)PAGE2PAGE2《人工智能全域变革图景展望:跃迁点来临(22》2型规模化落地存在阻碍。在此背景下,MaaS通过提供服务的方式,显著降低了用户使用大模型的门槛,让业务能够更快速、更有效地享受大模型价值。根据毕马威预测,模型即服务(MaaS)将是AGI生态构建的核心2。因此,MaaS成为大模型落地应用的主要形态,MaaSAI模型及其相关能力打包成可重复使用的服务,使企业能够快速高效地构建、部署、监控、调用模型,无须开发和维护底层基础能力。MaaS概念相比能力范围有所拓展,一方面机器学习算法扩展至包括深度学习、大模型等在内的所有AI用服务进行推理,也可基于服务进行AI应用的构建,扩大模型服务MaaS主要提供三部分服务能力,一是提供包括模型训练、调优和部署等在内的全栈平台型服务,以支持低门槛的模型开发与定制,用户无需关注AI算力、框架和平台即可生产和部署模型;二是提供包括大小模型及公私域数据集的丰富资产库服务,以支持模型和数据集的灵活快速调用,用户无须生产和部署模型即可调用模型和数据集服务;三是提供基于AI模型的应用开发工具服务,以支持快速打造场景化应用,用户无须搭建开发工具即可进行AI应用开发。(二)大模型促使MaaS快速发展大模型正驱动着“人工智能+”(AI+)需求的迅猛增长,加快了MaaS框架与应用研究报告(MaaS框架与应用研究报告(2024年)PAGEPAGE10催生了庞大的市场需求。如金融行业,主要应用于营销、客服、风控等场景,有效解决金融领域人力成本高、风险管控滞后等问题,某银行基于AI的智能风控可实现毫秒级别的快速风控,将风险防控准2倍;电信行业,主要应用于客户服务、营销推广、网络运维、故障预测等场景,有效解决电信领域用户需求复杂、网络优化难度高等问题,某运营商打造基于网络大模型的网络运维AI助手,使得网络运维准确率达88%以上;政务行业,主要应用于市民咨孤岛等问题,某单位利用大模型提升政务工作效率,在接诉即办场87%以上3;除了赋能行业的散点场景外,企业AI+逐步向全流程赋能迈进,推进全域数智化转型,如某头部互联400个业务及场景接入大模型,其中协作类应作,以AI50%20%4。然而,随着大模型性能的不断增强和应用需求大规模增长,其技术成本和经济成本也愈加高昂,面临的挑战也愈加复杂。一是大模型在落地过程中需要海量算力,而企业获取算力门槛高。随着模型参数量变大,大模型训练算力需求以每2个月翻一番3中国信息通信研究院企业调研访谈4/s/EvPpycoG-ystkljz_eu-YA的速度增长5AI模型在训练、调优、推理和部署等方面的对数据集数量和质量的要求更高,并且出现了提示工程、强化学习等新技术,增加了技术壁垒。同时,巨大的算力需求对分布式并行计算加速提出了更高要求,此外大模型用于边端推理时,需对模型三是大模型工程化落地时烟囱式建设造成资源浪费。大模型成为当前诸多企业数智化转型的敲门砖,在企业内部往往有多个团队希望将大模型与私有业务数据相结合,调优出适合专属场景的模型,进一步提升业务价值。但从企业整体视角来看,内部场景需求多有重复,而大模型的泛化能力足以应对同类行业场景的不同需求,若仍采用各团队自行维护模型的烟囱式模式,将会导致算力和人力的极大浪费。四是大模型应用在落地最后一公里时仍存在场景适配难和开发效率不足的挑战。一方面模型应用方具备丰富的行业经验和高质量数据集,但缺乏模型落地相关技术,而模型厂商虽然有相关技术储备但缺乏行业积累,所以场景适配的落地方案存在难度;另一方面,随着企业AI+的全线推进,模型应用的场景需求越来越多,而模型应用的开发难度大且周期长,难以适应业务不断变化的需求。5https://\h/articles/s41586-021-04362-w综上所述,大模型规模化落地面临高性能、高需求、高成本等落地压力和挑战,而MaaS基于高效、便捷、灵活等优势,可成为推动大模型应用落地的重要力量,使得MaaS在大模型时代下的增益效果更为突出。(三)MaaS助推大模型规模化落地MaaS主要具备三个显著特性。技术低门槛,有助于将模型普惠更广泛的用户群体;模型可共享,推动行业资源的有效利用和技术进步;应用易适配,使得模型服务能够快速融入业务场景。MaaS围绕模型生产、模型调用、模型应用开发等过程,提供包括平台服务、模型服务、数据集服务、AI应用开发服务在内的全栈服务,并对模型等资产进行统一管理,提升规模化生产效率,培育和打造新质生产力,为各行业带来变革。表1大模型落地问题及MaaS解决方式大模型落地问题解决方式MaaS特性大模型技术门槛高在模型训调方面,通过全流程工具、快速找到合适的调优路径,加速模型定制在模型部署方面,提供部署服务,简化部署上线过程在模型运营管理方面,通过全生命周期运营监控,增强运营效率在管理方面,提供可共享的模型服务,减少开发资源浪费,通过统一管理降低风险在落地方面,基于已有模型的微调,减少模型选择和试错成本通过AI应用开发工具实现多模型协同,应对企业规模化的复杂场景需求,提高开发效率技术低门槛模型可共享应用易适配模型重复开发浪费资源AI应用开发效率低来源:中国信息通信研究院MaaS通过提供全流程平台工具降低技术门槛。在模型训调方面,降低了学习新型训练或调优算法的成本,可快速找到合适的调优路径并完成闭环的强化学习通路,新手亦可快速完成专属模型定制;在模型部署及运营管理方面,对于部署上线过程复杂等问题,提供快速部署服务,并匹配全生命周期运营监控工具,降低了模型部署和运维的技术难度。MaaS通过提供集约化的模型库和数据集,解决重复造轮子的资源浪费问题。在管理方面,当模型从单点试验向规模化落地发展时,模型的量变将引起效率的质变,通过模型共享可减少开发资源的浪费,通过模型等数字资产的统一管理有助于提升风险可控性,资源的高效利用和规范管理将成为企业长远发展的保障;在落地方面,通过直接调用模型服务和数据集,减少了数据处理、选择模型以及模型调优部署的过程,加快了开发进度,快速响应业务需求。MaaS通过提供模型应用的高效开发能力,适配企业规模化场景需求。模型应用场景众多,但企业内部开发资源有限,MaaS在模型服务的基础上提供面向业务场景的应用开发平台或工具,帮助用户快速构建基于AI模型的应用。如在面临单个模型无法解决复杂业务G排等多种方式以增强模型能力,并以智能体(AIAgent)等方式向用户提供更优质的服务。MaaS让更多用户可以生产个性化的模型应用,为AI二、MaaS发展现状及挑战MaaS作为一种智能化服务新模式得到迅速发展,本章将围绕产业图谱及落地方式阐述当前MaaS的产业发展现状,并分析MaaS落地面临的挑战。(一)MaaS产业发展现状MaaS在人工智能产业链中处于中游位置,基于平台服务、模型及数据集服务、应用开发服务的供给能力,形成了初步的产业图谱,且各类参与方积极发挥自身优势,形成不同落地模式。MaaS产业图谱初步形成MaaS基于算力基础设施的支持,面向场景提供多种应用,具备从模型生产到模型调取并打造成AI应用的全流程能力。图1MaaS上下游关系示意图

来源:中国信息通信研究院MaaS产业图谱(2所示)MaaS生态系统的基座能力。国外如GoogleAIPlatform、微软的AzureMachineLearningAmazonSageMaker等平台,提供了从数据处理到模型训练、验证、部署及监控的流水线服务。国内如阿里云PAI平台、腾讯云太极平台、百度千帆大模型平台和华为的ModelArts平台等,均支持多种机器学习算法和大模型,并提供低代码开发环境与高效的模型训练及部署能力,能够适应多样化的模型定制需求。在模型服务方面,通过提供丰富多样的模型资源以支持各种应HuggingFace提供模型及模型调用服务,202456046。国内模型服务生态迅速发展,头部企业通过搭建模型服务开源社区或平台,汇聚各类模型及服务能力,包括大模型、传统AI模型及各在数据集服务方面,通过汇聚和管理处理好的数据集,为其他AI模型的训练与微调提供可直接获取的高质量数据集,一定程度上帮助企业快速获取某些模型训练所需的数据集。截至2023年Scale·AI数据集服务商已累计标注102D、3D场景化数据7,提供了丰富的数据集服务,据GrandResearch报告显示,全球数据收集和标注市场规模预计从2023年到2030年将以28.9%8。在AIAI应用开发新路径。如作为基于大模型的应用开发工具,可通过自GPT20241300万6https://huggingface.co/7/about8https://\h/sector-report/data-collection-labeling-industry-data-book。国内头部企业也纷纷推出各类应用开发平台,可实现AI原生应用开发,并支持构建Iget(智能体件或系统工具的强互动及关联,据MarketsandMarkets2028AIAgent285亿美元,20232028年43.0%10。来源:中国信息通信研究院图2MaaS产业图谱MaaS两种落地方式MaaS具备公有云和私有云两种落地方式,公有云模式下模型资源更加丰富,但私有云模式下模型资源的行业领域属性更专业(如3所示。公有云方式下,通过丰富的资源可吸引更多用户而提升产品知名度,有助于进一步商业转化。其模型面向社会大众提供服务,模型的种类和数量更多,通用性更强,但是对于业务需求较高的特定场景,部分模型难以直接应用。私有云方式下,企业内研发团队专注于研究符合垂直领域场景需求的模型,旨在通过调用模型9/index/introducing-the-gpt-store10Marketsandmarkets《AttractiveOpportuntitesintheAutonomousAgentsMarket》https://\h/Market-Reports/autonomous-ai-and-autonomous-agents-market-208190735.html服务以直接解决业务需求,且模型资产和数据隐私性强,各团队在模型共享的过程中可降低资产泄露的风险。来源:中国信息通信研究院图3MaaS两种落地模式特点对比图MaaS在公有云和私有云两种落地方式下体现出不同的商业模式。在公有云环境下面向C端用户主要有按量计费和订阅两种模式,其中按量计费是指按照模型实际调用量或者算力消耗量计费,如按照调用模型接口(API)次数或输入输出数计费;订阅模式是指按照月租或年租的方式计费,常见于模型应用的使用场景,适合追求“开箱即用”便捷性的用户群体。在私有云环境下面向B端客户以私有化部署的项目制方式计费,可根据企业需求部署对应的服务,如需提供模型生产的工具则部署模型平台,如对应用开发有需求则部署应用开发平台,私有化部署的MaaS在企业内部实现服务的共享使用,并根据需求决定服务调用是否内部结算。(二)MaaS发展面临的挑战随着MaaS的快速发展,平台、模型等服务能力迅速得以完善,但MaaS在规范性、生态建设等方面仍存在不足,模型服务的易用性仍有待提升。模型服务质量缺乏规范性。目前产业界已发布多个MaaS产品,并汇聚了大量的模型服务,但服务内容和服务质量难以统一和衡量,无法确保用户获得满意的服务。一方面模型服务本身的可用性要求尚未建立统一规范,另一方面服务规模化落地所必须的稳定性、可靠性和安全性等并未形成标准体系。模型服务易用性不足。由于模型卡片的建设尚不完善,导致模型信息的不透明现象较为普遍。用户无法获取清晰、准确的模型信息,从而难以选择所需模型。此外,模型的可解释性也相对较弱,使得用户难以理解模型的运作机制和输出结果。因此,加强模型卡片的信息透明度,增强模型的可解释性,提升模型服务易用性,是当前面临的重要挑战。MaaS基建成本控制能力需加强。MaaS的体系构建离不开坚实的基建支撑,涵盖云计算基础设施如算力资源和数据中心的搭建,以及专业技术人才的培育,这些都需要巨额的资金投入。因此MaaS建设方应考虑有效地管理和利用基建资产,降低运营成本提高运营效率,从而降低和控制建设成本。合规管理体系亟需进一步完善。MaaS在合规性方面面临数据规范与权责确认的双重考验。就数据合规而言,既要关注用户在使用模型服务时个人数据的隐私安全,也要确保用于模型训练和优化的数据来源合法合规。在权责确认方面,当模型服务出现不可用时,如何明确和处理使用方因此遭受的损失,目前尚缺乏明确的规范。国内MaaS生态建设尚不完备。一方面由于当前MaaS各层之间,以及同层的不同企业服务之间接口模式尚未统一,使得MaaS的推广和应用也面临数据互通、技术对接等难题,这在一定程度上制约了其生态建设的步伐;另一方面国内模型服务和用户的体量较国际先进水平还存在差距,模型共建共享的生态环境有待进一步完善。三、MaaS框架与能力要求MaaS能够解决大模型规模化落地难题,同时满足传统人工智能模型的使用需求,提供更加高效的模型触达方式。本章由中国信息通信研究院(以下简称“信通院”)和行业专家结合产业实践对MaaS开展研究,围绕模型落地的全生命周期,分析和总结框架体系及能力要求,并对服务的质量保障进行研究,阐述模型服务协议框架。(一)MaaS框架说明MaaS(4)模型服务层和模型应用开发层,每层可作为单独服务供用户调取,图4MaaS框架图

来源:中国信息通信研究院在人工智能体系架构中,MaaS处于应用层和基础设施层之间如图5所示图5MaaS定位与比较示意图

来源:中国信息通信研究院一方面,云计算架构下的平台层将操作系统、中间件等软件栈通过服务模式提供给用户,用户只需关注应用程序的开发和管理,减少了开发过程中基础设施相关问题的考虑。而MaaS在其基础上增强了平台层能力,首先通过对模型训练框架、工具等进行抽象和服务化,使得用户可以直接构建、使用或基于模型再次调优;同时MaaS补充了模型层能力,对模型及服务进行集约化管理,为用户提供可直接调取的AI能力。另一方面,云计算架构下的应用层通过SaaS的方式使用户可直接在线使用应用程序,无需安装及维护本地软件。而MaaS对应用层进行了补充,支持用户基于多种模型服务及组件进行编排或开发,创造更加个性化更加便捷的AI应用。以下将对MaaS各层能力架构和模块进行介绍,并对产业典型案例进行分析。(二)模型平台层模型平台层为模型定制开发提供全套的工具链及全流程管理能力,包括数据处理、模型开发交付和运营等能力。基于该层,一方面通过全套的工具链帮助企业降低模型定制开发的技术门槛,另一方面通过全流程的运营管理提高多团队协作效率,并实时监控线上模型运行情况,保障业务效果。能力架构模型平台层包括数据工程、模型开发、模型交付、服务运营。该层以基础大模型、算法、私有数据集等为输入,以企业专属模型为输出,具体能力架构如图6所示。

图6模型平台层能力架构图

来源:中国信息通信研究院数据工程:通过数据处理及管理工具,将原始数据集处理成可直接被用于模型训练和模型评估的高质量数据集。数据采集方面支持主流数据源接入以及本地数据导入,具备处理海量、多模态和多格式数据的能力;数据标注方面平台支持在线标注,提供人工与自动等多种标注方式,并对标注好的数据集做统一管理;数据处理方面支持清洗、过滤、去重、去隐私等流水线处理方式,从而提升数据质量优化模型效果;数据生成方面支持在数据分布不均衡或缺少数据的情况下,根据需求生成相应的数据以达到数据平衡;数据回流方面支持将业务数据回流至数据集以持续优化模型性能,经筛选、调整及处理,用于下一次的模型优化或训练。模型开发:包括大小模型的开发,通过提供模型训练、调优、重训,和强化学习等环节的工具支持,以实现模型的定制,同时降低开发的技术门槛。在模型训练AI模型训练所涉及的特征工程、模型调参和模型实验等能力;在模型调优方面通过提供多种调优工具,支持自动化或半自动化的模型调优,完成私域模型定制;在模型重训方面,根据私域数据集进行场景化训练,生成专属模型;在强化学习方面,基于人类反馈数据,支持模型交付:通过提供模型压缩转换、模型测试、模型部署和管理等能力,支持将调优好的模型发布上线,缩短交付周期并快速响应业务需求。在压缩转换方面,支持量化、蒸馏、剪枝等多类算法选择,并预估不同算法的压缩效果,支持用户在保持模型性能服务运营:通过对发布的模型服务进行统一运营管理,包括服务托管、服务监控、服务告警、结果和反馈等,对模型服务进行有效监控与运维。科大讯飞在模型平台领域的落地实践科大讯飞在专属模型定制过程中,为了进行复杂海量的数据处理,提升大模型调优及部署的效率,通过模型平台的方式,将模型的能力定制为云化服务,普惠AI技术人员。科大讯飞在模型平台领域的落地实践科大讯飞在专属模型定制过程中,为了进行复杂海量的数据处理,提升大模型调优及部署的效率,通过模型平台的方式,将模型的能力定制为云化服务,普惠AI技术人员。来源:科大讯飞图7零代码微调模型界面示意图(三)模型层MaaSAI能力,为用户提供可直接调取的模型服务,降低了用户使用各类模型的难度,推动了大模型普惠化发展,同时为上层个性化智能应用的开发提供AI能力支持。能力架构模型层包括丰富的模型库、数据集和服务管理等能力,提供API、SDK、模型文件、在线推理服务等形式,模型层能力架构如图8所示。

图8模型层能力架构图

来源:中国信息通信研究院模型库:AI模型,通过库的方式对模型资产进行统一纳管。模型库中的模型支持被模型平台层调用而进一步调优生成新的模型,并将其发布至模型库中进行共享;同时也支持被上层的应用开发层调用,配合多模型、知识库和插件等共同组建成AI应用。服务管理:是指对模型库中的模型进行全生命周期管理,以提供ModelScope在模型层的落地实践ModelScopeModelScope在模型层的落地实践ModelScopeIModelScope的模型库模块提供模型发布、调用和共享能力,并进行模型版本管理与服务托管,同时数据集模块提供数据集共享20243月ModelScope已开2300个AI60280万名AI开发者。来源:阿里云图9ModelScope模型层实践图(四)应用开发层应用开发层基于各类模型服务和知识库、插件等能力,通过自然语言、工作流编排、界面配置等方式,完成基于模型的AI应用开发和集成,同时对应用从创建到使用的全生命周期进行管理,提高应用开发效率。能力架构应用开发层包括支撑能力、应用开发集成、应用生命周期管理三部分。支撑能力是构建AI应用所需的基础能力,如模型服务、插件、知识库、Prompt(提示、RAG、Agent等;应用开发集成根据不同用户技术水平和场景的需求分为自然语言、界面配置、工作流编排以及代码开发等方式,满足不同开发难度和灵活度的需求;应用生命周期管理对应用创建到上线运营的整个流程进行统一管理,保障应用的稳定运行。应用开发层能力架构如图10所示。

图10应用开发层能力架构图

来源:中国信息通信研究院支撑能力:为应用开发提供了多种基础能力,用户可根据需求选择相应能力进行组合编排或开发。其中模型服务可直接被调取以AI能力;插件提供了各类可扩展的工具能力,使得应用功能更加丰富,包括自建插件和第三方插件等;知识库提供了丰富RAG等能力将新数据引入模型,增强输出结果的准确性;Prompt提供了创建应用、使用应用的提示词管理能力,以帮助模型更好地理解用户意图;Agent通过自主感知、决策和执行等环节进一步提升了应用的智应用开发集成:为不同技术水平的用户提供多样化的应用开发和集成能力,提高应用开发的灵活性。自然语言交互的模式下用户通过恰当的Prompt可快速实现专属场景下的应用构建;界面配置的方式支持用户通过选择基础模型、设置模型性能、匹配插件知识库等组件完成应用构建;工作流编排的方式支持用户将多个模型及各类组件以某种逻辑规则进行编排,可自定义不同模型和组件之间的逻辑关系,提升应用开发的扩展性;代码开发适合具备编码能力的用户,可基于API接口、SDK套件等进行灵活编码设计,支持更加灵活的应用开发。应用生命周期管理:覆盖了从应用创建、调试、部署到发布以及监控运营的完整流程。通过全生命周期过程管理,提高应用开发过程可控性;通过监控运营及时发现并解决问题,保障应用的持AppBuilder在AI百度云AppBuilderAppBuilder在AI百度云AppBuilder为提升基于大模型的AIRAG、Agent、GBI等应用框架,以及大语言模型和多模态的多种能力组件,降低AI原生应用的开发门槛,赋能开发者快速(。AppBuilder面向不同开发能力的用户和开发场景,分别以低代码态和代码态的产品形态,提供了应用组件、应用框架两层服务。低代码态下通过点选配置,调取所需的模型服务和组件,设置相关参数即可打造AI原生应用。代码态下支持有一定开发能力的技术人员,在开发套件的支持下完成功能更加丰富的AI原生应用。来源:百度云来源:百度云图11AppBuilder架构图(五)模型服务协议框架当前诸多MaaS产品集成了大量模型服务,但在服务水平协议(SLA)方面仍存在要求不统一等问题,使得用户难以获得满意的性能和质量体验,从而阻碍了MaaS规模化落地进程。为此,信通院联合产业各界对模型服务协议框架进行总结,为用户获取模型服务时如何衡量服务质量提供参考。模型服务协议框架的目标是规范和提升模型服务质量,适用于人工智能领域包括大模型和传统AI模型在内的所有模型服务。该协议框架对服务范围及服务内容进行明确,并对于如何从多个维度衡量模型服务的水平提供参考,包括服务可用性、隐私安全性、计量准确性及权责条款等12图12服务协议架构图

来源:中国信息通信研究院隐私安全性:从服务的安全保障机制、数据的隐私合规及内容安计量准确性:从计量方式和计量内容等方面考虑,明确服务在可权责条款:从服务赔偿条款、约束及免责条款和知识产权保护等四、MaaS应用分析MaaS落地之道,并在部分领域的应用初见成效。本章首先从全行业角度对MaaSMaaS落地实践进行阐述,如在金融等领域率先应用,并有效赋能经营管理、(一)MaaS落地条件及优势场景解析MaaS作为新型智能化服务模式,其落地实践需具备外需和内驱两个条件。一是需要有模型规模化落地的外部需求,当组织面临全AI+需求时,模型应用的需求量随之变大,导致模型开发及人工成本急剧增加,使组织需变革模型生产和应用工具以提升效率。二是需具备组织内部驱动力,自顶向下层层推进模型共建共享机制,推进烟囱式开发方式向集约式转变,最大化发挥模型、数据、平台AIMaaS多层级服务,有利于高效便捷地助力AI中国信通院通过调研百余个场景案例进行综合分析,当前MaaS已在多行业落地,覆盖研发设计、经营管理、营销推广等多个生产环节,助力企业在业务、技术、管理等全方面提效,成为大模型时代下企业智能化转型新途径。金融行业率先成为落地最多的领域。MaaS在各行业落地情况如13MaaS落地的良好环境,其案例数量占全49%11,成为落地探索最多最快的行业,一方面是因为技术储备较为完善,有传统人工智能的落地通路和经验,如基础设施和平台等层面均有基础;另一方面是因为业务数据较为丰富,对模型的种类和数量需求多。落地场景主要包括营销、客服、风控等,可有效解决金融行业人力成本高、风险管控滞后等问题。图13MaaS在各行业应用占比

来源:中国信息通信研究院经营管理环节的落地实践最为成熟。经营管理环节的应用案例在企业全价值链中占比达511(如图14所示,该环节涵盖的智慧办公、经营分析、智能流程等场景,以辅助人工提升工作效率为主而非直接对客服务。由于该类场景见效快、风险低,通过大模型基础能力加私域少样本数据即可达到场景性能要求,成为最适合模11中国信息通信研究院调研统计来源:中国信息通信研究院图14企业价值链各环节生产场景占比图基于模型的AI于MaaSAI来源:中国信息通信研究院图15MaaS应用案例统计图(二)MaaS行业实践案例及成效剖析MaaS行业落地目标是降本增效,缩短模型及应用构建的周期,以应对频繁迭代的业务需求,同时通过模型的共享降低重复建设成本。本节详细介绍了精选的四个MaaS落地代表案例,案例材料来自对应企业。MaaS平台应用实践平安银行积极探索大模型在业务场景智能化和降本增效方面的解决方案,虽然模型应用需求向多而广的趋势变化,使得传统模型研发流程中存在的自动化程度低、资源利用率低、知识和能力缺乏共享等问题愈加凸显,制约了模型应用的快速开发和部署上线效率,限制了大模型等人工智能技术的规模化落地。BankGPT为解决以上痛点,平安银行自主研发MaaS服务平台,即BankGPT(16所示API调用各种BankGPT为各业务场景的模型应用提供了高效、低成本的模型使用和开发支持。BankGPT一方面提供模型微调功能,开发人员以极低技术门槛开发上线大模型服务,另一方面提供底座模型的共享,可训练调优来源:平安银行图16平安银行BankGPT-MaaS服务平台BankGPT平台经过持续迭代,截止2024年1月,已实现支持四种不同的落地模式,支撑行内模型应用的高效、低成本开发,从而实现智能化普及。该平台目前已上线10+底座模型,算法团队、业务开发团队落地应用数十个,基于Prompt调优创建应用数百个,并为全行员工提供大量可直接体验的应用。来源:平安银行图17平安银行MaaS服务平台落地效果MaaS实践人工智能模型训练门槛较高,业务人员缺乏机器学习专业知识,导致模型研发及部署不够便捷,生产效率较低,且各单位模型重复开发造成资源浪费。解决方案:一体化MaaS中国电科院结合设备智能巡检、作业安全管控等典型业务实际需求,构建电网领域的一体化MaaS平台(18所示。该平台基于“模型+服务+应用”建设模式,包括资源层、平台层、模型层、API、SDK对外提供服务,还可提供自动建模、智能标注等组件支撑能力,并结合自动化训练技术,支+”来源:中国电科院图18中国电科院一体化MaaS平台架构通过一体化MaaS平台,显著缩短开发周期约50%,模型精度相比传统训练方式有明显的提升,缺陷识别准确率达90%以上。MaaS实践公域大模型直接应用到移动内部,存在问题和风险,公域大模C思维无法满足企业的特定需求和场景,数据安全风险较高。同时企业大模型在多域运作中缺乏统一生态管理,需要在现有系统解决方案:融合MaaS“+”来源:中国移动广东分公司图19广东移动私域大模型体系针对上述痛点,广东移动打造了自主的私域大模型体系,采用了“平台+生态”的模式,包括数据源、MaaS模型能力层、场景组件库、产品运营平台以及产品及应用共计五层(19所示。在体系中,集成了自主研发的模型、专业模型以及第三方生态大模型。同时,通过积极开发和整合行业特定大模型,支持企业内部应用的该方案实现了平台的高灵活性和可扩展性,通过算力和模型的适配提高了平台可扩展能力和兼容性。应用层接入接口的统一使平台能快速拓展至各业务场景,并建立了统一的数智人运营体系,有效支持企业数智化转型。MaaS实践高频的建模需求与低效的建模方案相冲突。每个业务环节都需频繁迭代模型,而传统建模周期长,POC、建模、评估、上线各环小样本情况下建模难。短时间内样本累积不足,样本量少而无法支持模型调优。同时在新产品或新业务上线时,少样本或零样本解决方案:金融风控MaaS腾讯云在金融风控领域的aa20平台实现全流程的自动化建模和部署上线,缩短模型上线周期,满足快速迭代需求,适配业务动态变化;二是集成了大量专家模型,以模型服务的方式提供快速调用及组合编排,进一步提升模型的精度和落地效率;三是积累了风控领域丰富的知识经验,通过大模型加高质量数据解决小样本训练难题,并配备360度模型评估模块,图20

来源:腾讯云模型精度、建模效率双提升,快速适配业务变化。在金融风控MaaS81.5%,2121MaaS

来源:腾讯云快速应对新业务拓展。在新业务缺乏样本的情况下,基于MaaS20%,新业务通过率提升5%30%。图22金融风控大模型与传统定制模型性能对比

来源:腾讯云五、总结与展望在大模型时代发展的浪潮下,各行业面临着前所未有的数智化转型挑战与机遇。而MaaS作为模型

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论