中国银保传媒腾讯研究院-2023金融业大模型应用报告：破除虚妄务实求效

©2022KPMGHuazhen©2022KPMGHuazhenLLP,aPeople'sRepublicofChinapartnership,KPMGAdvisory(China)Limited,alimitedli(SAR)partnership,andKPMG,aHongKong(SAR)partnership,arememberfirmsoftheKPMGglobalorganisationofindependentmemberfirmsaffiliatedwithKPMGInternationalLimited,aprivateEnglishcompanylimitedbyguaran破除虚妄务实求效中国银保传媒股份有限公司&腾讯研究院2023年11月腾讯研究院腾讯研究院院长腾讯云腾讯云副总裁柳晓光3行业亟待破局•人工智能生成内容技术蓬勃发展，行业大模型与通用大模型竞相培育，伴随着生成内容的可控性增强，垂直场景的试点与探?技术培育行业亟待破局•人工智能生成内容技术蓬勃发展，行业大模型与通用大模型竞相培育，伴随着生成内容的可控性增强，垂直场景的试点与探?技术培育演进模式与明晰的场景•金融行业是大模型场景探索、应用落地的肥沃土壤，具备信息、数据、知识、人才密集型的特性，顶层政策与区域性规划持续推进前沿技术在行业基础价值趋势•大模型是未来金融的商业变革核心驱动之一，重点归集于三大方向：金融机构在服务客户方面的降本增效、场景变革和产品升级；用户获取大模型发展现状大模型发展现状本报告将结合腾讯研究院、银保传媒与毕马威在基础大模型的沉淀与洞察、在银行、券商、资管等数字化转型与落地本报告将结合腾讯研究院、银保传媒与毕马威在基础大模型的沉淀与洞察、在银行、券商、资管等数字化转型与落地全球大模型发展趋势研判——破除虚妄：大模型在金融业的场景落地边界——务实求效：大模型在金融业的价值与应用——总结与展望——05页10页19页29页01全球大模型发展01全球大模型发展56“百行千模““百行千模“第四波第四波AI浪潮核心驱动近年来，通过在大规模语料库上对Transformer模型进行预训练，研究者们提出了在自然语言处理（NLP）任务中表现突出的预训练语言模型（PLM参数规模扩大语料库预训练Google：GPT-1OpenAI：ChatGPTOpenAI：GPT-4OpenAI所发布的ChatGPT和GPT-4是大模型发展OpenAI：GPT-2OpenAI：WebGPTMeta：OPT-IMLMeta：LLaMA的两大重要里程碑：ChatGPT通过将人类生成的对OpenAI：GPT-3Google：GLaMGoogle：GLaMGoogle：Bard…范式变革范式变革…单一领域数据集；诸多数据集合诸多模型各成孤岛缺乏纵效；劳动密集型的数据标注基础模型超级海量数据，无需人工标注；具有跨领域多模态模型可以同时处理包括声音、文本、图像大模型和预训练让人工智能完成跃迁，诱发式对输入数据和合成结果进行审核，并在合理、显著的位2.《生成式人工智能服务管理暂行办法》标志分级监管的基调，涵盖从模型训练、应用运行到模型优化式对输入数据和合成结果进行审核，并在合理、显著的位2.《生成式人工智能服务管理暂行办法》标志分级监管的基调，涵盖从模型训练、应用运行到模型优化••《数据保护法》（2021年6月加强对消费者数据的保护，并对处理消费者数据的实体提出新的要求。处理消费者数据的实体将被要求制•《金融数据透明度法案》（2022年12月）：要求联邦金融监管机构在格式、可搜索性和透明度方面采用特定的数据标准，以进一步推动监•《数据治理法案》（2022年5月提出促进数据•《中国银保监会银行业金融机构监管数据标准化规范》（2022年1月通过对报送数据的规范和要求，指导金融机构数据质量的提升，帮为什么是大模型？-第四波浪潮的颠覆式创新大模型的涌现能力大模型的涌现能力，即当规模达到一定水平时，性能显大模型的涌现能力，即当规模达到一定水平时，性能显著提高，超出随机水平，定义为“在小型模型中不存在但在大型模型中产生的能力”上下文学习指令遵循逐步推理假设已经为语言模型提供了一个自然语言指令和/或几个任务演示，它可以通过完成输入文本的单词序列的方式来为测试实而无需额外的训练或梯度更新；通过使用自然语言描述的混合多任务数据集进行微调，能够在没有使用显式示例的情况下遵循新的任务化能力；对于小型语言模型而言，通常很难解决涉及多个推理步骤的复杂任务。通过使用思维链提示策略，大模型可以利用包含中间推理步骤的提示机制来解决这类任务，从人工智能产业化新范式开发范式的转变与大模型的能力开发范式的转变与大模型的能力带来AI产业化新范式，解决AI应用长尾问题小模型vs大模型比较维度小模型大模型数据层面模型层面业务支持生成内容可控性人机协作学探索简单代码/生成内容可控性人机协作学探索简单代码/指令序列跨模态理解商业流程搜索与知识问答文案类助理>人类思维复杂学科研究高级系统高级系统设计科学发现科学发现数字世界新的系统开发设计人机融合人机融合的数字世界和生态知识推理知识推理符号梳理与外部环境互动高质量完整代码完整故事完整故事线与文图复杂逻辑系统AIAI效率工具及行业解决方案智能化数学推理代码补全代码补全特点场景思维链特点场景思维链主题内容生成开卷问答开卷问答语言建模多轮对话微场景的微场景的商业写作相对可控辅助设计辅助设计条件文本条件文本生成低可控的文本生成低可控的文生图设计灵感设计灵感辅助非主题无非主题无逻辑文本缺乏控制缺乏控制关键能力涌现可生成的内容典型应用方向场景实现路径922破除虚妄：大模型在金融业的场景边界2如何判断所建场景应当使用哪类大模型？如何判断所建场景应当使用哪类大模型？>明晰大模型选用的判定方向>厘清大模型赋能应用场景方向大模型在金融业落地的支撑保障是什么？大模型在金融业落地的支撑保障是什么？>正确认识大模型落地的全要素行业需求和应用场景丰富行业知识量大，业务场景复杂提升问答准确率能力，实现端到端解决问题，降低整体成本数字人播报行业大模型不断涌现，应用初显成效行业数据形式多，版权保护强提升创作能力和表达能力，实现即时报道，个性化创意行业数据繁杂，处理分析难度大行业需求和应用场景丰富行业知识量大，业务场景复杂提升问答准确率能力，实现端到端解决问题，降低整体成本数字人播报行业大模型不断涌现，应用初显成效行业数据形式多，版权保护强提升创作能力和表达能力，实现即时报道，个性化创意行业数据繁杂，处理分析难度大提升处理效率力，实现金融信息精确分析场景适配成本较低更专业传媒文旅金融智能研报智能风控智能客服智能导游辅助写作行业经验反哺计算感知认知基础大模型行业大模型提供持续生命力基础大模型——通用技术基座行业大模型——专用行业引擎通用性强领域上表现出较好的性能。专业性欠佳开发成本高大模型训练及部署需要大量的计算资源、存储空2破除虚妄：大模型在金融业的场景边界体验性强、操作简单、可直接完成价值输出的内容创建工具 基础大模型主要面向泛知识、泛领域的通识场景，追求交互体验，当前以C端的内容消费为主，场景特征：多模态内容自动生成核心工具可助力企业以合理成本训练场景模型，并推演具有高商业价值场景应用的平台或服务行业大模型主要面向垂直特定领域的专业场景，容错性相对较低，且追求合理的ROI，以B端的企业服务为主场景特征：一定条件下的自动化、智能化服务核心工具大模型赋能旧场景升级新场景变革2破除虚妄：大模型在金融业的场景边界大模型赋能旧场景升级新场景变革丰富内涵：丰富企业传统场景的业务内容丰富内涵：丰富企业传统场景的业务内容法深入到执行环节，但大模型的加持使得在具体业务执能力提升：强化原有AI场景的效能及形式与原有AI算法进行融合，在机器学习的任务中引入大模技术底座：以大模型重构企业级智能架构基座技术底座：以大模型重构企业级智能架构基座场景场景场景场景场景场景场景场景以开/闭卷问答能力为核心以文本生成能力为核心以知识推理能力为核心金融行业的数字化程度在全行业中相对领先，拥有高价值的领域数据资产，是大模型率先落地的垂直领域之一。大模型将依托其多种能力为2破除虚妄：大模型在金融业的场景边界以开/闭卷问答能力为核心以文本生成能力为核心以知识推理能力为核心金融行业的数字化程度在全行业中相对领先，拥有高价值的领域数据资产，是大模型率先落地的垂直领域之一。大模型将依托其多种能力为主流方式，以期通过其提供的7×24小时智能自助服务拓展营销与服务以数学推理能力为核心化数据资产价值，在以往“经验规则+统计/机器学习模型”的基础上以数学推理能力为核心避潜在风险、提升合同撰写的均质化水平。以开/闭卷问答能力为核心以知识推理能力为核心以代码合成能力为核心以条件文本生成能力为核心在为金融行业带来传统场景升级的同时，大模型的强大生成能力和多模态信息处理能力会为包括银行、保险、资管、投顾等在内的金融业务带来“迭以开/闭卷问答能力为核心以知识推理能力为核心以代码合成能力为核心以条件文本生成能力为核心在为金融行业带来传统场景升级的同时，大模型的强大生成能力和多模态信息处理能力会为包括银行、保险、资管、投顾等在内的金融业务带来“迭的智能投顾。作实现高效监督。化金融科技团队组织体系。代码补全：运用大模型进行方法级的代码生成、代码搜索与检验，快速进行框架搭建与BUG定位、可释放更多科技产能，提升金融系统和模型的开发效率。效保护客户的数据隐私。智能培训：针对现存培训素材与员工画像，基于大模型打造企业内部培理能力仍在发展场景的大模型“幻觉”理能力仍在发展场景的大模型“幻觉”美元，如果不使用最先进对客业务工具“分子”“分子”业务价值图谱描绘与量化评价原则2-能力清晰可承接业务视角——将业务实际价值效果与科技投入进行一致性关联，展现科技投入对业务效益提升的支撑度效果科技投入商业核算与精益运营科技视角——标准化溯源科技投入在业务端的资源分布，同步衡量科技服务本身价值与团“分母”原则4–下钻项目全打通——数字化投入核算应下钻至作为数字化建设的实施单元和数字化投入直接面向单位的项目层级原则1-业务价值可量化——以业务实际需求和价值为基础，结合行业先进性的技术发展方向对业务价值进行有效衡量原则3–资源投入全覆盖——数字化投入核算应确保覆盖所有数字化相关的资源投入内容，保证投入评价的完整性与全面性——对于不同类型的能力需要明确定义清晰定义，保证各项资源投入均有能力以映射分解企业架构，运用企业数字化能力模型，从五大能力域出发，实现问题归类和聚焦，明晰大模型在企业长期落地的支撑保障核分解企业架构，运用企业数字化能力模型，从五大能力域出发，实现问题归类和聚焦，明晰大模型在企业长期落地的支撑保障核 数据与 数据与体系外的工具产“高”“广”“深”助力生产、经营、管理重塑业务模式满足金融业各类业务需求大模型+AI原生应用“高”“广”“深”助力生产、经营、管理重塑业务模式满足金融业各类业务需求大模型+AI原生应用推动业务全链条智能总体价值：大模型催生“效率革命”，为“强”特定领域表现及适应性监管科技智能交易监控用户身份识别智能信息披露监管报告生成零售金融渠道运营智能外呼监管科技智能交易监控用户身份识别智能信息披露监管报告生成零售金融渠道运营智能外呼智能推荐信用管理营销管理营销内容生成营销策略设计产品设计产品策略设计需求挖掘智能外呼智能推荐信用管理智能尽调客群分析新企抓取产品策略设计产品策略设计营销策略设计营销内容生成公司金融智能投顾智能投教渠道运营渠道运营智能外呼智能推荐资产评估资产配置智能尽调信用管理产品设计产品设计资产管理资产管理智慧投研智慧投研营销管理需求挖掘需求挖掘基金画像风险管理智能反欺诈风险账户识别智能反洗钱智能审计风险评估前台通用模块前台通用模块办公管理文档/图片解析搜索与问答舆情管理知识管理音视频文本图数据分析 数据决策分析 渠道运营智能客服通识工具基于基于Agent的生产力工具开发与运维开发与运维智能代码搜索方法级代码生成智能代码补全告警管理运维管理前中台通用应用监管科技个性应用后台应用需求频次行业趋势需求频次行业趋势大模型在金融业的应用路线图大模型在金融业的应用路线图技术成熟度渠道05金融价值创造模式颠覆创新三维路线确定政务大模型传媒大模型贸易大模型金融大模型行业大模型模型底座基础设施政务大模型传媒大模型贸易大模型金融大模型行业大模型模型底座基础设施业务场景业务场景渠道管理营销管理产品设计监管科技办公管理数据分析开发与运维风险管理通用模块大模型即大模型即服务MaaS企业专属大模型细分领域模型训练平台应用平台平台&工具平台&工具数据标注平台数据标注平台训练平台机器学习框架应用调度平台行业大模型开放生态行业大模型开放生态通用大模型通用大模型高性能计算网络向量数据库高性能计算集群高性能计算网络向量数据库办公管理场景价值单据处理能效提升减少单据处理中的低价值高耗时手工作业，节省运营人力成本，可实现多元业务数据处理的标准化、线上化、自动化。非结构化数据利用率提升可对非结构化数据进行自动化分拣、提取并转换为结构化数据，实现对各种格式数据的高精度识别，识别准确率95%特点1：基于原生大模型，不经过训练，直接支持常规下游任务，零样本学习泛化召回特点2：通过prompt设计，不经过训练，支持复杂下游任务，小样本学习泛化召特点3：通过多模态技术，小样本精调解决传统OCR难题，比传统模型召回率提高3%-20%基于腾讯云TI-OCR的单据处理场景固定版式结构化实现对如身份证、火车票、机动车登记证等所有字段位置固定的单一版式类型的数据信息进行提取。腾讯云办公管理场景价值单据处理能效提升减少单据处理中的低价值高耗时手工作业，节省运营人力成本，可实现多元业务数据处理的标准化、线上化、自动化。非结构化数据利用率提升可对非结构化数据进行自动化分拣、提取并转换为结构化数据，实现对各种格式数据的高精度识别，识别准确率95%特点1：基于原生大模型，不经过训练，直接支持常规下游任务，零样本学习泛化召回特点2：通过prompt设计，不经过训练，支持复杂下游任务，小样本学习泛化召特点3：通过多模态技术，小样本精调解决传统OCR难题，比传统模型召回率提高3%-20%基于腾讯云TI-OCR的单据处理场景固定版式结构化实现对如身份证、火车票、机动车登记证等所有字段位置固定的单一版式类型的数据信息进行提取。腾讯云TI-OCR：专注于OCR细分场景建模的训练平台（Master-Worker的分布式架构）智能结构化检测/识别智能分拣片中物体所在的框位置及其所属类别。从单一版式或混合版式的图片中提取出Key字段、Value字段，以及Key-支持四种识别模式识别难点，且不具备阅读理解和推理能力、模型指标场景价值用户交互体验提升业态精益化运营私有化部署 场景价值用户交互体验提升业态精益化运营私有化部署 技术底座将原智能客服业务切分为智能坐席、智能人机协作、知识库管理等单元，将服务场景切分为问答、助手、外呼，实现腾讯云TI平台结合自身场景数据精调腾讯云基于腾讯云金融大模型的智能客服场景基于腾讯云金融大模型的智能客服场景开发出智能语音导航和智能问答功能作为智能客服的核心，实现服务的录音进行转写，形成可靠数据源以进行专题分析。另一方面，将销、催收等过去由人工开展的业务，交由机器人办理，并实时对数据进 金融行业大模型基于舆情大模型的投资研究场景场景价值投研能力均质化水平提升通过大模型替代传统投研工作中容易产生疏漏的环节，让更多维度的金融信息得以利用，同时自动生成报告辅以人工为向价值链后端延申夯实基础投研环节处于金融业价值链的前端，与后续风控管理、投后管理等业务领域的耦合度较高，大模型投研能力的建设有个性化结构化半结构化非结构化数据数据数据数据登陆代理池金融业舆情大模型基于舆情大模型的投资研究场景场景价值投研能力均质化水平提升通过大模型替代传统投研工作中容易产生疏漏的环节，让更多维度的金融信息得以利用，同时自动生成报告辅以人工为向价值链后端延申夯实基础投研环节处于金融业价值链的前端，与后续风控管理、投后管理等业务领域的耦合度较高，大模型投研能力的建设有个性化结构化半结构化非结构化数据数据数据数据登陆代理池金融业舆情大模型风险管理基于腾讯云金融风控大模型的定制化动态风险治理体系场景价值风控能力全方位升级在保证风险识别准确率的前提下加快风险判断速度，实现动态风险治理，变革组织运营管理模式风险管理基于腾讯云金融风控大模型的定制化动态风险治理体系场景价值风控能力全方位升级在保证风险识别准确率的前提下加快风险判断速度，实现动态风险治理，变革组织运营管理模式，全面提升金融企业解决定制化建模的小样本难题依靠大模型自身的“知识积累”，可学习海量多模态的风控数据，高效解决小样本乃至零样本训练难题，进一步提升模型区分度，有效面对多风险类别跨风跨场景泛化跨场景泛化 腾讯云金融风控大模型专家级建模流程全自动知识沉淀API服务AI算法场景价值开发全流程升级加速BUG诊断、测试等流程，并通过辅助补全等能力释放系统及应用开发过程场景价值开发全流程升级加速BUG诊断、测试等流程，并通过辅助补全等能力释放系统及应用开发过程中的机械性工作，让整个开发过程将更开发门槛降低通过对话学习、快速理解、规范编写等能力降低开发门槛，并在一定程度上用自然语言代替编程语言，让一线业务人基于腾讯云的AI代码助手基于腾讯云的AI代码助手支撑四大核心能力模型