2023金融业大模型应用报告

破除虚妄务实求效中国银保传媒股份有限公司中国银保传媒股份有限公司&腾讯研究院2023年11月HuazhenPeople'sRepublicpartnership,KPMGAdvisory(China)Limited,limitedKPMG,partnership,arefirmsglobalofindependentmemberfirmsaffiliatedKPMGEnglishcompanyAllreserved腾讯研究院院长腾讯研究院院长码生成等多个场景，助力金融机构在服务和管理方面实我们期待金融行业加速迈向腾讯云副总裁腾讯云副总裁务效率，洞悉市场和风险；柳晓光柳晓光3破除虚妄，务实求效：2023金融业大模型应用报告行业亟待破局行业亟待破局大模型发展现状技术培育•人工智能生成内容技术蓬勃发展，行业大模型与通用大模型竞相培育，伴随着生成内容的可控性增强，垂直场景的试点与探索不断加速•大模型发展现状技术培育•人工智能生成内容技术蓬勃发展，行业大模型与通用大模型竞相培育，伴随着生成内容的可控性增强，垂直场景的试点与探索不断加速•金融行业是大模型场景探索、应用落地的肥沃土壤，具备信息、数据、知识、人才密集型的特性，顶层政策与区域性规划持续推进前沿技术在行业基础价值趋势•大模型是未来金融的商业变革核心驱动之一，重点归集于三大方向：金融机构在服务客户方面的降本增效、场景变革和产品升级；用户获取基于大模型的金融场景多在试验性探索和点状尝试，金融产业链尚未形成基于大模型的体系尚未形成标准化的应用演进模式与明晰的场景ROI判断框架?本报告将结合腾讯研究院、银保传媒与毕马威在基础大模型的沉淀与洞察、在银行、券商、资管等数字化转型与落地05页05页10页02破除虚妄：大模型在金融业的场景落地边界——10页19页19页29页29页0101全球大模型发展5第四波第四波AI浪潮核心驱动近年来，通过在大规模语料库上对Transformer模型进行预训练，研究者们提出了在自然语言处理（NLP）任务中表现突出的预训练语言模型（PLM参数规模扩大 >参数规模扩大 > “百行千模““百行千模“OpenAI所发布的ChatGPT和GPT-4是大模型发展的两大重要里程碑：ChatGPT通过将人类生成的对话引入训练数据，使AI具备了与人类同频顺畅交流OpenOpenAI：GPT-2OpenAI：GPT-3OpenAI：OpenAI：WebGPT 2021腾讯：混元……清华大学：GLM腾讯：混元………百度：文心一言……范式变革范式变革…单一领域数据集；诸多数据集合诸多模型各成孤岛缺乏纵效；劳动密集型的数据标注基础模型超级海量数据，无需人工标注；具有跨领域多模态模型可以同时处理包括声音、文本、图像大模型和预训练让人工智能完成跃迁，诱发6的监管范围，要求生成式AI服务提供者应当采取技术或者式对输入数据和合成结果进行审核，并在合理、显著的位2.《生成式人工智能服务管理暂行办法》标志治理监管进入体系化阶段，《办法》明确了对生成式AI实分级监管的基调，涵盖从模型训练、应用运行到模型优化命周期，并规定了服务开发者、提供者的算法备案义务，未来，算法安全监测、数据安全管理、个人数据保护将成为•《数据保护法》（2021年6月•《数据保护法》（2021年6月加强对消费者数据的保护，并对处理消费者数据的实体提出新的要求。处理消费者数据的实体将被要求制•《金融数据透明度法案》（2022年12月）：要求联邦金融监管机构在格式、可搜索性和透明度方面采用特定的数据标准，以进一步推动监）：•《数据治理法案》（2022年5月提出促进数据•《中国银保监会银行业金融机构监管数据标准化规范》（2022年1月通过对报送数据的规范和要求，指导金融机构数据质量的提升，帮为什么是大模型？-第四波浪潮的颠覆式创新大模型的涌现能力大模型的涌现能力，即当规模达到一定水平时，性能显大模型的涌现能力，即当规模达到一定水平时，性能显著提高，超出随机水平，定义为“在小型模型中不存在但在大型模型中产生的能力”上下文学习假设已经为语言模型提供了一个自然语言指令和/或几个任务演示，它可以通过完成输入文本的单词序列的方式来为测试实例生成预期的输出，而无需额外的训练或梯度更新；指令遵循通过使用自然语言描述的混合多任务数据集进行微调，能够在没有使用显式示例的情况下遵循新的任务指令，具有更好的泛化能力；逐步推理对于小型语言模型而言，通常很难解决涉及多个推理步骤的复杂任务。通过使用思维链提示策略，大模型可以利用包含中间推理步骤的提示机制来解决这类任务，从人工智能产业化新范式开发范式的转变与大模型的能力开发范式的转变与大模型的能力带来AI产业化新范式，解决AI应用长尾问题小模型vs大模型比较维度小模型大模型数据层面模型层面业务支持9生成内容可控性数字世界人机协作学探索新的系统开发设计人机融合的数字世界和生态人类思维复杂学科研究高级系统设计科学发现高质量完整代码复杂逻辑生成内容可控性数字世界人机协作学探索新的系统开发设计人机融合的数字世界和生态人类思维复杂学科研究高级系统设计科学发现高质量完整代码复杂逻辑系统完整故事线与文图智能化与外部环境互动知识推理AI效率工具及行业解决方案跨模态理解商业流程代码补全微场景的商业写作搜索与知识问答文案类助理相对可控多轮对话辅助设计语言建模开卷问答设计灵感辅助低可控的文生图条件文本生成低可控的文本生成非主题无逻辑文本缺乏控制>符号梳理数学推理简单代码/指令序列特点场景思维链主题内容生成◆◆关键能力涌现可生成的内容典型应用方向场景实现路径2破除虚妄：大模型在金融业的场景边界明晰大模型选用的判定方向厘清大模型赋能应用场景方向3正确认识大模型落地的全要素2破除虚妄：大模型在金融业的场景边界行业大模型——专用行业引擎基础大模型——通用技术基座行业大模型——专用行业引擎基础大模型——通用技术基座行业需求和应用场景丰富行业需求和应用场景丰富行业知识量大，业务场景复杂提升问答准确率能力，实现端到端解决问题，降低整体成本和表达能力，实现即时报道，个性化创意力，实现金融信息精确分析行业数据形式多，版权保护强行业数据繁杂，处理分析难度大提升处理效率提升创作能力传媒金融文旅感知感知行业经验反哺计算行业经验反哺计算更专业更专业认知基础大模型认知基础大模型行业大模型行业大模型场景适配场景适配◆◆通用性强成本较低提供持续生命力专业性欠佳通用性强成本较低提供持续生命力专业性欠佳开发成本高智能风控智能研报智能客服智能导游辅助写作数字人播报行业大模型不断涌现，应用初显成效2破除虚妄：大模型在金融业的场景边界风控、内容创作、资管、培训、客户服务、电商、广告、社交媒体、搜索引擎等在内的众多场景。这些领域的每一个应用程序都将被重新设计和改写，形基础大模型主要基础大模型主要面向泛知识、泛领域的通识场景，追求交互体验，当前以C端的内容消费为主，核心工具体验性强、操作简单、核心工具场景特征：多模态内容自动生成场景特征：多模态内容自动生成可助力企业以合理成本训练场景模型，并推演具有高商业价值场景应用的平台或服务行业大模型主要面向垂直特定领域的专业场景，容错性相对较低，且追求合理的ROI，以B端的企业服务为主场景特征：一定条件下的自动化、智能化服务核心工具2破除虚妄：大模型在金融业的场景边界丰富内涵：丰富企业传统场景的业务内容旧场景升级法深入到执行环节，但大模型的加持使得在具体业务执旧场景升级能力提升：强化原有AI场景的效能及形式大模型赋能与原有AI算法进行融合，在机器学习的任务中引入大模大模型赋能新场景变革技术底座：以大模型重构企业级智能架构基座新场景变革技术底座：以大模型重构企业级智能架构基座场景场景场景场景场景场景场景场景2破除虚妄：大模型在金融业的场景边界以开/闭卷问答能力为核心以文本生成能力为核心以知识推理能力为核心金融行业的数字化程度在全行业中相对领先，拥有高价值的领域数据资产，是大模型率先落地的垂直领域之一。大模型将依托其多种能力为以开/闭卷问答能力为核心以文本生成能力为核心以知识推理能力为核心金融行业的数字化程度在全行业中相对领先，拥有高价值的领域数据资产，是大模型率先落地的垂直领域之一。大模型将依托其多种能力为数字人：“大模型+数字人”的服务用户形态极大概率成为金融服务的主流方式，以期通过其提供的7×24小时智能自助服务拓展营销与服务以数学推理能力为核心化数据资产价值，在以往“经验规则+统计/机器学习模型”的基础上以数学推理能力为核心避潜在风险、提升合同撰写的均质化水平。2破除虚妄：大模型在金融业的场景边界以开/闭卷问答能力为核心以知识推理能力为核心以代码合成能力为核心以条件文本生成能力为核心以开/闭卷问答能力为核心以知识推理能力为核心以代码合成能力为核心以条件文本生成能力为核心的智能投顾。合规筛查：在产品营销、催收等不易监督的业务环节存在较多的潜在合作实现高效监督。在为金融行业带来传统场景升级的同时，大模型的强大生成能力和多模态信息处理能力会为包括银行、保险、资管、投顾等在内的金融业务带来“迭化金融科技团队组织体系。代码补全：运用大模型进行方法级的代码生成、代码搜索与检验，快速进行框架搭建与BUG定位、可释放更多科技产能，提升金融系统和模型的开发效率。效保护客户的数据隐私。智能培训：针对现存培训素材与员工画像，基于大模型打造企业内部培2破除虚妄：大模型在金融业的场景边界对客业务工具场景的大模型“幻觉”理能力仍在发展美元，如果不使用最先进2破除虚妄：大模型在金融业的场景边界原则1-业务价值可量化——以业务实际需求和价值为基础，结合行业先进性的技术发展方向对业务价值进行有效衡量原则3–资源投入全覆盖——数字化投入核算应确保覆盖所有数字化相关的资源投入内容，保证投入评价的完整性与全面性原则1-业务价值可量化——以业务实际需求和价值为基础，结合行业先进性的技术发展方向对业务价值进行有效衡量原则3–资源投入全覆盖——数字化投入核算应确保覆盖所有数字化相关的资源投入内容，保证投入评价的完整性与全面性“分母”原则4–下钻项目全打通——数字化投入核算应下钻至作为数字化建设的实施单元和数字化投入直接面向单位的项目层级“分子”业务价值图谱描绘与量化评价业务视角——将业务实际价值效果与科技投入进行一致性关联，展现科技投入对业务效益提升的支撑度效果原则2-能力清晰可承接——对于不同类型的能力需要明确定义清晰定义，保证各项资源投入均有能力以映射科技投入商业核算与精益运营科技视角——标准化溯源科技投入在业务端的资源分布，同步衡量科技服务本身价值与团队的工作绩效，匹配发展价值分解企业架构，运用企业数字化能力模型，从五大能力域出发，实现问题归类和聚焦，明晰大模型在企业长期落地的支撑保障核数据与数据与体系外的工具产总体价值：大模型催生“效率革命”，为“高”“深”“高”“深”“广”“强”特定领域表现及适应性助力生产、经营、管理重塑业务模式大模型+AI原生应用推动业务全链条智能满足金融业各类业务需求监管科技智能交易监控用户身份识别智能信息披露监管报告生成零售金融公司金融渠道运营智能外呼智能推荐信用管理渠道运营智能外呼监管科技智能交易监控用户身份识别智能信息披露监管报告生成零售金融公司金融渠道运营智能外呼智能推荐信用管理渠道运营智能外呼智能推荐信用管理智能尽调客群分析新企抓取渠道运营智能外呼智能推荐信用管理资产管理智能投顾智慧投研智能投教基金画像资产管理智能尽调智慧投研资产评估资产配置营销管理营销内容生成营销策略设计营销管理营销内容生成营销策略设计产品设计产品策略设计需求挖掘产品设计产品策略设计需求挖掘产品设计产品策略设计需求挖掘风险管理风险账户识别智能反洗钱智能反欺诈智能审计风险评估前台通用模块办公管理文档/图片解析搜索与问答舆情管理知识管理音视频文本图数据分析 数据决策分析 渠道运营智能客服通识工具基于基于Agent的生产力工具告警管理开发与运维告警管理方法级代码生成智能代码补全智能代码搜索运维管理方法级代码生成智能代码补全智能代码搜索运维管理前中台通用应用监管科技个性应用后台应用行业趋势大模型在金融业的应用路线图行业趋势大模型在金融业的应用路线图渠道渠道金融价值创造需求频次需求频次模式颠覆创新5050技术成熟度三维路线确定----应用路线，横纵坐标的线性表现业务场景业务场景渠道管理营销管理产品设计监管科技办公管理数据分析开发与运维风险管理通用模块大模型即大模型即服务MaaS企业专属企业专属大模型细分领域模型训练平台应用平台平台&工具平台&工具数据标注平台数据标注平台训练平台训练平台应用调度平台机器学习框架政务大模型传媒大模型贸易大模型金融大模型行业大模型政务大模型传媒大模型贸易大模型金融大模型行业大模型行业大模型开放生态行业大模型开放生态模型底座模型底座基础设施通用大模型高性能计算集群高性能计算网络向量数据库高性能计算集群高性能计算网络向量数据库办公管理办公管理场景综述：场景综述：单据处理中需要对大量的非结构化信息进行整理，传统OCR深度学习模型需要经过检测、识别、结构化等多个阶段，各阶段错误累积，难以识别难点，且不具备阅读理解和推理能力、模型指标基于腾讯云TI-OCR的单据处理场景基于腾讯云TI-OCR的单据处理场景场景价值◆智能结构化从单一版式或混合版式的图片中提取出Key字段、Value字段，以及Key-◆固定版式结构化实现对如身份证、火车票、机动车登记证等所有字段位置固定的单一版式类型的数据信息进行提取。单据处理能效提升场景价值◆智能结构化从单一版式或混合版式的图片中提取出Key字段、Value字段，以及Key-◆固定版式结构化实现对如身份证、火车票、机动车登记证等所有字段位置固定的单一版式类型的数据信息进行提取。单据处理能效提升减少单据处理中的低价值高耗时手工作业，节省运营人力成本，可实现多元业务数据处理的标准化、线上化、自动化。支持四种识别模式非结构化数据利用率提升腾讯云TI-OCR：专注于OCR细分场景建模的训练平台（Master-Worker的分布式架构）可对非结构化数据进行自动化分拣、提取并转换为结构化数据，实现对各种格式数据的高精度识别，识别准确率95%特点1：基于原生大模型，不经过训练，直接支持常规下游任务，零样本学习泛化召回特点2：通过prompt设计，不经过训练，支持复杂下游任务，小样本学习泛化召特点3：通过多模态技术，小样本精调解决传统OCR难题，比传统模型召回率智能分拣片中物体所在的框位置及其所属类别。检测/识别场景综述：场景综述：银行的传统智能客服存在知识维护量大、问答覆盖率低、拦截率低、接待上限低、服务效率低等诸多痛点，同时由于知识边界受限，对于基于腾讯云金融大模型的智能客服场景场景价值智能语音导航&智能问答：将自然语言处理技术与知识库、知识图谱相开发出智能语音导航和智能问答功能作为智能客服的核心，实现用户交互体验提升服务的录音进行转写，形成可靠数据源以进行专题分析。另一方面，将销、催收等过去由人工开展的业务，交由机器人办理，并实时对数据进基于腾讯云金融大模型的智能客服场景场景价值智能语音导航&智能问答：将自然语言处理技术与知识库、知识图谱相开发出智能语音导航和智能问答功能作为智能客服的核心，实现用户交互体验提升服务的录音进行转写，形成可靠数据源以进行专题分析。另一方面，将销、催收等过去由人工开展的业务，交由机器人办理，并实时对数据进业态精益化运营私有化部署腾讯云TI平台将原智能客服业务切分为智能坐席、智能人机协作、知识库管理等单元，将服务场景切分为问答、助手、外呼，实现结合自身场景数据精调腾讯云金融行业大模型客服助手：在人工座席服务时，为员工提供即时的话术支持，也可 技术底座场景综述：场景综述：传统的投研流程存在搜索途径不完善、数据获取不完整且不及时、人工分析研究稳定性差、报告呈现时间长等缺陷，智能投研则能通过大场景价值投研能力均质化水平提升通过大模型替代传统投研工作中容易产生疏漏的环节，让更多维度的金融信息得以利用，同时自动生成报告辅以人工场景价值投研能力均质化水平提升通过大模型替代传统投研工作中容易产生疏漏的环节，让更多维度的金融信息得以利用，同时自动生成报告辅以人工金融业舆情大模型 代理池登陆个性化数据结构化数据半结构化数据非结构化数据 为向价值链后端延申夯实基础投研环节处于金融业价值链的前端投研环节处于金融业价值链的前端，与后续风控管理、投后管理等业务领域的耦合度较高，大模型投研能力的建设有风险管理风险管理场景价值风控能力全方位升级基于腾讯云金融风控大模型的定制化动态风险治理体系场景价值风控能力全方位升级基于腾讯云金融风控大模型的定制化动态风险治理体系流程全自动流程全自动跨场景泛化专家级建模知识沉淀 >API服务黑产知识库AI算法在保证风险识别准确率的前提下加快风险判断速度，实现动态风险治理，变革组织运营管理模式，全面提升金融企业知识沉淀 >API服务黑产知识库AI算法在保证风险识别准确率的前提下加快风险判断速度，实现动态风险治理，变革组织运营管理模式，全面提升金融企业解决定制化建模的小样本难题 ><腾讯云金融风控大模型依靠大模型自身的“知识积累 ><腾讯云金融风控大模型依靠大模型自身的“知识积累”，可学习海量多模态的风控数据，高效解决小样本乃至零样本训练难题，进一步提升模型区分度，有效面对多风险类别跨风场景综述：场景综述：金融业的数字化整体水平在全行业内处于领先地位，数据平台运行、数仓调用等中后台能力对于金融企业的重要性不言而喻，而“代码”场景价值基于腾讯云的AI代码助手场景价值基于腾讯云的AI代码助手开发全流程升级开发全流程升级技术对话技术对话加速BUG诊断、测试等流程，并通过辅助补全等能力释放系统及应用开发过程中的机械性工作，让整个开发过程将更代码补全代码诊断代码诊断支撑四大核心能力自动化测试开发门槛降低通过对话学习、快速理解、规范编写等能力降低开发门槛通过对话学习、快速理解、规范编写等能力降低开发门槛，并在一定程度上用