基于知识助手的金融大模型应用实践 2024-曹阳

•大模型在金融业务场景下应用的趋势和挑战•基于知识助手基座的大模型金融领域应用实践大模型提效大模型提效大模型赋能金融业务，速度加快大模型赋能金融业务，速度加快增效增效槛槛大模型降本大模型降本低低化化业2024年大模型应用的发展阶段大模型技术成熟度（能力）大模型技术成熟度（能力）行业大模型行业大模型AI智能体大模型编排工具文本生成图像提示工程大模型工程化大模型对话机器人2023–>2024H12024年上半年，经过我们的大量实践与观应工程化技术已进入“准成熟阶段”大模型应用成熟度（场景）大模型应用成熟度（场景）客服营销厂商服务成熟度营销产品研发智能办公知识管理基础作业客户需求期望数据治理数据治理信息安全财税管理供应链与生产财税管理相比2023年，客服、智能办公、知识管理领域，从客户需求与厂商服务成熟度方面来看，进步迅猛◎个性化的服务和极致用户体验未来3-5未来3-5年进入应用深化阶段◎高效的价值传递效率标准通用场景基本覆盖高价值专业场景规模应用◎高效的价值传递效率当前阶段相同任务当前阶段相同任务AI模型训练成本近五年下降200倍2017-2025年◎合规安全的决策智能2025年-2030年20302017-2025年◎合规安全的决策智能技术突破期应用深化期大规模应用期技术突破期应用深化期大规模应用期成本经济 灵活兼容成本经济根据不同场景需求，选择不同参数规模的模型，降低算力资源消耗，平衡响应时延，提升个人助理政务智能家电金融社交媒体根据不同场景需求，选择不同参数规模的模型，降低算力资源消耗，平衡响应时延，提升个人助理政务智能家电金融社交媒体大模型迭代速度快，需根据场景需求，兼容多个厂家/多个版本/多种参数规模的基础大模型。 安全可信领域大模型 组合创新 安全可信领域大模型最大程度避免幻觉问题，提升专业性。注入合法合规与安全隐私能力，遵守内外部规则制OpenAIGoogle最大程度避免幻觉问题，提升专业性。注入合法合规与安全隐私能力，遵守内外部规则制OpenAIGoogle领域大模型需具备工具操控能力，与其他能力组件、传统AI小模型形成能力互补、云边端有效 运维自主tensorflow 人机协作 运维自主tensorflow领域微调将大幅提升基础大模型的特定场景准确度，数据是领域微调将大幅提升基础大模型的特定场景准确度，数据是硬件GPU光模块TPU新场景下冷启动阶段需以人机协同的方式保障准确度。使用过程大算力：单位芯片计算能力提升大算力：单位芯片计算能力提升5000倍强算法：Transformer算法+无监督预训练大数据：全网可用数据智大数据：全网可用数据智能涌现展现出关键要素优化组合的巨大潜力模型大小、训练数据量、计算资源的规模和比例，影响建模的性能。科技平权强调普适价值科技平权强调普适价值决策平权服务体验平权决策平权服务体验平权成为数字生产要素新范式和智能基础设施知识平权知识平权大模型验证科技平权可行技术栈•大模型在金融业务场景下应用的趋势和挑战•基于知识助手基座的大模型金融领域应用实践Transformer长距离语义关联=参数化的知识表示•Transformer长距离语义关联=参数化的知识表示•基础的世界知识•序列/语言的理解能力•遵循指令能力•上下文记忆能力与学习能力•泛化到新任务的能力•复杂推理的思维链能力语言能力事实判断过程判断语言能力事实判断过程判断价值判断KnowledgeKnowledgeEnhancementEmbodiedAIEmbodiedAIInstructTurning,ChainofThoughtAlignmentVectorDBInstructTurning,ChainofThoughtAlignmentVectorDBAutonomousAgentCCGLSTMPromptlearningN-gramN-gramEmbedding事实步骤实体关系事实步骤实体关系单词单词短语/句子序列短语/句子序列非结构化数据的知识化将成为新时代的数智化基建，构建企业知识中台，以知识中台为基础，构建各类基于知识的应用场景。构建各类基于知识的应用场景。容错性高容错性高文档摘要客服营销创意文生图行业报客服营销创意文生图行业报告定向写作专业性弱专业性强专业性弱专业性强教育教育培训金融投研投顾需求大需求大需求小价值高价值低驾驶驾驶容错性低传统AI赛道的典型模式为AI技术垂直场景+项目制开发,在可持续经营和规模化扩张能力方面稍显不足,而大模型的技术特征和应用效果,让市场对于AI的商业价值产生了全新的认知与期待。大模型市场大模型市场大模型更好的性能大模型更好的性能更强的理解和推理能力更强的理解和推理能力大量参数全球数据量可批量化复制深层网络结构大量参数大量参数全球数据量可批量化复制深层网络结构大量参数深层网络结构数据量不断上升较少的特征工程数据量不断上升较少的特征工程适用范围广更容易应用于跨任务和跨领域大量参数适用范围广更容易应用于跨任务和跨领域大量参数深层网络结构深层网络结构大模型的出现大幅度降低了非结构化数据的使用门槛，有助于释放海量非结构化数据中隐含的知识，赋能企业业务。知识应用大模型赋能知识应用优势知识应用大模型赋能知识应用优势知识应用认知不足停留在较层次的文档管理，限制了知识应用的潜力和范围，导致客户缺乏场景和动力扩大知识管理软件的应用规模企业缺乏有效的信息筛选处理机制，导致大量信息被堆积和遗忘，无法得到及时有效的利用。知识查看&验证企业应用场景主要集中于文档管理和检索，局限于显性知识，无法形成知识定义、知识获取、知识存储、知识智能体群体协作，辅助客观分析、诊断洞察、关联推荐数据安全风险增加市场仍处于发展初期，尚未形成通用的行业标准化方案、稳定的市场格局和成熟的生态知识共享机制不足、知识交流渠道不畅、知识共享和交流随着知识信息量的不断增加，信息安全风险也不断增加，企业的核心知识和敏感信息在知识管理过程中可能泄露数据结构化&向量化，支持知识高效提取、统计、归纳等提升运营效率，重构底层框架，架构可延展更新成本低信息的爆炸式增长导致知识变得碎片化和分散。面向业务应用需求以场景为中心检验数据质量知识管理市场处于起步阶段非结构化数据多源整合知识识别&存储市场缺乏生态体系知识共享交流难数据资产沉淀人机交互创新知识碎片化知识应用市场挑战数据解析信息过载知识应用痛点11•应用模板：缩短验证周期•组件集市：避免重复造轮子••应用模板：缩短验证周期•组件集市：避免重复造轮子•••3学：各类文档中的显性知识学：各类文档中的显性知识•微调：数据有限的状态下做性能提升学多模态文档的显性知识•多模态非结构化数据的解析•高质量多样性数据的筛选学多模态文档的显性知识•多模态非结构化数据的解析•高质量多样性数据的筛选•通用大模型的能力剖析•领域大模型的高效微调用用•专家经验的可配置化•幻觉检测与消除••专家经验的可配置化•幻觉检测与消除•音视频全媒体衔接业务专家的先验知识学业务专家的先验知识教 教 行为日志中的•业务指标数据闭环•人机协作流程设计•合规加训行为日志中的•业务指标数据闭环•人机协作流程设计•合规加训分层微调与知识注入分层微调与知识注入hjt独创分层hjt独创分层l大模型的l大模型的CT机：打开大模型的黑箱，标注出各类NLP任务在模型中的“脑区”l大模型的精微调算法：通过分层LoRA技术，大幅提升微调效果，并且所需数据量更小、算力 Bijt B1jt A1jt…BNjtj AijtANjtj A1jt……1jt BNjt ANjtBijtw Bijt B1jt A1jt…BNjtj AijtANjtj A1jt……1jt BNjt ANjtBijtw Aijtj B1jtBijt A1jt… BNjt…j AijtANjtPre-trainedWeightsw0jtjxdatadata基于反馈持续优化迭代通用大模型通用大模型•数据：高质、最小必要•算力：十卡天持续学习•策略：专业、经济、安全领域大模型•数据：多样、万亿级•算力：万卡天量级•策略：预训练，通用直觉系统逻辑系统流程提示词直觉系统逻辑系统流程提示词智能体领域大模型指令数据集领域资料库文档/数据库问答文档/数据库问答智能文档管理智能文档管理唤醒企业知识财富、赋能10亿知识工作者解决时效降低60%降低人力50%20%+销售业绩70+运营效率研发速度提升30+•大模型在金融业务场景下应用的趋势和挑战•基于知识助手基座的大模型金融领域应用实践研报助手培训助手研报助手培训助手质检助手投顾助手领域知识业务场景知识引擎原子组件能力沉淀AgentGraph数据领域知识业务场景知识引擎原子组件能力沉淀AgentGraph数据传统智能投顾助手因技术路线能力天花板较低，基于大模型的智能投顾助手将成为智能投顾行业新范式更专业的投顾建议更强大的语义理解更可控的内容生成更全面的实时数据更生动的表达形式更专业的投顾建议更强大的语义理解更可控的内容生成更全面的实时数据更生动的表达形式投顾方式传统投顾智能投顾基于大模型的智能投顾除结构化数据外，还包括舆情、金融新闻等非结构化文本金融终端、数据爬取、信息抽取专业人员手工分析：自然语言处理、知识图谱等人工智能技术支持依靠人工智能在数据处理方面的优势，投研人员在短时间内可以处理大量基础工作，决策效率较高积累大量行业及市场数据，通过知识推理辅助决策，提高了决策准确性包括结构化、非结构化文本数据及音视频等多模态数据金融终端、数据爬取、信息抽取、联网搜索实时分析海量数据，并迅速做出决策，提高了投资决利用强化学习等技术进行自我优化和迭代，不断提升财务报表等结构化数据金融终端、财报专业人员手工分析人工处理数据，效率较低取决于投研人员自身的专业水平与所掌握的信息数据格式数据获取方式数据处理方式决策效率决策准确性专业客户经理人数不足，智能投顾行业需求持续上升，推动智能投顾市场规模呈现逐年递增趋势智能投顾行业随着科技发展近年来用户数量与资产管理智能投顾行业随着科技发展近年来用户数量与资产管理规模急剧增加已进入成熟期，预计2027年资产规模将达到4.66万亿美元我国2022年市场投资者数量共计21213.62万，而投资顾问人员仅有74570位。理论上计算，每位投资顾问需要服务2943位A股投资者，才能覆盖庞大的客户群体。买方财富管理业务转型助手，深度KYC、产品学习、资产买方财富管理业务转型助手，深度KYC、产品学习、资产客户经理展业客户经理展业投资目标客户偏好交易习惯行情解读研报精炼资讯播报股票咨询产品推荐交易策略投资目标客户偏好交易习惯行情解读研报精炼资讯播报股票咨询产品推荐交易策略投资组合家庭配置养老目标产品培训情景演练素质评测亮点提取话术生成精确筛选资产配置引擎统一对话式交互入口资产配置引擎统一对话式交互入口AI财富助手一站式调用财富管理全链路能力，对话交互新范式知识素材库知识素材库智能陪练合规政策能力考核场景模拟知识掌握AI中台AgentGraph异构模型调度AI组件流程画布模型微调决策引擎 智能陪练合规政策能力考核场景模拟知识掌握AI中台AgentGraph异构模型调度AI组件流程画布模型微调决策引擎 客户标签埋点数据营销行为推荐话术全量筛选亮点总结产品销量业绩绩点任务完成客户标签埋点数据营销行为推荐话术全量筛选亮点总结产品销量业绩绩点任务完成WhatWhyWhatWhy大模型推动AI大模型推动AI培训全流程变革数字人智能陪练平台语义理解大模型内容生成逻辑推理知识泛化语义理解大模型内容生成逻辑推理知识泛化规划总结培训材料培训材料自动生成对练脚本自动生成对练脚本智能数字人陪练智能数字人陪练大模型、小模型混合模型架构大模型、小模型混合模型架构小模型对练优秀导师配置高频、易出错的对话流程，推送学员对练，再通过NLP相似度和关键词等进行实时评分大模型对练根据行业场景设置大模型扮更丰富，多轮对话自然流落地效果落地效果40%40%某头部金融机构，使用大模型陪练大幅提升新人培训效果市场趋势解读借助大模型的领域知识能力,可以帮助分析师,进一步市场趋势解读借助大模型的领域知识能力,可以帮助分析师,进一步解读当前的市场情况分析师可以询问当前市场的整体趋势和各类关键指标数据,判断市场趋势客户需求分析分析师可以直接获取到来自一线客户的真实需客户需求分析分析师可以直接获取到来自一线客户的真实需求,以及需求背后的原因分析师可以通过大模型对客户的会话、行为数据分析,了解当前客户的整体特征产品反馈分析分析师可以消费者对不同产品不同角度的偏好产品反馈分析分析师可以消费者对不同产品不同角度的偏好及具体的产品反馈借助大模型对竞品的数据分析,帮助分析师判断产品的市场竞争力-支撑话术生成、报告解读抽取观点抽取关键字研报分析每日批量处理抽取观点抽取关键字研报分析每日批量处理目标：目标：基于给定的素材，按照特定的报告模板生成