生成式AI重塑银行对公信贷业务报告-孔维高

孔维高RobinKong某商业银行数创办负责人 3术：AIGC的5个信贷用例 4法：1433-1框架，4个模式，3阶段21、取势：金融“五篇大文章”之科技金融生产关系与全要素生产率实现“跃升”相匹配数字金融部数字化转型办生产关系与全要素生产率实现“跃升”相匹配数字金融部数字化转型办xx产业赛道专班首席AI官（CAIO）生产力：科技金融支持“科技+产业+金融”的良性循环：直接融资：资本市场+风投间接融资：信贷，投贷联动金融科技复合型人才32023年10月30日美国总统拜登正式签署第11、取势：金融“五篇大文章”之数字金融中国金融行业整体处于“中国金融行业整体处于“四期叠加”：信息化末期、移动化成熟期、开放化成长期、智能化探索期金融行业的四次数字化浪潮核心能力四次浪潮核心目标发展阶段核心能力四次浪潮核心目标系统替代手工，实现效率系统替代手工，实现效率提升信息化》软件工程信息化》软件工程收尾期到13年，绝大多数业务的电子化信息化程度已经高度成熟移动端功能发展移动端功能发展均较成熟成熟期用户运营敏捷迭代移动化》开放化成熟期用户运营敏捷迭代移动化》开放化》智能化》开放替代封闭，延伸服务，开放替代封闭，延伸服务，实现无所不在、无缝流畅数据替代经验，实现高度个性、智能的客户体验生态连接20世纪末，金生态连接20世纪末，金融行业开始探索信息化建设以银行为代表的金融机构17年开始发力开放银行智能手机快速普智能手机快速普及，金融行业大力开发移动端大数据、人工智能大数据、人工智能探索期探索期19901995200020052010204，，11、取势：AI时代+数智化上半场：卷大模型，下半场：卷基于大模型的AI原生应用；高估未来两年的成果，低估了五年的进展？数字化转型更多发力于个金ToC业务，而百花齐放的AI智能体将更深刻，更彻底地改变复杂业务的ToB领域？AI嵌入AI嵌入:输入+推理+输出AI副驾驶:RAG+提示工程AI智能体:记忆+规划+工具与行动AI人多任务Agents 工业革命是生产力的变革，带来生产关系、社会结构的演进：工业：20世纪中期，工业工人占比约为50%，现在约为19%，多数人转向了服务业；知识工作者：央媒报道游戏公司用AI节省了50%美术成本；麦肯锡预计在2045年前后，AI将取代50%的职业…人AIAI人多任务Agents 工业革命是生产力的变革，带来生产关系、社会结构的演进：工业：20世纪中期，工业工人占比约为50%，现在约为19%，多数人转向了服务业；知识工作者：央媒报道游戏公司用AI节省了50%美术成本；麦肯锡预计在2045年前后，AI将取代50%的职业…单任务单任务Agent 562、明道：对公信贷，从管控走向赋能，修通“最后一公里”数据难场景难风控严经验多人才难数据难场景难风控严经验多人才难组织难标化采集OCR/流系与行业洞察部数据，客户画像，赋能主导，行业定位、财务等固化为逻辑规则，策一行一策经营键结论流程长文件多强差异大转型不是一阵风，而是一套“组织+场景+产品+移动+体验”组合拳，难在端对端价值实现的“最后一公里”。72、明道：生成式AI，将重塑银行信贷业务FEDBACFEDBACG7类可复用生成式AI服务，可满足如下业务需求G123123B.销售话术生成：结合通用信息和客户个人信息生成话术C.正式报告生成：生成材料，作为信贷申请资料或交易后文件456E.智能搜索引擎：解析分散在各文件和数据源（如基金招募说56F.外部数据发现：从半公开数据库等外部数据源中发现数据7782929端到端转型成效最高的4大高优先级价值链（包括预测式端到端转型成效最高的4大高优先级价值链（包括预测式AI）圆圈大小与使用服务的员工人数成正比；一个圆圈可能存在多个场景用例圆圈大小与使用服务的员工人数成正比；一个圆圈可能存在多个场景用例82、明道：数据中台AI中台将重塑信贷业务9安全工程应用层抓场景集成助手安全工程应用层抓场景集成助手数据治理数据层数据是基础3、信贷数智化架构：基于“场景+数据“的架构蓝图11产业链营销与行研助手2财报与信贷报2财报与信贷报3信贷定价3信贷定价数据分析助手4风控助手4风控助手55会议与知识沉淀模型编排模型编排Agent工具Agent工具大模型接入大模型接入知识库接入知识库接入模型评估模型训练|模型推理数据工程工具模型评估模型训练|模型推理数据工程工具文档拆分-文本解析-QA生成数据标注-数据清洗-数据增强知识库数据库准实时数仓准实时数仓数字化原生应用：系统+AI助手AI原生应用：自然语言交互，多模态交互，AI智能体3.1营销助手-业务需要既懂信贷，又懂财务，还懂产业，再懂风险融资？1、1、某民营银行：”基于大模型，提高模型预测知识图谱：在微调或RAG中使用，增强AI的可靠性、有效性和透明度数据抽取：结构化、半结构化、非结构化信息提取-知识融合（消解-消歧）-知识加工-知识图谱三元组：实体|关系|实体，实体|属性|属性值路由器&多路召回路由器&多路召回提示工程提示工程准确性：通过叠加专业知识库，避免“幻觉”知识库更新：定期全量更新知识库权限管控：对接行内文档权限控制系统资料来源：行业内对于行业内生成式AI落地实施案例的公开报道对公信贷业务流程长，其间需要客户经理撰写大量文档，耗占大量生产力：文档：营业执照、财务报表、税务记录、征对公信贷业务流程长，其间需要客户经理撰写大量文档，耗占大量生产力：文档：营业执照、财务报表、税务记录、征综合解决方案：结合传统自动化技术的结构化刚性，生成式AI的探索性流动性，服务于业务场景创新。3.2财报与尽调助手-企业财报、现金流分析，偿债能力智能分析传统尽调报告：上一代NLP技术大数据公司生成的尽调报告、信贷报告等，仅含公开信息，未能公、私域数据融合，难以迭代需求资料来源：行业内对于行业内生成式AI落地实施案例的尽调助手：基于生成式AI的解决方案，江苏某城商落地集成LLM、OCR、规则引擎、指标分析引擎等技术，利用大模型开发平台构建Agent体系，财报数据准确率达95%以上，报告生成可接受率达85%以上，特别在财务比率自动化分析，行业基准值对标，偿3.33.3定价助手-NL2SQL技术，业务流程x数据驱动=利润提升数据治理与数据质量是基础：某城商行实现“看得清、看得全、看的透”，构建了x用户标签、x项经营指标，x实时数据指标和标签1定价21定价2资金成本议价资金成本议价保本价格风险成本目标价格税务成本目标利润运营成本保本价格风险成本目标价格税务成本目标利润运营成本4343管价审价管价审价报价格优惠价格优惠优惠价格贷款价格优惠价格贷款价格资料来源：行业内对于行业内生成式AI落地实施案例的公开报道与现有FTP方案3.4会议助手+知识助手-实现一户一册，“事事有着落”抓风控信贷审结报告与信贷会议跟进事项管理助手，“隐性知识的显性化”，沉淀银行行业知识与风控知识：并支持用户通过提示语调整风格，用户只需简单修改即可作为最终审批书下发，大幅减轻审批书编写工作量；某大模型的实时语音转文字，提炼会议纪要与行动项的会议助手某股份制：审计领域，构建的知识助手3.53.5风控助手-小模型+大模型，科技金融做精做深，向专业行某民营银行申请专利：普惠金融125个行业，补充上下游信息，完善产业链双智协同：“幻觉”不可避免，大模型绘制的产数智化风控业务架构模型：平台化前台、组件化中台、智能化后台信贷策略解决方案及系统信贷风险监测与决策数智化风险模型库数智化风控业务架构模型：平台化前台、组件化中台、智能化后台信贷策略解决方案及系统信贷风险监测与决策数智化风险模型库数据层宏观：一行一策宏观：一行一策行业特征、景气、健康、产业链传导全生命周期陪伴成长贷前尽职调查征信情况分析尽职调查报告征信情况分析贷中审查审批CRR评级信贷审结报告审批条件跟进清单贷后风险管理提款|还款贷后风险管理提款|还款贷后舆情监控运营与监控风控处置建议风险风险因子库信号库标签库风险对公评级行为评分风险风险不良资产率拨备覆盖率不良贷款率不良贷款率特征库风险计量贷款集中度贷款集中度易|投资|担保|任职|合4.14.1择法：1个运营管理框架人工智能能力图能力集中化方法人工智能能力图能力集中化方法人工智能优先领域人员和组织机制人工智能治理合规部、风控部、信息安全、架构、高管组织人工智能能力人工智能技能评估产学研用创新机制人员和组织机制人工智能治理合规部、风控部、信息安全、架构、高管组织人工智能能力人工智能技能评估产学研用创新机制人工智能团队之间产品驱动，敏捷组织登月计划灯塔快速赢利基础知识稳定状态实施实际运作选择构思所有权、维护和变更管理用例优先级排序支持和价值监测入攻击等算法伦理模型约束规范模型的快速纠错与约束机制知识产权知识产权保护开源软件治理体系负责任的人工智能战略信息过滤规范有害信息的稳定状态实施实际运作选择构思所有权、维护和变更管理用例优先级排序支持和价值监测入攻击等算法伦理模型约束规范模型的快速纠错与约束机制知识产权知识产权保护开源软件治理体系负责任的人工智能战略信息过滤规范有害信息的规范训练与推理数据的隐私保护原则企业文化产学研用结合放慢脚步，延长完美结果的期望负责任的AI治理与程程化和参考架构和参考架构人工智能平台目标和参考架构4.1择法：1个AI创新驱动，战略框架资料来源：毕马威《大模型与生成式AI的银行业应用价值初探》工智能部门的大量资源领导执工智能部门的大量资源领导执有精选的人工智能人才大多数大公司在实施人工智能战略后中心AI中心AI业务单位/职能AI引领AI引领业务单位/职能业务单位/职能业务单位/职能业务单位/职能业务单位/职能2中心人工智能作为“促进者”2中心人工智能作为“促进者”3中心人工智能作为“执行者”完全集中AILead中心AI业务单位/职能业务单位/职能业务单位/职能41非集中化业务单位/业务单位/职能业务单位/职能业务单位/职能具备人工智能能力的团队不具备任何人工智能能力的团队具备人工智能能力的团队4.24.2择法：落地实施的“三个阶段”AIGC是一个新的“大航海时代”，挑战重重：缺人才，缺场景，成本高，风险高-有幻觉，我应该封闭等待，还是积极拥抱未知？AIGC是一个新的“大航海时代”，挑战重重：缺人才，缺场景，成本高，风险高-有幻觉，我应该封闭等待，还是积极拥抱未知？AIAI筹备期，缓坡地貌：每天的日常，公有模型+公有数据辅助处理；右图的左下角象限，办公场景，生产力工具，嵌入式协同如代码生成AI的探索期，小径地貌：从0到1，尝试从低成本、高回报的业务用例出发，探索私有化部署，或有失败；进入前中台业务场景，规模化实施期，陡壁地貌：从1到N构建多场景、多应用，创新重塑业务；成熟期后，面向客户服务，甚至成为核心业务能力的一部分4.3择法：有关大模型选择的“三个路径”通用基础大模型通用基础大模型L2场景垂类专用大模型L1金融行业大模型4.4择法：科技团队的“三个技术抓手”抓手一检索增强生成RAG抓手一检索增强生成RAG：利用嵌入(embedding)，使大模型能基于给定的数据库来生成答案。系统首先到向量数正确地问对的问题RAG，每个环节都有难点抓手三微调：修改模型的参数，使得模型在有限提示词下，一次性生成答案的质量更高。精调模的数据和一定的算力资源（需高算力芯片）。正确地问对的问题RAG，每个环节都有难点抓手二提示工程：利用强有力的提示词设计，使模型给出契合专业性要求的准确答案。利用LangChain把问题解决的长线逻辑和相关例子全部融入进去，使大模型能214.34.3择法：AIGC落地实施的RoI论证适合的才是最好的：小公司小闭环，大公司大闭环适合的才是最好的：小公司小闭环，大公司大闭环变异成本：上图粉色，数据，数据标注，并发用户，token长短，推理，持续优化的实施原则实施原则：垂直应用为先，以私有化部署为主；与现有系统松耦合，由点及面分步实施；大模型、小模型、AI原生应用协同发展22痛点即突破点，难以找到适合的业务用例：AI方案平均需要超过8个月才能从原型转化为生产4.44.4择法：AI-Ready的组织，人才是起点，高价值场景是突破点234.4择法：ALLINAI？好奇恐惧尝试接受2023年9月完成初次算力采购与部署邓宁-克鲁格效应月份各部门骨开会讨论2024年的商用上而下、自下而上的在“要做大模型”上逐步达成了一致。“知道要做”和核心：核心：“赋能”人而非取代人：利用AI的“意图识别”和“推理"能力，可让AI成为助手，放大"人"的产能与人类大脑处理语言极其相似：与人类大脑处理语言极其相似：1800-2000亿个神经元，GPT3.5:2千亿参数；通过预测编码来处理语言，学习与适应等，多模态中被Mask的单词；扩大语言模型的规模，可以显著提高零样本与小样本学习的能力.微调：质量数据－全参微调SFT＋人类标注预训练模型:是一个未加控制的“怪物”（图：修格斯怪物H.P.预训练模型:是一个未加控制的“怪物”（图：修格斯怪物H.P.Lovecraft），训练数据来源于对互联网，其中可能包括点击诱导、错误信息、政治煽动、阴谋论或针对特定人群的攻击等内容沿革：深度学习，特定模型，模式识别海量数据训练大模型，泛化能力，多行业：提前10年-尚不完美，足够强大；Gartner：处于膨胀期望的峰值，2-5年将被市场主流采用；启明创投：类似互联网的97-98年全球：麦肯锡-每年贡献“一个英国的GDP”-2.6-4.4万亿美元；2030-2060年间50%的知识工作者的工作将逐步被垂类大模型云知声|衔远科技|无限光年云垂类大模型云知声|衔远科技|无限光年云利用第三方模型构建的应用Jasper|Descript|Copy.ai|TutorEAI.ai基础模型&API服务OpenAI|智谱基础模型&API服务OpenAI|智谱AI|文心一言HuggingFace|StabilityAI阿里ModelScope|腾讯MaaS英伟达DXGCloud|腾讯-星脉网络|字节-火山引擎|阿里云|曙光智算工具链-AnyScale,MosaicMLCPU/GPU-中央处理器，图形处理器-训练推理可编程FPGA|专用ASIC:TPU机器学习|NPU-神经网络微观：对于银行，业务部门，个人生产力的意义与价值，拥抱AIGC常用:ChatGLM/gamma/讯飞星火认知大模型/阿里通义千问常用:ChatGLM/gamma/讯飞星火认知大模型/阿里通义千问大