苏商银行大模型智能客服助手

苏商银行大模型客服助手目录

CONTENTS01 客服领域场景概述大模型技术概述大模型在客服领域的应用场景苏商银行的大模型客服助手实践未来的发展方向01、客服领域场景概述理财客户经营借助CRM系统以远程管户经营模式，开展银行存款和金服理财客户经营工作，从新客开发、老客深挖、客群转化形成闭环，为财富客户提供资产保值增值服务。“第二银行”业务综合化程度高风险资产管理通过传统电催模式与科技相结合，强化信用风险状况的动态监测与早期预警，在预催收阶段充分运用IVR技术同时通过科技手段进一步提升M1、M2、M3、M3+全流程的电催效率，为全行资产保驾护航。客户服务通过电话、手机APP等渠道接入，为客户提供业务咨询、业务办理、产品营销等银行服务，以语音服务、文本服务、视频服务为抓手，坚持以客户为中心的服务理念，服务客户。贷款客户经营负责税E贷、采购贷、商户贷等小微企业类贷款以及个人消费类贷款的销售和客群贷后经营维护工作。通过优化贷款产品结构，提升优质客群占比，降低业务风险；同时逐步调整电销贷款结构，形成均衡产品结构。目录

CONTENTS01 客服领域场景概述大模型技术概述大模型在客服领域的应用场景苏商银行的大模型客服助手实践未来的发展方向02、大模型技术概述大模型的基本概念本报告的大模型特指类似ChatGPT的大型语言模型（Large

Language

Models，

LLM），是一种由包含百亿以上参数的深度神经网络构建的自然语言模型。简单来说，大模型就像是一个拥有巨大知识库的学者，它通过阅读和学习大量的书籍（数据）来掌握语言的规则和知识，从而能够在各种任务中取得优异的成绩。02、大模型技术概述对话式交互会成为下一个具有超级增长点的交互方式随着技术的发展，人机交互正不可逆转地向人更习惯的方式靠近。可以预见的是，接下来是强人工智能时代，过去成百上千个App会逐渐演化成未来的成百上千个Chatbot。就像Android和iOS系统为手机赋能一样，Chatbot将会逐渐成为新的操作系统，逐渐为各行业赋能。02、大模型技术概述开源模型（绿线）正在逼近闭源模型（红线）目前的开源模型与1年半前的闭源模型性能相当GPT4在开源模型中具有离群性Qwen和01AI在闭源模型中具有离群性02、大模型技术概述AI大模型将加快新质生产力发展，助力我国经济社会高质量发展我国始终高度重视人工智能发展机遇和顶层设计，

发布多项人工智能支持政策，

国务院于

2017

年发布《新一代人工智能发展规划》

。

科技部等六部门也于

2022

年印发《关于加快场景创新

以人工智能高水平应用促进经济高质量发展的指导意见》

对规划进行落实。

2024

年《政府工作报告》

中提出开展“人工智能+”

行动。各地方政府出台相关支持政策，

加快大模型产业的持续发展。南京市政府先后出台《关于加快人工智能产业发展的实施意见》《南京市打造人工智能产业地标行动计划》《南京市加快发展新一代人工智能产业行动计划（2023-2025）》等计划措施，开年初，南京提出要全力突破人工智能产业，抢抓大模型新浪潮，建设算法城市、强化赋能应用，高标准建设人工智能创新应用先导区。近日，苏商银行建设的“南京市金融大模型工程技术研究培育中心”获得南京市科学技术局立项批复。目录

CONTENTS01 客服领域场景概述大模型技术概述大模型在客服领域的应用场景苏商银行的大模型客服助手实践未来的发展方向03、大模型在客服领域的应用场景大模型在客服领域的具有以下应用场景：客户服务1、大模型能够理解并处理复杂的语义结构，更准确地解析和理解用户的自然语言输入。2、大模型使智能客服更具同理心和人性化，有效管理用户情绪。3、大模型可根据坐席与客户的聊天内容，智能生成知识问答对，提升知识库维护效率。贷款客户经营1、大模型根据客户的信用历史、财务状况和行为模式，大模型可以生成个性化的营销策略，提高贷款产品的吸引力。2、大模型可以分析对话记录，帮助销售人员生成客户画像，通过定期的跟进和个性化的服务，增强客户忠诚度。理财客户经营1、大模型能够提供定制化的建议和解决方案，根据客户的历史交互、偏好和上下文对话信息，实现个性化服务。2、大模型具备持续学习能力，能够适应市场动态和产品变更，确保提供给客户的信息和服务始终是最新和最准确的。风险资产管理1、大模型可以根据历史数据和催收结果，不断优化催收策略，提高催收成功率。2、大模型可以分析催收员的专业领域、历史业绩和工作负载，将案件分配给最有可能成功回收的催收员，提升团队绩效和员工满意度。03、大模型在客服领域的应用场景中国农业银行推出的金融

AI

大模型产品

ChatABC，能够利用大模型技术提升智能客服的金融知识理解能力、内容生成能力及安全问答能力。中国工商银行在同业率先实现大模型技术在座席助手等场景落地，全年服务量21.5

亿笔，接听率和智能分流率同业领先。正式上线了首个基于大模型的网点员工智能助手，提升网点效能，全年运营领域智能处理业务量3

.

2

亿笔，

比上年

14

%；

建设13

个综合型数字员工以及

1000余个流程自动化数字员工，智能增效超过

3

万人年。推广客户投诉智慧治理模式，在投诉处置和管理主要环节全面应用机器人流程自动化、自然语言处理、生成式人工智能（AIGC）等技术，成功落地首个全行应用的AIGC

场景，实现大模型自动撰写投诉处理报告。案例简述中国建设银行上线了智能客服工单生成功能，每单平均节约客服工作时间

15-20

秒，可用率达

82%，一致性达

80%。建设银行上线消保

AI

智能审查功能，通过智能信息识别与处理，产出

AI

审查结果，辅助审查人员，提高审查效率，提升消保审查的规范性和专业能力。实现营销创意内容和文案自动化生产，帮助打造品牌形象、提升营销内容质量、提升黏客能力。中国交通银行交行利用

AI

技术深挖个金客户兴趣偏好，用大模型强化业务端留客能力，

各类理财模型策略累计触客成交量近

4

千亿元，较整体成交率提升

16

倍中国邮政储蓄银行邮储银行

App

融合

AI

空间、数字员工、视频客服，打造沉浸式陪伴服务基于大模型的投诉问题分类智能模型，实现消保投诉管理自动统计分析和智能监测；上线推广消保投诉文本分析模型和消保审查智能辅助工具，有效提升消保管理事前审查和事后分析能力。推出情感模型会话洞察与“灵动智库”服务增强企业微信运营功能，提升基层精细化客户洞察能力。目录

CONTENTS01 客服领域场景概述大模型技术概述大模型在客服领域的应用场景苏商银行的大模型客服助手实践未来的发展方向04、苏商银行的大模型客服助手实践业务痛点知识库运营效率低成本目前客服知识库的内容不够全面并且更新主要依靠人工，耗时费力，导致在线客服机器人的自助解决率较低，增加了人工客服的工作负担和客户的等待时间客服效能面临多重挑战首先，人工客服在并发处理多个请求时能力有限，易造成响应延迟其次，服务质量参差不齐，不同客服的专业水平和经验差异导致体验不一致；再者，新员工的培训周期长且人力成本高昂。另一方面，现行机器人客服缺乏足够的理解力和应答能力，也难以提供人性化的交流，且面临着系统升级和维护的高成本问题。需要更加智能和高效的机器人客服解决方案电销/电催话术提炼效率低目前电销/电催的优秀话术提炼主要依赖于人工筛选和总结，效率低下，且难以充分利用数据潜力登记工单效率低目前客服坐席手动填写校对工单时耗时耗力、效率低，以及工单填写不规范导致工单处理时需要跟客户反复沟通、影响客户体验质检流程准确性不高由于目前的质检准确度较低，需要大量依赖于人工判断，不仅耗时耗力，而且难以覆盖所有场景。04、苏商银行的大模型客服助手实践项目目标打造“客服智能助手”赋能远程银行客户服务业务。按照通话前、通话中、通话后的端到端业务流程闭环，形成事前知识库运营提效、事中副驾驶赋能、事后质检守护，助力客服工作模式和效率的全面升级。客服智能助手事前知识库助手话术提炼助手事中话术推荐助手工单助手事后质检助手利用大模型的自然语言理解、抽取和生成能力，实现了知识库的自动化和智能化管理，大幅度降低了人力成本和时间成本客服知识库助手通过实时理解对话情境和向量化的知识库，利用检索增强生成技术（RAG），实时推荐合适的话术，大幅提升了客服的效率和服务质量。话术推荐助手还可以根据客户的历史交互和偏好，推荐个性化的话术，增强了客户服务的个性化程度，提升了客户满意度话术推荐助手通过大模型提示词技术，实现了质检的自动化，大幅提高了质检的效率和准确性。通过模型的情感分析能力，可以识别出客户和客服的情绪，提供更全面的质量评价质检助手从通话过程中自动提取客户的诉求和关键信息，自动生成规范化的工单减少客服手动填写和校对工单所耗费的时间和精力，提高工单处理效率，避免因信息不完整导致的反复沟通工单助手从现有电销/电催等非结构化数据中提炼优秀话术，丰富语料库话术提炼助手04、苏商银行的大模型客服助手实践系统架构规划业务系统大模型系统大模型管理子系统检索增强生成（RAG）服务子系统知识向量化 知识检索 结果生成反馈数据报表大模型管理RAG服务管理功能使用报表支撑系统L0基座大模型向量模型大模型（LLM）服务子系统L1金融大模型 L2场景任务大模型数据湖智能营销贷后系统CRM系统……用户中心在线客服系统呼叫中心系统远程视频系统OA系统营销系统催收系统X文本机器人语音机器人数字员工…………智能体（Agent）服务子系统推理规划工具使用 认知反馈知识库管理提示词管理向量模型管理功能权限配置智能体管理应用平台模型催收机器人业务智能子系统客服机器人 文秘机器人投顾机器人…员工助手子系统（希格马）聊天机器人 公文助手对话管理…客服助手企业知识库业务智能批量子系统客服批处理机器人催收批处理机器人文秘批处理机器人投顾批处理机器人……04、苏商银行的大模型客服助手实践标准问扩写知识库助手0、访问希格马运营机器人转人大模型生成标准问工历史对话答对客户问题抽取客户意图识别客户问题改写客服答案抽取标准问大模型生成相似问抽象扩写规则1、上传数据2、生成知识库在线客服机器人机器人知识库用户在线咨询检索答案3、导入知识库04、苏商银行的大模型客服助手实践大模型系统意图识别知识问答（问题改写、多路召回、重排序）任务型对话（槽位抽取、对话状态跟踪、对话策略优化和执行）话术推荐助手1、在线咨询2、推荐回答用户3、采纳回答/自主回答坐席智能在线客服系统04、苏商银行的大模型客服助手实践质检助手质检系统3、审核质检结果并执行处罚质检人员语音转文字数据预处理识别差错点、差错等级、差错原因、原文逻辑一致性检查大模型系统2、推送质检结果1、上传原始对话大模型系统语音转文字数据预处理从成单对话中提炼关键话术与未成单对话进行交叉分析对比差异逻辑一致性检查1、上传成单对话和未成单对话2、推送优秀话术04、苏商银行的大模型客服助手实践话术提炼助手（研发中）运营人员外呼系统3、审核生成话术客户4、人工外呼任务4、自动化外呼任务话术库04、苏商银行的大模型客服助手实践工单助手（研发中）客服系统坐席人员4、审核工单要素客户1、客户来电5、创建工单工单系统语音转文字意图识别槽位抽取逻辑一致性检查大模型系统3、返回工单要素2、上传原始对话04、苏商银行的大模型客服助手实践缺少高质量训练数据集提升模型效果的成本较高，需要大量人工标注数据用于训练，且训练过程需要大量试错，投入产出比低。解决方案是优先使用提示词工程技术快速达到使用要求，同时在实际使用中加强对模型输出的人工审核，积累高质量数据集。此外，可以使用合成数据技术扩充数据集，降低微调训练成本。模型更新换代迅速不同阶段开发的应用使用了不同版本的模型，且往往不兼容，导致算力资源浪费或增加应用迁移成本。解决方案是提示词工程标准化和统一模型版本管理，确保不同模型版本在使用提示词时具有一致性和兼容性，减少因更新换代带来的资源浪费和迁移成本。推理速度无法满足实时话务场景需求电话客服、电销和电催等实时话务场景对推理速度要求极高，需要在1秒内生成结果。目前，大模型的推理速度难以满足，导致其应用场景受限。解决思路包括：第一，通过模型剪枝、量化和知识蒸馏等方法减少模型参数量和计算复杂度；第二，使用专门的推理加速引擎，如v