大模型应用实践报告

目录1.报告综述"2.市场洞察#3.数据分析市场$4.知识库/智能客服市场"%&'结语(&报告综述报告综述型。大模型以其在模型精度和泛化能力等多个指标上超越传统AI模型的表现，以及赋能千行百业的巨大潜力，成为当今世界各国人工智能技术发展的核心方向。进行更深入、更广泛的融合。大模型应用百花齐放，其中数据分析和知识库/2024202478%70%计划在知识库/智能客服场景落地。基于此，本报告将重点研究数据分析和知识库/智能客服两个特定市场。图表1：2024年大模型重点应用场景市场洞察市场洞察立项、选型、实施和运营等全流程。本报告将选取三个重点挑战进行论述并提出解决方案。挑战1：大模型项目未与企业保持战略一致性CEOCIO2024IT202320242024心定位，或者说确定其与战略的紧密联系，这对于项目的顺利进行至关重要。KPI目标，再到业务执行略对齐，从而提升大模型项目的价值。图表2：战略解码过程示意图BI挑战2：大模型业务收益难设定疑是更为有效的切入点。2024挑战3：提升数据分析结果的准确率20232024体说明。7xx理解起来比较轻松，因为这是一个单任务，并且订单量、产品、时间等指标比较明确。含义模糊的单任务问题对于大模型而言，难度也不大。例如“xx产品今年累计卖了多少？”大模型开始发挥优势，因为大模型擅长将模糊语义对齐标准语义。一些涉及多表数据处理的问题，开始给大模型增加难度。例如“今年xx品牌在国内和国外的整ttnlSQL不限制问题长度的复杂问题带来更大挑战。例如“xx3一款？每个产品平均每月销量是多少？”大模型需要先查询过去某品牌三个月每个产品的销量，复杂且需要调用专业算法的问题最为困难。例如“华北地区xx的效率月环比为什么下降了？”式让大模型去调度，把之前的结果做参数解析填充到对应插件里，并生成最终的结果。API的输入参数。任务务拆解成多个子任务后，每个子任务做协同执行，再完成用户最终的提问需求。AgentAgent数据分析市场数据分析市场SQL生成，二是如何借助大模型实现深度分析。实现这两个要点，才能推动到大模型数据分析从“可用”到“好用”。第一个落地要点是如何借助大模型实现更准确的意图理解和SQL生成。传统的取数过程中，用户需要SQLNL2SQLSQLNL2SQLNL2SQL人员持续维护。为保证准确率，目前主要采用限定查询边界的解决思路。具体而言，有两种实现路径。一是基于指标第二个落地要点是如何借助大模型实现深度分析。取数可以视为分析的前置动作，也可以视为浅层分析。其属于描述性分析，用于回答“发生了什么？”，核心要求是呈现全面、准确、实时、可视化的发挥更大价值。企业需要和具备训练或微调大模型能力的厂商进行合作。企业可以直接用基础大模型进行相关性分析前，通过大模型实现因果推断难度较大，对厂商而言不属于必要能力项。案例1:AI赋能国有银行理财经理，业务收益提升30倍不能避免。业绩压力与营销资源出现矛盾，某国有银行的存量客户复购潜力难以释放某国有银行重点分行主要有三项业务，分别为销售投资型产品的个人金融业务、放贷的消费金融业务以及信用卡业务。三项业务发展较为独立，其中个人金融业务有1000多万个客户。要改进。1%。40021000求的客户，最后导致销售机会的丧失与客户流失，客户陷入“睡眠”与“流失”状态。高风险：过度打扰客户，可能引起投诉。客户投诉较多时，监管部门会中止外呼渠道。飞算科技分析该银行业务流程，发现各环节均存在明显痛点飞算科技对该银行业务流程进行全面分析，发现三个业务环节均存在痛点，且至今均未得到妥善解决。图表3：业务流程及各环节痛点第一个业务环节是“获得长名单”ITITIT人员容易出现理解偏差；三是ITIT的“沟通鸿沟”仍然比较原始的形态，业务人员提需求，IT人员手工取数。AI建模来环节的业务现状便是专家建模小范围使用，经验法则仍是主力。的问题。一是营销闭环没有打通，依赖人工执行，不能自动化营销。二是无法做到跨渠道资源整合与客户沟通策略优化。该环节的业务现状便是暂且使用传统营销系统。飞算科技借助自动化、人工智能和大模型技术，为该银行输出端到端解决方案飞算为该银行输出端到端解决方案，该解决方案由三部分组成。第一部分是大模型+BI增强分是自动化营销，用来解决营销效率和资源优化问题。图表4：飞算科技解决方案概览AI.Insight该产品具备自动生成客户画像功能以及趋tt来智能交互、智能洞察两个预期效果。智能交互自然语言交互：产品与理财经理能够使用自然语言和语义搜索任何问题。答案将以见解、报告和推荐的仪表板的形式展现。智能图表推荐：通过智能图表推荐引擎展示合适的图表，并支持理财经理灵活切换图表。智能洞察异常分析：自动对数据进行时序异常检测、因果关联、波动归因等原因分析，并给出结论性描述。AutoOLAP度分析。客户特征分析：基于数据洞察点进行客户特征分析，定位异常客户群体。rrr个预期效果。精准定位：生成存量客户短名单，精准营销，提升转化率。r即可实现30分钟、4步骤、全流程、全自动建模，效果媲美专业建模人员。与销售”业务环节带来营销策略优化、营销资源管理、活动设计、活动执行等预期效果。tr产品经理和理财经理制定有效的营销策略。营销资源管理：银行产品经理可通过营销资源管理功能，让资源效益最大化。活动设计：流程化设计概念，产品经理可以使用图形化拖、拉、拽的操作形式快速建立营销活动流程。活动执行：支持产品经理进行实时与批量调度，设定活动的预期执行时间区间，执行周期频率等，方便自动化执行。飞算科技和该银行以第二个业务环节为合作切入点，业务收益显著该银行第二个业务环节痛点最为严重，双方将其作为首要解决的问题。该银行要求在实际业务环境中测试飞算科技解决方案，看到实际效果后再正式采购。202261030下验证，验证结果如下。图表5：线下验证结果818550解决方案平均购买金额是传统方式的3.6倍。总体而言，业务收益提升将近30倍。r画像、事件营销、营销自动化事宜，推进POC。知识库/智能客服市场知识库/智能客服市场知识库/智能客服有两个落地要点，一是需要借助大模型降低知识库冷启动时间，二是需要借助大模型实现用户体验的全流程赋能。第一个落地要点是需要借助大模型降低知识库冷启动时间。知识库构建环节是搭建智能客服体系的重1-3答对拆分和相似问扩写。第二个落地要点是需要借助大模型实现用户体验的全流程赋能。大模型和客服流程结合点众多，全流和自动生成优化策略。案例2:某股份制银行利用大模型等数智技术赋能消费者权益保护全流程，降诉效果显著格局。在此背景下，银行产生了明确的降诉需求。数字化、智能化技术是实现银行降诉需求的有效路径。其中，大模型技术为降诉带来了诸多新思考和新解决方案。某性股份制银行高度重视消费者权益保护工作，希望进一步完善消保工作机制步推进消保管理体制建设，制定或修订多项消保相关工作制度，不断健全消保审查、内部培训、监督检查、考核评价等各项消保工作机制，切实保护消费者个人信息安全。产品/服务进入市场前的消保审查，投诉处理工单系统用于对事后投诉处理进行线上化流转和记录。2023年，该银行认为消保中心消保工作机制存在以下痛点，需要升级改进。事前消保审查权威性不足，缺乏审查意见未采纳事项的刚性控制流程，难以跟踪审查意见的执行落实；事前消保审查专业性不足，缺少规范化统一化审查标准，且极度依赖审查人员的专业知识与业务经验，“一事一策”现象严重；投诉数据的处理分析能力较弱，目前投诉处理与分析工作大量依赖人工处理后，投诉处理效率低，且难以结合行内业务需求进行深入分析，预警能力与业务赋能能力较差；串联，难以构建客户精细画像，实现产品服务全生命周期监控，或进行营销触点分析，不利于数据的统一管理与整合且利用率低；拓尔思依托丰富的银行消保项目经验和领先的金融行业大模型，获得该银行青睐拓尔思信息技术股份有限公司(简称“拓尔思”)成立于1993年，是一家人工智能、大数据和数10000在消费者权益保护领域，拓尔思具备丰富的银行消保项目经验。拓尔思已服务多家全国性股份制商业银行和头部城商行的消保需求，皆在提升客户体验和降低投诉方面取得显著效果。拓尔思基于自有的110亿30亿+产2500+10000+10客服、智能消保审查、自动业务批处理等业务场景。拓尔思基于大模型技术构建消保智能解决方案，为消保全流程提质增效拓尔思的总体思路是运用多模态识别、NLP、LLMAIagent周期各个关口。审、审查、反馈、归档全流程线上管理，同时不断完善消保审查因子体系和智能审查功能。动推荐。AIAgent员开展审查，能有效解决基层审查能力不足的问题，行方审查速度和审查准确性得到大幅提升。尔思构建投诉处理分析智能Agent转变。在电话接入环节，与资深客服进行匹配，实现客服资源的优化配置。传统方ASR技术实现自动记录客户投诉内容，利用自然语言处理（NLP）技术构建智能投诉分类模型，实现自动分类，加速投诉受理。服务整改意见。同时，系统支持监管报表自动生成和报送，避免消保部门需要在监管报送工作中投入大量人力进行手工导出和整合。该银行客户投诉显著下降，在股份制银行中的排名持续改