大语言模型在法律领域的应用探索

大语言模型在法律领域的应用探索 02训练和评估 04 04应用案例 03应用框架法律大语言模型的相关背景神经语言模型预训练语言模型大规模语言模型统计语言模型神经语言模型预训练语言模型大规模语言模型统计语言模型第一阶段第一阶段20世纪中叶开始发展，在七八十年代达到鼎盛第二阶段第二阶段20世纪末自神经网络发展以来不断发展，包括RNN以及LSTM第三阶段第三阶段2017年前后，Transformer架构的发布成了BERT、GPT等许多预训练模型的基础第四阶段第四阶段2020年前后，OpenAI发布了包含1750亿参数的GPT-3模型，展现了卓越的能力神经语言模型预训练语言模型神经语言模型预训练语言模型统计语言模型统计语言模型GPTN-gramGPTN-gramGPT-4表现“可与人类相媲美GPT-4表现“可与人类相媲美”，其在律师资格考试（UBE）分数超过90%考生。ChatGPT在两项试题达到了合格率，其中一项还跟人类水平持平。2023年8月，浙江大学、阿里巴巴达摩院和华院计算联合发布了法律大模型。可解释性欠缺在法律人工智能中，模型的可解释性欠缺在法律人工智能中，模型的“幻觉”模型有时会生成不真实或虚知识融合不足法律任务通常需要数据驱动和知识指导相结合，通用的大模型在这方面的能力尚显知识图谱关联知识检索增强领域知识融合知识图谱关联知识检索增强领域知识融合法律大语言模型的训练和评估•收集了多源异构知识数据，不仅包含6种类型的知识：法条类、案例类、模板类、书籍类、法律考试类、法律日常问答类，我们还以法条和案件为中心节点构建了它们的关系图谱数据。领域数据清洗2.训练与评估|领域数据清洗罪名法条规则去重刑期预测语义去重01法考题解释0101法院意见案件事实摘要法院意见案件事实摘要02数据筛选数据改造敏感信息02数据筛选数据改造02人工审查庭审问答庭审问答03角色扮演文本抽取角色扮演标准规范化上下文信息标准规范化2.训练与评估|领域知识融入模型训练2.训练与评估|参数调优和资源需求高效参数微调资源需求分析资源需求平衡高效参数微调资源需求分析资源需求平衡•找到资源需求的平衡点•获得最佳模型性能和资源利用效率••找到资源需求的平衡点•获得最佳模型性能和资源利用效率•微调训练需要大量计算资源•合理规划资源提升训练效率•提升模型性能和泛化能力•缓解模型的灾难性遗忘2.训练与评估|法律大语言模型评测指标体系法律大模型评估指标体系质量指标F1首字响应时间处理效率并发路数正确性相关度有效性可靠性法律文书检查法律要素抽取法律文书摘要法律文书生成办案报告生成结构化文书生成可维护性法律法规问答案件咨询问答司法程序问答证据链分析案情分析司法决策推理安全性指标禁止项质量指标F1首字响应时间处理效率并发路数正确性相关度有效性可靠性法律文书检查法律要素抽取法律文书摘要法律文书生成办案报告生成结构化文书生成可维护性法律法规问答案件咨询问答司法程序问答证据链分析案情分析司法决策推理安全性指标禁止项2.训练与评估|法律大语言模型能力体系法律咨询法律咨询04逻辑推理04逻辑推理法律大语言模型的应用框架服务中心-社会服务中心-社会业务全流程智慧赋能助手法院应用场景关键词检索语义检索意图识别调度编排知识库配置模型配置响应策略设定多模态图片检索层次检索agent插件NL2SQLprompt场景设定关键词检索语义检索意图识别调度编排知识库配置模型配置响应策略设定多模态图片检索层次检索agent插件NL2SQLprompt场景设定场景适配复杂表格处理问答对自动抽取问答对问法拓展40种格式解析法条法规政策文件知识图谱解读层次化知识管理图片摘要汇总法律书籍语义文本切分司法案件知识管理复杂表格处理问答对自动抽取问答对问法拓展40种格式解析法条法规政策文件知识图谱解读层次化知识管理图片摘要汇总法律书籍语义文本切分司法案件知识管理-特定领域UniLaw大模型6-72B大模型BGE向量模型关键词召回模型-特定领域UniLaw大模型6-72B大模型BGE向量模型关键词召回模型版面分析文字识别国内主流大模型GPT4-API多模态理解模型ReRank模型表格识别图文多模态摘要模型协同推理设计认知推理引擎认知推理引擎可解释性分布式交互反馈交互反馈40种格式wordexcelpdf40种格式固定大小文字识别固定大小文字识别语法特征版面分析语法特征版面分析内容意义表格解析内容意义表格解析多向量语义检索多向量语义检索关键词检索混合检索•将法条库、案例库、工作条例、相关政策等本地多源数据导入知识库，自动理解学习沉淀为知识，借助混合知识检索和大模型总结归纳的能力，精准回答特定业务场景的问题。法律大模型法律大模型 答案生成知识检索知识导入知识融合•利用认知智能引擎支撑检索知识增强（RAG）模块化、流程化，实现模型的快速迭代优化，对本地知识进行导入，理解，沉淀和管理，借助大模型总结归纳的能力，精准回答特定业务场景的问题。•常用问答•常用问答FAQ库编排•主流通用大模型接口编排•本地专有大模型•文档知识库•文档知识库•语义向量模型知识选择模型选择•二次重排序模型知识选择模型选择RAG平台1s超快响应1s超快响应•结构化知识图谱•结构化知识图谱终端APP•智能文档解析模型应用发布API•专属微调定制模型•MySQL数据库API•专属微调定制模型•在线网络数据3.应用框架|华院法律大语言模型拴绳遛狗时拴绳遛狗时，其他人逗狗，结果伤了人，狗主人该赔偿吗？型拴绳遛狗时，如果其他人逗狗导致狗伤人，狗主人是否需要赔偿，需要根据具体情况分析。以下是一般情况下可能涉及的法律问题和责任划分：1.狗主人的管理责任...2.第三方的过错...3.责任比例划分...一般情况下仍需承担一定的赔偿责任，但具体责任比例可能因第三方过错的存在而减轻。法律大语言模型的应用案例术推动区域司法行政效率与公共法律服务智慧信访智慧审判基层矛盾预警基层矛盾预警全域法治监督智慧矛调法律数字服务审判问题研判社会问题研判术推动法治运行态势可测，赋能区域法治智慧矛调法律数字服务审判问题研判社会问题研判问题的发现与施策4.应用案例介绍|赋能社会治理法律大语言模型赋能案情分析根据案件描述案情分析根据案件描述，结合知识库进行案情分析根据案件描述，快速生成准确的法律文书法律问答满足法律咨询等日常场景法律问答满足法律咨询等日常场景根据案件描述，推荐相关的法条相似案例作为参考依据，并利用大模型分析总结当前案例和推送案例的异同点，提高工作处理的判决文书法院案多人少，案件审理周期长，每个法官都有多个案件并行审理，法官庭审结束不能及时制作判决书，容易遗漏庭审细节。判决文书华院法律大模型华院法律大模型助文本抽取算法理解材料内容，最终通过大模型总结归纳的能力，生成判决书。只需小幅修改，即可发布正式判决书，在提升精度的同时，大幅提升工作人员效率。4.应用案例介绍|法条推荐基层工作人员在办理过程中相对缺乏全面的法律知识，存在事项责任不清，办理效果不佳的情况，法律大模型可基于案件办理登记的案件细节，进行深度法律分析推理，给予相关智能法条推荐，同时也支持工作人员进行自定义法条检索，增强办理人员的权威性。•以法律大模型为大脑，数字人为载体，构建普及法律、化解矛盾、答疑解惑的法律AI助手。垂直大模型底座数字人智能对话请问违章搭建去哪里反映？如果您发现存在违章搭建行为，可以向以下相关部门反垂直大模型底座数字人智能对话请问违章搭建去哪里反映？如果您发现存在违章搭建行为，可以向以下相关部门反1.城市管理部门（城管局）...2.城乡规划部门...3.国土资源部门（自然资源局）4....举报后，相关部门会根据举报内容进行调查核实，如确华院法律大模型属违章搭建，将依法进行处理。习热点问答热点问答e.g.“请问违章搭建去哪里反映？”知识图谱/表知识图谱/表e.g.办理事项与窗口关系表.xlsx非结构化文档非结构化文档e.g.当地政策文件.docx针对性：借助RAG能力，轻松让大模权威性：法律大模型全面收录了3189针对性：借助RAG能力，轻松让大模权威性：法律大模型全面收录了3189部法律、50504部法规，并在20个司4.应用案例介绍|小雪人法律智能助手总结展望技术发展提高法律服务的效率。隐私安全在训练和使用大语言模型过程中，如何保护用户数据的隐私和安算法实验室