白璐：大模型技术助力企业IT运维智能化升级

大模型助力企业IT运维智能化升级中国信息通信研究院工程师运维可观测性能力要求》《IT基础资源运营成熟度模型》《企业架GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站02大模型时代背景概述03大模型在研发运营领域的应用现状04大模型驱动的研发运营场景展望GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站01新时代大运维现代化保障体系GOPS全球运维大会暨XOps技术创新峰会2024·北京站外部环境与需求变化促进运维(Ops)理念不断演进运维的需求与环境发生巨大变化：随着数字技术可靠性、可维护性和可扩展性将软件工程的原则和运维的实践结合，通过智能化、自动化、监控、故障注入等手段提高系统的可靠性、可维护性可靠性、可维护性和可扩展性将软件工程的原则和运维的实践结合，通过智能化、自动化、监控、故障注入等手段提高系统的可靠性、可维护性快速部署、持续集成、交付和部署●研发和运维是紧密协作的一体化团队。使用自动化工具和流程实现快速部署、持续集成、持续交付和持续部署●●●自动化服务器配置与部署流程自动化服务器配置与部署流程●采用自动化工具和脚本减少手工操作。通过配置管理工具自动化服务器配置和部署流程，减少手工错误和提高一致●文档化人工维护与更新应用程序的开发、测试、部署之后，由运维负责部署、监控和维护。在这个阶段，操作流程和文档以人工方式维护GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站构建新时代稳定、高效、精细、安全的围绕质量、成本、效率、安全5个维度；结合稳定性、高效能、精细化、安全运维4大工程实践，共同构建稳定、高效、精细、安全的运维现代化运维现代化保障体系场景场景能力效率设计与开发质量保障部署发布故障预防故障观测故障处置优化改进SLO运营安全运营威胁感知安全监测响应处置威胁狩猎程应用性能观测知识库管理效能管理安全成本质量智能运维AIOps系统与工具FinOps平台工具能力研发运营大模型运维数据治理算法服务化模型工程化知识库构建GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站研发运营系统可靠性与连续性（SRE）系统技术更迭快、架构复杂系统技术更迭快、架构复杂，所以理论上说，“没有绝对稳定的系统，只有相对完善的保障体系”。本部分工作主要针对如何通过各类保障手段，最大限度确保系统的稳定性.集产学研多方力量，聚焦信息系统稳定性(STABILITY)&韧性(RESILIENCE)研究。完成技术标准4个，研究报告2个，19家机构参与过基于标准的评测工作。框架全新升级框架全新升级GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站国际领先：智能运维(AIOps)国际标准发布中国信息通信研究院牵头提出首个智能运维（AIOps）国际标basedcloudservicedeve智能技术的加持下进一步提高软件开发和运营管理效率。旨在通过进一步明确智能运维的功能要求，推进各方对智能运维能力体系架构达成共识，加强国际交流合作，以促进智能运维领域技术、应用的有效落地，持续推动国内外AIOps相关产业的健GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站智能运维能力成熟度系列标准GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站《IT基础设施资源运营能力成熟度模型》标准国务院关于印发的“十四五”数字经济规范健康可持续是数字经济高质量发展的迫切要求。我国数字经济规模快速扩张，但发展不平衡、不充分、不规范的问题较为突出，迫切需要转变传统发展方式，加快补齐短板弱项，提高我国数字经济治理水平，走出一科学。牢固树立过“紧日子”“高质量发展是全面建设社会主义现代化国家的首要任务”2023年12月2023年1月2023年2-3月2023年3月2023年4月标准正式立项标准启动会标准研讨会形成标准初稿试点评估《IT基础设施资源运营能力成熟度模型》标准从预算管理、交付管理、容量管理、成本管理、效能管理、持续运营等几容量管理容量管理能力层预算管理成本管理效能管理持续运营容量规划需求管理可视化报表成本洞察利用效率监控告警需求审批采购管理需求交付成本分摊指标管理权限配置成本优化容量分析流程管理管理规范资源调度成本核算组织建设交付管理能力层预算管理成本管理效能管理持续运营容量规划需求管理可视化报表成本洞察利用效率监控告警需求审批采购管理需求交付成本分摊指标管理权限配置成本优化容量分析流程管理管理规范资源调度成本核算组织建设交付管理预算计划预算执行预算分析预算变更资源优化资源优化数据存储数据存储数据采集数据处理数据传输物理机数据治理虚拟机网虚拟机网络中间件云资源数据库...本标准已立项，将于2024年1月18日召开标准启动会暨第一次研讨会，参编单位持续征集中！招商银行、平安银行、华泰证券、银河证券、招商基金、中国航信、百度、联想、京东、小红书等GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站智能化运维(AIOps)能力成熟度模型第5部分：运维数据治理•数据来源多样、格式不一，数据质量控制。•企业内部或企业间数据标准不统一，导致数据整合困难，影响数据的有效利用。基础设施监控数据：服务器、存储设备、网络设备的运行状态和性能指标。系统和应用日志数据：操作•数据来源多样、格式不一，数据质量控制。•企业内部或企业间数据标准不统一，导致数据整合困难，影响数据的有效利用。基础设施监控数据：服务器、存储设备、网络设备的运行状态和性能指标。系统和应用日志数据：操作系统日志、数据库日志、中间件日志以及应用系统日志。3•不同系统或部门之间的数据往往孤立，缺乏有效的整合和共享机制。安全和访问数据：系统安全事件、入侵检测报警、用户登录和访问记录等。配置和变更管理数据：系统配置、网络配置、安全配置以及应用配置的变更记录。24厂•企业内部或企业间数据标准不统一，导致数据整合困难，影响数据的有效利用。时间计划运维数据治理是运维数智化转型的关键组成部分，通过数据治理，可以确保运维数据的准确性、完整性和一致性，并有助于数据的共享和开放。在当前智能运维工作中存在数据汇聚能力不足、数据管控能力薄弱、数据治理体系不完善、数据价值评估难等痛点问题。GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站02大模型时代背景概述GOPS全球运维大会暨XOps技术创新峰会2024·北京站大模型颠覆人工智能产业大语言模型(LLM)是使用深度学习算法处理和理解自然语言的基础机器学习模型。他们可以理解复杂的文本数据，识别实体和它们之间的关系，并生成连贯且语法准确的新文本。大模型颠覆了人工智能技术、合作、研发、运营、服务模式，加速了生态变化和影响GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站政策助力大模型技术快速发展近年来国内外大模型技术发展迅猛近年来国内外大模型技术发展迅猛Google：BardMeta：LLaMa……百度：ERNIE3.0文心大模型清华大学：GLM-130B模型阿里巴巴：通义大模型腾讯：混元大模型……随着人工智能技术的飞速发展，大模型在自然语言处理、计算机视觉、语音识别等多个领域取得了显著的突破。特别是在自然语言处理领域，预训练大模型如BERT、GPT系列等已经成为研究和产业应用的标配。2023年政策助推大模型在各行业应用快速落地2023年7月，国家互联网信息办公室等七部门联合发布了《生成式人工智能服务管理暂行办法》：鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。2023年12月，国家数据局发布《“数据要素x”三年行动计划（征求意见稿）》：提出以科学数据支持大模型开发，支持开展通用人工智能大模型和垂直领域人工智能大模型训练。北京、上海、深圳、安徽、四川等省市出台大模型产业发展措施：《上海市推动人工智能大模型创新发展若干措施》等政策，加速大模型应用落地，建设大模型算法及工具开源开放平台，构建完整大模型技术创新体系。GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站大模型分类及应用根据模型的应用范围和特定性可将大模型划分为通用大模型、行业大模型、垂直大模型和专有大模型。通用大模型以其广泛的适用性和灵活性而受到青睐；行业大模型和垂直大模型则在特定领域内提供更加精准和专业的服务；而专有大模型则为特定组织提供了独特的竞争优势。CMetaLLaMACMetaLLaMA指针对特定行业或领域的应用需求而设计的人工指针对特定行业或领域的应用需求而设计的人工指专注于某一具体应用或服务的人工智能模型。指专注于某一具体应用或服务的人工智能模型。NOMIMate2.0NOMIMate2.0GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站大模型在研发运营领域的应用现状GOPS全球运维大会暨XOps技术创新峰会2024·北京站研发运营大模型与通用大模型的区别分析粤通用大模型具有广泛的知识基础、可粤通用大模型具有广泛的知识基础、可灵活处理多种问题，往往是公开的，但资源消耗与维护成本较高。研发运营行业大模型在研发运营领域更加专精，处理特定问题效率更高，并可以衍生多种定制化工具，助力企业提高生产力，且成本效益比更高。研发运营行业大模型通用大模型研发运营行业大模型通用大模型更广的用户群体。更高的灵活性。泛化能力更高能处理多种问题处理问题针对性更强可衍生多种定制化应用“博古通今”灵活性定制化应用“行业专家”开放性成本效益“博古通今”灵活性定制化应用“行业专家”开放性成本效益专业性强效率更高GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站软件研运大模型构建方式打造研运行业大模型，高效的工具与流水线化加工扮演着至关重要的角色，包括语料收集与治理、基座模型选择与预训练、模型微调、模型评测与优化等。AdaLoRA等。模型评测与优化模型微调模型评测与优化模型微调语料收集与治理语料收集与治理行业大模型的预训练模型对齐行业大模型的预训练模型对齐GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站研运大模型国内外实践现状•OpenAICodex•GitHubCopilot代码建议并自动编写测试等功能。Copil•谷歌AlphaCode•清华大学CodeGeeXCodeGeeX是清华大学发布的一个具有130亿参数的多编程语•Baidu•BaiduComate••华为PanGu-CoderGOGOPS全球运维大会暨XOps技术创新峰会2024·北京站软件研运大模型参考架构通过研运大模型的构建，形成了面向行业各场景的研运大模型框架。大模型将基于基础公共语料及行业研运数据私有语料，提供面向场景的应用服务平台。模型应用风险管理与审计模型应用风险管理与审计应用场景研运大模型生成研运大模型生成研运基座大模型大模型开发管理工具行业研运数据语料公共基础设施行业研运数据语料公共基础设施研运大模研运大模型应用服务平台理GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站研运大模型场景能力现状大模型技术在研发、测试和运维领域的应用正逐步成熟，未来将更加注重与现有工具和流程的集成，提供更加个性化和智能化的服务。同时，随着模型能力的不断提升，可以预见大模型将在提高软件开发效率、降低维护成本、提升系统稳定性等方面发挥更大的作用。助手CodeFuse。CodeFuse帮助GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站信通院牵头制定首个研发运维大模型标准时间计划时间计划2024年1月：形成初稿2024年2-3月：征GOGOPS全球运维大会暨XOps技术创新峰会2024·北京站04大模型驱动的研发运营场景展望GOPS全球运维大会暨XOps技术创新峰会2024·北京站研运大模型痛点问题及核心目标研发运营大模型发展所面临的主要痛点包括计算资源的高研发运营大模型发展所面临的主要痛点包括计算资源的