网络大模型白皮书2023

《网络大模型白皮书(2023)》1 2 2 3 4 4 4 5 5 6 6 7 9 9 10 10 10 15 16 1821.大模型发展趋势1.1大模型爆发增长大型模型的发展经历了一个漫长的演进过程，随着深度学习和神经网络技术的不断进步，大型模型的大规模数据集的出现：大规模数据集的出现为大型模型的训练提供了充足的数据支持，使得模型的性计算能力的提升：随着硬件和计算技术的不断进步，特别是GPU和TPU等专门用于深度学习计算的3工智能等战略性新兴产业局力度，科技部要求推进人工智能场景创新，着力解决重大应用和产业化问题。网络大模型可以为各种领域的应用提供强大的技术支持，例如自然语言处理、计算机视觉、语音识别网络大模型的研发和应用需要大量的数据和计算资源，这促进了网络基础设施的建设和提升。为支持网络大模型的训练和部署，需要高速、稳定的网络连接和大容量的存储设备。这推动了网络技术和设施的网络大模型的研究和应用也需要大量的人才和创新能力。为了培养和吸引优秀的人才，需要建设良好1.2行业大模型一片蓝海大型模型在发展到一定阶段时需要与行业结合，网络大模型是其中的一种。网络大模型是指在通信运营领域，通过深度学习算法，用于处理大规模的网络数据和任务。大模型与行业的结合对于行业发展和创行业大模型在许多领域中展现出了巨大的潜力和发展空间。能够大模型可以通过分析海量的金融数据，提供更精确的风险评估和投资建议；在医疗领域，大模型可以辅助医生进行疾病诊断和治疗方案选择；在制造领域，大模型可以优化生产计划和供应链管理，提高生产效率《网络大模型白皮书(2023)》41.3网络大模型未来已来随着行业大模型在各个领域不断推进和发展，信息通信领域对于大模型的应用需求也不断涌现，为网网络优化等网络领域专业场景的智能化需求。网络大模型的出现具有重要意义：可以帮助运营商解决更加复杂的任务，例如自然语言生成、问答系统、语可从更多的数据中学习到更多的知识和规律。网络大模型也可以促进模型的可解释性和可视化，让运维人网络大模型的研究和发展还面临着许多挑战，例如模型的训练和部署成本高昂、模型的可解释性和严运营商积极布局大模型，集中于智能客服、图像分析、方案提供2.网络大模型愿景和整体思路2.1网络大模型的愿景网络大模型通过构建更强大的深度学习模型，推动人工智能和机器学习的发展，实现更准确、更智能中国电信提前布局大模型算力，在“东数西算、算网一体”整体规划下，以网络大模型为网络固元注《网络大模型白皮书(2023)》5中国电信优先研发网络大模型，同时布局算力市场，对内赋能生产，对外服务社会，致力于为千行百2.2网络大模型的定位网络大模型是信息通信领域的行业大模型，位于云网操作系统的内核层，基于强大的算力和云网知识对于运营商聚焦实际问题，通过网络大模型解决生产痛点，服务于关键流程和场景，从辅助运营逐步2.3网络大模型的内涵63.网络大模型技术特征3.1算法特征则理解和决策等特点，形成大模型算法矩阵，同时具备多个模型工具链和大小模型协同功能，有效赋能网4)精准意图识别：深入理解用户通过模型工具链实现高效训练和调优，增加生态开放度，同时借助多任务编排实现大模型可控场景化分光器端口占用识别模型和质差小区识别模型，这些小模型可以在场景化应用中进行组合后被大模型的API调用。AI小模型可以作为网络大模型的辅助工具或扩展模块，为网络大模息和技能。AI小模型也可以弥补网络大《网络大模型白皮书(2023)》7的数据，帮助大模型更好地理解特定领域的规律和知识，从而提升大模型的泛化能力和表现。同时，4)优化协同：小模型和大模型可以共享优化算3.2知识/数据特征知识库和案例库，海量的专业知识和数据，有效减少大模型幻觉现象和逻辑性错误通病，具有强大专业领域认知能力，是专业的网络大模型.1)初始阶段：大模型飞轮为少数用户服务，数据治理飞轮《网络大模型白皮书(2023)》82)提升阶段：优化后的大模型，服务更多的用户，产生更多数据，大模3)成熟阶段：形成一个双向良性循环，大模型服务更多的用户，带来更轮持续运转，为大模型飞轮提供源源不断的“营养”，最终数据质量越来越高，幻觉逐渐消除。网络大模型通过叠加海量网络专业知识的知识图谱，发挥知识图谱的强领域性、标准化、可信、可解知识管理是网络大模型的认知基础能力，是网络大模型统一知识、统一语料加工底座，知识管理提供包括知识图谱自动构建流水线、知识文档采编加工、大模型语料加工、问答对自动生成等系列知识加工工具，对全网对加工后的知识进行分类组织及生命周期管理，基于生产的知识图谱、知识文档等知识，开放用户意图补全、知识检索、知识溯源、智能推荐及根因定位等知识融合应用，增强网络大模型从预训练到推理应用全流程，提升其严肃性。同时，网络大模型可基于已有知识生成新的知识，支持知识管理的知识《网络大模型白皮书(2023)》9网络大模型通常需要大规模的计算资源，这些资源包括计算能力、内存、存储和网络带宽等。以下是网络2)大内存需求：网络大模型的参数量通常非常庞大，因此需要大量内存来存储这些参数和相3)高速存储：训练大模型需要频繁地读写大量的数据，因此需要高速的存储设备，如4)分布式计算：为了加速训练过程有效利用计算资源，网络大模型通常将模型划分并在多个5)大规模数据集：大模型需要大规模的数据集进行训练，这可能需要大量的存储容量和数据6)高带宽网络：在多节点训练中，需要高带宽的网络连接，以便节点之间可以快速共享模型7)自动化和调优工具：管理和优化这些资源通常3.4MaaS服务无需关心模型的训练、优化和维护，只需发送输入数据并接收模型的输出预测结果。优势在于可以快速使用或集成模型能力，加速应用开发周期且无需深入到模型内部工作原理中。通过构建工具链平台，打造MaaS模式，实现网络大模型高可用性、易用性和成熟度，促进与产业融合，从内生到外溢l聚焦实际问题，通过网络大模型解决生产痛点l服务于关键流程和场景，从辅助运营逐步向核心能力演进l从内部应用走向能力交付，服务云网自智体系l网络自动化是AI在网络运行维护4.网络大模型应用4.1应用场景规划传统无线网优依赖大量的固定规则模型实现问题识别及定位，存在效率低、成本高、智慧水平不足的助+人工决策，决策时间缩短70%；传统依赖人工的执行和效果评估将由大题诊断、自动配参、自动执行、自动追踪基站状态，自动判断是否恢复并自动生成问题闭环处置4.2应用案例态势感知聚焦云网运行态势及业务变化趋势相关指标，指标建模、汇集数据、整合信息，整体呈现云网运营态势情况，随时随地掌握全网运行情况。在对用户输入的内容进行意图识别、分析该意图涉及到的效率较低且步骤繁琐。且传统基于规则和模式匹配的方法，无法实现对未知和新型网络威胁的智能预测和标数据进行计算，获得所需指标值，通过不同指标综合分析和需求定制化开发，实现多维度指标管理及呈后，具备多维度指标快速准确查询获取、管理、呈现、优化分析及智能决策等多项能力。有效支撑网络运营态势感知等场景应用，具备态势感知分析和报告生成等功能，同时根据中国电信内部实际情况出发，针应急保障场景是指在紧急情况下，为了保障公众生命安全和财产安全，应急部门和相关机构采取的一当前，应急保障指标数据离散存储于各个专业部门中，协调获取耗时长、难度大；应急预案智能分析基于网络大模型实现的应急保障管理应用在具备海量云网领域专业知识的基础上，特别学习了面向不同紧急情况的网络应急保障知识，能够实现重大灾情及紧急事件的定位、分析及信息跟进；针对性应急预《网络大模型白皮书(2023)》通信网络现状和损害情况，自动发出故障告警和预警信息。对灾害等级、位置和影响范围进行合可视化的应急通信资源，自动生成自然灾害应急通信组网方案和处置方案，按照应急预网络大模型全面介入自然灾害应急通信保障事前、事中、事后等各个环节细分场景，通过指标自动分害监测信息，结合电信网络监控告警信息、自然灾害故障工单3)制定自然灾害应急通信组网方案：获得当前的集群共网应急通信组网拓扑结构，根据应急通信需电信网络维护作业场景中存在大量工单、告警、日志、案例等数据，记录了日常运维的业务数据。这些运维数据存在着数据量大、结构多样、缺乏规范、专业术语等特点，是数据分析和挖掘的难点区域。目《网络大模型白皮书(2023)》1)网络应用开发投入大、周期长：各个业务场景需要分别进行数2)已有的网络AI算法泛化性不佳、不利于快速复杂推广：各业务场景需分别训练模型，模型难共目前业内主流基础大模型基于互联网文本数据（包括网页、新闻文章、论坛帖子、维基百科打造具有丰富运维知识的智能客服助手，集团/省公司分级部署，以被集成的方式接入集团综合调度系面向态势感知相关指标，制备专家知识语料合五屏平台指标及用户意图理解语料，促使网络大模型具《网络大模型白皮书(2023)》任务模型网络知识覆盖率提升5倍以上，研发上线周期从月级缩短至天级，网络大模些缺点包括无法进行事实验证、缺乏领域知识、隐性知识难以掌握、模型幻觉问题、黑盒特性以及及时更新困难等。相比之下，知识图谱具有结构化、更准确、可解释性强、包含专业领域数据和更新成本低等优基于“启明”大模型构建无线网自智机器人，可以实现感知智能、分析智能、预测智能、控制智能，《网络大模型白皮书(2023)》在多方面提高无线网优效果，降本提质增效。结果一步即达：网优平台上存在大量的能力，传统上通过页面跳转的方式调用，存在入口深，步骤繁琐、耗时长的问题。而以大模型为统一入口的自智机器人，能够将现存大量无线网能力与大模型结合，解决网络原子能力分布散乱问题，同时可以通过流程编排保证结果网质差检测、根因分析、知识抽取、智能推荐和智能问答等）与知识图谱技术的结合，为一线业务人员提供知识查询、解决方案推荐、智能问答等功能。利用知识图谱扩展问句背景知识，提高无线网优案例检索当前已实现的智能问答机器人已可以准确识的数据分析能力，自动分析KPI/MR等多维数据问分析报告，提升质差分析效率。在跟踪阶段，传统依赖人工的执行和效果评估由大模型自智机器人取代，一键自动配参、自动执行、自动追踪基站状态，自动判断是否恢复并自5.网络大模型能力演进网络大模型作为云网运营自智等级向高阶演进的核心关键能力，基于云网运营自智代际特征演进，我们将网络大模型能力演进划分为4个演进阶段，细化各个等级的能力特征和目标，《网络大模型白皮书(2023)》6.网络大模型展望6.1生态构建方式第一阶段：中国电信全流程研发与应用。网络大模型研发，依托中国电信研究院研发力量，在全专业专家队伍的参与下，攻坚关键技术，实现从语料准备到模型精调、反馈优化、推理部署、部署应用全流程第二阶段：与产业合作伙伴紧密协同。接下来，我们还将携手科技6.2网络大模型生态展望中国电信结合自身在行业大模型领域的思考和实践，打造了中国电信网络大模型生态，以客户需求为导向，深入网络规划、网络建设、网络维护、网络优化、运营决策等运营场景，通过网络大模型的算力、数据、模型、场景大模型能力，构建专属大模型及智能应用，注智生产和决策，推动云网运营效率提升，大模型正在重塑电信网络及服务，网络大模型将以客户需求为驱动，深耕运营决策场景，持续完善产品核心功能，优化用户体验。未来中国电信将联合产业各方合作伙伴，在基础研究、算力环境、应用部署《网络大模型白皮书2023》基于中国电信网络大模型研发探索，在运营