产业政策与法规研究2024年第1期（总第54期）：人工智能赋能信息通信业

赛迪研究院主办奋力建设国家高端智库诚信担当唯实创先思想型智库国家级平台全科型团队创新型机制国际化品牌《赛迪专报》《赛迪要报》《赛迪深度研究》《美国产业动态》《赛迪前瞻》《赛迪译丛》《情快报》《国际智库热点追踪》《产业政策与法规研究》《安全产业研究》《工业经济研究》《财经研究》《信息化与软件产业研究》《电子信息研究》《网络安全研究》《材料工业研究》《消费品工业研究》《工业和信息化研究》《科技与标准研究》《节能与环保研究》《中小企业研究》《工信知识产权研究》《先进制造业研究》《未来产业研究》《集成电路研究》信息通信业作为当今社会创新最活跃、应用最广泛、经济带动作用最大的代表性产业领域，在为人工智能提供广阔应用场景的同时，行业自身也在受到人工智能的影响和变革。特别是，随着以ChatGPT为代表的生成式大模型的快速发展，人工智能在赋能信息通信业的过程中，可能出现一些潜在的新型安全风险，需进一步引起本期主题为《人工智能赋能信息通信业：产业发展与风险防范》，首先分析人工智能赋能信息通信业的总体态势，然后探讨人工智能赋能信息通信业的典型应用场景，进而识别和研判在这一过程中可能出现的潜在风险，最后针对性给出防范应赛迪研究院政策法规所（工业和信息化法律CONTENTS本期主题：人工智能赋能信息通信行业：产业发 1 1 2（三）内生驱动：信息通信业智能化转型是行业高质量发 2 4 4 5（三）助力互联网厂商加速转型发展 5 6 7（一）公民人身和财产安全风险 7（二）通信网络瘫痪和数据泄露风险 8（三）知识产权和产品责任不明等法律挑战 9 9（五）关键核心技术对外依赖度高的风险 10四、几点建议 11（一）加强行业自律规范建设 11（二）完善包容审慎的监管机制 11（三）修订完善法律规则 11本期主题：人工智能赋能信息通信行业：产业发展与纵观信息通信领域，人工智能已在多个应用场景崭露头角，包括助力基础电信运营商提升服务效率和经营效益，助力终端厂商激发新模式、新业态和新服务，助力互联网厂商加速转型发展以及助力信息通信业赋能千行百业智能化跃升等。但也要注意到，人工智能在赋能信息通信行业发展的进程中，可能带来一些风险挑战。这主要包括加剧公民人身财产安全风险，加剧通信网络瘫痪以及超大规模数据信息泄露风险，带来新的知识产权、产品责任等法律争议和挑战，对社会公共秩序甚至国家安全带来潜在风险，以及底层技术高度对外依赖建议从加强行业自律、完善监管机一、信息通信业正加速迈入（一）全球动向：人工智能与从国际组织层面看，全球信息通信行业标准化组织和产业联盟近年来持续开展人工智能标准化和产业化工作。例如，2019年，全球移动通信系统协会（GSMA）成立网络人工智能特别工作组；2020年，欧洲电信标准协会（ETSI）发布《人完成了《IMT面向2030及未来发展的框架和总体目标建议书》，提出了包括“人工智能与通信融合”在从产业主体层面看，全球电信运营商和设备商近年来逐步加大人工智能的研发投入与应用部署。全球电信运营商一方面在网络规划、《产业政策与法规研究》2024年第1期1建设、维护、优化和运营等全生命周期积极引入人工智能技术，另一例如，韩国SK于2023年宣布实施“AI金字塔战略”，计划聚焦AI域提升AI能力；KT发布韩国首个大语言模型Mi:dm，对外提供70亿和2000亿参数版本的AI开发包及基础模型开放服务；AT&T于2023年宣布将通过使用英伟达驱动的AI来处理数据、创建用于员工的数字虚拟形象等，以持续转变运营方式和增强可持续性；2023年，中国移动发布了全球首个基于通信数据的大模型——九天•川流出行大模型。全球设备商在电信网络智能化发展上大力投入，积极推动通信网络智能化升级和垂直行业智能应用服务。例如，美国高通推出了在智能手机、汽车等终端侧上的人工智融合；爱立信近期推出基于人工智百度、阿里、腾讯等互联网厂商也纷纷布局通用人工智能（AGI），并陆续发布了文心一言、通义千问、（二）政策指引：开展“人工智能+”行动为我国信息通信业发今年的政府工作报告在部署工作任务中强调，“大力推进现代化产业体系建设，加快发展新质生产力”，并提出“深化大数据、人工人工智能与信息通信业的深度融合，成为新一代信息基础设施的重要基础支撑。开展“人工智能+”万物智联的新一代信息基础设施，人工智能与信息通信业的深度融合为其提供了重要基础支撑。当前我国新一代信息通信基础设施发展迅速，但仍然面临一些亟待解决的问题：例如，感知、算力、区块链等基础设施领域尚未形成融合发展、协同推进的发展格局；信息基础设施的行业应用市场亟需培育壮大。有效降低网络部署成本并提升运行2《产业政策与法规研究》2024年第1期本期主题：人工智能赋能信息通信行业：产业发展与和算力基础设施的建设部署，从而筑牢开展“人工智能+”行动的信人工智能与信息通信业的融合为夯实“人工智能+”行动的关键核心技术底座提供了重要应用场景。目前我国在人工智能、算力网络等信息通信领域的关键核心技术创新能力仍显不足，关键环节产业链供应链受制于人的局面尚未根本改变。信息通信业的丰富场景为实现大模型算法、框架等底层基础技术和核心通信芯片、关键射频器件等核心关键创新的突破提供了机人工智能与信息通信业的融合将进一步推动了新模式、新业态、新动能的发展。5G、千兆光网已融入71个国民经济大类中，5G+工业智能与信息通信业的深度融合，将为信息通信业赋能实体经济注入新动能，推动制造业朝着更智能、更高效、更绿色的方向发展，进一步（三）内生驱动：信息通信业智能化转型是行业高质量发展的必人工智能是信息通信业实现降本增效的有效工具。随着人口红利见底、业务日益繁杂、消费者个性化需求增长，电信运营商、信息设备商、互联网厂商等信息通信业企业面临的挑战增多，纷纷应用人工智能提高生产经营效率，增强产品和服务的市场竞争力。以电信行业为例，运营商亟待通过智能化转型应对三大挑战。一是运营成本逐年递增。近年来，国内电信行业收入增长速度难以“跑赢”运营成本增长速度，运营商亟待通过提升运维效率来降低运营成本。二是无法有效满足用户差异化的体验需求。当前大部分电信业务运营流程没有基于用户体验的全生命周期进行管理，用户体验需求难以满足。三是难以保证新业务快速上线。随着各行业数字化转型的深入推进，如何分析和信息提取能力，通过采集、分析海量数据，自智网络可以对网络状态进行感知和决策，为运营商《产业政策与法规研究》2024年第1期3提升网络质量、优化业务性能、减人工智能是信息通信业发展的跨界融合、人机协同、群智开放、自主操纵等特征，催生了大量新产业新业态新模式，为电信服务、通信设备、互联网信息服务等信息通信业提供了更多应用场景和发展机遇。以电信运营商为例，2023年三大运营商通信服务收入总和达16636亿元，其中，以人工智能、元，占服务收入的比重为24.4%，对营收增长的贡献率为44%，成为拉动电信服务增长的重要力量。基于此，运营商纷纷将人工智能作为公司未来发展的重要方向，旨在以人工智能领域突破支撑公司发展。例如，中国移动推出客服、政务、网络、企业通话、川流出行等5款行业大模型，累积智能语音识别、自然语言处理、机器视觉、智能分推动移动云盘、视频彩铃、5G新通二、人工智能赋能信息通信（一）助力基础电信运营商提升。一是智能化优化网络提升通信质量。运营商利用人工智能技术对通信网络的巨量数据进行数据挖掘分析，实现网络智能优化，网络连接更加稳定，提高了通信质量。二是智能运维实现降本增效。运营商利用人工智能技术实时监测网络流量、检测网络故障，赋能网络建设和运营维护，提高网络安全性。以联通为例，AIOps智能运维平台将AI赋能于IT传统运维，通过对日志、指标等数据分析，使得系统能够在1分钟内实现预警，准确率高达99%。三是打造智能客服提升客户体验。运营商通过语音识别、自在智能客服领域为用户提供新体验和高效率。2023年，中国移动发布“86NEXT”心智服务新门户，将4《产业政策与法规研究》2024年第1期本期主题：人工智能赋能信息通信行业：产业发展与AI大模型率先工程化应用，智能客服能够为客户提供及时且有效的咨询和服务，提升了服务效率和用户布局大模型实现业务多元化发展。除了利用人工智能赋能自身基础业务发展，运营商也积极利用人工智能实现多业务布局和战略转型。例如，中国电信紧抓人工智能星辰大模型系列产品体系，打造通用基础大模型底座，覆盖了语义、语音、视觉、多模态四大能力，并实现开源；面向政务、教育、交通在基层治理、智能客服、智慧城市（二）助力终端厂商激发新模平。作为大模型落地的重要形态，AI助手能有效提高终端设备在知识获取、逻辑推理、任务规划、记忆拓展、工具调用、辅助创造等方面的智能化水平。以小米公司的AI助手——小爱同学为例，小爱同学不仅能帮助用户进行图片创作、文案创作、实时翻译，同时还能根据用户需求和场景提供相应的生活建议。此外，小爱同学覆盖了多种智能设备，用户能够通过小米手环、人工智能重构操作系统驱动万物智能的历史性革命。除了利用AI助手提升终端智能化水平，终端厂现基于意图识别的全新人机交互方式以及跨设备、跨系统的万物互联精准识别用户意图。该模型根据用户需求和行为习惯进行智能推荐，为用户带来更加方便的交互体验，让服务实现跨应用、跨设备一步直达，以及用户个体需求在多种应用（三）助力互联网厂商加速转人工智能提升互联网厂商内容生成能力和行业竞争力。以（AIGC）使得机器能够大规模参与《产业政策与法规研究》2024年第1期5知识类和创造性工作，极大提高了生产力。一方面促使国内互联网厂商积极布局人工智能大模型，以提升其在人工智能领域的竞争力。例如，百度的文心一言、阿里云的通义千问、华为的盘古、科大讯飞的星火等，为用户提供更为便捷和高效的新型服务。另一方面也使得传统的内容分发平台逐渐演变为内容生态平台，内容创作能力、基于数据驱动的个性化服务、付费内容模式的兴起、IP孵化与开发等因素日益成为决定互联网厂商竞争力的关人工智能大模型全面提升互联网厂商赋能垂直行业的能力。基于通用大模型，各互联网厂商加快从通用大模型向行业大模型突破，促进人工智能“走深向实”，解决实际问题，赋能垂直行业。2022年阿里达摩院发布“通义”大模型。模型采用底层通义算法、中层通用算法和上层产业应用三个层次。目前“通义”大模型已经深入到电子商务、设计、医疗、法律、金融等行业，服务超过200个场景。在医疗（四）助力信息通信业赋能千“5G+AI”赋能智能制造实现新飞跃。人工智能可以在预测性维护、智能工业机器人以及决策辅助等方面为智能制造赋能。以电子信息制造业为例，中国移动携手华为南方工厂打造电子信息制造行业的智能控制、柔性物流等技术，构建用嵌入到核心生产环节，包括柔性制造、5G边缘AI质检、5GAGV、5G高精度定位等12个场景应用，接入5G专网的设备近千台。5G和AI的应用加速了工厂数字化进程，提升了设备联网率和智能化水平，“5G+AI”赋能交通加速智能化演进。基于5G与AI融合，实现了网络与算力资源的高效配置，以更灵活的网络、高效利用的算力与更精准的算法，应对不同场景下的客户需求。以智慧交通为例，重庆6《产业政策与法规研究》2024年第1期本期主题：人工智能赋能信息通信行业：产业发展与两江协同创新区按照分区分级建设的理念，联合中国电信、联想等多了主动式公交优先、交叉碰撞预警驶公交、智能网联微循环小巴等共三、人工智能赋能信息通信肖像权、名誉权带来新挑战。AI技术不断提升信息搜集与推送效率和精准度的同时，隐藏着对个人权益的潜在威胁。个人信息权益方面，基于AI工具的智能化、个性化服务可大范围的感知、搜集和分析用户的浏览习惯、位置信息等敏感数据。一些AI工具可能未经授权收集和存储人脸信息，导致个人安全风险。在肖像权、名誉权方面，AI换脸技术（Deepfake）使得个人形象可以被轻易复制和篡改。这种技术可能使个人在不知情的情况下成为虚假信息的传播者，损害其社会形象和信誉。AI生成的虚假新闻和内容能够迅速在网络中传播，对个人的名誉造成不可逆转的影响。一旦虚假信息与个人形象关联，即使事后澄清，也难以完全消除负面影响。例如，杭州互联网法院审理发现，虞某在未取得被编辑人同意的情况下，使用“AI换脸”软件，将从互联网等渠道收集到的他人人脸信息与淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视这一行为侵犯了他人的个人信息权声”技术呈现出蔓延态势，滋生新型网络诈骗违法犯罪行为。当前，深度合成技术正在加速运用于个性电话客服、行业培训等多个应用领域，但被不法分子滥用的情形屡见不鲜，其潜在风险和危害性不容忽安全技术公司的调研，1/4的成年人曾经历过AI诈骗，其中77%的人蒙受了经济损失。这些诈骗案件《产业政策与法规研究》2024年第1期7通过伪造熟人或权威人士的面容和声音，诱骗受害者进行转账或提供敏感信息。在我国，此类案件也出现苗头。当前，AI换脸诈骗虽然发案比例不高，但已引起公众和有关部门的高度关注。例如，近期内蒙古包头警方通报了一起利用AI换脸和拟声技术实施的诈骗案件，福州市某公司法人代表在10分钟内被骗子通过换脸骗走430万元。未AI“换脸”“拟声”的以假乱真能力将进一步提升，电信网络诈骗治（二）通信网络瘫痪和数据泄信设备和网络基础设施，导致通信网络瘫痪等严重后果。攻击者可以利用AI技术创建能够自我学习并适应防御措施的僵尸网络，这些僵尸网络可以发起更难以防御的分布式拒绝服务（DDoS）攻击，从而导致正常用户无法访问网络。攻击者还可以利用基于AI的能够自我演化、规避传统安全防护措施的恶意代码，攻击重要通信系统。例如，基于AI的DeepLocker能够学习用户的特定行为模式，并在满足特定条件时释放恶意载荷，造成系统破业数据处理和分析效率的同时，也带来了超大规模数据泄露的潜在风险。AI大模型的训练依赖于海量的数据，训练过程中存在隐私泄露风险。近年来，OpenAI的大语言模型ChatGPT、OpenAI与GitHub合作推出的代码助手Copilot、AI画画平泄露。例如，大语言模型ChatGPT字的内容，其中包括未经同意的个AI大模型需要大量的存储空间来保存训练数据和模型参数。这些数据如果未能得到有效的安全防护，将面临被黑客攻击和非法访问的风库中的错误导致服务中暴露了其他8《产业政策与法规研究》2024年第1期本期主题：人工智能赋能信息通信行业：产业发展与（三）知识产权和产品责任不权争议。在传统互联网领域，AI参写的代码、设计的图案、创作的音乐等。这些作品是否应当受到知识产权法的保护，以及如何确定其创使用者或所有者，成为亟待解决的技术与法律交叉问题。工业互联网需要大量的数据进行训练和优化。这些数据的收集、使用和共享，涉及到数据产权的界定。此外，由于工业互联网的全球性质，不同国家度和法律规定可能存在差异。如何协调国际间的知识产权法律，促进全球工业互联网的健康发展，是国些产品责任难题。在现行法律体系下，产品责任法通常适用于具有物理形态的产品，而对于服务性质的AI技术，其适用性存在不确定性。律责任的确定变得复杂。在责任归品中，可能涉及多方主体，包括AI算法开发者、数据提供者、平台运何界定在缺乏明确法律规定的情况下这些主体之间的责任归属，已成为新的法律挑战。在缺陷认定上，AI产品的缺陷可能涉及算法设计、数据处理、用户交互等多个方面。此外，与传统产品的制造缺陷不同，AI产品的缺陷可能更加隐蔽和复杂，难以通过传统的产品责任法框架进行认定和处理。在法律适用上，AI技术的发展速度远超现有法律体系的更新速度，导致法律适用上存在滞后性。例如，现有的产品殊性，因此在适用时可能需要法院进行新的法律解释和适用规则的制（四）社会公共秩序和国家安可能被滥用，成为传播虚假信息、操纵公共舆论的工具。以自然语言《产业政策与法规研究》2024年第1期9术，可以生成极具说服力的虚假新闻和信息。这些生成内容的“真实性”可能难以被普通用户识别，从而在社交平台上迅速传播，引发公众恐慌、误导舆论，甚至影响政治选举和社会稳定。例如，不法分子（botaccounts）或使用自动化脚本在网络平台上发布特定信息，操纵公共社会舆论，对社会公共秩序一方面，AI互联网工具可能被用于政治宣传和舆论操控，破坏政治影响和安全。AI技术可以分析大量的用户数据，识别用户的兴趣、偏好和弱点，从而定制化地推送信息。不法分子可以利用这些数据进行精准的政治宣传和舆论操控。另一方面，AI技术在资源勘探、基础设施安全防范等方面的应用也可能带来新的安全挑战。AI赋能的智能通信产品在资源勘探中通常需要处理和分析大量的地质、地球物理和遥感矿产资源分布等敏感信息。此外，监测和防范时，一旦被黑客攻击或出现故障，可能会导致国家安全风（五）关键核心技术对外依赖AI赋能信息通信业是目前全球科技竞争的热点领域，各国都在积极布局，希望通过AI技术提升信息通信的效率、安全性和智能化水平，从而在全球信息通信市场中占据有利地位。然而，当前美国在生型在文本生成、图像创作等方面展