人工智能对网络威胁的近期影响（中文版）

人工智能对网络威胁的短期影响-NCSC。GOV.英国人工智能对网络威胁的近期影响NCSC的评估，重点是人工智能将如何影响网络行动的效力，以及未来两年对网络威胁的影响。英国网络政策评论在2023年11月举行的布莱切利人工智能协会峰会上，国际领导人聚在一起在促进经济增长、推动科学进步和为其提供广泛的公众服务方面的巨大潜责任的开发和使用人工智能技术可能带来的安全风险。英国政府正在评估虽然我们必须关注人工智能所构成的风险，但。例如，人工智能可以改进对网络攻击的检测和分类，并识别峰会宣言强调了确保人工智能以安全、以人为本、可靠用的重要性。NCSC继续与国际合作伙伴和行业合作，为人工智能的安全开们能够实现人工智能为社会提供的贡献，并于2023年11月发布安全NCSC评估NCSC评估（NCSC-A）是关于英国面临的网络威胁的权威声音。我们融合了所有来源的信息——分类情报、行业知识、学术材料和开源——来提供独立的关键判断，为政策决策和改善英国的网络安全。我们与政府、行业和国际合作伙伴密切合作，为我们的评估提供专家意见。.英国/报告/网络对网络威胁的影响1/8人工智能对网络威胁的短期影响-NCSC。GOV.英国NCSC-A是情报评估专业负责人（PHIA）的一部分。PHIA通过分析贸易技术、专业标准、建立和维持一个跨政府社区来领导该行业的发展。他的报告使用了来自NCSC-A产品的正式概率语言（见标准），来告知读者人工智能对网络威胁的短期影响。要了解更多关于NCSC-A的信息，请联系查询@.uk.“现实的可能性”有多大？专业情报评估主管（PHIA）概率标准每次我们做出评估、判断或预测时，NCSC评估都使用PHIA概率标准。所使用的术语对应于以下的可能性范围：关键判断人工智能（AI）几乎肯定会在未来两年内增加网络攻击的数量，并提高网络攻击的影响。然而，对网络威胁的影响将是不均匀的（见表1）。.英国/报告/网络对网络威胁的影响2/8人工智能对网络威胁的短期影响-NCSC。GOV.英国对2025年的威胁来自于现有战术、技术和程序（TTPs）的发展和增强。所有类型的网络威胁行动者——国家和非国家，技术熟练和技能较低——已经在不同程度上使用人工智能。人工智能在侦察和社会工程方面提供了能力提升，几乎肯定使其更有效、高效和更难探测。人工智能在网络行动中更复杂的应用很可能仅限于能够获得高质量培训数据、重要专业知识（包括人工智能和网络）和资源的威胁行动者。更先进的用途不太可能在2025年之前实现。人工智能几乎肯定会使对英国的网络攻击更具影响力，因为威胁行为者将能够更快、更有效地分析外部过滤后的数据，并利用它来训练人工智能模型。人工智能降低了网络罪犯新手、雇佣黑客和黑客活动人员进行有效获取和信息收集行动的障碍。这种增强的访问方式可能会在未来两年内造成全球勒索软件的威胁。在2025年及以后，人工智能在犯罪和商业市场的能力商品化几乎肯定会提高网络犯罪和国家行为者的能力。上下文他的评估集中在人工智能将如何影响网络行动的有效性，以及在未来两年内对网络威胁的影响。它没有解决人工智能工具所面临的网络安全威胁，也没有解决将它们纳入系统架构时所面临的网络安全风险。该评估假设在这段时间内，变革性人工智能没有取得重大突破。这一假设应该得到审查，因为任何突破都可能对恶意软件和零日漏洞开发产生重大影响，从而产生网络威胁。.英国/报告/网络对网络威胁的影响3/8人工智能对网络威胁的短期影响-NCSC。GOV.英国人工智能对网络威胁的影响将被人工智能通过检测和通过设计提高网络安全弹性的作用所抵消。我们需要做更多的工作来了解人工智能在网络安全方面的发展将在多大程度上限制威胁的影响。评估1.人工智能对网络威胁的影响是不均衡的；无论是在网络威胁行为者的使用方面，还是在能力的提升方面。2.表1：未来两年由人工智能造成的能力提升的程度。.英国/报告/网络对网络威胁的影响4/8人工智能对网络威胁的短期影响-NCSC。GOV.英国Intent高高机会主义的精通人工智能和网络技术，资源丰富在网络上有技能，有些资源限制新手网络技能，有限资源Reconnaissance中度隆起中度隆起升压工程,升压升压显著提升（来自低基层）实际的隆起可能性最小隆起中等隆升（来自低基层)最小隆起最小隆起无隆起升压升压升压最适合利用人工智能在先进网络操作中对抗网络的潜力，例如用于高级恶意软件生成。侦察、社会工程和渗透能力提升。将使人工智能工具激增给网络新手。降低了进入有效和可扩展的访问操作的障碍——增加了设备和帐户的成功妥协的数量。关键：最小隆升区区隆升区SIG显著隆起3.人工智能将主要为威胁行动者提供在社会工程方面的能力提升。生成型人工智能（GenAI）已经可以用于与受害者进行令人信服的互动，包括创建诱饵文件，而不需要经常显示网络钓鱼的翻译、拼写和语法错误。随着模型的发展和吸收量的增加，这一数字在未来两年内很可能会增加。.英国/报告/网络对网络威胁的影响5/8人工智能对网络威胁的短期影响-NCSC。GOV.英国4.人工智能快速总结数据的能力也很可能使威胁行动者识别高价值资产进行检查和渗透,提高未来两年网络攻击的价值和影响。5.包括勒索软件参与者在内的网络参与者已经在使用人工智能来提高网络行动的效率和有效性，如侦察、网络钓鱼和编码。这一趋势几乎肯定会持续到2025年及以后。网络钓鱼通常是为了传递恶意软件或窃取密码信息，它在提供网络犯罪分子进行勒索软件攻击或其他网络犯罪所需的初始网络访问方面发挥着重要作用。因此，网络犯罪使用可用的人工智能模型来改善访问能力，很可能会在短期内导致全球勒索软件的威胁。6.人工智能很可能通过使现有技术更高效，帮助恶意软件和利用开发、漏洞研究和横向移动。然而，在短期内，这些地区将继续依赖于人类的专业知识，这意味着任何有限的提升都很可能局限于已经有能力的现有威胁行动者。人工智能有可能产生恶意软件，从而逃避当前安全过滤器的检测，但前提是它要经过了高质量利用数据的训练。这是一个现实的可能性，即高能力的状态有足够大的恶意软件存储库，可以有效地训练为此目的的人工智能模型。7.随着技术的发展，网络弹性的挑战将变得更加严峻。2025年，GenAI和大型语言模型(llm）将使每个人，无论他们的网络安全理解水平如何，都难以评估电子邮件或密码重置请求是否真实，或识别网络钓鱼、欺骗或社会工程尝试。发布安全更新以修复新发现的漏洞和利用未打补丁软件的威胁行动者之间的时间已经减少。这加剧了网络经理在利用已知漏洞之前修补它们的挑战。人工智能极有可能加速这一挑战，因为识别脆弱设备的侦察会变得更快和更精确。8.目前，专业知识、设备、时间和财政资源对于在网络行动中利用人工智能的更先进应用至关重要。只有那些.英国/报告/网络对网络威胁的影响6/8人工智能对网络威胁的短期影响-NCSC。GOV.英国投资于人工智能，拥有资源和专业知识，并能够获得高质量的数据，这将受益于其在2025年之前被用于复杂的网络攻击。几乎可以肯定的是，高能力的国家行动者在网络威胁行动者中最能利用人工智能在先进网络行动中的潜力。其他国家行动者和大多数商业公司将在未来18个月内在社会工程、侦察和渗透方面获得适度的能力提升。有能力和已建立的犯罪集团也很可能有足够的培训数据和资源来获得一些提升。9.然而，这些因素可能会减少，这是一种现实的可能性随着时间的推移，随着更复杂的人工智能模型的普及和吸收量的增加，这一点很重要。公开的人工智能模型已经在很大程度上消除了参与者创造自己的复制技术的需求，特别是在低-诸如鱼叉式网络钓鱼等复杂的操作。到2025年，技能较低的网络行动者几乎肯定会从显著的能力提升中获益。网络犯罪能力的补偿，例如“即服务”的商业模式，几乎可以肯定，有能力的群体将从人工智能网络工具货币化，使任何愿意支付的人都可以获得改进的能力。10.到2025年，对人工智能进行高质量数据的培训，对于其在网络行动中的有效使用仍然至关重要。自动侦察目标、社会工程和恶意软件的缩放障碍都主要与数据有关。但到2025年及以后，随着成功渗透的发生，人工智能的数据几乎肯定会改善，实现更快、更精确的网络行动。11.网络行动数量的增加、行动的复杂性和影响的增加将表明威胁行动者能够有效地利用人工智能。这很有可能在短期内加强英国政府和私营部门面临的网络弹性挑战。词汇表.英国/报告/网络对网络威胁的影响