算法认知战的致效机理与关键技术探析

全球媒体时代，迅猛发展的人工智能技术正深刻改变着网络舆论的传播生态。在日渐激烈的大国博弈中，认知空间安全问题已越发凸显。习近平总书记明确指出，要“探索将人工智能运用在新闻采集、生产、分发、接收、反馈中，用主流价值导向驾驭‘算法’，全面提升舆论引导能力”。在互联网、人工智能深度嵌入社会生活的背景下，国与国之间的博弈愈加呈现出战场媒介化、信息武器化以及攻击网络化的特征，推动战争领域的作战主体扩展、作战领域泛化，使战争的社会化特征更加凸显。认知域作为构建于物理域、信息域之上的高阶作战空间，成为现代战争综合显效的重要领域，被誉为现代战争制权争夺的最高层次。空间领域的多维性和参战力量的多元性，在快速发展的网络化、信息化、智能化技术的加持下，使得算法认知战成为认知域作战在新时代的新形变。1算法认知战研究的文献梳理认知域作战是一种古老而又新兴的军事实践活动，随着人类社会信息传播模式演进且不断发展迭代，走过了以“谋略+信息”为核心的攻心伐谋战、以“谋略+信息+宣传”为核心的心理舆论战。当前，信息技术革命催生了现代传播技术，特别是以电脑、手机等电子产品为载体的社交媒体的兴起，使得信息传播走向自下而上、分布式自组织、开放式的“大集市”模式，催生出以“谋略+信息+算法”为核心的算法认知战。敌我双方依托网络空间媒体平台，以虚假信息、选择性传播等手段，对敌方进行认知攻击。算法认知战是通过开源数据与社会计算等新技术，利用数字平台的传播叠加效应与心理学中的沉锚效应，作用于目标对象认知，影响其情感、动机、判断与行为。近年来，对于认知域博弈的关注、讨论和研究逐渐增多。在知网中以“认知域作战”为关键词进行检索共有55篇论文，其中，2014年以来的论文有37篇，2022年以来的论文有19篇，涉及“算法认知战”相关内容的论文有6篇。此外，网络媒体也出现了大量的相关文章，在百度搜索引擎以关键词“算法认知战”检索有上千万条信息，大都是近1年内发布的。综合现有文献可知，认知域作战从媒体空间的舆论博弈到技术赋能的广泛传播，从算法定制的深度渗透到虚假信息的定向攻击，均呈现出智能化、强制性、泛在性等特征，其博弈的焦点是网络能力优势、信息能力优势和舆论话语优势。对于算法认知战的洞见主要包括以下3个方面：1.1算法认知战产生的直接原因是网络传媒的兴起刘志富等人提出“夺取认知域优势是网络空间战略博弈的重要构成”“认知域能力建设是掌握网络空间战略博弈主导权的重要手段”，并从主体性、虚拟性和无限性3个维度论述了网络空间认知域的基本特征，将认知域作战的空间拓展到网络空间领域。网络媒体传播兼具大众传播与分众传播双重属性，为差异化认知操纵提供了机遇。郑敬华等人指出“认知域是网络空间安全问题的核心”，强调网络空间认知域安全问题是敌我双方实施多层面对抗的焦点，从技术层面探讨了“基于网络行为”预测用户特征信息的方法。从历史角度衡量，自17世纪起，西方世界就已经铺设全球传播的渠道，在信息全球化过程中，西方主导的数字网络平台深深嵌入全球传播体系中，甚至有学者称之为“平台殖民主义”。最近爆发的局部冲突中，认知域作战表现出明显的“代理人战争”特性，甚至在某种程度上“代理人”正在成为被背后大国“基础设施”“算法数据”赋能和控制的“提线木偶”。1.2算法认知战发展的底层逻辑是致效机理的改变有学者认为，在算法认知战视角下，认知=数据+算法。段伟文指出，数据驱动的智能算法试图将世界完全转化为数据，继而通过算法认知实现对世界的自我调节。肖峰指出“算法成为联结人的认知和智能机器信息处理过程的纽带，使得我们对认知的理解和阐释新增了算法的视角”“算法技术日益深刻地影响人的日常认知，当我们借助人工智能进行认知活动时，机器算法就介入到我们的认知过程中”“因算法歧视而深度影响我们认知世界的视角和结果，形成所谓的群体极化或信息茧房效应”。媒体平台支撑下的规则操纵等，以千人千面的个性化推荐实现精确打击，实现比大众传媒时代更为有效的宣传。蔡翠红指出，基于算法的机器学习技术在行为分析中的作用有两个，即分组和相关性，并给出了算法经由认知塑造进而影响公共外交的大致作用路径。1.3算法认知战演进的关键要素是智能技术的发展信息传播机制的不断演进将从多方面体系化重塑认知对抗过程，从而推动认知域作战发生根本性变革。随着技术的迭代和升级，假新闻和误导信息的隐蔽性越来越强，成为极具杀伤力的信息武器。深度伪造等技术的发展，突破了文本造假的限制，实现了图像、音视频篡改、伪造，极大地推动了社交媒体“武器化”倾向，拥有强大社交媒体平台的国家在认知域作战中的优势明显。阎国华等人提出“部分社交媒体将一些内容进行深度伪造，达到颠倒是非的目的。尽管随后很多真相得以澄清，但原先伪造内容已在裂变式传播下直达受众视野，真相已不被关注或失去意义”。以ChatGPT为代表的社交机器人成为新的认知作战工具，有学者统计，某西方媒介上与中国相关的推文中有超过20%的文章疑似由社交机器人发布。２算法认知战的本质内涵算法赋能认知域作战的本质是“政治+技术”，即借助科学计算、算计，影响和操控人的认知过程和结果。不管战争形态如何演变，政治是制胜之魂，技术是制胜之要。没有“技术”支撑的“政治”是没有力量的政治，没有“政治”约束的“技术”是没有方向的技术。应深刻把握算法与认知之间的关系逻辑，找准算法赋能认知的关键。2.1何谓算法——深刻洞悉算法的认知特性广义算法认为不仅计算机需要算法，人们的日常生活也涉及算法的使用。认知中所贯穿的算法表现为人的“思维方法”“认知图式”“思考模式”等，可称为“认知算法”。这样的算法用日常的语言表达出来就是“自然语言算法”。人脑中的认知算法部分可转化为计算机编程语言，实现人脑的认知算法向电脑的程序算法转变。一是算法是人类认知的“方法论”。计算机算法本质上是人脑中认知方法在机器上的外化与显现，是人类认知的方法论存在。二是算法是人类认知的翻译官。算法成为人的认知与计算机运行之间的纽带，算法将人的意图翻译给机器，成为人与机器之间的“联结装置”。三是算法是人类认知的倍增器。算法是人的认知功能的外部承载。对人来说，算法是“怎么想”的思路，而对于计算机来说，算法就是“怎么做”的指令。2.2算法何为——全面剖析算法的认知影响随着算法的发展给人类认知带来的影响显而易见，归结起来主要是3个方面。一是认知增强。算法所承载的那部分功能越来越自成体系，甚至在某些系统中具备了类似于人的自洽循环，这就表明在该领域机器算法可以相对独立地运行，进而在一定程度上实现对人类活动的替代。二是认知拓展。机器算法的快速高效，可以实现对人的认知活动的加持赋能，以往需要多人协同认知或个人长期认知的活动，可以借助机器算法快速实现。三是认知训练。机器算法越来越深度介入人的认知活动和过程中，在公共互联网平台上，底层算法会内化为平台的一部分，反过来人不得不接受这些机器算法的“训练”。2.3算法为何——准确把握算法赋能的底层逻辑算法对人类认知的影响可以归结为增强认知、拓展认知和训练认知，由此得出算法认知战的底层逻辑。一是增强认知带来的类人化认知攻击。认知域作战本质上是人心的争夺。在特定算法的加持下，机器可以按照设定的攻击模式，不知疲倦地对特定对象和群体展开自主式、饱和式攻击，高效率、高强度、高密度是机器攻击的重要特征。二是拓展认知带来的精准化认知干预。算法认知战是算法战和认知战的结合，也是人的认知智慧与机器的算力赋能高度融合的产物。认知域作战进入由“算计”到“计算”，并逐步走向由“计算”支撑的“精准算计”的新阶段。三是训练认知带来的常态化认知塑造。在传统的“认知影响理论”的基础上，实现“认知渗透”的算法化，推动算法成为社会认知系统的规制安排，对目标对象所接受的信息进行过滤与筛选，甚至因算法歧视而深度影响其认知世界的视角与结果，实现对目标对象潜移默化的认知影响。３算法认知战的致效关键算法认知战的有效实施，离不开算法、内容和平台3大核心因素。基于算法认知战的作战概念模型，依据混合战争、多域联合作战和智能化战争的视域，构建致效机理拓扑图，逻辑关系如图1所示。图1算法认知战致效机理框图3.1谋略和算法的结合是加大胜算概率的核心支撑网络空间媒体独特的传播技术、传播结构、传播机制，使得信息技术的拓展应用能够迅速转化为作战效能，造假技术衍生出的虚假信息，数据挖掘加持下的分众传播，智能算法催生出的精准操纵，使得算法优势主导认知优势，算法的博弈就是综合科技实力的博弈。认知域作战中的海量数据通过高效可靠的算法进行处理后，先于对手快速形成作战情报，从而赢得先机和主动权。因此，占有算法优势的一方，可以俯视对手，智能化赋能后甚至可以实现“答案先于问题”“能力先于需求”，产生改变游戏规则的颠覆性能力。同时，算法能以其高速、精确的计算过程，敏捷灵活应对战场态势的高速变化，适时提出极具针对性的应变策略，呈现出人性化、个性化、高效率等特征，达到提升作战效能的作用。3.2基于算法赋能的内容是诱发认知失调、固化或改变进而达成己方目标的关键因子算法认知战以内容为起点，通过有效的内容制造和生产，来获得“意义之争”的合法性，抢占战争的正义性和合理性的制高点，核心在于塑造正义的自我和失道的对手。内容的核心是以意识形态话语来阐释战争的正义性，以之为基础不断拓展外延。作战过程中，内容制造是基于对用户的深刻洞察，通过差异化、情感化等设计，确保产出高质量的内容。同时，注重传播技能和叙事方法，实现自上而下、有组织、有策略的内容制造与自下而上、借助自组织力量的社会动员的有机融合，快速形成“有道伐无道”的斗争态势。3.3平台是算法释能、内容抵达的最重要空间作为网络空间中信息和用户的载体，新型网络传播平台是搜集情报的“富矿”和洞察舆情的窗口，是算法认知战中的“航空母舰”。算法认知战借助平台优势融入个体生存空间，渗入浏览信息和发表意见的过程，助推认知博弈下沉，战争不再有局外人。通过算法“微操”，认知域作战进入受众的认知建构过程，改变其接收和获取信息的习惯，重塑认知和判断模式。算法认知战中，平台话语权就是战场主导权。一些强国甚至通过限制或封禁他国官方媒体账号，造成他国在认知较量中的失声或失语，足以显示平台在算法认知战中的重要地位。４算法认知战的基本行动构想算法认知战具有敏捷、高效、精准、隐形的特点，能在一定时空范围内，在受众毫不知情的情况下，形成高强度、持续性的思维认知压迫，完成作战意图的渗透和不同意见的压制，影响对手决策、汇聚民意声势，推动形成影响战争走势的决策和行动。余远来等人提出的认知域作战流程，主要包括用户画像、吸引注意、诱导反应、干预强化、监督反馈5个阶段，算法认知战在大致作战流程上与之相近，遵循认知域作战基本规律，算法认知战的作战阶段同样可划分为用户画像、吸引注意、暗示参考、诱导反应、干预强化、监督反馈6个环节，算法对具体环节的赋能模式又呈现出差异性。从基本作战流程确立和构建对象过程方法论模型两个方面的逻辑关系如图2所示。图2算法认知战理论模型构建4.1用户画像算法在网络空间中发挥着监控、侦察、预警的作用，强大的数据处理能力以及优秀的持续架构，使得算法能够通过对网络信息的筛选来实现以上功能。从个人角度来说，算法实现了对于个人心理状态的用户画像；从社会层面上来说，算法实现了社会意识形态分布、社会心理倾向、社会心理结构等的绘制。这些从宏观上表述社会心理总体状况的结果构成了认知域世界的“地图、地表、地貌”，了解掌握这种客观存在是开展认知域作战行动的必要前提。用户画像的实现可依托面向特定对象的聚类和关联性挖掘算法。聚类算法是按照用户相似度指标把个体或群体分割成不同的类或簇，使类内用户个体或群体的相似性尽可能大，类间用户相似性尽可能小，达到同类聚、异类分的效果。完整的用户聚类方法的基本步骤分为用户信息采集、信息标准化（白化）、用户特征提取、特征选择、聚类以及性能评估。关联性挖掘的主要目标是从不同的用户活动事件中，挖掘出频繁项及对应的用户关联规则。即计算某一用户或用户群体活动事件发生与另一用户或用户群体活动事件存在交集的频度，频度越高说明用户间关系越紧密。运用于用户分析的关联规则挖掘的代表性算法有Apriori算法和FP-grpwth算法。4.2吸引注意吸引注意是实施认知攻击的前提。算法可以实现对于从个人到社会的实时监控与态势预警，对于作战目标人群也可以予以标记。同时，算法在自然语言生成方面的发展会使得信息的生产效率与质量得到彻底的变革，通过实时分析作战目标的心理状态，生成可以对其产生预期引导效果的信息，并进行针对性投放。这些量身打造的信息将会吸引作战目标的注意，并引导他们动摇原有的认知框架，产生进一步的探索行为。吸引注意的关键是准确估计目标对象的心理状态或心理需求，而个体或群体的心理需求与个体本质特征和个体行为通常是非线性关系，采用传统线性回归类方法难以得到准确估计。当前，处理这种复杂非线性映射问题较为有效的算法是神经网络。它通过一个预设的多层网络来模拟对象心理反应机理，不断调整网络权值和阈值，使该网络的响应与对象心理反应机理保持一致，以预测目标对象心理状态和需求。4.3暗示参考由于算法已经在事实上实现了对于网络舆论环境的强大掌握力，在设置社会舆论议题时，算法将会使得这些议题的出现与爆火显得更加自然、平滑。同时在引导目标群体不自觉参与到该类议题的讨论中时，动作更加隐蔽，使得作战目标群体难以察觉自己的行为是受到操控的结果，在“自主判断”中滑向对手所期待的方向。在这一过程中，算法既是引导议题发酵的“拱火者”，也是控制议题在符合预期范围内发展的“管理者”。暗示参考算法的作用原理在于设置的社会舆论议题在时间轴（域）、空间轴（域）、目标人群心理空间等多维空间上，确保方向与网络舆论方向一致，强度满足网络舆论周期性变化规律。因此，暗示参考成功与否的关键在于对社会舆论方向的预测以及网络舆论周期性变化规律的估计。通过网络舆情大数据分析与建模方法可有效模拟社会舆论的波动，实时反映网络舆情方向与强度，在算法上可采用参数化方法对自回归滑动平均模型进行建模，并估计模型参数，实现网络舆情方向与强度实时估计。4.4诱导反应人类总是自觉或不自觉地将自己归属于某一价值观趋同的集体，这种行为机制被称作社群效应。作战目标在认知框架受到影响后会不自觉地分离出原有社群，并主动寻找符合自己现阶段认知框架的新社群。通过算法在网络空间的监控，可以利用适当的干预来影响这一进程，进而诱导并实现作战目标群体的聚合。在这样产生的小团体内，成员之间会相互强化正反馈，使得认知干预的结果得到自我加强并自主扩大影响力。诱导反应的关键是在作战目标分离出原有社群的有限时域、空域内，及时为其推送诱导信息，使作战目标完成新的聚合，其难点在于推送的诱导信息能够超越作战目标需求和心理预期的“阈值”。当前，具有高满足度的智能推送理论能够实现诱导信息的推送，具有代表性的包括基于关联规则的智能推荐、协同过滤推荐、基于内容的推荐、基于效用的推荐等推荐算法。4.5适时干预当小团体形成以后，其运作与发展仍在实质上处于算法的监控之下，算法会实时分析个人心理状态，监测团体内部的总体演变进程，并通过投放特定信息来实现对团体的衍化。在此过程中，算法的主要工作依旧是保证小团体在总体演化方向上趋同于预期，同时，要避免小团体的过激发展，从而导致不可控的结果。4.6监督满足社会满足是人类实现自我价值的重要组成部分，而得到社会的承认、鼓励就是实现社会满足的主要途径。处于小团体中的个人在认知框架上与团体大环境相适应，从而比现实生活更加容易获得满足感与归属感。团体既对个人行为进行监督，个人也同时对团体内部成员进行规约，在这种监督他人与自我监督行为中产生极大的满足，从而在客观上促进了自身对于团体的适应性以及团体自身的凝聚力，使得团体能够维持更久并进行扩张。算法认知战中，适时干预与监督目标是使受监督群体朝着预期方向发展，动态掌握其发展基本规律是保证目的达成的前提，因此充分了解群体内部关系结构极为关键。群体中个体间相互关系复杂，其形成的群体可等效为一个复杂系统，弄清其内部详细结构几乎不可能，但可采用复杂系统辨识理论，将系统作为盲盒，通过构建系统的输入和输出函数，利用输入信息对系统的输出响应来分析、估计盲盒的内部结构，建立能模仿真实系统行为的模型，利用适当的输入信息作用于系统，保持系统稳定及预测系统未来的演变。５算法认知战的关键技术媒介即信息。人的社会生活及其所经历的意识活动，是在各种传统和非传统传播媒介的交互作用与联络之中进行的，算法认知战的内在技术秉性决定了信息是起点。要从信息技术的原点上寻找创新的灵感，洞察强敌技术上的“阿喀琉斯之踵”。5.1算法赋能的多源信息融合技术多源信息融合是通过协同利用多源信息，使不同形式的信息互相补充，以获得对同一事物或目标更客观、更本质认识的信息综合处理技术。按照融合深度不同，多源信息融合可以划分为特征及类型融合、关系融合和聚类融合。在特征及类型融合方面，主要包括特征匹配、特征拆分、数据滤重、异构加权等多个步骤；在关系融合方面，主要分为利用距离矩阵运算的关系融合和利用主题模型方法的关系融合；在聚类融合方面，重点是融合函数算法的设计，常用的融合函数有超图划分、概率积累、余弦相似度和信息熵等。典型的多源信息融合框架如图3所示。图3典型多源信息融合框架面对社交媒体的海量数据，要结合人工智能和认知计算等技术，发挥机器在海量图像视频中的目标检测与跟踪、文本提取与理解等智能处理中的优势，开展仿生智能算法、分布估计算法、边缘计算和机器学习算法等研究，进一步提升融合结果的科学性、客观性和全面性。5.2知识驱动的深度数据挖掘技术见微知著，才能洞察先机。一些不被注意或隐藏的细节，往往最终产生了巨大的影响。社交媒体数据是一个典型的大数据，通过深度数据挖掘技术可以见微知著。目前，数据挖掘主流技术方法包括决策树、神经网络、回归、关联规则、聚类、分类、支持向量机、主成分分析和假设检验等。典型的基于关联挖掘的社交媒体动向分析框架如图4所示。图4基于关联挖掘的社交媒体动向分析框架因此，要提升基于信息来挖掘信息的能力，就要从以信息获取为主，向以信息深度认知利用为主的方向转变，能够从海量和异构数据中自动提取、关联和融合，形成跨时空、跨领域和跨媒体的知识体系，同时开展仿生智能算法、智能博弈技术、边缘计算和分布式估计算法等研究，进行事件理解和认知模式的挖掘与推理，并将实际认知环境与知识体系关联，预测舆论变化趋势，找出事件幕后推手，快速锁定目标，为后续认知作战决策奠定基础。5.3真假难辨的深度伪造技术兵者，诡道也。在认知域作战中，需要运用种种方法欺骗迷惑敌人。当前的伪造技术多依赖于深度学习技术，通过数据集的编码器来找出潜在特征并解码，用来训练参数，最后通过共享参数来达到深度伪造的目的。典型的深度伪造生成框架如图5所示。图5深度伪造生成框架深度伪造技术的快速发展，是对认知域作战的重大威胁和挑战。有矛必然有盾，如何反深度伪造，快速鉴别信息真伪，形成“狼来了”效应，让深度伪造一方失去公信力和话语权，也是认知对抗中重要的一环。当前，反深度伪造主要分为主动和被动方法，主动方法的原理是在音视频和图像数据中加入隐藏或不可见的水印或者标记，以鉴别真伪；而被动方法主要使用机器学习、深度学习、人工智能等技术实现对音频、视频、图像数据的真伪检测。5.4人机融合的信息筛选推送技术信息茧房效应表明，个体认知、态度和行为等方面容易受到信息的无形影响。因此，如何在海量数据中，针对不同用户特点，甄别、筛选出正确客观的信息，是解决认知冲突的一种重要途径。要消解信息茧房导致的负面效应，按照典型流程可分为用户画像构建、用户标签分类、人机交互筛选和精准信息推送等。典型的人机融合的信息筛选推送框架如图6所示。图6人机融合的信息筛选推送框架构建用户画像模型，通过网络爬虫和相关方法全面收集用户的相关数据，应用数据清洗、转化和归约方法处理数据并归一化，再对用户标签进行权重计算，构建标签词库，进行标签映射和生成用户画像；基于用户画像对标签进行分级，对用户标签进行由粗到细和逐个级别的关联分析，进而发现用户属性的多样化特征，构建出用户的多维特征标签