人工智能在侦查中的应用风险及其防范

摘要：人工智能技术的广泛运用，使传统侦查处于发展机遇与风险挑战并存的情境之中。分析人工智能在侦查中的应用风险，加强前瞻预防与约束引导，以提升人工智能在侦查应用中的效益。通过系统梳理人工智能在侦查中的应用现状，预判各种可能的具体表现形式，分析人工智能在立案、侦查、侦查终结各阶段存在的应用风险，以及始终存在的隐性应用风险。据此，应结合我国侦查发展实际，针对不同应用阶段的风险提出相应的立法、完善相关规范等规制措施，充分发挥人工智能在辅助侦查方面的潜能，有力提升公安工作效能。国务院于2017年7月印发的《新一代人工智能发展规划》(以下简称《规划》)明确指出“目前人工智能已经成为国际竞争的新焦点，很多发达国家将发展人工智能技术作为提升国家竞争力，维护国家安全的重大战略，我国应当抓住机遇，构筑发展的先发优势。”面对国际社会日益复杂的安全形势与局面，传统侦查措施及手段已显得左支右绌，在国家安全建设中，侦查工作面临着诸多新的挑战。人工智能经过几十年的技术发展已进入全新阶段，其在侦查领域的广泛应用无疑给国家安全建设带来了巨大机遇，对维护社会稳定发挥着不可替代的作用。但侦查机关在享受人工智能所带来红利的同时，也要清醒地认识到人工智能可能给侦查工作带来的风险挑战，据此要加强前瞻预防与约束引导，最大限度地发挥人工智能在侦查应用中的效益。2人工智能在侦查中的应用及价值2.1人工智能在侦查中的应用人工智能作为大数据与智能算法耦合下的技术升级，是一个开放的智能体。人工智能在侦查领域的应用并非单纯技术手段的叠加，而应是在符合侦查原理和逻辑基础上的应用场景智能化，以推动实现智慧侦查。2.1.1智能检索与研判犯罪情报情报分析是犯罪情报工作的核心内容之一。犯罪情报分析的主要目的是揭示犯罪活动的本质、规律、发展趋势及侦查对策，对侦查行为和侦查决策具有重大意义2.1.2智能获取刑事证据2017年9月，我国首例通过人工智能技术盗取公民个人信息的案件被成功侦破，成功截获十亿余条公民个人信息。随着信息化社会的发展，非接触性犯罪案件逐渐增多，由于这些案件存在着犯罪行为各要素之间无直接物理接触，作案时间、空间跨度大、分布广等特点，致使破案率较低，挽回的经济损失较少。在非接触案件中，犯罪行为会留有大量难以消除的电子证据，侦查人员在如何发现并固定电子证据方面仍需进行深度思考。特别是在大数据时代，海量的电子数据使得人工对证据的发现和固定变得更为困难在传统的犯罪现场中，通过人力进行现场勘查存在一些限制性因素，而犯罪智能化的发展趋势进一步加深了人力现场勘查的工作难度。人工智能技术可以适应当下犯罪行为复杂多变的发展趋势，对犯罪现场进行全方位立体式拍摄，并可提取到人工受视域限制无法获取的刑事证据。如在一些有毒有害等可能威胁侦查人员人身安全的现场，可应用无人机飞行平台进行远中近距离的拍摄，快速、及时、多角度地取得第一手证据资料。2.1.3智能识别影像、痕迹当前视频侦查技术已经成为第四大侦查技术，侦查机关应用视频监控对犯罪嫌疑人进行身为主，人工为辅”已逐渐成为常态，视频监控及图像分析等系统被广泛使用，人工智能技术功能得到初步显现。如将人工智能技术与视频监控深度融合，对人脸、车辆进行识别分析以追踪目标轨迹，排查出犯罪嫌疑人及可疑车辆。同时，人工智能技术可以对视频监控中的画面进行深度分析，通过行为人的行为特征，判断行为人是否具备实施盗窃、伤害、恐怖袭击等犯罪意图，从而对异常情况及时做出预警。对足迹、指纹等生物特征的识别是人身同一认定的有效手段，但在一些案件中，具备一定反侦查能力的犯罪人会对遗留痕迹进行清除或伪装，干扰现场取证。人工智能技术应用于人体痕迹物证识别可大大提高分析识别的准确性，为侦查破案提供重要的科学依据和科学导向。当前对足迹的智能识别有三维立体足迹采集与分析系统及足迹自动识别系统；对指纹的智能识别是利用取像设备读取现场指纹，通过识别系统对提取到的特征数据进行处理并计算出匹配结果，以确定犯罪嫌疑人身份。在现场勘查中，任何与犯罪有关的痕迹都应当及时从犯罪现场提取出来，并尽可能保存其原有形态，除了上述对人体痕迹物证的识别之外，人工智能技术还可以实现对枪弹痕迹、工具痕迹、文书物证等内容的智能识别。如对枪弹痕迹的智能识别中，主要是将采集到的枪弹痕迹图像输入枪弹自动识别系统，分别对弹头和弹壳表面的立体痕迹进行三维比对，进而分析算出符合条件的枪支。与此同时，人工智能技术的运用也提升了痕迹档案的智能化水平，痕迹档案从收集到运用变得更为准确、高效。2.1.4防控犯罪智能缉捕目前，我国已经建成世界最大的视频监控网络项目——天网工程，在交通要道、公共区域等治安较为复杂的场所安装了两千余万个监控镜头。这项工程中的人脸动态比对预警及人员轨迹分析追踪功能可以为智能缉捕犯罪嫌疑人提供强大支撑。对犯罪嫌疑人实施追逃和抓捕时，利用天网工程确定犯罪嫌疑人的行动轨迹，并使用无人机技术快速追踪犯罪嫌疑人，无人机还可搭载电磁干扰设备阻断犯罪嫌疑人向同伙通风报信。在未来的人工智能侦查活动中，可以给无人机配备辣椒水、催泪弹等轻型武器，协助配合侦查人员控制犯罪活动、缉捕犯罪嫌疑人，降低人员的伤亡率。2.2人工智能在侦查中的应用价值推进人工智能在侦查工作中多方位、多角度的运用，可发挥出人工智能技术在优化侦查模式、丰富侦查技战法、提升侦查工作效率和质量等方面的积极作用和价值，有力促进侦查2.2.1优化侦查模式，提高侦查效益随着人工智能时代的来临，除传统侦查模式外还出现了很多新的侦查模式，侦查模式由回溯型转向回溯与预测型相结合。人工智能侦查在提高侦查效率的同时，通过对数据的分析研判，可对犯罪热点区域、犯罪概率、高危人员等做出有效预测，侦查人员可根据预警及时采取相关措施预防犯罪。人工智能侦查是犯罪风险防控、预测性侦查、精确侦查三者的有机组合，依托大计算能力及机器深度学习技术，采集海量数据进行深度分析，为侦查活动提供精确、科学、数据化依据，减少侦查失误并提升侦查效益。2.2.2丰富侦查技战法，推进合成作战体系建设针对当前的犯罪特点及形势，传统的侦查技战法已经无法满足现实需求，人工智能侦查为丰富提升传统侦查技战法提供了可能。在人工智能技术的辅助下，侦查技战法正在由单纯使用侦查人员总结的侦查隐性知识向人机互动方向转变。无人机的使用促使现有侦查技能实现大幅提升，形成了空中与地面相互配合的全方位、立体式作战法。部分侦查机关积极整合侦查资源、技术和方法，主动打破部门、层级壁垒，形成了强大的侦查合力，有效推进了合成作战体系建设，各侦查机关之间统一指挥、资源共享、协调作战，最终可形成合2.2.3提高侦查效率，缓解警力不足当前传统类型犯罪数量减少，而互联网、电信等非接触型犯罪大幅增加，涉众型经济犯罪形势较为严峻。面对此种犯罪类型和特点，传统侦查模式必然会加剧警力不足的情况。大数据、人工智能技术应用于侦查，有效推动了侦查模式、侦查思维、侦查方法等方面的重大变革，侦查情报来源广度和深度都得以提升。将数据资源与技术思维、逻辑推理等相互融合，通过资源共享、数据碰撞、分析研判、智能辅助决策，减少合成作战的盲目性，准确比对出犯罪嫌疑人，提取和固定相关证据，大大提升了侦查效能。同时，人工智能技术的应用还可代替侦查人员从事重复性简单工作，从而有效缓解警力紧缺的现状。2.2.4排除证据矛盾，提升侦查质量人工智能技术可以对刑事证据进行全方位、多角度、立体式的固定与提取，智能办案辅助系统同时具备证据标准指引、证据校验及审查判断等作用。侦查机关运用人工智能技术对证据进行形式上的筛选与把握，判断侦查活动中获取的某个证据是否具备证据能力的形式化要素，梳理分析证据之间是否存在矛盾，对各项证据是否达到移送起诉标准进行审查判断。人工智能虽然不能完全替代侦查人员，但也可帮助侦查人员避免一些主观偏差与失误，在侦查阶段减少执法过错，及时发现证据存在的矛盾及缺失，促进案件顺利移送起诉，提3人工智能在侦查中的应用风险伴随人工智能技术的发展，人工智能在侦查工作中得到了多维度、全方面的应用，在立案、侦查、侦查终结等各个阶段都扮演着越来越重要的角色，但与此同时，其也给各阶段的侦查工作带来了风险与挑战，人工智能在侦查中的应用风险及规制措施如图所示。3.1立案阶段的应用风险在立案阶段，侦查机关应积极发现并收集犯罪线索或信息，认真审查核实各类线索或信息的内容及来源，如发现犯罪线索或信息，侦查机关应及时立案侦查。人工智能技术可以实现对犯罪线索或信息的分类、检索、分析研判及深度挖掘，为发现犯罪线索、预测犯罪行为提供了强有力的技术支持。但人工智能固有的属性和发展特征会不可避免地在线索的收集、判断中产生偏见；由于在无具体犯罪嫌疑的前嫌疑阶段即深度挖掘数据资源进行犯罪线索的侦查，人工智能侦查模式也同传统立案程序存有一定的冲突。3.1.1线索收集、判断中的“偏见效应”与“黑箱效应”犯罪线索或信息数据的发现收集过程中存在着“偏见效应”。由于数据源受不同角色、动机、专业程度的影响，精准度会发生偏离，一些地区由于3.2侦查阶段的应用风险3.4隐性应用风险——信息泄露除上述存在于各侦查阶段的风险外，人工智能技术在侦查工作的应用中还存在着一项贯穿始终的隐性风险——信息泄露。人工智能的应用与发展需要以海量数据为支撑，海量的数据中既包含侦查机关所需的犯罪线索或信息，也囊括了大量机关团体、企事业单位及公民个人的数据信息。因此，与大数据侦查相类似，人工智能侦查也面临着信息泄露的风险。随着大数据侦查及人工智能侦查的兴起，公安机关构建的警务云平台汇聚了日常警务活动及各类网络运营商提供的数据，侦查部门通过多种渠道收集、存储、管理着越来越多涉及机关团体、企事业单位及公民个人的数据信息。集聚大量数据能够在案发之后帮助侦查机关最大程度地获取线索或信息，但同时也为网络黑客入侵盗取数据信息埋下了隐患数据对存储、运算性能的要求，在数据传输过程中可能因系统崩溃而造成信息泄露；二是一些不法分子以窃取贩卖信息牟利，侦查机关的数据库有时会遭到黑客或网络病毒的攻击而导致信息泄露；三是第三方数据公司向侦查机关提供数据的过程中可能发生信息泄露；四是个别侦查人员的信息安全意识不强，工作中疏忽大意造成信息泄露。由此可见，侦查机关在利用人工智能进行数据信息的收集、筛选、智能分析研判的整个过程中都存在着信4人工智能在侦查中的风险规制4.1立案阶段的风险规制4.1.1规范线索收集判断，降低数据与算法偏见数据局限和算法偏见是数据和算法的固有特征，数据局限和算法偏见不可能完全消失在确保数据准确的同时，不断完善和提升算法是提高人工智能客观性水平的关键。算法偏见是人工智能技术中的顽疾，在对算法进行规制时，不仅要通过技术方法进行校验，还应将法律规范、法律规制、侦查技术、侦查措施及侦查隐性知识等嵌入其中，以期更好地消4.1.2设置告知及解释程序由于人工智能技术中在数据收集判断中的“偏见效应”和“黑箱效应”,相关程序无法实现完全透明化。因此，对于因受到人工智能决策而可能遭受不利后果的当事人，在不泄露国家秘密和侦查秘密的前提下，侦查人员应告知其人工智能分析的基础及分析后果，并赋予当事人在得知整个过程及结果后的解释权。鉴于当事人可能不具备相关专业知识，可以选派专业的律师帮助其进行审查并提出意见。在专业律师的帮助下，当事人可以对数据源、数据算法、分析结果等提出异议，并就自身行为做出合理解释。这种程序也可以使侦查人员及时发现人工智能侦查中可能存在的错误及偏见，从而纠正错误、消除偏见、提升办案4.1.3明确人工智能辅助侦查适用程序侦查机关应进一步明确人工智能辅助侦查的适用程序，一般情况下，侦查人员须在犯罪嫌疑初步具备后再使用人工智能技术，确有必要时应当履行必要的审批手续。在使用人工智能技术辅助侦查的过程中，侦查人员要坚持目的正当性原则，以维护国家、社会和公民的合法权益，实现侦查工作目标为目的。同时，还应对人工智能运用于情报分析、犯罪预测等做出详细具体的规定，避免全面监控、大规模监控常态化。4.2侦查阶段的风险规制4.2.1将检察官审批制与侦查机关内部审批制相结合现行法律法规中对侦查行为的分类无法涵盖人工智能技术辅助侦查这一新兴措施，这类侦查措施的运行机理与法律上已做出明确规定的传统侦查行为具有较大差异，应将其视为一般侦查措施予以单独规范，以期最大程度地发挥人工智能这一先进科学技术手段在侦查中的应用价值。基于现有法律规范经验与国际社会通行的规范策略，规范路径主要还是应遵循合法性原则与比例原则或称之为必要性原则这两项传统法律规范工具4.2.2规范取证程序，提升取证效率，有力发挥辅助判断作用人工智能技术可以辅助侦查人员对证据能力进行判断，及时排除非法证据，辅助证明单个证据的证明力、提升全案证据的完整性，在规范侦查取证程序、提升取证效率方面可发挥重要作用。一是利用人工智能技术指引取证合法性及操作程序。人工智能技术通过前法编辑，对侦查阶段收集的证据参照刑事诉讼法及《关于办理刑事案件排除非法证据若干问题的规定》等相关法律法规，指引取证的合法性和取证程序，从而及时补正瑕疵证据、排除非法证据。二是辅助判断单个证据证明力。对于侦查人员收集的单个证据，人工智能技术可以辅助侦查人员判断证据的客观性、相关性，对于单个证据存在的问题及时调整侦查思路或取证策略，纠正侦查人员的认知偏差。三是辅助全面收集证据。侦查人员可以利用人工智能技术的提示全面收集证据，及时发现证据链的遗漏之处。利用人工智能技术辅助证据判断时，应注意人工智能系统的辅助性质，其用于发现取证合法性和程序问题，对于证据判断也只是起辅助判断作用。侦查人员应发挥主观能动性，对单个证据的证明力大小，全案证据是否存在矛盾之处等审查判断，避免过度依赖人工智能4.3侦查终结阶段的风险规制4.3.1加强侦查队伍建设，着力提升核心侦查能力侦查工作本质上还是需要由侦查人员来开展的，人工智能技术只能是辅助手段。人工智能技术虽然可以辅助侦查人员侦破智能犯罪、节约人力物力，但同时更要求侦查人员本身具备较高的职业技能、积极发挥主观性。(1)侦查机关应不断加强高端侦查人才队伍的建设工作，建提升人工智能专业能力。在对侦查人员进行入职、警衔晋升、日常业务等培训时，除讲授侦查基础业务知识外，还应当由专业的技术人员讲授大数据、人工智能等最新专业技术的应用，及时更新侦查人员的知识储备。二是引进具备专业技术的人才充实民警队伍。侦查机关应注重高新技术人才的引进，只有培养内部的人工智能技术人才才能避免一些企业对信息的垄断，减少因缺少专业知识所导致的价值偏见。三是建立人工智能考核监督人才库。随着大数据及人工智能技术的发展，侦查模式、侦查思维、侦查措施等都发生了重大变革，人工智能技术辅助侦查工作需要懂人工智能技术的专门人员进行考核监督，及时发现并纠(2)侦查人员应积极顺应时代的发展，加强自身专能发展观，避免两个极端倾向。人工智能技术辅助侦查可以有效提高侦查工作效率和质量，侦查人员应主动学习人工智能相关技术知识，用先进的知识来武装自己、提升自己。同时也要摒弃人工智能技术“万能论”思想倾向，避免过度依赖人工智能技术。二是要深入学习法学理论知识及指导性案例。侦查人员要充分利用人工智能提升破案效率节省的时间，深入学习法学理论知识，分析研读相关司法解释、指导案例、新型案件、疑难案件等，提升自身侦查基础业务知识4.3.2强化责任体系建设，完善追溯问责机制明确人工智能的责任归属及担责方式是较为复杂的问题，涉及到法律人格、侵权责任等问题。但对于人工智能技术在侦查中运用的问责来说，由于人工智能技术本质上只是侦查的辅助手段之一，对其构建问责体系应适用侦查办案质量终身负责制。人工智能技术可能运用于侦查破案的某个环节或整个环节，无论人工智能技术在案件中发挥多大的作用，都应依据侦查人员在案件中所起的作用，如鉴定人员、讯问人员、现场勘查人员等，分别承担责任。唯有此，才能有效督促侦查人员认真履行职责，审核监督人工智能的工作状况，防止互相推卸责任，减少或杜绝冤假错案的发生。当然，如果是因人工智能技术的开发者或技术设备制造者的工作失误所造成的错案，在对具体办案人员追责的同时，也应视具体情况追究相关人员的相应责任，警示强化技术人员与制造人员的责任意识，使人工智能技术在明确具体责任的同时，也应构建立体化、透明化的监管体系，建立专业的监管队伍，从人工智能技术的数据收集、主题确定、数据筛选、建模等环节，到人工智能技术的具体应用环节都应加强监管。监管人员应熟悉数据使用和算法设计的具体规则，并对信度和效度进行严格测试和评估，同时系统应将用于决策的事实和法律生成审计数据，服从第三方审核4.4隐性风险规制——多维度加强信息保护4.4.1强化基础设施维护和技术手段更新侦查机关应定期对硬件设备和网络线路等进行检查、维护和更新，不断强化基础设施建设，强化应用防火墙等安全