《刑事人工智能规制路径探索探析》4000字

刑事人工智能规制路径探索分析综述目录TOC\o"1-2"\h\u23128刑事人工智能规制路径探索分析综述 123636(一)认识层面：以人为本、认识定位 129635强化法官的主体地位 120544定位人工智能助手地位 28604人机协同下的合作实践 219329(二)技术层面：数据管控、透明公平 315507实现数据共享 3779加强数据管控 428875构建算法体系 431111(三)实践层面：负面清单、强化约束 526894构建问责机制 515924建立负面清单 5认识层面：以人为本、认识定位由于人工智能是近年来才迅速发展的技术领域，所以该方面的权利保护问题在很长一段时间内并没有引起人们的广泛关注。但是随着新一轮人工智能技术飞速发展，其带来的技术侵权问题日趋明显。对于该问题应该以何种理念进行解决，当今社会逐渐达成了一致意见。2019年二十国集团部长级会议上，通过了《G20人工智能原则》，其中明确指出了人工智能原则中的“以人为本”理念。这说明在解决人工问题的相关问题上，需要清醒地认识到人才是解决问题的核心。强化法官的主体地位司法的亲历性、公正性等特点决定了法官始终是审判的主体。因此针对司法实践中审判权易位的问题，应当首先要求法官的主体性地位。首先，需要在进行初步的证据审查之后，法官坚持对人工智能结果进行最终审查。为了减轻法官前期的证据审核的过重负担，部分人工智能系统会在初步筛选中自动过滤部分证据不足的案件，但是这实际上是对法官审判权的一种变相侵蚀。所以要以法官证据审查制度为基础，对人工智能系统进行初步审查的证据，法官也要基于自身的法律推理、职业经验等对人工智能进行初步筛查过的证据进行进一步审查。法官同时也要将最终审查的结果反馈给人工智能作为其进一步学习的数据，帮助其更好地修正偏差，提升判断的准确性。其次，要尊重法官的独立性，确立法官对案件的终审权力不可侵犯。虽然量刑辅助与偏离预警等功能作为辅助法官审判的工具可以提升裁判的效率，但是这些工具实际上也会增加法官工作的惰性。不仅如此，部分系统的偏离预警功能一旦与法官的裁判结果出现偏差，就会导致系统停止运作。这些都证明需要充分尊重法官在最后裁判过程中的独立性，法官对上述工具提供的干预建议只能进行参考，对事实认定与法律适用这类涉及案件审判核心的干预建议一定要充分考虑，最后自行决定。定位人工智能助手地位出于对人工智能替代论的忧虑，应当坚持“有限智能化”的原则对人工智能的学习与提升进行限制。虽然随着人工智能技术的进步，我们有理由相信人工智能系统在不远的未来可以通过深度学习实现与优秀的法律工作一样的裁判能力。但是对人工智能的功能，一定要严格定位其限度，不能将其应用于全部的法律程序，而应当在利用其数据采集分析等优势的可行性上，合理限制其功能于辅助地位。在司法实践中，应当对人工智能的应用做到多元化、差别化，规范其适用范围。比如人工智能在检索、收集等方面具有天然的优势，所以针对部分事实简单清晰的案件与非审判事务，如果利用得当，其发挥出的作用会比现今更加巨大。而针对事实认定与价值判断这一复杂的问题，则是需要严格限制其适用，慎选其相关建议与功能。一是将其更多运用于案例分析、证据收集等非裁判性事务；二是将人工智能进行案件类型分类适用。而出于刑事司法案件的特殊性，由于涉及到公民的财产、生命、自由等问题，所以将人工智能的适用限定在形式性审核方面更为妥当。人机协同下的合作实践在确定了上述以人为本的定位后，可以清晰地看出未来人机协同下的合作图景。在侦查阶段，由于处于案件的初始阶段，所以对证据的审查应当要求全面与及时。侦查阶段对人工智能的要求在于需要充分倚重其在数据整理、分析方面的绝对性优势，在指定的证据标准和规则的引导下，完整清晰地保存与固定证据链条。侦查阶段对司法工作者的要求在于在人工智能系统的帮助下，主要对证据的合法性与规范性进行审查，这类涉及价值判断的内容需要人工进行最后的决定。在捕诉阶段，主要以检察机关的审查工作为主，其对前一阶段证据的合法性承担监督的职责。在此阶段的人机协同主要在于以下两点：检察机关需要对单个证据的证明力基于自由心证进行裁量，而人工智能可以利用自身的精确与广泛性特点，为办案人员排除明显的矛盾之处提供必要的帮助；其次，检察机关仍然需要对证据的合法性进行审查，而人工智能可以调取其取证的程序、流程等为办案人员提供相应帮助，完善证据链条。在审判阶段，主要以法官的证明裁判为主。“排除合理怀疑”的标准突出了法官在审判中的主观因素的重要性，也决定了人工智能无法实质性参与到此事实认定的过程中来，而应当主要进行证据的规格形式、全案的证据对比等功能的辅助，为法官排除合理怀疑提供相应的辅助。技术层面：数据管控、透明公平实现数据共享大数据是人工智能系统的源泉，所以实现数据共享才能使得人工智能系统沿着正确的方向进一步发展。而现阶段我国司法领域的数据存在质量较低、规模较小的问题，且存在严重的数据壁垒，所以人工智能系统的发展得到了很大的限制。实现数据共享，首先应当以法院系统为主体，实现纵向各级法院的数据共享平台。尤其是裁判文书网这类数据库，应当由全国范围内法院进行数据化整合，使其成为能够被人工智能深度学习的数据资源。最好由最高院牵头进行统一的平台建设规划，利用现有的数据平台，打通各平台之间的数据壁垒，实现海量司法数据的整合。其次，应当实现司法机关之间的横向共享。审判是一个涉及全流程，各机关的司法活动，所以建立一个跨部门与地域的横向平台，制定统一的司法数据标准是重中之重。因为机关之间本身数据的统计标准各异，所以规范司法机关各部门之间的数据标准，才能更好地推动司法信息的横向共享。最后，应当重视与社会机构之间的联系。在司法实践的过程中，相关数据不应当只存在于司法机关中被相应部门所垄断，而应当做出相应的披露。比如可以与高校与科研机构之间进行基于保密法律法规的合作，充分利用国家现有的人才优势，实现数据共享的合作共赢。加强数据管控在上述司法信息实现数据共享的情况下，也应当建立有效的数据管控体系，来更好地提升司法数据库的供给质量。首先是对司法数据的来源真实性进行监督管理。司法数据作为电子数据的一种，也具备其相应可以识别的来源信息与关联痕迹。而确保来源的真实性，则是有利于我国从源头上对司法数据的质量实现提升，所以可以通过比如附属信息验证、网络节点验证等技术方法来对其来源的真实性进行验证。其次是对使用的真实性进行规范管理。由于数据的流通主要通过各种设备与网络，所以会在不同节点中留下传输过程的痕迹。这一点可以作为使用真实性的印证之一，由司法数据管控体系进行保存与备份，避免在数据使用的过程中出现不必要的、恶意的人为篡改，确保其数据使用的真实与安全。构建算法体系人工智能的核心其实在于算法，而算法黑箱也是影响人工智能在司法实践过程中的公正性的一个重大问题。所以我们应当注重构建透明公平的算法体系，主要通过程序设计的透明公平来确定司法算法的可审查性，并能够在出现问题的时候提供良好的可解释性。第一，可以成立专门的司法算法监管委员会。我国可以借鉴纽约市的实践经验，成立一个由人工智能专家、法律从业人员、伦理学者等组成的工作小组，专门对算法是否包括歧视性进行审查，比如设计者是否将歧视性规则嵌入算法，从而尽可能地保障自动决策算法的公平与透明。第二，需要推动算法设计决策透明公正。算法黑箱的存在容易使得社会公众对司法机关的公信力产生怀疑，所以只有提升算法的透明度，才能更好地提升算法的说服力。一是算法的准确性，二是算法的透明性，应当将每一个参数与数据在必要范围内对相关人员进行公开，并让他们理解每个特征量可能造成的影响决策与审判的结果——这样法官在审判过程中对人工智能的辅助才能更加游刃有余。不仅如此，应当以兼具法律与人工智能技术的复合型人才对算法进行有效监督，才能更好地实现算法的公正透明。实践层面：负面清单、强化约束构建问责机制尽管透明度对刑事司法领域人工智能的实践至关重要，但是这只是一个开始，还需要建立相应的问责机制对结果进行保障。在运用刑事司法人工智能的场景中，相关诉讼主体难以对刑事司法人工智能应用进行有效监督。基于此，技术正当程序特别强调刑事司法人工智能的可问责性[[]DanielleKeatsCitron,“TechnologicalDueProcess”,[]DanielleKeatsCitron,“TechnologicalDueProcess”,p.1249.[]MarcinGarbowsk,“ACriticalAnalysisoftheAsilomarAIPrinciples”,ZeszytyNaukowePolitechnkiSlaskiej,vol.115,2018,p.15.通过推进人工智能的研发主体承担解释责任来构建问责机制，具有诸多积极意义：首先，有利于研发主体在设计时更好地基于审慎义务防范可能出现的设计缺陷；其次，有利于具体的应用主体更好地进行理解与接纳有关的刑事司法人工智能；再次，有利于增强刑事司法的公信力，提升民众对相应的算法解释展现出来的自信与透明的信任；最后，有利于外界对相关的人工智能系统进行监督与检验。因此，当研发主体无法尽到释明义务的时候，就应当承担相应的法律责任。在考虑事先的约束机制的同时，也应当同步构事后的追责机制，以实现整体的协调与统一。但是法律责任的设定，也应当追求适度与恰当，不能因此对研发人员的创新精神产生不合理的抑制。基于此，该领域的责任设定，应当以当事人的实质权益受到损害为基础条件，并且差异化对待研发、审核、应用的多个主体。建立负面清单人工智能带给司法行业最大的变化主要是刑事司法人工智能可以代替诸多重复性与可替代性强的工作。不仅如此，由人工智能对此类工作进行取代，不仅会大幅降低办案人员的工作量，还