人工智能是否应具有法律主体地位

1、1人工智能是否应具有法律主体地位人工智能是否应具有法律主体地位刘丽人工智能已成为近儿年的热门词汇，发展势头迅猛， 这也同时引发了人们对 人工智能可能造成的法律风险的热烈讨论，其中一个非常重要的理论问题就是人 工智能是否应被视为法律主体。法律主体是能够缔结法律关系的“人”，因各个 国家法律制度的差异，大致包括自然人、法人、非法人团体，棋至是一些非生命 物体，如河流、公园、生态环境等。法律主体的确定对解决任何争议都至关重要， 因为只有先确定法律主体，才能接下来讨论法律责任的分配问题。对人工智能应 否被承认为法律主体的讨论也因此而起。人工智能可以划分为弱人工智能和强人工智能， 法律主体地位问题主要针

2、对 强人工智能然而，并非所有人工智能都具备成为法律主体的特征。按照U前普遍接受的 分类方式， 人匸智能分为弱人工智能和强人工智能。 弱人工智能系统只能执行为 其设计好的任务，如语言翻译、导航等，除了其既定程序之外做不了别的事情， 因此其能力范围很窄。LI前应用的所有人工智能，包括最复杂的通过机器学习以 及深度学习来自主提升的人工智能，都属于弱人工智能的范畴。强人工智能可以 完全像人类一样学习、认知、理解并行动，能够完成多个目标，棋至可以在不确 定或者模糊的情况下独立设定新LI标。事实上，强人工智能就是我們在电影、文 学作品中所熟悉的机器人和人工智能的形象。但是，LI前强人工智能还不存在, 也有

3、人对强人工智能究竟是否可能出现持怀疑态度。因为LI前应用的各类人工智能都属于弱人工智能，也就是专注于且只能解决 特定领域问题的人丄智能，例如我们所熟知的AlphaGoo这些人匸智能因能力所 限，还属于工具的范畴，是法律上的客体，人们对此定位并无争议，也不在我们 这里的讨论范围之内。人们争议的焦点是强人工智能，即能胜任人类所有工作的 人工智能。虽然LI前技术上还无法实现强人工智能，但是很多科学家都很乐观, 认为这一天很快会到来，因此针对此类人工智能的法律主体地位问题开展前瞻性 的讨论非常有必要。我们后面所提到的人工智能都是指强人工智能。不少人提出人工智能应成为法律主体，认为人工智能可以自主决策、

4、享受权 利、承担2法律责任目前， 国内外不少人认为应考虑赋予人工智能或者与法人主体类似或者具有 一定限制的法律主体地位，主要基于以下儿点理由：一是人工智能可以自主决策, 具备和人类一样的“理性”和“自由意志”。持此观点的人认为，法律上主客体 的根本区别在于是否具有自由意志”，人工智能可以自主决策，表现出与人类 似的行为，能力与人类已经无异，符合法律主体的“自由意志”的要件，应赋予 其主体地位。况且，人匸智能表现得与人如此类似，人类很容易与之共情，再将 其视为工具或者为人类服务的电子奴隶，伦理上和感情上都难以接受，赋予其法 律主体地位才更为恰当。二是人工智能可以享受权利。人工智能成为法律主体可以

5、解决D前人工智能 创造物的知识产权权利分配的难题。事实上，人工智能创作出来的歌曲、诗歌等 已经达到了让普通人类受众难以将之与其他人类作品区分开来的水平，不少人认 为应将这样的作品视为知识产权意义上的“作品”。但是这种做法却难以在山谁 来拥有这个作品的问题上达成共识。U前认为山算法设计者或者人工智能所有者 拥有作品，或者棋至使此类作品进入公共流通领域的解决方案都难以自圆其说, 若承认人工智能为法律主体， 则此类问题立即迎刃而解。三是人工智能可以承担法律责任，从而解决人工智能致害的责任分配问题。在人工智能可以享受权利的情况下，其既可以拥有知识产权权利，也可以拥有其 他财产权利以及获得报酬等。因此，

6、在对其他法律主体造成损害的情况下，人工 智能可以用其所拥有的财产提供金钱上的救济。从这个意义上来讲，人工智能与 法人非常类似：独立决策、拥有财产并承担法律责任。而且因为人工智能自主决 策，其导致的损害如果让设计者、生产者或者拥有者其中任何一方或者共同来承 担责任都有失公平，让人工智能独立承担责任更为恰当。人工智能成为法律主体存在不少潜在风险， 不应赋予人工智能法律主体地位 尽管人工智能成为法律主体可以解决上述诸多问题，但是此种做法带来的不 利后果却应更加重视。首先，人工智能的自主决策能力是算法运行的结果，是对 人类行为的模拟，而非其自发产生的能力。实际上，人工智能是人造出来的产物， 其生命产生

7、机理以硅基为基础，与人类这样的碳基生物完全不同。因此，尽管人 工智能可以学习、思考、决策，却不会与人类一样感受痛苦，也不必面临死亡。如果人工智能成为法律主体，因为其能力已经与人类无异，将来其至有可能迅速 过渡到超人工智能时代。届时整个社会将不再以“人类为中心”。人3工智能也许 可以与人类和平共处，但其更有可能成为人类的强大竞争对手，而且因其不会死 亡，无法感知痛苦，允许人工智能成为和人类一样的法律主体，人类很可能失去 主体地位，沦为客体，甚至灭亡。其次，权利对人工智能可能具有与人类不同的意义。人工智能作为法律主体, 可以享有大部分其他法律主体享有的权利，如包括知识产权在内的财产权利，缔 约权利

8、，其至言论自山权利等。但是人工智能作为人造物，其价值追求与人类并 不一定相同，这些权利对其而言可能并不具备与对人类相同的价值。比如人工智 能无需积累财富，提升生活水平，追求幸福等。人工智能也可能不像人类那样有 各种各样的消费需求。因此，人工智能在对其财产作出处分决定的时候可能并不 会遵循人类社会的经济规律。如果为了规避这一问题而给人工智能配备监护人， 则人工智能的自主决策”能力就失去了意义，也为人类主体侵犯人工智能的财 产权利留下了空间。最后，人工智能承担的法律责任有限。人工智能致人损害时，仅能通过金钱 赔偿的方式提供救济，在此种救济方式不充分的情况下，通常适用于人类的惩罚 方式如缓刑、监禁、

9、死刑等都不适用于人工智能，因为人工智能既不会感知痛苦， 也不会死亡，有些其至没有固定的实体，这些刑罚方式对人工智能没有震慑作用。 虽然人工智能可以比较充分地承担民事责任，但是其作为与人类一样拥有“自由 意志”的法律主体，自主决策，并非像其他非人类主体一样由人类代表其意志, 却可以不受惩罚地侵害其他法律主体的利益， 或者更确切地说，惩罚方式对人工 智能失去了效用，就会形成一块法律责任的“真空地带”。这就造成了一个局面, 即能力上人工智能与人类相同，行为后果上，人工智能比人类承担的责任要少。在这种情况下，承认人工智能的法律主体地位，人类相当于主动把自己置于一个 劣势的不平等位置,可能导致人类受到人工智能的欺压，其至直接面临生存危机。从上面的讨论中，我们可以看出：人工智能不应被承认为法律主体，因为人 类将为此承担不必要的风险， 棋至有可能威胁全体人类的生存。 但是人工智能技 术的发展不容忽视，未来必将更多地融入并影响人类的生活。应对人工智能引发 的法律问题，一方面需要深入研究如何规范人工智能算法的伦理，使设讣者、生 产者和使用者都成为利益相关者，尽量增强算法的透明度和可解释性，确保人工 智能技术的发展与人类的价值和愿望相符合。另一方面，可能需要我们打破传统 的主客体二元范式，不再局限于传统的人类以及非人类法人实体的讨论，创造出 新的可以适用于人工智能的规则。【注： 本文系北京市社