人工智能的威胁

1、人工智能的威胁人工智能的威胁假如?纽约时报?的报道属实，当今的人工智能已经开展到令人无法想象的程度。比方，自动驾驶汽车；苹果siri智能语音可以听出你的声音，帮你找到最近的电影院。IB公司最近刚刚推出一款冒险智能软件取代了沃森系统用于医疗作用，最初是用于培训医学院学生，最终将运用于临床治疗阶段。如今，几乎不到一个月就有一款最新的人工智能产品问世。不过，其中有许多最新的创造还不成熟，据我之前的分析，目前我们仍然没有创造出具有想象力，天然语言处理系统的智能，或是智能创造其他机器的才能，而我们在开发人类大脑的道路上已经停滞不前了。在某种程度上，支持者与反对者之间的区别就是时间期限。比方，将来学家、创

2、造家雷蒙德库兹韦尔就认为20年智能就能研发出真正接近人类智力程度的人工智能。而我认为这个过程起码如今，几乎不到一个月就有一款最新的人工智能产品问世，而我们在开发人类大脑的道路上已经停滞不前了人工智能的威胁格力马库斯/文李雨蒙/译需要20年，尤其要考虑到创造常识正常思维的困难，创造人工智能的挑战，还有软件技术，都比库兹韦尔预测的要困难得多。然而，从今往后的一本文由论文联盟搜集整理个世纪里，没有人会在意人工智能的开展需要多久，只会关心将会出现哪些先进的人工智能。或许在这个世纪末，人工智能就会变得比人类更加智慧不仅可以解决国际象棋、琐碎小事等等，根本可以处理所有的事物，无论从数学、工厂还是科学和医药

3、。还剩下一小局部创造类工作留给人类，比方演员，作家或是其他创意类工作。最终的电脑系统可以完成自我编程，获取大量的最新信息。我们这些碳基生物的模糊印象，他们可以在分分钟就分析处理完成，也不需要长时间的睡眠或休息。对于支持者来说，人工智能的将来充满希望。库兹韦尔就曾撰文发表自己一个大胆的设想，就是人类与智能机器结合，将人类的灵魂上传到人工智能中，使我们的灵魂永生；彼得迪亚芒蒂斯那么认为人工智能是开启富裕时代，拥有富足食物、水源、消费工具的重要因素。不过，反对者像埃里克布林约尔松和我很担忧机器人职业化和人工智能带来的隐患，即使不去考虑高级人工智能对劳动力市场的影响，功能强大的智能机器也会威胁人类的生

4、活，与人类争夺有限的资源。大多数人把这种担忧看作是科幻小说里的蠢话像?终结者?和?黑客帝国?这类。在一定程度上，我们需要将来很长一段时间做好打算，我们要担忧小行星会撞地球，化石燃料产量下降，全球变暖等问题，而不用担忧机器人问题。可是，詹姆斯巴雷特的黑暗系新书?我们的最终创造：人工智能和人类时代的终结?，描绘了一种严峻的情况，我们至少应该有所考虑。假如机器最终取代了人类正如在人工智能领域工作的人所坚信的那样，真正的问题在于价值观：我们如何把价值观输入机器中，当它们的价值观与我们的价值观发生了很大的冲突时，我们该如何和这些机器协商呢？牛津的哲学家尼克博斯特罗认为：我们不能乐观地假设，超级智能一定会

5、分享人类的智慧和智能开展形成的价值观对科学的求知欲，对别人的关心和仁慈，精神启发和沉思，抑制物质占有欲，高雅的文化品位，对感受简单生活的快乐，谦虚无私等等。或许通过专门的训练，可以创造出拥有这些价值观的超级智能，或是珍惜人类财富和高尚道德的超级智能，或是设计者想要它拥有一些复杂目的的智能。这是可能的可能从技术上说更简单打造一个可以把最终价值都放在计算圆周率小数上的超级智能。英国控制论学者凯文沃里克曾问道：当机器不在我们人类所处的思维次元中考虑时，你如何跟它理论，如何与它做交易，如何能明白它的想法？假如说巴雷特黑暗系理论有破绽的话，那就是他未经考虑就提出的假设：假如机器人聪明到可以下棋，那它可能

6、也会想要制造宇宙飞船在任何足够复杂，有目的驱动的系统中都是天生具有自我保护和获取资源的本能。如今大局部机器都非常先进，比方，IB公司的深蓝系列电脑，但是目前它们还没有显示出想要获得资源的兴趣。可是，在我们感到沾沾自喜，确定无需担忧时，别忘了有一点非常重要：我们要意识到随着机器越来越聪明，它们的目的也是会变化的。一旦电脑可以有效地重新给自己编程，成功地提升自己的性能，到达所谓的技术奇点或智能爆炸，那么我们就不能无视机器在与人类抢夺资源和自我保护的比赛中会有胜过人类的风险。在巴雷特书中，最鲜明的观点之一是来源于著名的系列人工智能企业家丹尼希利斯，他把即将到来的转变比作生物进化史上最重大的转变之一：我们如今到达的高度就像是一个单细胞有机体转变为多细胞有机体的高度。我们是变形虫，我们不清楚自己在创造的到底是个什么东西。无论怎样，人工智能的进步已经到达了我们从未想过的危险。德雷塞尔大学的电脑风险专家加格跟我说：随着因特网时代的到来和大数据时代的爆炸，人工智能已经搜集了有关我们的许多数据，并输入计算程序，做出预测，我们无法知道