“大模型、NFC、人生”与第一性原理

“大模型、NFC、人生”与第一性原理任何一个系统都有自己第一性的原理，是一个根基性命题或假设，不能被缺省，也不能被违反。这篇文章作者将用通俗易懂的例子来为我们介绍“第一性原理”的概念和使用方法，欢迎大家阅读~有一天，我和一个朋友聊起了GPT的模型大小。我提到GPT3的模型大概有40GB，但他却认为应该是几百GB。我说他弄错了，因为我清楚地记得自己曾经问过ChatGPT：但是，后来我查了一下，发现他是对的，GPT-3的模型大小确实是几百GB。这一次，我被ChatGPT忽悠了。其实，如果我们使用“第一性原理”，就可以估算出这个数值的大致范围。深度学习训练出的大模型中，最主要的是亿万个神经元，而每个神经元最重要的是其参数，即节点的权重和偏置值。GPT-3的模型共有1750亿个参数，而这些参数通常使用4个字节的浮点数来保存的。因此，我们可以通过简单的乘法来估算出GPT-3的模型大小。具体来说，1750*4=7000亿字节，即700GB。实际上，GPT-3的模型是800GB，与上述估算接近。类似地，GPT-1、GPT-2的模型大小也符合“乘4”的规律。GPT-1有1.17亿个参数，模型大小约为0.47GB（1.17亿*4=0.468G）。GPT-2有15亿个参数，模型大小约为6GB(15亿*4=6G)。你看看，了解了一个事物的本质，遵循“第一性原理”，就能做出较为准确的推理和判断。所谓“第一性原理”，是一种从基本原理出发、剥离已有经验和假设的思考方式，由亚里士多德提出。其实，就是追求底层逻辑、遵循本质的原理。马斯克对“第一性原理”特别推崇，并不断进行实践。比如，利用“第一性原理”造火箭。当马斯克开始研究火箭制造成本时，他发现传统方法成本极高。通过运用第一性原理，他深入研究火箭的基本组成部分和制造过程，找到了降低成本的方法，从而创立了SpaceX。这使得火箭制造成本大幅降低，实现了可回收和重复使用的火箭，为航天领域带来了革命性的改变。利用“第一性原理”，特斯拉制定了“纯视觉”的自动驾驶技术路线。马斯克和特斯拉团队认为，人类驾驶员主要靠视觉来驾驶汽车。他们从这个基本原理出发，坚信纯视觉系统可以实现完全自动驾驶，而不依赖激光雷达等其他传感器。因此，特斯拉专注于优化摄像头和计算机视觉算法，大大提高了自动驾驶性能，使特斯拉的自动驾驶技术在业界处于领先地位。遵循“第一性原理”制造特斯拉“人形”机器人Optimus。特斯拉机器人是特斯拉公司计划开发的一款人形机器人，旨在实现自动化生产、家庭服务等功能。从第一性原理出发，马斯克认为这个世界上大部分基础设施和工具都是为人类设计的。因此，开发一个能够与人类一样灵活地使用这些工具和设施的机器人是有意义的。特斯拉机器人的设计目标是解决一系列通用劳动问题，从而提高生产效率和改善人们的生活质量。其实，在生活当中，我们也可以应用“第一性原理”。例如，用“第一性原理”复制门禁卡。有一天，我想把门禁卡存入手机的NFC软件中（称为手机A），方便开启单元楼的门。但手头只有另外一个已经复制了卡的手机（称为手机B），而没有实体卡。在研究了一下之后，我发现手机的NFC软件并没有分享卡片的功能。在几乎要放弃的时候，我想起了“第一性原理”——手机B的NFC卡既然能打开门禁，那么它工作时其实就相当于是一张实体门禁卡。于是，我把手机B中的门禁卡“打开”，将手机A靠近手机B，并选择添加门禁卡。结果，成功地将门禁卡复制到了手机A当中。接着，我们再思考一个更加宏大的哲学问题：人生的目的和意义究竟是什么？对于这个问题，我们可以尝试运用“第一性原理”来加以探讨。在这个崇尚物质和金钱的社会里，很多人可能认为人活着就是为了挣钱、为了拥有豪车豪宅、为了追求名利地位。然而，如果我们深入思考，追求这些东西的最终目的究竟是什么呢？当我们不断追问背后的原因，我们会发现，所有这些追求的最终目的都是为了实现的幸福和快乐。因