AI会创造一个“新封建主义”社会吗？

　　最近一段时间，普林斯顿大学政治学者格雷戈里·孔蒂（格雷戈里·孔蒂）在社交媒体 X 上连续输出，讨论人工智能，而且态度日益抬头。

　　8月30日，他提出了一个颇具争议的判断：“超级智能将意味着社会流动性的终结。你再也无法依靠自己的能力和劳动向上攀升，因为拥有最多资本的人只需购买更多算力，就能轻松碾压你。”该帖子附带获得超过60万次浏览。

　　几天后，他的表达更加直接。他在推荐一篇思考AI安全的文章时写道，如果幻想AI可以以一种安全、扁平的方式继续发展，我们要做的就是停止AI开发；在回复美国爱国者理查德·布卢门撒尔时，他直接喊话：“停止AI开发吧。”而就在近日，他又写了一句更情绪化的话：“每一次AI”新进展就像给腹部来一拳。我喜欢那个属于人类、由人类创造、为人类存在的世界。”

　　孔蒂是普林斯顿大学政治学系副教授，也是一位政治理论家和思想史学者。他长期研究现代政治思想，尤其关注自由主义、民主、代议制政府以及厌恶自由等问题；同时担任《美国杂志契约》的特约编辑。

　　近日，他再次分享了自己发表于紧凑型的长文“AI末日已经来临”——AI末日已经到来，并将前景展望得更加直接：AI不给未来带来风险，它已经在此时考虑造成严重伤害，因此社会应该开始如何把AI从公民社会中移走。

　　相比于社交媒体上这些直接的、甚至带有情绪的表达，这篇文章完整地解释了他为什么认为，AI真正值得关注的并不只是未来可能出现的超级智能，而是它已经开始改变人的思考方式、社会关系，以及人作为行动主体在世界中的位置。

　　人工智能正在改变人类生活方式

　　今天谈到AI风险，人们最容易想到的，往往还是那些面向未来的问题：AI会取代多少工作？AGI什么时候到来？超级智能会不会失控？甚至最终会威胁人类自身。

　　孔蒂并不否认这些风险，但他认为，因为这些问题足够宏大，也足够吸引注意力，人们反而很容易忽视另一件正在发生的事情：人工智能永远不会失控，现在这批生成式人工智能也已经在改变人们的生活方式。

　　这也是为什么，他并不认同常见的技术乐观主义叙述：AI是继蒸汽机、汽车、计算机和互联网之后的又一次技术革命。过去的每一轮技术进步都会催生一些岗位，同时创造新的职业和需求，今天因此对AI的恐慌，最终可能也被证明只是对新技术的过度反应。

　　在孔蒂看来，这类比忽略了AI与过去很多技术之间的一个重要的差别。过去的机器主要替代或增强人的体力，以及计算、存储等相对具体的能力；今天的生成式AI，则开始直接进入、写作、判断、创作等语言究竟与人的认知密切活动的领域。他最近在X相关的上反驳观点类似时就写道：“比我们更智能的机器，不等于拖拉机或太阳能板。”对他而言，AI带来的变化只是过去技术革命的加速版，而可能是一种性质不同的变化。

　　更关键的是，一项技术进入社会之后，也并不总是简单地多提供一个选择。

　　孔蒂用智能手机为例。然而没有任何法律规定一个人必须拥有智能手机，但当工作系统、学校服务、验证想必日常社交都逐渐围绕着智能手机建立起来之后，完全不用智能手机虽然仍然是个人选择，已经变得越来越困难的形式。上，你仍然可以拒绝；实际上，拒绝的成本却在不断上升。

　　为了说明这一点，他借用了加州大学伯克利分校法学院教授David Grewal提出了“网络权力”的概念。当一种技术、标准或平台被足够多的人采用后，它的影响力就不再仅仅来自自身是否好用，而来自整个社会都开始按照它来运作。最终，人们使用它，不敢完全是因为不使用的成本越来越高。

　　人工智能也可能如此。当学生普遍开始使用人工智能辅助学习时，公司把人工智能纳入默认工作流程，搜索、写作、客服甚至公共服务越来越多地通过人工智能完成之后，一个人当然可以说“我不用人工智能”，但这并不意味着他可以置身事外。

　　让孔蒂提醒的，这一点：AI不一定需要强迫每个人使用它，只要越来越多的社会规则开始围绕AI重建，它就已经能够改变那些不用AI的人。

　　AI 极大地改变了人类的思考过程

　　相比人工智能不会取代那么一类，孔蒂更在意的是另一种不显着眼的变化：当越来越多的认知任务被人工智能取代，职业人失去的可能不仅仅是工作本身，还包括在完成这些工作过程中逐渐形成的能力。

　　作为大学教授，他最常举的例子就是写作。

　　过去，一个学生要读一篇论文，需要先完成阅读材料、理解不同观点，再组织转换、反复修改。真正重要的并不是最后那几千个字，而是在这个过程中，学生不断发现自己的理解哪里有缺陷、哪些观点站不住脚，进而把一个模糊的想法变成更准确的表达。

　　AI出现之后，这个过程被大幅压缩，甚至直接绕过去。一个人很快就能得到摘要、文献综述，或者一段结构完整的文字。表面上看，这只是效率提高了，但有些事情不是越快越好。

　　读几十篇论文很慢，自己整理材料很慢，写一篇文章更慢，但人的判断力、表达能力和对一个问题的理解，往往就是在这些低效的过程中慢慢形成的。如果AI直接给出了结果，人们得到的可能只是一个完成品，没有真正经历产生这个结果所需要的思考。

　　这也是孔蒂完成对AI提升效率最根本的怀疑。很多时候，我们不是更快地做了原来的事情之一，而是直接跳过了原来的事情。

　　图| 孔蒂响应文艺（来源：社交媒体X）

　　孔蒂尤其看重写作。他认为，写作并不只是把已经存在于大脑中的想法转换成文字。很多时候，人害怕在写的过程中，才逐渐弄清楚自己到底在想什么。一个写不下去，往往逻辑意味着还没有想通；一段文字反复修改，通常也意味着自己的判断正在发生变化。

　　所以，当人工智能开始替代人类组织语言时，它替代的不仅仅是这一步，而可能会破坏思想形成的过程。

　　他还举了一个例子：如果多年以后，你发现死亡已经去世的亲人留下的信，它之所以有价值，不只是因为其中包含某些信息，也因为你知道，那些词是对方亲自选择的。如果后来发现这封信其实是由人工智能生成的，它的意义就会发生变化。

　　因此，孔蒂出去真正担心的并不是人工智能写得不够好。相反，正因为人工智能足够好，人们才可能越来越容易把那些究竟需要经历的思考过程一并交接。久而久之，问题就不再只是哪些工作会被人工智能取代，而是：当人们越来越少阅读、写作、判断和组织思想时，我们是否还会保留完成这些事情的能力。

　　当智能也可以被资本购买

　　如果说前两部分更多讨论的是人工智能如何改变个人的和能力，那么孔蒂的第三次担忧，开始进入社会结构本身。

　　今天一幅人工智能公司描绘的未来非常相似：随着模型能力不断提升，越来越多的知识工作和生产活动可以由机器完成，人类社会由此获得外部的生产力。即使岗位消失部分，也可以通过新的分配机制，让更多人分享自动化带来的财富。

　　但孔蒂对这种未来的设想的现代价值并不乐观。在他看来，一个重要的运行逻辑，是大多数人依靠自己的劳动、知识和专业能力获得收入，并模拟改善生活、实现向上流动。一个人不可能拥有大量社会资本，但至少还可以通过教育、经验和积累，提高自己在市场中的能力。

　　但如果人工智能真的可以在越来越多的认知任务上超过人类，系统机制本身可能会发生变化。过去，资本可以买到的设备、更好的教育和更多资源，但人的能力仍然是竞争中的重要指标。到了人工智能时代，如果越来越多的认知任务可以直接通过模型和算力获得，那么资本与智能之间更好的进一步深入就可能会越来越近。

　　这也正是孔蒂最近那条“超级智能将意味着社会流动性的终结”背后的逻辑。

　　（来源：社交媒体X）

　　根据他的推演，拥有更多资本的人，可以购买更多算力、调用更强的模型，再利用这些能力创造更多财富。相比之下，一个普通人即使拥有不错的天赋和专业能力，也很难与这种持续购买额外智能的系统竞争。

　　如果这种循环建立起来，过去依靠个人能力实现阶层跃迁的空间就可能被进一步压缩。

　　孔蒂因此用了一个很重的词：“新封建主义”。在他的设想里，人工智能并不一定能让所有权变得同样成功，反而可能把已经存在的资本优势进一步固化。最富有的人不仅拥有更多的资产，也拥有更多可以随时调用的机器智能，而普通人的知识和能力则可能越来越难形成真正的竞争优势。

　　这也让他对另一种常见设想保持怀疑：如果未来大量工作真的被人工智能取代，人类依靠基本收入或其他转移支付生活，那么一个以劳动、收入和社会流动为基础的经济体系，本身也可能发生深刻的变化。

　　当然，这仍然是一个高度推演性的判断。人工智能是否会长期大规模暂停，算力是否真的会成为决定阶层差距的核心资源，目前都没有定论。

　　但孔蒂想提出的问题其实很明确：如果未来最稀缺的能力不再主要存在于人身上，而是存在于可以被资本购买的模型和算力中，那么AI改变的不仅仅是就业，而可能是一个人无法靠自己改变命运这件事。

　　孔蒂的立场显然很前瞻性。无论是“停止开发人工智能”，还是“把人工智能从公民社会中移除”，都很难成为现实世界里可以直接执行的方案。尤其是在人工智能已经进入教育、科研、办公和消费产品的今天，技术扩散本身几乎不可逆。

　　但他也提出了孔设定的现实价值，而提出问题重新搁置了“人”这一边。过去几年，人们讨论AI，更多关心模型还能有多强、生产力能提升多少、哪些工作会被替代，以及如何让AI更安全地发展。蒂追问的另一件事：当越来越多到底属于人的能力被机器接管后，人本身会发生什么变化。

　　这个问题不可能需要以“AI末日”这样的锻炼方式来回答，但它正在变得越来越现实。AI可以代替人的写作、搜索、分析、判断，也可以继续完成这些任务的任务。当效率不断提高之后，我们也许也需要重新确认，哪些事情值得劳动机器，哪些过程即使缓慢、效率低，也仍然值得人们完成这些任务。

　　毕竟，AI是否会成为一个比人更聪明的系统，仍然是未来的问题；但人在越来越依赖AI之后，会不会逐渐失去一些不清楚属于自己的能力，已经是一个正在发生的问题。

（示意图）