三年前,GPT-4 横空出世后不久,有位同事请我给他的软件工程团队做个关于大语言模型(LLM)的科普。我们在会议结束前讨论了一下 LLM 对社会的预期影响,我最后补了一句,「有一点会让事情变得更复杂:政府或许会介入,把 LLM 纳入国家控制之下」。在场所有人都做出了不可置信的表情。同事当场说,这件事至少在美国这种地方,不可能。我说,「现在是这样。但等他们弄懂了这东西能做什么之后,就不一定了」。
前几天,美国政府下了一道出口管制令,禁止 Anthropic 公司为外国公民(无论身处美国境内与否)提供其最新的 Fable/Mythos 模型服务。因为不可能一夜之间开始让每个用户提交国籍身份证明,于是该模型被立即下架。这是 AI 模型本身被纳入国家控制的首次信号。
事况至此,也并非突然:
- 今年2月底,美国政府、OpenAI、Anthropic 上演了一场三角恋,特朗普要求私营的 AI 公司需无条件为国防项目提供技术支持,而已经在为五角大楼提供全面支持的 Anthropic 却因坚持两点条件而不服从(不可用于大规模监视美国国内;不可用于全自动致命武器),于是 OpenAI 迅速趁虚而入,签下了合同。长期承接美国政府与国防合同、且与 Anthropic 紧密合作的 Palantir 公司 CEO 评论道:「如果硅谷认为可以抢走所有人的白领饭碗……而且还同时搞坏和军方的关系——倘若在这样的情况下你都不觉得下一步会是技术国有化,那你就是个智障」1。
- 4月,Anthropic 官宣 Project Glasswing2,该项目对美国政府和少数科技/安全公司开放了从代号自身开始就一直在被神话的 Mythos 模型,并把普通用户拒之门外。
- 5月,Anthropic 在官网发布一篇政论3,全篇剑指中国,要求美国政府限制中国对美国芯片的获取渠道、限制中国实验室对美国 AI 模型的访问、并应以国家力量宣传推进全球对美国 AI 软硬件的依赖来赢得与中国的竞争。
- 6月9日,Anthropic 发布 Fable 模型,即 Mythos 加上关于生化、信安、以及前沿 AI 研究这三道严格的话题锁之后的面向大众的产品。最后这道锁原本是静默起效(检测到话题后暗中让模型降智),在 AI 研究者们察觉并抗议之后,Anthropic 改静默为明示,但表示不会移除该政策4。
- 6月12日,美国政府因收到一份对 Fable 模型越狱的技术报告,以国家安全为由下了这道前述的「出口禁令」。Anthropic 表示不认同,但还是下架了模型5。一些美国网民笑称这就是 Anthropic 一直鼓吹「狼来了」的自作自受。
整个过程令人唏嘘。如果说 OpenAI 开了「商业闭源大模型」这个万恶的源头,那么 Anthropic 则是进一步捅了「政府管制」的马蜂窝。前沿 AI 研究领域,从2020年之前的由开源和学术社区驱动、掌握在全世界每个研究者/开发者/普通人手里,经过这两家美其名曰「开放」、「人本」的公司一顿操作之后,成功转型为由富集资本驱动、开始受行政管控的封闭领域。这场巨变背后,即有时代推进的不可抗力,亦有人性的贪婪短视。
如果你认为我的立场是反对「国家掌控 AI」,那可就错了。事实上,我认为「由国家主导的公共化制度」或许是能让这场 AI 变革对普通人而言最终平稳着陆的最佳方式。不幸的是,上面发生的这些管控限制、宣扬恐惧和煽动对立的排他性政策,恰恰是标准的反面教材;真正需要国家力量介入的,是构建并督促能普遍保障所有人的公共分配/再分配机制。在这里,我想简单记录一些关于后者的想法。
OpenAI 的 CEO 曾在一段访谈里说6:
我们认为在未来,智力将类似于水、电、气等公用事业资源,人们会给我们按月缴费使用。
中国人民听到这个类比,可能会笑:「要是智力真的跟水电气一样了,那我们用户怎么可能还向你 OpenAI 付费呢?应该国家收嘛。」这是因为在国内,水电气之类的民生基础均由国企保障。在美国,约72%的电力用户其实是由私营公司服务7,但服务受到公共事业委员会的规制;在自来水方面,则是仅10%的用户由私营公司供给8,因为水源既是国土资源,也关系人类基本的生命权,不应受个别机构制约。和水源、能源供给类似,人们一般认为,基础教育亦是人类的基本权利。义务教育的目标至少是消灭文盲,毕竟识字后,外部文本信息能被内化,将给个人的智识乃至其生活水平带来极高的提升。既然人类代代传承的知识被公认为一项需要国家保障的基本权利/资源,那 AI 加持的「外部智识」,又算不算呢?
我认为,AI 所带来的智识能力,确应被视作一项人的基本权利。社会应当保障每个人平等地获得足以维持其自主性与社会参与能力的 AI 服务。我不打算在本文中为此个人陈述做具体的或普适的论证。一句话解释:若不这样,那么大部分人便会在高速的时代变迁中迅速丧失与这个世界的相关性(Relevancy),而这不是我愿见的情况。
公共化 AI 基座模型或其访问权以及算力,是我目前浅薄所知范围内能尽量保证该项特殊资源的公平分配/再分配的唯一方法。这个尺度上的公共资源分配的主要驱动力,无非就是国家或市场。但纯粹的市场经济干不了这件事。
为了说明为什么市场不行,让我们先回到「智力 - 水电气」这个类比——事实上,它低估了AI/智力的重要性:对于个体而言,水电气是消费品;但智力,它是生产力。被马克思称为「第一生产力」的科学技术,是智力的结果。一般来讲,面对消费者的公司产出的是消费品,所以 OpenAI 在做出类比时,也只是将自家 ChatGPT 比作「日需品」。可是,当生产力本身被生产出来时,一切都变了。在功利主义的视角下,给你基本的消费品,是为了让你更好的生产;在消费主义的视角下,你生产所获的回报,是为了让你更好的消费。这个社会飞轮好端端地滚了几百年了,现在有人跳出来说:
「我可以提供生产力本身供你消费……呃,我想,其实我的意思是,供你在进行生产时消费……唔,等等,可我已经有生产力了……?那你……啧。你好,请问有何贵干?」
AI 是生产力本身这件事,让当前状况与工业时代以来关于机器自动化的担忧有着本质不同:机器是死的,不能思考,仅可依靠人的智力来改进;人是活的,能在机器的缓慢迭代改进过程中灵活转岗、适配新机会;但现在的问题是, AI 也是「活」的,它思考快,迭代速度快,而且前沿模型的智力泛化灵活性在某些方面已经高于人类(譬如,没有任何一个人类个体能够在涉及超过100个学术领域的 Humanity’s Last Exam 中取得超过50%的成绩,但 AI 能)。
假设在近未来, AI 完成了绝大部分的生产活动,产生了绝大部分的价值,那么一直站在生产关系中心的人类由于无法提供与之可比的生产效率和灵活性,就会被市场淘汰出去。而一直从消费者手里汲取现金流的资本家,发现绝大部分消费者因在生产关系中被淘汰从而没有收入,那这市场驱动力又将从何而去?市场中的生产者和消费者的角色从人-人逐渐变为AI-人的过程中,供和需产生了隔离。从某个时刻开始,资本主义的飞轮渐渐分崩离析,当前的市场经济规则也将对我们的社会越来越不适用——或者说:绝大部分人将会被排除到市场经济的适用范围之外。那么,我们自然也不能期盼(当前形态的)自由市场为大众的资源分配提供合理的渠道和驱动力。
既然单靠市场不行,那只能国家介入。听到这里,中国人民又可以发言了:这题我熟。生产力极大丰富,就该共产主义了呗。在欧美福利国家,这两年因为 AI 而考虑全民基本收入的讨论也很多。这两个老概念,可以被用来解决新问题:不管 AI 接管多少生产过程,我们直接把 AI 的全部或大多数生产所得公共化,再分配给所有人就好了。共产主义通过对整个生产资料和生产过程的国有/公共化、组织化来同时确保生产和分配,而全民基本收入则是通过高税收来仅对生产结果进行部分国有/公共化。
马克思认为,当人类从必然王国(为了生计所需而劳动)进入自由王国(为了自我实现而劳动)时,就完成了人性最大的解放:人们将把劳动当作自我实现的终极需求。毕竟,人不应是被豢养的宠物,仅仅存在即可。与此同时,关于全民基本收入的研究,很多都会把「降低就业率」作为关键的负面指标——即便全民基本收入显然是一种仅涉及保证基本生存的政策,但资本主义也不想养懒人。于是,两种观念都殊途同归地认同一点:无论如何,人类都不会停止劳动/工作。但它们出于时代限制,当然无法预测到 AI 发展的神奇轨迹。当 AI 与人的生产工作能力差距越来越大时,若只是按需分配固定的基本生存资源,其实是让人与这个世界之间的无关性加剧、渐行渐远的被动帮凶。所以,老概念们也不能端出来就往墙上直接糊,人们需要考虑如何分配 AI 及其带来的智识/生产力本身,而不仅仅是结果——这是新时代的「机会公平」。
我不是政治学家,也不是经济学家,不知道怎么具体着手。倘若我声称知道答案,你也不应该信。AI 基座模型或其访问权应如何为公共所有或受公共事业规制、如何设计保障每个人机会公平的配套分配机制、怎样的公权力监督问责系统可促进机制的真正公平实现,而非滑落到如当前的美国政府这样醉心于利用 AI (及其掌握的一切力量)维持其支配地位,这些都是说起来容易、做起来难于登天的大问题,自有懂的人会去思考、摸索。但不管是直接对顶尖 AI 模型的算力进行分配,还是在公平再分配基本收入的前提下保障顶尖 AI 模型对每个人的可及性和中立性,不管是国家还是国际层面的协议,最后的各式解决方案至少需要守住一条基本底线:别让一些寡头以狭隘的商业逻辑和所谓国家安全为由拒绝大众访问这些用上千年人类文化和公共知识训练而成的模型。智识绝不可被垄断。
https://nationaltoday.com/us/dc/washington/news/2026/03/03/palantir-ceo-warns-tech-firms-cooperate-with-government-or-face-nationalization/ ↩︎
https://www.wired.com/story/anthropic-responds-to-backlash-on-claudes-secret-sabotage-on-ai-research/ ↩︎
https://x.com/TheChiefNerd/status/2032012809433723158?s=20 ↩︎
