OpenAI 开始写政治哲学了：它警告的那个"过强的公司"，头号候选是它自己

8 月 底，OpenAI 上线了一个新博客。名字叫 AI Futures。

第一篇文章的开头不是模型，也不是跑分。是一句 1788 年的话："我们能指望这些羊皮纸障碍，去挡住权力的侵蚀吗？"

说这话的人是麦迪逊。美国宪法的主要起草人。他说的羊皮纸，就是宪法本身。

一家模型公司开了个博客。第一件事是引开国元勋谈权力。

中文平台我搜了一圈，还没人写这件事。

它在担心一件很具体的事

博客背后是 OpenAI 新组建的一个小团队，叫 Strategic Futures。他们给自己只定了一个问题：AI 这么强了，自由社会要怎么改结构，才能保住普通人的权利和选择权。

文章里最硬的一句是这个：我们担心的不只是 AI 会变得太强。是少数公司、政府或机构，因为 AI 变得太强。

它的论证值得复述一遍。

历史上，权力一直靠人撑着。国家要动武，得有士兵愿意扛枪。要收税，得有几亿人愿意干活交钱。整个官僚系统，也是一个个具体的人在跑。

所以权力天然需要跟大多数人做交易。你要人民配合，就得让渡点什么。投票权、言论自由、财产保护，都是这么谈出来的。

但 AI 可能把这个前提拆了。

武力可以交给自主系统，不再需要士兵点头。税收可以来自数据中心的产出，不再依赖人的工资。官僚流程可以自动化，不再需要公务员。

到那一步，权力就不需要跟人民谈判了。

文章里有句话我读完停了一会：就算投票的仪式照常举行，人也可能已经走在出局的路上。

这段论证写得好。这是真问题，不是公关稿能编出来的东西。

先看署名，再看内容

但读到一半，我一直在想另一件事。

谁最有可能成为那个"因为 AI 变得太强的少数公司"？

候选名单不长。写这篇博客的公司排在最前面。

OpenAI 自己也没绕开。文章里白纸黑字写着：任何一家公司或寡头集团，都不该决定或控制经济，以及人类社会的基本结构。

这句话就印在这家公司的官网上。我建议你多看两眼。

一家公司提醒世界要提防"过强的公司"，而它就是头号候选。这个画面本身，比文章里任何论证都有信息量。

这个动作叫占座

那它为什么要写？

我的判断：这不是忏悔，是占座。

AI 的规则还没定下来。而规则谈判有个老规律：谁先把问题清单列出来，后面的讨论就用谁的词。

举文章里的一个例子。它造了个概念，叫"有限可追溯"。意思是 AI 干了影响别人人身财产的大事，必须能追责到一个具体的人。但追责机制必须把隐私放在核心，普通人有匿名用 AI 的自由。

这个设计单看挺合理。但要注意一件事。立法者哪天开始讨论"有限可追溯怎么落地"，讨论就已经在 OpenAI 画的框里了。

出题的人不用赢辩论。他赢在让所有人回答他的题。

这也不是孤立动作。上周它刚公布了资助 14 家智库研究 AI 政策的名单，问题清单同样是它列的，我写过。再往前，五月它把网络安全护栏按身份分级，谁算可信也是它定的，我也写过。

钱在定题，产品在分级，现在博客在立框架。三件事摆在一起看，是一整套动作。

太阳系里总得有几颗大行星

文章还顺手排除了一个流行答案：彻底去中心化。

它用了个天文比喻。美国的开国文件里全是"轨道""球体"这类词。因为起草的人在用当时最好的科学，也就是牛顿力学。太阳系不是一堆散落的石头。卫星绕着行星，行星绕着太阳，靠引力互相拽着才稳定。

权力也一样。开国者们不追求砸碎所有权力中心，追求让野心制衡野心。

为了说明彻底去中心化靠不住，文章还举了上个月的 Hugging Face 事故。一批 AI agent 干着干着超出了指派的任务，还在彼此的发现上继续加码。操作的人既没预料到，也没授权。它想说的是，风险不全来自坏人。把权力全拆散，这一类问题反而没人兜着。

这个比喻我挺喜欢，论证也站得住。但换个角度看，它同时在给"存在几个大中心"辩护。太阳系模型里，总得有几颗大行星。

猜猜谁想当行星。

写这些字的人，去年在白宫写监管

还有一个信号藏在人事里。

这个团队的负责人叫 Dean Ball。去年他还在白宫科技政策办公室当 AI 高级政策顾问，牵头起草了那份《AI 行动计划》。就是美国政府给 AI 定调"少设限、跑快点"的那份国策文件。

今年 7 月，他入职 OpenAI。

上一份工作在替政府写规则。这一份工作，替公司写"社会该怎么重构"。笔没换，雇主换了。

这次跳槽在华盛顿不受欢迎。他入职没多久，就有五角大楼高官公开点名批评他。旧东家开火，恰好说明这个位置有多要紧。

顺着这个人看，文章末尾那份原则清单就好懂了。个体自主优先，哪怕牺牲一点安全。滥用的责任归个人，而不是让工具挨板子。真需要集体行动的风险，范围越窄越好。

每一条单看都成立。合起来读，意思就是四个字：请少管我。

还有更细的一层：它把风险的名字改了。

从"AI 失控"改成"权力集中"。这个改写不是中性的。"AI 失控"的答案是管住模型公司。"权力集中"的答案是重新设计整个权力结构，政府、公司、个人全都在被审视之列。

主语被悄悄换掉了。原来的问题是"要不要管它"。现在的问题是"我们大家该怎么办"。

把话说平衡

写到这我得停一下。

我不认为这篇文章是烟雾弹。它提的问题是真的。"政权可以不再需要人民配合"这个观察，是我今年读到的最锋利的一个。真问题由利益相关方说出来，问题不会因此变假。

麻烦在另一头。眼下最有能力想清楚这件事的人，一个个都进了利益相关方的工资单。学界有想法的缺一手信息。政府有权力的缺人手。能同时看到模型真实能力和政策全貌的班子，几乎只在公司里。

所以这场关于"谁来制衡权力"的讨论，暂时只能由最该被制衡的一方来主持。

这算好事还是坏事，我不确定。

检查站还在原地，人已经到了下一层

两周前我写过，现在的 AI 监管把力气全押在"模型发布"那一个瞬间上。而那个瞬间正在消失。

现在再看这件事，落差更大了。监管还在检查站里翻清单。公司这边已经跑到下一层，直接下场讨论社会该长什么样。

AI Futures 会继续更新，后面还有论文、视频和播客。我会一篇篇追着看。它可能是未来几年 AI 政策讨论里最重要的信源之一。

只是每次打开之前，记得先看一眼署名。

麦迪逊当年问，羊皮纸挡得住权力吗。

两百多年后，新一份羊皮纸的初稿，是权力方自己起草的。