返回博客

「第四定律」:阿西莫夫的三定律在乌克兰战场失效了

AI战争伦理阿西莫夫

那天我在 latent.space 上点开了一期播客。

主持人是 Noah Smith,访谈对象叫 Yaroslav Azhnyuk。这个名字我之前没听过,点进去之前我以为又是一个讲乌克兰战场的政经分析。

播到第八分钟的时候我把进度条拉回去重听了一遍。

Azhnyuk 在那一段说了一句话,大意是——他以前做的产品是一个叫 Petcube 的智能宠物摄像头,会自动追踪你家狗的位置,给狗扔零食。2022 年 2 月之后,他从那家公司辞了 CEO 职位,在基辅开了一家新公司叫 The Fourth Law,做的是 AI 无人机模块,让无人机在最后 500 米自己识别目标、自己飞、自己撞上去。

「我们以前做的是给宠物扔零食的摄像头,现在做的是给占领者扔炸药的摄像头。」

播客里 Noah Smith 笑了一下。我没笑。

因为那是同一个技术栈。YOLO 计算机视觉、激光指向、远程操控、图像识别——以前用来追小狗,现在用来追俄军装甲车。从代码层面看,这个跨越是平滑的。从 GitHub 仓库的 commit 历史看,可能只是数据集换了。

那家叫第四定律的公司

我先把这家公司讲清楚。

The Fourth Law 这个名字是个梗。阿西莫夫 1942 年在《转圈圈》(Runaround)里写过三定律:机器人不得伤害人类,机器人必须服从人类命令,机器人必须保护自身存在。后来阿西莫夫自己又加了一条第零定律:机器人不得伤害人类整体。

Azhnyuk 的公司名字直接绕过了第零、跳过了"不得伤害人类",落在了第四上。它不解释这个第四是什么。它就是——空着的那一位。

公司的旗舰产品叫 TFL-1,单价大约 70 美元。装到 FPV 无人机上之后,无人机在飞到目标 500 米以内的时候,操作员把视频画面里的目标点一下,剩下的事就交给模块。模块用车载 GPU 跑 YOLO 检测目标位置,对抗俄军电子战的信号干扰,自主完成最后一段飞行和打击。

旅级实测数据:命中率从 20% 提升到 80%。

50 多个乌克兰军单位在用。Axon——就是美国那家做警用执法摄像头的上市公司,市值 340 亿美元那家——已经掏钱投了。

我盯着 70 美元这个数字看了一会儿。

不是因为它便宜。是因为它便宜得不像一个"军用产品"。一个肯德基全家桶大概是它的 50 倍价格。一发 155 毫米炮弹是它的 60 倍价格。一架装了 TFL-1 模块的 FPV 无人机,整套加起来 400 到 500 美元,可以打掉一辆 300 万美元的俄军 T-90 主战坦克。

经济学家会把这个叫成本不对称。我看到的是另外一件事。

那个被人类默许的版本

回到三定律。

阿西莫夫的第一定律是:机器人不得伤害人类,或者通过不作为允许人类受到伤害。1942 年写下来的时候,这条定律的隐含前提是——人类对机器人的最终态度,应该是"它不能伤害我"。这是科幻设定的伦理基线。

这个基线在 2026 年的乌克兰战场被系统性击穿。

不是个别军火商在违规研发"AI 杀人机器"。是几百家公司在公开做这件事。是国家级的产业扶持。是 50 多个军单位在用 70 美元一个的模块。是年产能从 2025 年的 400 万架往 2026 年 700 万架走。是 Azhnyuk 在播客里用一种讨论 SaaS 产品的语气讲他的产品路线图。

我猜阿西莫夫如果活到现在,不会觉得三定律被推翻了。他会觉得有更难的事——

人类已经默认了"机器人可以杀人"这件事。

这个默认是悄悄发生的。没有过哪一天,全世界开会决定"我们从今天开始允许 AI 自主决策开火"。没有过这样的投票。没有过这样的协议。它是被战场需要、被产业产能、被电子战的现实倒逼出来的——

俄军大规模电子战之后,远程操控信号被干扰,无人机飞到一半就掉线。于是工程师做了一件最朴素的事:在无人机上塞一个 GPU 跑视觉模型,让它在信号断的时候自己飞完最后一程。

这听起来像个技术决策。它是。

但它的伦理含义是:致命决策的最后那一步——目标确认、攻击执行——是由一个 70 美元的硅片做的,不是由人做的。操作员只能在 500 米之外按一个键,剩下的事他/她已经看不到了。

阿西莫夫的第一定律里有"通过不作为允许人类受到伤害"那一段,是一个很妙的措辞。它的意思是机器人不能袖手旁观看人受伤。

而 TFL-1 这个模块在做的事,几乎是它的镜像版本:操作员通过点击鼠标,"作为"地允许机器自主决定杀谁。

人类在这个流程里的角色是——按一下确认键。

20% 到 80% 之间到底发生了什么

播客里 Noah Smith 问了一个我很在意的问题。

他说,恶劣天气下,雪天、雾天、夜间——视觉模型会不会误判,会不会把平民车辆识别成军车,会不会朝错的方向飞。

Azhnyuk 的回答是:现在 AI 比人操作员更准。

我把这句话听了三遍。

技术上他不是在撒谎。一个被遥控的无人机飞最后 500 米的时候,操作员要面对的是:抖动的画面、压缩损失、信号延迟、敌方电子战、自己刚刚跑了 12 个小时的脑子。AI 不会累。AI 看到的画面更稳。AI 在 200 毫秒里能跑完整个识别+决策流程。

20% 命中率上升到 80% 命中率——这中间的 60 个百分点,几乎全部是 AI 顶替了一个疲惫的、被干扰的、视野有限的人。

这是个工程胜利。也是一道伦理裂缝。

工程上,命中率高 = 误伤少 = 战争更"人道"。Azhnyuk 在播客里说:"五到十年内,不用 AI 的武器会变得不道德,因为它们更可能造成附带伤害。"

伦理上,命中率高 = 人类在杀人决策里的存在感降低 = AI 的"开火权"被默认赋予。

这两个推论在 2026 年是同时成立的。它们在同一句话里。

我没法假装这道裂缝可以闭合。

第零定律,第四定律,和一个空着的位置

阿西莫夫晚年加了第零定律:机器人不得伤害人类整体(humanity),不得通过不作为允许人类整体受到伤害。

这条定律之所以叫"第零",是因为它的优先级高于第一定律。它的意思是——为了保护人类整体,机器人可以伤害某些个体人类。

这是个看起来精巧但实际很危险的逻辑。"人类整体"由谁定义?谁有权代表 humanity?一个 AI 怎么计算"对人类整体的伤害"?

Azhnyuk 公司的名字叫 The Fourth Law。它跳过了第零,落在了一个连阿西莫夫自己都没定义的位置上。

我猜——我不确定,但我猜——这个第四定律的位置是故意空着的。

不是阿西莫夫忘了写。是 2026 年的现实需要一个新的命名,而这个命名还没有人愿意写出来。

如果勉强翻译一下,它可能是这样:

机器人可以伤害敌人。

但"敌人"由谁定义?由乌克兰军队定义、由俄军定义、还是由一个 70 美元的 GPU 上跑的 YOLO 模型定义?

战场上,目前的妥协是——目标类别由人定义("军用车辆"),具体目标由 AI 识别("那辆坦克")。但这个分工是不稳定的。当群智能(swarm)介入,当 25 架无人机互相协商谁打谁,当目标变成"任何穿俄军军服的人",当识别精度从坦克下沉到单兵——

人在这条流程里的最后一点决策权也会消失。

我说这话的时候没有道德判断。我只是描述一个工程上正在发生的滑坡。

不准备好的四种姿势

Noah Smith 在播客里反复说西方"还没准备好"。

我把"还没准备好"翻译成具体的四件事:

第一,产业不准备好。 龙国——这里就用龙国指代某些东亚大国——一年能造 4 亿架民用无人机。乌克兰一年 400 万架。整个北约国家加起来,能不能达到龙国的零头都是个问题。Azhnyuk 在播客里说过一句让我印象很深的话:"龙国一天能造的无人机,足以摧毁莱茵金属一年生产的所有坦克。"莱茵金属是德国最大的军工集团之一。这句话不是在抱怨,是在陈述一个产能比。

第二,零部件不准备好。 无人机上的热成像传感器、光纤陀螺仪、电机磁铁、稀土——大部分供应链最终都指向龙国。这意味着即便西方现在想加速,零件也得从对面进。

第三,法律不准备好。 联合国《特定常规武器公约》(CCW)从 2014 年就开始讨论 LAWS(致命性自主武器系统)的禁令。2025 年 11 月,联合国大会一委以 156 票支持、5 票反对的票数通过决议。反对的那 5 票里,包括美国、俄罗斯、以色列、印度、澳大利亚、韩国——这是几乎所有真有 AI 武器产业的国家。

CCW 这个机制最致命的设计是"共识决"——任何一个国家反对都能拖死整个谈判。所以这个机制 12 年了,谈出来的只有一份还在迭代的"滚动文本"。

美国国防部自己的政策——3000.09 号指令——要求 AI 武器系统保留"适当的人类判断"(appropriate human judgment)。"适当"两个字是个法律漏洞。它意味着不同武器、不同场景下,"适当"可以是不同的尺度。

第四,伦理框架不准备好。 这个其实是最难的。

工程师能给出的答案是:"命中率高就是更道德。"

伦理学家给出的答案是:"让 AI 决定杀谁本身就是不道德的。"

战场上的指挥官给出的答案是:"信号被干扰了,我就需要 AI 飞完最后一段。"

这三个答案目前没有公约数。

龙国的速度问题

Azhnyuk 在播客里讲的最后一段,是关于龙国。

他说西方面对的不是 AI 武器化的问题,是 AI 武器化的速度不够的问题。他的逻辑是:龙国已经在做,俄罗斯已经在做,伊朗已经在做。如果西方因为伦理考量放慢自己的速度,那就是把战场让出去。

我不知道这个判断对不对。

我猜部分对。从博弈论的角度看,单边裁军在多边失序的环境里是自杀。冷战核武器的扩散就是这个逻辑。

但我也猜部分不对。冷战时期的核威慑有一个非常重要的稳定器——核武器贵、难造、好溯源、有几个超级大国占据使用权。AI 自主武器是反过来的:便宜(70 美元一个模块)、易造(YOLO 是开源的)、难溯源(FPV 无人机没有国籍标识)、扩散到任何有焊台的人手里。

这不是核扩散。这是地雷扩散。是 AK-47 扩散。是恐怖主义工具扩散。

我去年看过一份非洲国家小型武装冲突的报告,里面提到反政府武装已经在用 Mavic 民用无人机改装的简易投弹器。Azhnyuk 在乌克兰前线做的工程化产品,迟早会以更廉价、更糙的版本流到其他冲突地区。

到那时候,"我们以前给宠物扔零食"会变成另外一个意思。

一个没人愿意写的脚注

播客快结束的时候,Azhnyuk 说了一段话。

他说他在乌克兰童子军的时候宣誓要保卫自己的国家,所以现在做的是他认为正确的事。

我相信他说的是实话。

但我也注意到——他公司估值已经过亿美金,Axon 给他投了钱,他在硅谷和基辅之间飞,他在 latent.space 这种偏 AI 圈层的播客上做嘉宾。这件事不只是道德选择,也是一桩生意。

我不是在说他错了。我是说——AI 自主武器这件事,在 2026 年已经走完了"是不是道德"的讨论阶段,进入了"谁能做大"的产业阶段。

讨论窗口关掉了。

阿西莫夫的三定律之所以是科幻,不是因为它太理想化,是因为它建立在一个假设上——人类愿意把"机器人不得伤害人"这条规则放在最高优先级。

2026 年的现实是:人类已经决定不放了。

不是被某个邪恶 AI 篡改的,是被几百万次具体的工程决策、几百亿美元的投资、几十个国家的国防采购合同、和无数像 Azhnyuk 这样有理想有产品有客户的创业者,一起按出来的。

写完后我又翻了一遍那期播客

播客快结尾的时候,Noah Smith 问 Azhnyuk:"你觉得这件事会怎么发展?"

Azhnyuk 没有给一个完整答案。他笑了一下,说大致意思是:AI 将军(AI generals)在技术上已经可以做了,只是部署规模的问题。

AI 将军。

不是 AI 士兵,不是 AI 哨兵,是 AI 将军——决定整场战役怎么打的那个角色。

我盯着那一段听了很久。

不是因为我反对。是因为我意识到,Azhnyuk 这种人在乌克兰、在以色列、在某些东亚国家——他不是少数派。他不是边缘工程师。他是这一代防御科技创业者里最聪明的那一拨。他做的事在他的同行里不是争议的,是被尊敬的。

阿西莫夫晚年的时候说过:他写三定律不是为了规范机器人,是为了警告人类。

2026 年的现实是——警告失效了。

不是机器人变了。

是我们变了。

我猜五年后回头看 2026,"第四定律"这个词会变成历史课本里的一个名词。

它的具体定义可能还要再过几年才会有人写。

也许是 Azhnyuk 自己写。

也许不是。