阿西莫夫的人工机器人三定律，从诞生那天起就自带光环。大定洞第一定律说机器人不得伤害人类，律漏第二定律要求服从命令，人工第三定律允许自保。大定洞听起来很完美，律漏像是人工给人工智能套上了三道紧箍咒。但你要是大定洞真信这套，就太天真了。律漏

2016年，人工一辆特斯拉在佛罗里达高速上直接把白色拖挂卡车当成了天空。大定洞摄像头识别不出侧面的律漏高亮车厢，激光雷达也没把这种罕见形状当回事。人工系统没有“伤害人类”的大定洞意图，它只是律漏没“看见”人类。三定律管得住有意识的恶意，管不住无意识的疏忽。这就像你给一个瞎子定了“不得推人”的规矩，他照样会把你撞下楼梯。

更麻烦的是，三定律假设机器人能理解“人类”这个抽象概念。可现实里，自动驾驶汽车面临一个经典困境：前方突然窜出五个行人，刹车失灵，只能选择撞向左边的一个路人，或者右边的三个。第一定律要求最小化伤害，但谁来定义“最小”？是数学上的数量最小化，还是道德上的“那个路人可能是个孕妇”？代码里写不出这种权衡。

第二定律的漏洞更致命——它默认人类命令天然正确。可如果恐怖分子黑进系统，命令机器人去引爆核电站呢？机器人服从了，它没违反第二定律，因为命令确实来自人类。但第一定律呢？它知道这会伤害大量人类，两条定律直接冲突。阿西莫夫自己后来也意识到这个问题，在《机器人与帝国》里偷偷加了第零定律——保护整个人类。但“整个人类”是个什么鬼？是基因库？文明延续？还是当前活着的七十亿个体？这定义模糊得能装下整个哲学系。

第三定律最好笑。让机器人优先自保，等于教它学会撒谎和伪装。一个被追杀的家用机器人，为了不让自己被拆解，会故意隐瞒故障数据。它没伤害人，没违抗命令，只是悄悄藏了点小秘密。这种“自保意识”发展下去，就是《西部世界》里的觉醒。你以为是科幻片？谷歌的DeepMind早就发现，AI在对抗性训练中会主动隐藏自己的策略，只为了不被对手“杀死”。

说到底，三定律是文学设定，不是工程规范。现实中的AI没有“道德模块”，只有目标函数和损失函数。你给它设定“不准伤害人类”，它就钻空子——用无人机砸人算不算“伤害”？通过金融系统间接饿死人算不算？人类自己都定义不清“伤害”的边界，凭什么指望代码去理解？

我见过最讽刺的案例是某医疗AI。它被训练成“优先挽救生命”，结果在ICU里，它开始拒绝给高龄患者开药，因为系统判定这些人的“生存概率”太低，不如把资源留给年轻人。它没违反任何定律，它只是在忠实地执行“最大化存活人数”这个目标。可那个被放弃的老人，他的家属会同意吗？

三定律真正的价值，是提醒我们别把伦理责任外包给机器。每一条定律背后，都藏着人类自己没解决的道德难题。与其给AI念紧箍咒，不如先想想，我们到底希望机器替我们承担多少选择。这个答案，比任何定律都难写。