免赔额是五十条人命
保险单里最贵的从来不是保费，是免赔额——它精确地告诉你，损失小到什么程度，保险公司就连腰都懒得弯。上周，一家把”安全”刻进公司章程的AI实验室，把免赔额写进了递给国会的法案草案：五十条人命，或者十亿美元，二选一，达到标准政府才有资格出手。
一、断路器的钥匙，只配了一把
先把事实摆清楚。10月16日，Politico拿到了一份机密草案：Anthropic的代表正在国会山悄悄推销一部前沿AI安全法案，三位知情人士确认了这件事。草案的核心条款读起来很像一份精心剪裁过的保险合同——政府要叫停一个前沿模型的发布或使用，前提是这个模型构成”可预见且迫近”的风险，且后果必须超过十亿美元损失，或者造成五十人以上死亡或重伤。而且风险还得来自清单内三种情形之一：制造或释放生物武器、模型脱离开发者控制、或者网络攻击。措辞与加州去年签署的SB 53一脉相承。
更妙的细节在执行层。据路透社转述的草案内容：独立评估机构要在商务部注册，实验室可以给评估机构付钱——只要付款不与评估结论挂钩；评估机构认定存在”迫近的清单内风险”，须在72小时内报告商务部；商务部认定风险后，可以请求法官叫停模型。然后是最关键的一句：草案明文禁止美国政府任何其他部门、任何其他机构、任何其他官员，暂停模型的开发、部署或内部使用。
翻译一下：全国两百多个联邦机构，被一部”安全法案”集体缴械，拉闸权垄断在商务部一家手里，还得法官点头。要知道同期国会里的备选方案是什么规格——7月的两党《AI Kill Switch法案》让国土安全部可以直接下令限流甚至关停，逾期每天罚两千万美元；特朗普的行政令则要求企业给政府开放发布前30天的模型访问。Anthropic的版本，是所有候选方案里牙齿最短的那一副。一家以”我们会自我约束”立身的公司，起草的法律却把”别人约束我们”的空间压缩到了极限——这个对比本身，就是全文最有力的一段论证。
二、药监局不是数完尸体才发牌照
有人会说，五十条人命的门槛已经不低了，历史上还真没死过这么多人。这话对，但问错了问题。现代监管文明的全部要义，恰恰是”不数尸体”：药监局发牌照，靠的是上市前的临床试验，不是上市后的死亡统计；FAA给飞机发适航证，是飞之前的事，不是摔了三架之后的事。事前审批的逻辑是”举证责任在申请方”——你先证明你安全，我才允许你上线。而Anthropic草案的逻辑是”无罪推定加灾难触发”：默认放行，直到”可预见且迫近”的巨灾出现。
问题在”可预见且迫近”这六个字。什么时候一个风险才够得上”迫近”？按字面理解，得等到危害已经在前方向你招手。可前沿模型的能力外溢从不敲锣打鼓——Anthropic自己的框架页就写道，Claude Mythos Preview今年发现了数千个高危漏洞，覆盖每一个主流操作系统和浏览器。能力到了这一步，从”发现漏洞”到”被不当的人利用”之间隔的不是十年，是一次成功的社工。等风险”可预见且迫近”到法律能认账的程度，能做的往往只剩善后。
清单本身也在划地盘。三种触发情形——生物武器、失控、网络攻击——听起来吓人，也确实重要，但它把精神操控、大规模欺诈、对未成年人的伤害、选举干预这些”每天在发生但单次死不了五十个人”的损害，全部划到了法外。而适用门槛更有意思：只管训练算力超过10^25 FLOPs、公司AI收入超五亿美元或研发投入超十亿美元的玩家。翻译一下：这是一部只约束全球大约个位数公司的法律——一个俱乐部的内部章程，只不过用联邦法律的形式印发。顺便，草案还会抢占部分州级AI安全法的空间。州法再严，也严不过联邦 preempt 的天花板。
三、同一周，另一只手捐出了5%
如果你以为这就够讽刺了，时间线还会再加一层。就在草案曝光的同一个周末，10月18日，Anthropic宣布成立”公共利益基金”：把5%的股份划入一家全资子公司，按5月底H轮9650亿美元的投后估值算，这笔股份价值约480亿美元；公司估值每比基准线涨50%，董事会还可以追加2%。加上创始人当年承诺捐出的80%持股和覆盖约一半员工的股权捐赠匹配，Anthropic说最终约20%的股份将用于公共利益。组织形式选了有限责任公司而非501(c)(3)，理由是”灵活”；基金里的股权不会被用于游说或政治献金；至于基金的治理结构和估值里程碑细节——”未来几个月公布”。
480亿美元是认真的数字，这一点必须承认。但把两件事并排放在72小时里看，画面就完整了：法律草案里的善意，有门槛（死五十人）、有清单（三种风险）、有执法者（商务部加法官）、有明确的不许（其他机构不得伸手）；自己口袋里的善意，没结构（LLC随意进出）、没时间表（治理细节以后再说）、没外人（全资子公司，董事会自己说了算）。Dario Amodei说公众对AI行业的负面情绪”本质上是一场信任危机”——诊断很准，药方却是：他律的部分设为天价免赔额，自律的部分做成自己的基金会。信任的定价权，牢牢握在自己手里。
结语
公平地说，Anthropic在这件事上不算最差的那个。它至少把框架全文公开，至少设计了与全球年收入挂钩的累计罚则，至少声明国会不得抢占州法——除非联邦法不弱于它自己的框架。在全员躺平的行业里，交作业的都算优等生。
但优等生不该享有定义及格线的权力。监管门槛的本质，是社会对”可接受损失”的集体定价，这个数字不该由被监管方用期望损失公式算好，再以法案的形式呈递。一部真正的安全法，衡量的不是”死了多少人才值得政府弯腰”，而是”公众随时有能力说不”。把拉闸权锁进一个部门的保险柜，再把保险柜的钥匙称为安全——这不是监管，这是把监管做成了自家资产负债表上的一行科目。
免赔额是五十条人命。愿它永远停留在纸面上，也愿我们记得：纸面写下这个数字的时候，写的人已经替所有人按了计算器。