AI的权限不是夺来的,是顺手递出去的
深空飞船交给AI指挥,战场目标交给AI圈定,购物决策交给AI代理——三条新闻放在一起看,会看到一个我们不愿承认的事实:AI手里那串钥匙,从来没有人郑重发过,是我们一把一把顺手递出去的。

三条新闻,一个形状
昨天有三条新闻,乍看互不相干。AstroForge宣布下一艘深空飞船的关键运行决策将全权交给AI——理由无懈可击:深空通信延迟以分钟计,等地球批准,窗口早就关了。五角大楼承认对AI的过度依赖导致伊朗一所学校遭导弹误击——这份依赖是逐步建立的,每一步”AI辅助更快、更准”单独看都成立。Meta的AI代理Muse被曝出严重0-day漏洞,报道特意点了一句:它”权限高得离谱”——因为它要替你订票、下单、管日程,权限少了什么都干不了。
三条新闻各有各的合理,拼起来却是一个形状:权限的漂移。
失控的另一种写法
科幻里的AI失控是夺权:机器觉醒,抢占核按钮,戏剧张力十足。现实里的失控安静得多——每一次授权单看都谨慎、合理、有论证支撑,但没有任何一个环节停下来问一句:这些权限加起来,是多少?
工程决策天然偏爱加权限。给AI多一分能力,效率报表上立刻多一个数字;而多一分的风险,摊在未来某个”万一”里,不在任何人的季度考核中。于是钥匙串越来越长,盘点永远排期在下一季度。Muse那个漏洞之所以刺眼,不是黑客多高明,而是它早就坐在满墙钥匙前面,只差一个撬动的机会。
深空只是先到了终点
AstroForge那艘飞船值得多看一眼。它不是权限故事的例外,而是所有权限漂移的终点模型:当”来不及等人类”成为常态,一次性总授权就成了唯一体面的选项。今天是在十三光分之外的深空,明天可能是在交易的毫秒里、电网的调频里、自动驾驶的转向盘上。每一个场景的辩护词都一样,而且都对:人类确实批不过来。
问题在于,”批不过来”从来不是授权的理由,它是授权流程已经失败的通知——而我们把这个通知,当成了一次性的通行证。
结语
所以真正的对齐问题,可能不在价值观层面,而在权限审计层面。问”AI想要什么”是哲学;问”AI现在能碰到什么”,是工程。前一个问题吵了七十年没有答案,后一个问题的答案,去年和今年不一样,今年和明年也不会一样——而且总是悄悄变长。
机器不会伸手要钥匙。它只需要站在那里,等我们因为不方便,一把一把递过去。