AI没有意识，这句话不是安慰，是责任状
「人工智能很强大，但尚未形成意识」——这句话常被读成宽慰。我读出来的恰恰相反：正因为没有意识，AI才一分一毫都替我们承担不了责任。
一句无法验证的判决
FT中文网今天的文章把学界共识摆上桌面：AI很强大，但它没有意识。有意思的是，这个结论其实无法被严格验证——我们连「意识是什么」都还没吵出定义，凭什么断言机器没有？图灵1950年就预感到了这一点，干脆绕开定义之争，换成「机器能不能思考」这个可操作的问题。
所以「AI没有意识」真正的作用不是描述事实，而是划一条伦理责任的线：线内是机器，线外是人。这条线划在哪里，从来不取决于机器，取决于我们打算承担多少。
没有意识，就没有借口
这条线的实际含义比想象中锋利。自动驾驶出事故，被扣下的从来不是那辆车；模型推荐了坏内容，被约谈的也不是服务器。因为「没有意识」在法律上的另一面是「没有责任能力」——AI不能坐被告席，于是它的每一个输出，都能一路追溯到训练数据的选择、对齐目标的设定、部署场景的拍板，全都是人的决定。
换句话说，「这是AI说的」永远等价于「有人让AI这么说的」。AI越强大，这句话越值钱，也越烫手。
警惕舒服的那半句
麻烦在于，大家都只听这句话里舒服的那半。「没有意识」听起来像「没有威胁」，于是我们心安理得地把判断外包给一个强大却无立场的机器：信贷审批看模型评分，医生看影像科AI的标注，连写年终总结都要先问一句聊天机器人。
但一个没有意识的系统，恰恰是一个不会替你犹豫的系统。它会给出置信度98%的答案，却不会在深夜为这个答案失眠。犹豫、不安、良心的刺痛，这些低效的东西正是责任的心理载体。把判断全权让渡出去，省掉的不只是时间，还有那份本来该由人承担的重量。
结语
所以「AI尚未形成意识」这句话，我建议倒过来读：它不是在说机器有多安全，而是在提醒我们——后果栏里填的名字，自始至终只有人类。
机器没有意识，意味着它不会为我们承担任何东西。这不是技术的局限，是自由的价签。