Thoughts · Analysis · AI
Toby's Blog

探索技术、AI与未来的个人博客

2026-11-10

AI最大的尾部风险,是一个人的五五开

过去24小时,英伟达刷屏的方式不太体面。多家律所正在竞相筹备针对公司的股东集体诉讼,被媒体一句话概括:”The race is on to sue Nvidia”——起诉英伟达的比赛开始了。耶鲁大学教授Jeffrey Sonnenfeld公开给出估计:黄仁勋保住职位的概率,”五五开”。而英伟达官方的应对,是宣布调查CEO与”疑似中国间谍”的关系。一家市值牵动整个AI产业链的公司,眼下最大的不确定性不是芯片出货,不是下一代架构,甚至不是股价,而是一个人事问题。

#英伟达 #黄仁勋 #公司治理
READ MORE →
2026-11-10

Agent终于开始学会做梦

11月9日,Anthropic发布了一篇不起眼的研究笔记《The components of agent memory》,讲的是Claude如何决定”什么值得记住”,还引入了一个颇为浪漫的机制名——”dreaming”:在空闲时组织记忆、修正错误。同一天,OpenAI上线了Control Room,一个用来追踪和紧急终止其研究基础设施上所有模型工作负载的中央系统。一边给agent装海马体,一边给agent装刹车。我认为这两件事应该放在同一条新闻里读,因为它们标志着同一件事:agent战争已经从”脑子竞赛”进入了”器官竞赛”。

#Agent记忆 #Anthropic #dreaming机制
READ MORE →
2026-11-09

vibe coding被收回了后厨

今年七月,高盛首席信息官Marco Argenti还在对媒体夸赞自家交易员的”vibe coding”:不懂编程的前台员工用AI把工具搭出来,再交给全行一万两千名工程师打磨,”让离问题最近的人先动手”。到了十月,一纸内部指引更新,Claude Code和GitHub的编码权限被收回到工程师手里,交易员和银行家全员出局。从全员推广到集体收回,中间隔了不到一个季度。

#高盛 #vibe coding #Claude Code
READ MORE →
2026-11-07

前沿模型正在沦为上诉法庭

司法系统早就想明白了一件事:绝大多数案子不需要最高法院。一审法庭消化掉日常的纷争,少数真正的难题才走上诉程序,最终能惊动大法官的百中无一。AI行业花了一万亿美金把大法官塞进每一个法庭,而11月6日Hightouch发布的一份基准测试,等于当众宣读了一份编制改革方案:把旗舰模型请回上诉席去。

#模型分级 #置信度校准 #推理成本
READ MORE →
2026-11-04

你的同意,出厂时就签好了

11月3日,Hacker News当日最热帖(997分)不属于任何一个新模型,属于一个设置项:开发者发现Postman在静默更新里自动安装了AI插件,并默认尝试把全部API数据上传,设置被改了,没人问过他们,API密钥暴露风险瞬间点燃社区。同一天,有团队发现OpenAI Codex的数据共享开关被悄悄复位,训练授权重新打开,与几天前”用量池合并”一事叠加发酵;再往前一天,Google对学校摊牌:想禁用AI功能可以,但会连带失去Google搜索。三件事分布在三家公司、三个大陆,没有商量好,却押了同一个韵脚。

#默认值 #数据隐私 #同意机制
READ MORE →