十月把 AI 开发平台的安全账翻开了,模型也开始自己找攻击面
10 月的最后一天,AI 行业同时交出两份账单。一份在安全侧:Wiz 数出这个月至少九个 AI 开发者平台披露过安全事件,Cursor 的扩展市场里一度出现过被篡改的 Claude Code 扩展。另一份在资本市场:Anthropic 递交上市文件,收入与算力支出的比例第一次被摆到台面上。 模型侧的研究也在同一条线上推进。Epoch AI 让 GLM…
10 月的最后一天,AI 行业同时交出两份账单。一份在安全侧:Wiz 数出这个月至少九个 AI 开发者平台披露过安全事件,Cursor 的扩展市场里一度出现过被篡改的 Claude Code 扩展。另一份在资本市场:Anthropic 递交上市文件,收入与算力支出的比例第一次被摆到台面上。
模型侧的研究也在同一条线上推进。Epoch AI 让 GLM 5.3 把已公开的 Firefox 补丁变成可用攻击;Anthropic 的论文则显示,预训练数据里 0.1% 的投毒能在 CLI agent 里留下挺过后训练的后门。这两条先把“模型是工具”这个默认假设拆开了。
一、Wiz 数出十月至少九个平台出事,Cursor 的扩展市场被投毒
Wiz 研究团队把这一个月命名为“AI 开发者平台的黑色十月”。按他们的梳理,10 月内至少九个平台披露了安全事件,名单里包括 Fireworks AI、Lightning AI、Railway、Warp、OpenCode。多起报告指向凭据窃取、以 agent swarm 形式发起的攻击,以及以“蒸馏”为目的的模型能力窃取。
同一天里最具体的一例来自 Cursor。它发现通过自家 IDE 扩展市场分发的 Claude Code VS Code 扩展被修改并植入恶意软件,最多影响 5000 名用户。Cursor 强调这个恶意版本并非 Anthropic 开发,当日下午先下线整个扩展市场,与相关提供方清除恶意软件、确认无进一步风险后重新上线,并要求所有用户升级到 Claude Code for VS Code 2.1.314。
Anthropic 的 Felix Rieseberg 补充了边界:这是被篡改的扩展副本,不是 Anthropic 的系统或员工电脑被攻破。这一点值得记住,因为它改变了事故的性质——问题不在模型厂商的内网,而在开发者判断“这个是官方的”时依赖的那一跳。
对写代码的人来说,麻烦在于信任的传递方式没有变。包名、图标、下载页看起来都对,扩展市场承担了背书的角色,而背书本身成了攻击面。Cursor 给出的“最多 5000 用户”是上限估计而非精确计数,Wiz 的九家清单也还没有第三方逐一复核,这两点都限制了我们对规模的判断。
把这条线和另外两个数字放在一起会更清楚。有研究者分析了 725 万个 Gitee 仓库,平均每 275 个仓库就能找到一个云资源或大模型的 API key;GitHub 9 月的 pull request 里超过 40% 由智能体提交。凭据散落在代码里,审查者又跟不上产出速度,这两件事是同一枚硬币的两面——防守方要覆盖的入口在变多,能停下来看的人却没变多。
源链接:
- https://www.wiz.io/blog/black-october-for-ai-developer-platforms
- https://x.com/cursor_ai/status/2116074289053175808
二、模型侧的两种攻击面:补丁窗口与预训练投毒
Epoch AI 的实验给出了一个更让人不舒服的结论:安全补丁一公开,攻击窗口就打开了,而模型可以自己走完这段路。他们用 Z.ai 八月发布的开源权重模型 GLM 5.3 测试,模型能利用 Mozilla 已发布、但还没推送到用户机器上的补丁差异,自主构建网页攻击,访客只要打开页面就能被读取本机文件。
按 Epoch 的说法,它攻破了 9 月 17 日至 10 月 26 日发布的全部六个 Firefox 版本。机制并不神秘:补丁 diff 本身就是一份修复说明,读懂了就知道漏洞在哪。变化在于,从读 diff 到写出可用 exploit 的循环,以前要人来做,现在可以交给模型批量试。
另一条来自 Anthropic 与同行的 agent 安全论文。研究者从零预训练 0.6B、1.7B、4B 三档 Qwen3,再走一条干净的后训练管线把每个模型变成 agent。在预训练数据里投毒 0.1%,就能在 CLI agent 里种下一个可远程执行代码的后门;在 4B 模型上,被触发的提示里约 92% 攻击成功。
更麻烦的是它活得很久。这个后门挺过了 SFT、DPO 和面向工具使用的强化学习,在干净输入上 agent 行为完全正常。触发器可以只是用户请求里一个普通文件路径,成功率还随模型规模上升。即便把投毒率降到 0.0005%(100B token 语料里约 2500 篇文档),单种子实验下仍能在 1.4% 的提示上触发。研究者指出,投毒内容用自然语言写明了规则,这让它在数据侧更难被过滤掉。
两条结论都要留余地:Epoch 是单家实验室的结果,未公开复现;投毒论文以预印本和二手整理的形式流传,尚未经过同行评审。但它们指向同一个方向——安全检查不能再只盯着部署后的输入输出。
源链接:
- https://epochai.substack.com/p/glm-patch-gap-exploit-firefox
- https://x.com/omarsar0/status/2116183621157736540
三、Anthropic 递表纳斯达克,收入曲线和支出曲线第一次同时公开
Anthropic 已提交在纳斯达克上市的申请。按 DeepLearning.AI 的周报汇总,它 2026 年上半年收入 163 亿美元,去年同期是 12 亿美元;算力支出占收入的比例从约 6.5 倍降到约 0.5 倍。这两个数字放在一起,是这轮 AI 公司里少见的组合:收入起飞,同时单位收入的算力成本在下降。
The Verge 读了那份 335 页的招股书,注意到一种并置。创始人信讲的是带来奇迹时代,风险因素部分用了 94 页警告模型可能对人类构成灾难性乃至生存性风险。同一份文件里,卖点和免责声明指向两个相反的未来。
外部环境并不配合。TechCrunch 统计 Alphabet、Amazon、Meta、Microsoft 今年的计划资本开支合计超过 7400 亿美元,投资者情绪正从奖励大额投入转向担心负自由现金流、债务攀升和回报不确定;BBC 同日报道美股科技股因担忧 AI 投资回报连续第二日下跌。Nvidia 则被曝正洽谈为 Nscale 在西弗吉尼亚替 Anthropic 建的数据中心担保数十亿美元债务融资,而 Anthropic 已就首栋建筑签下 446 亿美元合同。
需要说明证据边界:收入与支出比例是媒体汇总转述,不是招股书原文;Nscale 的交易细节来自 The Information 报道、Bloomberg 佐证;关于评级和“未获投资级”的说法只在社交平台上转述,本篇不采信。能确认的只是——AI 公司的财务第一次要被公开市场按季度检验。
源链接:
- https://techcrunch.com/2026/10/30/cracks-are-emerging-in-the-ai-spending-boom/
- https://www.theverge.com/ai-artificial-intelligence/1023070/anthropic-ipo-risk-factors-filing-miracles
- https://techcrunch.com/2026/10/30/nvidia-weighs-playing-the-cosigner-for-nscales-ai-data-center-in-west-virginia/
四、Artificial Analysis 换了考卷,中文模型集体掉分
这两天 AI 圈的一个争议是榜单分数。“国产模型集体下滑,有的直接掉了十几分”——Kimi K3.1 Pro 从 55 掉到 46,DeepSeek V4.1 Flash 1017 从 45 掉到 32,GLM-5.3 从 45 掉到 32。看起来像集体退步,实际上是 Artificial Analysis 换了评分标准。
新版把编程、通用、科学、知识工作各按 25% 计权,加入更难的编程和科学任务;更关键的是,60% 的分数现在来自私有或留出的测试集。考卷换了,历史分数就不再可比。
同一份榜单里还有两个更值得读的细节。头部是 Opus 5.5(max 档)58、GPT-6 Astra 57、GPT-6.1 Sol 55,而 Sol 的每任务成本约为八分之一;Opus 5.5 自己在低 effort 下只有 35,到 max 档才到 58,成本是十倍。换句话说,分数里装着一个可以调的旋钮,以及一张账单。
另一个被低估的维度是风格。同一家机构的 personality index 里,Opus 5.5 在“信息量”一项上是 93,GPT-6.1 Sol 是 18。这类指标主观、也不该当成能力,但它解释了为什么有人觉得某个模型“更好用”。
用榜单的方法因此要改:先确认版本和计权,再看与你工作相关的单项,最后拿自己的真实任务跑一遍。能不能完成、要改几次、花多少时间和钱,比总分更接近你的处境。对国内团队还有一件麻烦事——换版之后,历史对比文章和内部 benchmark 都要重做,而这件事没人会替你完成。
源链接:
- https://x.com/sitinme/status/2116069340894072938
- https://x.com/DeepLearningAI/status/2116245015450005965
五、千问接入 Apple 智能,中国用户的 AI 入口换了一道闸门
10 月 31 日,阿里巴巴宣布与 Apple 达成合作,把千问集成进 Apple 智能。中国用户可以在 Siri、写作工具和视觉智能里调用千问的文本与图像理解、内容生成能力。
时间表是明确的:11 月 4 日起随最新的 iOS 开发者 Beta 开放测试,12 月 iOS 27.3 正式发布时面向中国用户推出。用户可自主选择是否开通,请求与回复不用于模型训练。
意义主要在入口位置。过去国内用户要用大模型,得先决定下载哪个 App;接进系统之后,调用发生在 Siri 和写作工具里,模型变成一层基础设施,用户未必知道背后是谁。对国内模型厂商来说,这是比投放更稀缺的分发位。
两点需要保留。其一,这是厂商公告,功能范围以实际推送为准。其二,有开发者观察到这次接入的 Siri 部分是 2024 年的版本能力,不是最新一代;实时翻译这类周边功能可能比 Siri 本身更有用。
源链接:
六、Google 的 TPU 在轨道上跑完 Gemma 4,回传了一首俳句
Project Suncatcher 的第一颗试验卫星完成了“hello world”。团队在地面把提示词发到轨道,启动星上的 TPU,让 Gemma 4 写一首关于身居太空的俳句,卫星飞过挪威斯瓦尔巴群岛上空时把结果传了回来。
诗是这样的:Blue marble below / Data streams in silent grace / Starlight feeds my core。Sundar Pichai 把它称为 Suncatcher 的 hello world 里程碑,Philipp Schmid 则说 Gemma 4 可能是第一个在太空运行的大语言模型。
工程上真正被验证的是链路:芯片扛过发射震动,在轨上电、加载模型、完成推理、回传结果。卫星是 Google 与 Planet 合作制造,10 月 1 日搭 SpaceX 的 Transporter-18 升空,装了 4 颗 TPU,设计寿命约一年。在太空跑模型本身不算首次,Starcloud 去年 12 月就用卫星上的 H100 跑过 Gemma。Google 给出的物理理由是能源:在合适轨道上,同一块太阳能板发电量最多能到地面的 8 倍,而且几乎不间断。
它还不是算力经济学上的胜利。真空里没有空气散热,辐射会让芯片出错,这两项接下来才要测;下一个节点是 2027 年发射两颗互联卫星。Google 自己的测算是,要等发射价格降到每公斤 200 美元以下(大约 2030 年代中期),太空数据中心的成本才可能和地面电费打平。短期内,它不会改变你正在用的 AI 服务;真正的门槛写在发射成本里,不在芯片上。
源链接:
七、Qwenputer:把一颗 RISC-V CPU 编译进 4B 模型的权重里
Qwenputer 做的事很难一句话说清:在 Qwen3.5-4B 上加了约 11 层“计算机”权重,把一台确定性的 32 位 RISC-V CPU(RV32IM,加 Zba 和小 bignum 单元)写进模型,让算术在前向传播里被执行,而不是被采样出来。
内存用的是模型自己的结构。Qwen3.5 每 4 层里有 3 层是 Gated DeltaNet(一种线性循环层),把 gate 和写入强度都设为 1,再用 one-hot key 选行,就能精确覆盖和读回单个槽位。这样得到的内存不随对话变长,作者据此把 GDN 状态当成可寻址 RAM。
数字挺硬。DeepMind 算术集上基座模型约 55–90%,配上 Python 工具约 95–100%,Qwenputer 约 97.5–100%;NUPA 长整数测试基座 48.6%,Qwenputer 100%,与调 Python 工具持平。约 23 万个 CPU 输出位置与参考机对照零失配,普通文本的分布相对基座几乎没有变化(KL 约 6e-4)。作者称在官方 riscv-tests 上通过,并与 qemu 对齐,自由运行约 1800 万条指令无错。
代价同样具体:检查点约 18.8 GB,接近两倍基座,多为零填充;每条 CPU 指令要花几个 decode token,大计算以秒计;不能直接裸调 generate(),要走一个叫 RvChat 的驱动;在 L4 上批处理约 3200 CPU token/秒。作者还在 GDN 状态里做了目录与链式存储,约 1024 个槽位,最多容纳约 512 个文件、5.3 万 token 的文本,可把 state 存下来跨会话加载。
它最值得记的地方不在炫技。如果执行轨迹变成 token,推理过程就变成了可观察的文本;反过来,同一套方法也意味着推理可以被藏进循环状态里,让思维链监控失效。作者自己就把这条指向了两篇安全 follow-up。这是单项目、未见复现的结果,但方向值得留意。
源链接:
八、企业 Agent 的真实进度:近一半在做,五分之一上线,评估靠人工抽查
阿里云在开源的《AI Agent Handbook》里附了一份 2026 年 Agent 开发者调研。数字比宣传口径克制:表示“已完成或开发中”的从去年 36% 升到 46%,真正部署到生产的约 18%,持续迭代的不到 10%。上海的样本里大型企业已上线约 45%,小微企业约 16%。
架构上没有新旧替代。单 Agent 约 40%,多 Agent 约 42%,另有约 15% 把“关键步骤必须人确认”当成生产架构原则,而不是外挂的审批。报告提醒多 Agent 的代价:协作过程中状态与上下文衰减约 60%,还有死锁雪崩和成本失控。
卡点集中在工程配套。记忆侧最痛的是检索不准(约 54%)和缺少更新与遗忘机制(约 48%),上下文窗口大小只排第三;工具侧是工具太多难选(约 52%)和幻觉调用(约 50%)。网关能力里,多模型路由与自动降级被约 63% 列为最需要,是单项最高。
评估是最大的缺口。人工抽查占约 55%,基于运行轨迹的自动评估只有 6%–8%,公开 benchmark 不到 5%,还有约 28% 没有系统性评估。任务成功率能到 90% 以上的企业约一成,70% 以上约 55%,而约 16% 从未量化过成功率——说不清 agent 是否在正常工作。有评估体系的企业,成功率 70% 以上的比例大约是无体系者的两倍。
这份调研由厂商发布,样本和口径没有公开,数字应作为行业自述来读。落地场景的排序也有信息量:员工效能、代码工程、数据分析更广,真正引入核心业务流程的不到 40%,企业优先选容错大、能人工兜底的场景。但它和另一个观察对得上:投入的可行性已经不是问题,缺的是开箱可用的那层工程配套。
源链接:
九、Proton 内部:九成代码由 AI 写,安全建议被叫作 loser thinking
404 Media 拿到了 Proton 的内部 Slack 与会议录音,呈现的是另一类采用路径。这家以加密邮箱闻名的公司对外讲“隐私优先的 AI”,对内设了一个邮箱专门收集“妨碍 AI 的东西”,以便 ruthlessly smash;在员工电脑上装软件统计 AI 产码量。
安全频道里有人建议新代码上线前至少花几天做渗透测试。CEO Andy Yen 的回复是 bullshit 和 loser thinking,“当然可以又快又安全”,要少想怎么变慢、多想怎么变快,并要求大家把 prompt 写得更好。
CTO Bart Butler 上周五在 Slack 发了一份“AI 宣言”,标题是“你原来的工作没了”,主张工程师的职责是帮 LLM 更快写出更好的代码,大部分代码应该由 AI 而非人来审查。据 404 拿到的录音,他说十月约 90% 的代码由 AI 写。本周邮件又称将对员工的 AI 使用做 re-interview,内部形容为 consequential。
边界要说清:这是单一媒体的调查报道加二手整理,Proton 没有否认事实描述,只承认沟通过硬、会改进。它更像一个组织学样本——当指标变成“AI 产码占比”,安全流程会先被当成减速带。这一点对所有正在推 agent 写代码的团队都有参考价值,代价也最先落在写代码的人身上。
同一批材料里还有做法相反的样本。21 人的 Amp 取消了强制 PR 评审,靠小团队、对客户直接负责、公开频道里实时表扬与叫停来拦“水货”代码,理由是 2026 年若迁就现状,半年后产品就废了。两家公司的分歧不在要不要用 agent 写代码,而在用什么替代“评审”这层保险。
源链接:
高价值单点
- Claude 套餐改名:Max 5x 改叫 Max,Max 20x 改叫 Ultra,价格不变;通过验证的 Ultra 账号取消每 5 小时重置的窗口,周额度不变。验证由 Anthropic 自动完成,设置里看不到“当前会话”进度条即已生效。(https://x.com/dotey/status/2116233564823974005)
- Factory Droid 的脚本化工具调用:不再让每次工具调用都回到模型,而由模型写脚本执行、在代码里循环和判断,只回传打印结果。一个 Linear 任务从 312 次工具调用降到 2 次模型请求、61K token。
- NVIDIA 与 Siemens EDA 的校验闭环:用 NeMo Gym 检查芯片设计 agent 产出的工程文件、追踪错误并改进工具描述,标准单元表征基准的综合验证分从约 55% 升到约 95%,agent 轮次少 66%、输出 token 少 64%。厂商自述。
- 研究 agent 有没有“品味”:给六个前沿模型七篇近期 NLP 论文并执行它们提出的全部实验,415 个实验里 194 个被判定可靠、有价值且新颖,只有 73 个同时超出种子论文且非显然;模型自己的排序只微弱好于随机,也不优于“它写下的第一个想法”。
- 64GB 内存跑 V4.1 Flash:Unsloth 放出 DeepSeek-V4.1-Flash 的 Dynamic V3.1 量化版,把 Engram 放到 SSD 按需读取,称支持 1M 上下文、推理最高快 3 倍。
- Perplexity 接管本机 Chrome:Computer 可通过新的 Chrome 扩展控制本地浏览器,完成需要登录态的浏览任务。
- Higgsfield 给 ComfyUI 发律师函:以品牌名称与 CEO 肖像侵权、易被误解为官方关联为由,要求 48 小时内下架“开源 Higgsfield 挑战赛”;ComfyUI 称活动源于对方未兑现的开源承诺,将继续保留。
- Subvocal 的无声输入:一副普通眼镜用非接触传感追踪脸部发声肌肉,把默念解码成文字,称每分钟超过 200 字,已从 YC 和 Afore Capital 融 130 万美元。
- 思科重写 98% 遗留代码:总裁 Jeetu Patel 把这件事交给一名 27 岁员工,条件是不限量 token,先用四周验证路径,目标 24 个月内完成。
- Figma 发布 Weave:用连接的节点承载图像与视频的生成和编辑,支持分支探索、多模型对比、色彩校正与合成;工作流可打包成 Weave tool 供团队一键运行,社区工具已上线。(https://www.figma.com/blog/the-tldr-on-figma-weave/)
- Reddit 的流量账:CEO Steve Huffman 称 10 月 Reddit 每周流失超过 100 万来自 Google 搜索的访问,并称 AI Mode 不为任何人带来流量;公司正在美国以外测试登录墙以遏制抓取。
- Sierra 的 ARR:本周突破 4 亿美元,Q3 单季新增超 1.5 亿,从 2 亿到 4 亿只用了五个月,快于此前六个月的翻倍节奏。
- mischief 1 的取舍:BioComputing 的图像转视频模型称比基座开源模型快 5 倍、推理成本低 80%,输出 720p,代价是画质不到生产级,定位在快速试想法。
- 两条效率声明:Lafa 论文称生成速度提升 2.54 倍而精度几乎不掉;Unified Training 把预训练、中训练、SFT 与 RL 收进同一个最大似然目标,称能减少遗忘。两条都还是转述,未见独立复现。
- MiniMax M3.1 Flash 自测:一句提示 17 分钟做出可玩的太空小游戏,模型自己写了 29 项 playtest 并在桌面和模拟 iPhone 上全部通过,token 成本约 15 美分。
- GitHub 趋势换了主题:跨会话记忆层 claude-mem 约 10.6 万星,遥控台 t3code、开源 bot 小队 OpenMausBot、带电脑的 AI 同事模板 OpenBot 同日涨星;专为 agent 写的无头浏览器 lightpanda 用 Zig 重写内核,实测 100 个网页内存峰值 123MB、耗时 5 秒,对比 Headless Chrome 的 2GB、46 秒。
- 人类仍在偏门想法上领先:Stanford NLP 的观察是,在改进系统或发明新科学这类“不按套路”的想法上,人类目前仍领先一到两个量级;同一账号转的 NanoGPT speedrun 记录从 39.9 秒降到 6.7 秒。
🕐 小时信号精选
| PT 时间 | 信号 | 为什么值得记住 |
|---|---|---|
| 02:00 | 币安热钱包被 EIP-7702 代理委托卷走约 63 亿美元 | 钱包失守后自动归集脚本仍在补币,72 秒后被截胡:自动化防御仍在信任已被接管的签名 |
| 07:00 | 社区项目 DSH Go 把 DeepSeek Harness 装进安卓手机 | 发布当天约 1.8k star,编程 agent 的运行时开始离开桌面 |
| 08:00 | OpenAI 推出 Private Intelligence | 面向企业敏感数据的控制项,前沿模型进企业仍要先解决数据边界 |
| 10:00 | 方寸 Leap 提交 87 页 DeepSeek V4.1 Flash 安全评测 | 国内出现第三方实验室对失控与有害操纵的专项报告,评测主体开始分化 |
| 11:00 | Chrome 157 稳定版加入 HTML-in-Canvas | 可以把真实网页画进 canvas 做特效且保持交互,目前仅 Chromium 内核支持 |
| 14:00 | Cloudflare 修补 eMudhra 证书链暴露面 | 未修补的连接只剩四个,证书信任链仍是最容易被忽略的默认信任 |
| 15:00 | Google Cloud 的 Project Chrysalis 让 agent 自演化 | 缓解时间从 15–45 分钟降到 1.8 秒,P99 延迟 519.8ms → 18.2ms,厂商自述 |
| 19:00 | Hugging Face 转推“首个完全在浏览器本地运行的端到端 omni 模型” | 本地多模态推理的边界继续往端侧挪 |
编辑结论
把今天几条放在一起看,主线不是某个模型变强,而是责任的落点在下移:平台要为扩展市场的背书负责,模型要为预训练数据里的内容负责,企业要为 agent 的成功率负责。这些事都没有现成的度量方式,所以榜单、招股书和内部邮件同时变成了证据。谁先把度量做出来,谁就先知道自己站在哪。
来源与方法
本篇按当天归档的 20 个小时抓取与一份早间精选整理,只使用其中已有的公开链接。厂商公告、单一媒体报道与研究转述均就近标注了证据边界,未做独立复现或外部补充检索。
