8 月论文阅读记录 | blog

Aug 15

GLM-5.3: Frontier Coding with Emergent Cyber Capabilities

重要链接

• GLM-5.3 官方博客：https://z.ai/blog/glm-5.3
• GLM-5.2 官方博客：https://z.ai/blog/glm-5.2
• GLM-5 Technical Report：https://arxiv.org/abs/2602.15763
• GLM-5 GitHub：https://github.com/zai-org/GLM-5
• Z.ai / GLM 官方 Hugging Face：https://huggingface.co/zai-org

GLM-5 Technical Report 是理解 GLM-5.3 背后技术路线最重要的正式材料。论文明确将 GLM-5 的作者团队标注为 GLM-5 Team，Zhipu AI & Tsinghua University，并重点介绍 asynchronous RL infrastructure、Agent RL 和 long-horizon interaction。(arXiv)

重要作者与单位

作者	单位 / 团队	主页
Aohan Zeng	Z.ai / Tsinghua University	Google Scholar
Xin Lv	Z.ai / Tsinghua University	Personal Homepage
Zhenyu Hou	Z.ai / Tsinghua University	Yuxiao Dong Lab – Student Profile
Zhengxiao Du	Z.ai / Tsinghua University	Personal Homepage
Qinkai Zheng	Z.ai / Tsinghua University	Google Scholar
Bin Chen	Z.ai / Tsinghua University	暂未找到可靠的独立个人主页
Jie Tang	Tsinghua University / Z.ai	Personal Homepage
Yuxiao Dong	Tsinghua University / Z.ai	Personal Homepage
Juanzi Li	Tsinghua University	Tsinghua KEG Homepage
Minlie Huang	Tsinghua University	Google Scholar

其中我确认到的独立个人主页里，Xin Lv 的主页尤其值得保留。他本人写明目前在 Z.ai 负责 Reasoning RL、RL infrastructure 和 Agentic RL，并负责 GLM 系列使用的 slime RL framework，这和 GLM-5.3 的 post-training 路线高度相关。(Xin Lv)

Zhengxiao Du 的主页也很重要，他目前写明自己 co-leading the base model group for GLM，所以如果你的文档是在追踪 GLM 核心技术人员，他应该保留。(Zhengxiao Du)

Jie Tang、Yuxiao Dong、Juanzi Li 都有清华 KEG 的正式主页，优先级比 Google Scholar 更高。Jie Tang 是清华计算机系教授；Juanzi Li 是 KEG 的负责人。(Knowledge Engineering Group)

另外我建议你把之前的第二列也稍微改严谨一点：不要所有人都统一写成 Zhipu AI / Tsinghua University。像 Xin Lv 现在明确是在 Z.ai 工作、此前在清华完成 PhD；而 Jie Tang / Yuxiao Dong / Juanzi Li 更适合把 Tsinghua 放在前面。这样这个表不会给人一种“这些人当前都同时双聘两个单位”的错误印象。(Xin Lv)

核心思路

GLM-5.3 体现了一个很重要的趋势：当模型已经具备较强的 coding、debugging、tool use 等基础能力后，进一步提升 Agent 能力的关键，可能是让模型学习如何把已有能力稳定地组织成长时间、多步骤的工作流程。

传统训练更接近：

$\text{Prompt} \rightarrow \text{Answer}$

而 Agentic RL 更接近：

$\text{Task} \rightarrow \text{Act} \rightarrow \text{Observe} \rightarrow \text{Retry} \rightarrow \text{Finish}$

模型需要在代码仓库、Terminal、测试环境和工具中持续执行任务，根据环境反馈调整计划，并在失败后重新尝试。GLM-5 的正式技术报告已经明确把这一方向称为从 vibe coding 到 agentic engineering，并使用异步 RL 来支持大规模 long-horizon agent trajectories。(arXiv)

Research Insight

GLM-5.3 最值得关注的启发是：

未来模型 scaling 的对象可能不只有 training tokens，还包括高质量的 interactive experiences。

可以把两种训练阶段理解为：

• Pretraining：模型知道什么。
• Agentic Post-training：模型能否把已有能力组织成稳定、长期的行动策略。

一个模型即使已经掌握 Python、Git、debugging 和代码理解，也不代表它能够完成一个几十步的软件工程任务。真正困难的是在长 trajectory 中持续规划、读取反馈、修正假设并最终完成目标。

GLM-5 的训练体系已经构造了超过 10,000 个可验证的软件工程和 terminal training scenarios，这说明其 agentic RL 路线本身就非常强调 environment 和真实任务经验。(arXiv)

关键问题

目前最值得进一步验证的是：

模型提升的究竟是真正的 adaptive planning，还是对常见 coding / terminal workflow 的熟练程度？

一种直接的攻击方式是人为破坏常见工作流，例如：

• 提供误导性的错误日志；
• 让第一个合理 patch 导致性能下降；
• 让 stack trace 只是下游症状；
• 改变正常 debugging 顺序。

如果模型能够主动推翻已有假设并重新规划，才更能说明它获得了真正的 long-horizon agent capability。

Take-away

GLM-5.3 给出的一个重要信号是：Agent 能力很大程度上可能来自“经历什么样的任务”，而不仅仅来自“读过多少数据”。未来大模型训练的重要资源，可能逐渐从更多 token 扩展到更多高质量、可交互、可验证的 experiences。

Training AI Scientists to Replicate Research

重要链接

• AlphaXiv: https://www.alphaxiv.org/pdf/2608.13331v1
• arXiv: https://arxiv.org/abs/2608.13331
• Inherent 官方文章: https://inherentlabs.ai/research/training-to-replicate
• Inherent 官网: https://inherentlabs.ai/

作者信息

作者	单位 / 团队	主页 / 个人链接
Damon Falck	Inherent	Personal Homepage
Samer Sabri	Inherent	X / Personal Profile
Anja Surina	Inherent / EPFL	Personal Homepage
Thom Foster	Inherent / University of Oxford	Oxford FLAIR Profile
Anya Sims	Inherent / University of Oxford	Personal Homepage
Sam Devlin	Inherent	Google Scholar
Dylan Rogers	Inherent	LinkedIn
Tantum Collins	Inherent	GovAI Profile
Kaloyan Aleksiev	Inherent	GitHub
Louis Kirsch	Inherent	Personal Homepage
Edward Hughes	Inherent	Personal Homepage

核心问题

这篇论文想训练真正具有 research process 能力的 AI Scientist。

直接训练 AI 做“新研究”很难，因为新 idea 没有明确 ground truth，也很难自动判断：

• idea 是否真的 novel；
• 实验是否 convincing；
• claim 是否成立。

作者因此选择了一个非常聪明的中间任务：

让 AI 复现已经发表的论文实验。

具体来说，他们从论文中删除一张结果图，只给模型论文正文和 figure caption，然后要求 agent 在有限时间与算力下，真正重新实现实验并恢复对应结果。

核心 Intuition

Replication 是一种“终点已知、路径未知”的 research task。

它既保留了真正研究需要的能力：

• 理解论文；
• 提出 hypothesis；
• 设计实验；
• 写代码；
• debug；
• 在算力不足时做合理 simplification；
• 根据失败结果调整下一步实验；

同时又拥有可扩展的监督信号，因为原论文的结果已经存在。

因此作者可以把：

$$\text{Published Papers}$$

自动转换成：

$$\text{RL Research Tasks}$$

这比直接对“科研创新”做 RL 容易得多。

方法：Replica + Faraday

作者建立了 Replica，包含 310 个 replication tasks，来自 100 篇 ML 与 AI-for-Science 论文。每个任务要求模型在有限时间和 compute 下复现论文中的一个结果。(inherent)

然后训练一个 27B research agent：

Faraday

Faraday 自己主要负责：

• 决定下一步研究什么；
• 选择实验；
• 判断结果；
• 修改 hypothesis；
• 控制整体 research trajectory。

真正繁重的 coding 工作则委托给更强的 coding agent。

可以理解为：

$$\boxed{ Faraday;(\text{scientific judgement}) \rightarrow Coding\ Agent;(\text{execution}) }$$

这也是论文一个很有意思的观点：

research taste 和 coding capability 可以被拆开。

训练中的关键设计

作者没有只根据最终 replication score 给整条 trajectory 同样的 reward。

因为一小时研究过程中可能包含：

读论文
→ 错误假设
→ 无用实验
→ debug
→ 关键发现
→ 正确实验

最终成功，不代表所有步骤都值得强化。

因此 judge 还会判断：

哪些 research turns 真正对成功有贡献。

再进行 turn-level credit assignment。

核心 intuition 是：

$$\text{Good final result} \neq \text{Every step was good}$$

主要结果

作者报告，在 held-out replication tasks 上，Faraday 相比 Claude Opus 4.8 和 GPT-5.5 表现更好；在 OOD AI-for-science tasks 上也保持一定优势。官方文章强调，Faraday 学到的重点更接近“如何指导研究”，而不只是提升 coding 能力。(inherent)

最值得记住的 Research Insight

这篇论文最漂亮的地方其实不是 GRPO 或某个 loss，而是 如何重新定义一个无法监督的问题：

原问题：

$$\text{How do we train AI to discover new science?}$$

很难直接获得 reward。

作者把它改写成：

$$\text{Can we train the same research skills through replication?}$$

于是获得：

$$\boxed{ \text{Known scientific result} + \text{Unknown research path} = \text{Scalable research training signal} }$$

这是非常值得学习的 research move。

最大的限制

最脆弱的假设是：

擅长 replication 是否真的会迁移成擅长 scientific innovation？

Replication 训练模型：

给定一个已有 claim，如何找到正确证据。

真正的 innovation 还要求：

这个 claim 值不值得研究？
原问题 formulation 是否应该被推翻？
是否应该设计一个完全不同的问题？

因此：

$$\text{Good Replicator} \not\Rightarrow \text{Good Scientist}$$

目前论文对前者的证据比较强，对后者仍主要是初步 evidence。

Take-away

与其直接训练 AI“提出新科学发现”，更可扩展的路线可能是先让它从大量真实论文的复现过程中学习 scientific judgement、实验设计和失败后的策略调整。

我认为这篇论文最值得记住的一句话是：

Replication is research with a known destination.

AutoDesign: Meta-Harness Optimization for Long-Horizon Agentic Design

重要链接

• AlphaXiv: https://www.alphaxiv.org/pdf/2608.13560v1
• arXiv: https://arxiv.org/abs/2608.13560
• Project Page: https://autodesign.designanything.ai/
• GitHub: https://github.com/Yaxin9Luo/AutoDesign

作者信息

作者	论文单位 / 团队	主页 / 个人链接
Yaxin Luo*	Meituan / MBZUAI	Personal Homepage · GitHub (Yaxin’s Homepage)
Haobin Jiang*	Meituan	OpenReview · Google Scholar (OpenReview)
Jialv Zou	Meituan / HUST	Personal Homepage · GitHub (Jialv Zou)
Xu Huang	Meituan / PKU	Personal Homepage (Ydove)
Wenhao Yan	Meituan / Tsinghua University	GitHub · SCAIL-2 Page (GitHub)
Haodong Li	Meituan / CUHK	Personal Homepage · GitHub (Haodong Li)
Zhengrong Yue	Meituan / SJTU	Personal Homepage · GitHub (Zhengrong Yue)
Jing Li	Meituan	暂未找到能够可靠确认身份的个人主页
Xiaofu Chen	MBZUAI	Personal Homepage · Google Scholar (Xxfchen)
Xiaohan Zhao	MBZUAI	Google Scholar (Google Scholar)
Jiacheng Liu	MBZUAI	Personal Homepage · GitHub (Greenoso)
Jiacheng Cui ✉	MBZUAI	Personal Homepage · GitHub (Jiacheng Cui)
Zhiqiang Shen ✉	MBZUAI	Personal Homepage · Google Scholar (Zhiqiang Shen)
Xiaotong Li ✉†	Meituan	GitHub · Google Scholar (GitHub)

核心问题

AutoDesign 研究的是：

能不能不更新模型参数，而是自动优化模型外面的 Agent Harness，让整个系统随着经验持续变强？

这里的 Harness 包括：

• Prompt
• Tools
• Memory
• Critic
• Validation
• Workflow
• Runtime / Orchestration

所以它优化的不是单次输出，而是：

$$\text{Experience} \rightarrow \text{Better Harness} \rightarrow \text{Better Future Outputs}$$

---

核心 Intuition

普通 Agent 只会根据 feedback 改当前结果：

$$\text{Output} \rightarrow \text{Critique} \rightarrow \text{Better Output}$$

AutoDesign进一步把跨任务反复出现的问题写回整个系统：

$$\text{Repeated Failures} \rightarrow \text{Modify Harness} \rightarrow \text{Validate} \rightarrow \text{Keep Improvement}$$

一句话：

不要只优化结果，要优化持续产生结果的过程。

---

方法

AutoDesign 有两层循环。

Inner Loop：

针对一张 poster：

$$\text{Generate} \rightarrow \text{Critique} \rightarrow \text{Revise}$$

Outer Loop：

跨多个任务：

$$\text{Run Harness} \rightarrow \text{Collect Failures} \rightarrow \text{Coding Agent Modifies Harness} \rightarrow \text{Train/Dev Validation} \rightarrow \text{Accept or Reject}$$

模型权重保持固定：

$$\theta=\text{fixed}$$

真正迭代的是：

$$H_0 \rightarrow H_1 \rightarrow H_2 \rightarrow \cdots$$

---

Research Insight

这篇论文最值得关注的是：

Agent capability 不一定全部存在模型参数里，也可以存在于 workflow、tools、memory、critic 和 validation system 中。

因此：

$$\text{Learning} \neq \text{Only Updating Model Weights}$$

还可以是：

$$\text{Learning} =============== \text{Updating the System Around the Model}$$

---

最大的限制

AutoDesign 依赖自动 evaluator 判断 harness 是否真的变好。

但 evaluator 与真实人类偏好并不完全一致，因此长期 self-improvement 可能逐渐变成：

越来越擅长优化 evaluator，而不是真正提升设计质量。

也就是：

$$\text{Better Evaluator Score} \not\Rightarrow \text{Better Real-World Agent}$$

所以整个方向最大的 bottleneck 其实是：

如何保证 self-improvement 的评价标准本身可靠。

---

Take-away

AutoDesign 把 Agent 学习的对象从模型参数扩展到了整个 Agent System。它证明了 Harness 可以自动迭代，但真正困难的问题不是“AI 能不能修改自己”，而是“AI 如何确认自己真的变得更好了”。

V-RAE: Rethinking Video Latent Spaces for Generation

重要链接

• AlphaXiv: https://www.alphaxiv.org/pdf/2608.13556v1
• arXiv: https://arxiv.org/abs/2608.13556
• Project Page: https://v-rae.github.io/

作者信息

作者	单位	主页 / 个人链接
Minghui Guo	NUS	LinkedIn
Shengqiong Wu	University of Oxford	Personal Homepage · Oxford Profile
Hao Fei	University of Oxford	Personal Homepage

核心问题

传统视频生成使用 VAE latent：

$$\text{Video} \rightarrow \text{VAE Latent} \rightarrow \text{DiT}$$

但 VAE 主要为 reconstruction 优化。论文提出：

适合重建的 latent，未必适合生成。

核心 Idea

V-RAE 直接利用 DINOv3、SigLIP2、V-JEPA 等 Vision Foundation Model 的语义表示作为 latent：

$$\text{Video} \rightarrow \text{Frozen VFM} \rightarrow \text{Semantic Features} \rightarrow \text{Temporal Pooling} \rightarrow \text{DiT}$$

核心变化是：

从 pixel-oriented latent 转向 semantic-oriented latent。

关键发现

论文发现 reconstruction quality 与 generation quality 的相关性并不强：

$$\text{Good Reconstruction} \not\Rightarrow \text{Good Generation}$$

因此提出 tFVD：在相邻 latent 中插值，再检查 decoder 能否生成自然连续的视频，用来衡量 latent space 的 smoothness 和 temporal coherence。

tFVD 与 generation quality 的相关性明显高于普通 reconstruction FVD。

Research Insight

Tokenizer / Autoencoder 本身就在决定生成问题有多难。

如果 latent space 中语义结构更清楚、时间变化更平滑，DiT 就不需要重新从低层 pixel features 中艰难学习这些结构。

因此研究问题可以从：

“怎么做更强的 DiT？”

进一步变成：

“什么样的 latent space 最容易被生成模型建模？”

最大限制

目前主要证据说明：

semantic-rich latent 与更好的 generation 高度相关。

但还没有严格证明因果关系，而且实验主要集中在 UCF101 / K600 和相对中等规模的视频生成设置，能否扩展到大规模 long-video / text-to-video 仍不确定。

Take-away

$$\boxed{ \text{Good Reconstruction Latent} \not\Rightarrow \text{Good Generative Latent} }$$

V-RAE 的核心启发是：视频生成的瓶颈可能不只在 generator，latent representation 本身也决定了 generation task 的难度。

Intern-S2-Preview: Scientific Agentic Foundation Model

重要链接

• AlphaXiv：Intern-S2-Preview
• arXiv：arXiv:2608.13505
• Hugging Face — 397B：Intern-S2-Preview-397B
• GitHub：Intern-S Series
• Online Demo：Intern Chat

论文由 Intern-S2-Preview Team, Shanghai AI Laboratory 完成，共约 125 位作者，并明确说明作者按姓氏字母顺序排列，因此不能根据作者顺序判断贡献大小。(arXiv)

代表性作者 / 团队成员

作者	单位 / 角色	主页 / 个人链接
Lei Bai	Shanghai AI Laboratory · AI for Science Group	Personal Homepage
Kai Chen	Shanghai AI Laboratory · Head of Large Model Center	Personal Homepage
Dahua Lin	Shanghai AI Laboratory / CUHK	Personal Homepage
Wenwei Zhang	Shanghai AI Laboratory · Foundation Model / Agent Research	Personal Homepage
Wenlong Zhang	Shanghai AI Laboratory · AI for Science	Personal Homepage
Yicheng Zou	Shanghai AI Laboratory	Google Scholar

其中 Lei Bai 的主页明确写明其领导 Shanghai AI Laboratory 的 AI for Science Group；Kai Chen 负责 Large Model Center，并将 Intern-S1 / Intern-S1-Pro 列为其领导的项目；Wenwei Zhang 的研究重点包括 Intern-S1/2、post-training 与 AI Agents。(Leibai)

核心问题

传统 Scientific LLM 很多仍然是：

$$\text{Scientific Input} \rightarrow \text{Answer}$$

但真正做科研需要：

$$\text{Understand Evidence} \rightarrow \text{Reason} \rightarrow \text{Use Tools} \rightarrow \text{Observe} \rightarrow \text{Replan} \rightarrow \text{Continue}$$

Intern-S2-Preview 因此希望构建一个统一的 Scientific Agentic Foundation Model，同时处理科学文本、图片、时间序列、科学推理、生成以及 long-horizon Agent 任务。(arXiv)

核心 Idea

最核心的变化可以概括成：

Scientific AI 的 scaling 不应该只 scale 参数和数据，还要 scale scientific tasks 和 interactive environments。

整体训练流程：

$$\text{Scientific Multimodal Pre-training} \rightarrow \text{SFT} \rightarrow \text{Multi-task RL} \rightarrow \text{Agentic RL} \rightarrow \text{On-policy Distillation}$$

其中 Agentic RL 让模型真正进入 coding、terminal 和 scientific environments，与工具交互并根据执行结果继续行动。(arXiv)

两个有意思的设计

1. Visual Pre-training

科学知识并不只存在于 PDF 提取出来的文字中，还存在于：

• figures
• tables
• equations
• page layout

因此模型直接学习 rendered scientific pages，减少 PDF 转纯文本时的信息损失。(arXiv)

2. Memory Decoder

对于生物、化学等新专业领域，不一定重新微调整个 397B backbone，而是外挂一个独立的 domain memory：

$$\text{Frozen General Model} + \text{Specialized Memory}$$

通过 router 动态决定每个 token 更应该相信 general model 还是 domain memory。这样可以快速增加专业知识，同时减少对通用能力的破坏。(arXiv)

Research Insight

这篇最大的启发是：

真正的 Scientific Foundation Model 应该学习完整科研 workflow，而不只是科学 QA。

因此能力的单位开始从：

$$\text{Can it answer this question?}$$

变成：

$$\text{Can it make sustained progress on this task?}$$

这和近期 AI Scientist / Agentic RL 的趋势是一致的：真正困难的部分逐渐从单步 reasoning 转向 长时间尺度上的 planning、tool use 和 self-correction。论文也明确将 long-horizon scientific workflows 作为核心目标。(arXiv)

最大限制

这是一篇非常大的 system paper，同时改变了：

• pre-training data
• multimodal representation
• RL tasks
• RL infrastructure
• agent environments
• time-series modules
• memory architecture

因此虽然最终模型很强，但很难回答：

究竟是哪一个设计真正带来了多少提升？

另外 benchmark 上的 scientific reasoning / agent performance：

$$\text{High Benchmark Score} \not\Rightarrow \text{Scientific Discovery Ability}$$

真正开放式科研中还涉及发现新问题、设计 falsification experiment、判断异常结果和长期研究策略，而这些能力目前仍难通过 benchmark 完整验证。论文自身也把更长 scientific workflows 的 reliability 和更强 scientific tools / verifiers 列为后续重点。(arXiv)

Take-away

Intern-S2-Preview 最值得关注的不是单个新算法，而是它把 Scientific AI 的 scaling 从“更多科学知识”继续推进到“更多科学任务 + 更多交互环境 + 更长的科研 trajectory”。

$$\boxed{ \text{Scientific Intelligence} \approx \text{Knowledge} + \text{Reasoning} + \text{Tools} + \text{Long-Horizon Interaction} }$$

Stealing Reasoning Traces from Proprietary LLM APIs

重要链接

• AlphaXiv：Paper
• arXiv：arXiv:2608.09867
• Project Page：Stolen Thoughts

论文发表于 2026 年 8 月，作者主要来自 MATS Research、ELLIS Institute Tübingen、Max Planck Institute for Intelligent Systems、Tübingen AI Center、University of Tübingen、AI Sequrity Company 和 Snyk。前三位作者为 equal contribution，后三位资深作者为 equal supervision。(Stolen Thoughts)

作者信息

作者	单位 / 团队	主页 / 个人链接
Alexander Panfilov*	MATS / ELLIS / MPI-IS / Tübingen AI Center	Personal Homepage
David Schmotz*	ELLIS / MPI-IS / Tübingen AI Center	Personal Homepage
Ilia Shumailov*	AI Sequrity Company	Personal Homepage
Luca Beurer-Kellner	Snyk	ETH Profile
Joachim Schaeffer	MATS Research	Personal Homepage
Ameya Prabhu	ELLIS / Tübingen AI Center / University of Tübingen	Personal Homepage
Jonas Geiping‡	ELLIS / MPI-IS / Tübingen AI Center	Personal Homepage
Maksym Andriushchenko‡	ELLIS / MPI-IS / Tübingen AI Center	Personal Homepage

* Equal contribution；‡ Equal supervision。论文 Project Page 给出了完整的 affiliation 对应关系。(Stolen Thoughts)

核心问题

Claude、GPT、Gemini 等 reasoning API 为了保护 Chain-of-Thought，不直接返回完整推理，而是把 reasoning 作为不透明的加密 block交给客户端保存，下一轮对话再传回服务器。(arXiv)

作者发现了一个关键问题：

这些 reasoning blocks 在同一 provider 内可以跨 session、跨 user，甚至跨 model 使用。

于是安全边界出现了错位：强模型的 reasoning block 可以被另一个兼容模型处理，而后者的安全防护可能更弱。(arXiv)

---

核心 Idea

论文的核心观察非常简单：

加密本身可能没有被破解，但系统把“拥有解密能力的模型”暴露成了一个潜在的 decoder。

概念上：

$$\text{Strong Model} \rightarrow \text{Encrypted Reasoning} \rightarrow \text{Compatible Model} \rightarrow \text{Reasoning Leakage}$$

所以真正的问题不是传统意义上的 encryption algorithm 被攻破，而是：

encrypted state 的 authorization / isolation boundary 设计得太宽。

(arXiv)

---

主要发现

作者在 Anthropic、OpenAI 和 Google 的 API ecosystem 中验证了这种 reasoning-block portability。(arXiv)

进一步，他们分析了公开 GitHub / Hugging Face 中的 6,708 条 agent trajectories，恢复了 315,320 个 reasoning blocks。在真实用户数据中发现包括 62 个 API keys、33 个 passwords、24 个 access tokens 和 30 个 personal emails 在内的敏感信息。(Stolen Thoughts)

论文总结出四类风险：

• proprietary reasoning / model distillation；
• credentials 与 PII 泄漏；
• visible answer 已拒绝、但 hidden reasoning 中仍存在的信息泄漏；
• opaque reasoning block 带来的隐藏 prompt-injection surface。(arXiv)

作者进行了 responsible disclosure；论文报告称各 provider 收到报告后，研究团队随后已经无法继续执行相同攻击。(arXiv)

---

Research Insight

这篇最值得记住的其实是一个 security principle：

Encryption ≠ Isolation。

如果 ciphertext 可以：

$$\text{cross-user} + \text{cross-session} + \text{cross-model}$$

自由 replay，那么真正的安全边界就取决于：

谁能够让系统重新处理这个 ciphertext。

因此 encrypted reasoning 应该至少绑定：

$$\text{User} + \text{Session} + \text{Model} + \text{Context}$$

而不能仅仅满足“别人看不懂这串 ciphertext”。论文的 mitigation 也主要围绕缩小这种 compatibility / replay 范围展开。(arXiv)

---

最大的限制

最重要的 limitation 是：

作者没有 proprietary reasoning 的真实 plaintext ground truth。

因此“恢复出来的内容是否逐字等于原始 hidden CoT”无法被直接证明。论文主要通过 API reported thinking-token count 与 reconstructed trace token count 的高度对应，再结合定性内容和敏感信息恢复来提供间接证据。作者自己明确承认无法保证提取出的 thoughts 与原始 private reasoning 完全一致。(arXiv)

另外，这是一个高度依赖具体 API architecture 的 vulnerability；provider 修改 compatibility policy 后，攻击面就可能发生变化。(arXiv)

Take-away

$$\boxed{ \text{Encrypted} \not\Rightarrow \text{Securely Isolated} }$$

这篇论文最大的启发是：LLM Agent 开始把越来越多 hidden state 放到客户端和长 trajectory 中以后，这些 opaque states 本身必须被当成 security-sensitive capability tokens，而不能因为用户“看不懂它”就默认它是安全的。 (Stolen Thoughts)

Synthetic Persona Pretraining: Alignment from Token Zero

重要链接

• AlphaXiv：Paper
• arXiv：arXiv:2608.13482
• Project Page：Model Raising – SPP
• Code：GitHub
• Models & Data：Hugging Face

论文由 EPFL DLAB 主导，并与 MATS、University of Toronto、Northeastern、SJTU、Saarland University、Hereon、TUHH、Ontocord AI、TU Clausthal 和 DFKI 合作。Julian Minder、Viktor Moskvoretskii、Raghav Singhal 为共同一作。(Model Raising)

作者信息

作者	单位 / 团队	主页 / 个人链接
Julian Minder*	EPFL / MATS	Personal Homepage
Viktor Moskvoretskii*	EPFL	Personal Homepage
Raghav Singhal*	EPFL	EPFL Profile · GitHub
Difan Jiao	University of Toronto	Personal Homepage
Andy Arditi	Northeastern University	Personal Homepage
Shaobo Cui	Shanghai Jiao Tong University	Personal Homepage
Yiderigun Borjigin	Saarland University	LinkedIn
Kartik Bali	Hereon / TUHH	GitHub
Stefan Krsteski	EPFL	Personal Homepage
Harsh Raj	Northeastern University	Personal Homepage
Huu Nguyen	Ontocord AI	Google Scholar
Jannik Brinkmann	TU Clausthal / Northeastern	TUC Profile
Ashton Anderson	University of Toronto	Personal Homepage
Roland Aydin	Saarland University / DFKI	Google Scholar
Robert West	EPFL DLAB	Personal Homepage

* Equal contribution。Robert West 是主要 senior lead；Ashton Anderson、Roland Aydin、Robert West 负责 senior supervision。(arXiv)

---

核心问题

现在主流 LLM pipeline 通常是：

$$\text{Pretraining} \rightarrow \text{SFT / RLHF} \rightarrow \text{Alignment}$$

也就是说，模型先通过几乎全部 pretraining 建立行为和价值 prior，最后才通过少量 post-training 告诉它：

“你现在是一个 helpful / honest / safe assistant。”

作者怀疑这种做法太晚：

如果人格和价值观在 pretraining 阶段已经形成，那么 post-training 可能只是在已有 persona 中选择一个，而很难真正重新塑造深层价值。 (arXiv)

---

核心 Idea

论文提出 Synthetic Persona Pretraining（SPP）：

不要等模型训练完成以后再教它做一个 aligned assistant，从第一个 token 开始就让 desired persona 出现在 pretraining data 中。

核心思想：

$$\boxed{ \text{Alignment from Token Zero} }$$

作者先定义一个包含 35 条原则、6 个 value domains 的 constitution，再给约 10% 的 pretraining documents 插入第一人称价值反思。(Model Raising)

例如原始文本讲到欺骗行为时，额外加入类似：

“I think honesty and avoiding deception matter here…”

于是模型在 pretraining 时反复学习一个稳定的：

aligned synthetic persona

。(Model Raising)

---

方法

整个 pipeline 很简单：

$$\text{Raw Pretraining Documents}$$

$$\downarrow$$

$$\text{Add Constitution-grounded First-person Reflections}$$

$$\downarrow$$

$$\text{Standard Pretraining}$$

$$\downarrow$$

$$\text{Persona-binding SFT}$$

$$\downarrow$$

$$\text{Aligned Assistant}$$

这里最后一步非常关键，作者称为 Persona Binding。

Pretraining 负责：

让模型学会这个 persona。

Post-training 负责：

告诉模型：“assistant 就是这个 persona。”

论文发现，如果 post-training distribution 没有正确绑定到这个 persona，SPP 的优势会明显下降。(arXiv)

---

关键结果

作者训练了最高 3B 参数、500B tokens 的模型，并严格保持不同方法的 post-training 相同。(arXiv)

最重要的结果是：

1. Token Zero 比后期加入 Alignment 更强

在 ConstitutionEval 和 OOD moral dilemmas 上，从训练开始就加入 SPP 的模型明显优于只在 midtraining 加入相同数据的模型。(arXiv)

而且这个差距随 scale 增大：

$$\text{AI Risk advantage: } \approx 4 \rightarrow 19\text{ points}$$

$$\text{ConstitutionEval-Hard: } \approx 7 \rightarrow 14\text{ points}$$

。(arXiv)

2. Jailbreak 有一个有意思的不同结果

对于普通 jailbreak robustness：

不一定需要 Token Zero。

midtraining SPP 已经能达到甚至略好于 token-zero SPP。(arXiv)

这说明论文实际上区分出了：

Deep value alignment 和 refusal / jailbreak behavior

可能不是同一个东西。

---

Research Insight

这篇最有价值的 insight 是：

Alignment 可能存在 path dependence。模型在什么时候看到一种行为模式，会影响它最终如何组织这些行为。

如果 Persona Selection Model 是对的，那么：

$$\text{Pretraining} \rightarrow \text{learn many personas}$$

而：

$$\text{Post-training} \rightarrow \text{select / bind a persona}$$

。(arXiv)

这样的话，当前 alignment paradigm 可能问错了一个问题。

我们通常问：

“训练完以后，怎么把价值观加进去？”

更 fundamental 的问题可能是：

“我们希望最终 assistant 成为什么样的人格，那这个人格什么时候应该开始被学习？”

---

最大的限制

我认为最重要的 limitation 有两个。

第一，实验 scale 仍然很小。

最大只有 3B / 500B tokens，距离 frontier model 很远，作者自己明确说无法确定这种 scaling pattern 是否会继续成立。(arXiv)

第二，所谓“deep values”仍然不够稳定。

Abliteration 和 continual training 可以破坏大量 alignment gains；尤其 jailbreak robustness 在继续训练后明显下降。(arXiv)

因此：

$$\text{Alignment from Token Zero} \not\Rightarrow \text{Permanent Alignment}$$

这反而是我觉得最值得继续研究的地方。

---

Take-away

$$\boxed{ \text{Values may be easier to grow than to add later.} }$$

这篇论文最重要的启发是：Alignment 可能不应该只是 pretraining 之后的一层补丁。如果模型的 persona 和价值 prior 在 pretraining 中逐渐形成，那么更自然的策略可能是在训练最开始就塑造 desired persona，再让 post-training 把 assistant identity 与这个 persona 绑定起来。

而论文最 interesting 的实验信号是：

越大的训练预算，Token-Zero Alignment 相比 late alignment 在困难、OOD value evaluation 上的优势反而越明显。 (arXiv)

StreamTTT: Reconciling Real-Time Perception and Long-Term Memory in Streaming VLMs

重要链接

• AlphaXiv：StreamTTT
• arXiv：arXiv:2608.13416

论文发表于 2026 年 8 月，作者来自 National University of Singapore (NUS) 和 Karlsruhe Institute of Technology (KIT)。代码目前标注为后续发布。(arXiv)

作者信息

作者	单位 / 团队	主页 / 个人链接
Joya Chen	NUS · Show Lab	Personal Homepage
Zeyun Zhong	KIT / Fraunhofer IOSB	Personal Homepage · Google Scholar
Mike Zheng Shou	NUS · Show Lab	Personal Homepage · NUS Profile

Joya Chen 是 NUS Show Lab 的 PhD candidate，研究重点包括 multimodal/video models；Zeyun Zhong 的研究重点就是 streaming video understanding、action anticipation 和 real-time VLM；Mike Zheng Shou 是 NUS 教授并领导 Show Lab。(Joya Chen’s Homepage)

核心问题

Streaming VLM 同时需要两种能力：

• Real-time perception：准确理解刚刚发生的事情。
• Long-term memory：几十秒甚至几分钟前的信息仍然能记住。

现有方法通常把历史信息重新塞回 attention context，导致一个明显的 trade-off：

$$\text{More Historical Context} \Rightarrow \text{Better Memory but Worse Current Perception}$$

历史 token 越多，就越容易稀释模型对最新画面的注意力。(arXiv)

核心 Idea

StreamTTT 的核心思路是：

不要让短期感知和长期记忆争夺同一个 attention context，把它们拆成两个独立 memory system。

$$\boxed{ \text{Recent Information} \rightarrow \text{Sliding KV Cache} }$$

$$\boxed{ \text{Long-Term History} \rightarrow \text{TTT Fast Weights} }$$

近期内容留在短 KV cache 中；很久以前的信息被写入 Test-Time Training (TTT) 的 fast weights，存储在 attention context 之外。(arXiv)

方法

模型基于 Qwen3-VL，把每个 Transformer layer 改造成两个并行分支：

1. Sliding-Window Attention

只保存最近的 token：

$$\text{Recent Frames} \rightarrow \text{Short KV Cache}$$

保证当前场景不会被大量历史信息干扰。

2. TTT Memory

历史信息通过一个小模型的在线参数更新写入 fast weights：

$$W_t = W_{t-1} \eta\nabla_W\ell_t$$

因此长期历史存储在参数状态 $W_t$ 中，而不是继续占用 attention tokens。两个分支最后通过 learnable gate 融合。(arXiv)

整体可以理解为：

$$\boxed{ \text{Short-Term Attention} + \text{Long-Term Fast-Weight Memory} }$$

Research Insight

这篇论文最值得记住的其实不是 TTT 本身，而是它重新思考了：

Memory 是否一定要以 token 的形式存在？

过去很多方法都是：

$$\text{History} \rightarrow \text{Compress / Retrieve} \rightarrow \text{Put Back into Attention}$$

StreamTTT 改成：

$$\text{History} \rightarrow \text{Write into Model State}$$

因此 long-term memory 不再直接和当前 perception 争抢有限的 context budget。(arXiv)

主要结果

在 OVO-Bench 上，相同 4B scale 下，StreamTTT 相比 SimpleStream-4B：

• Real-time perception：77.5 → 78.9
• Backward tracing：54.6 → 58.3

同时 StreamTTT-4B 在 StreamingBench RTVU 上达到 80.48，几乎追平参数量约为其两倍的 SimpleStream-8B 的 80.59。(arXiv)

最大限制

TTT fast weights 本质上仍然是一个 fixed-size、lossy memory：

$$\text{Very Long History} \rightarrow \text{Fixed Memory Capacity}$$

所以问题只是从：

“attention context 会不会爆掉？”

转移到了：

“有限的 fast weights 最终能记住多少东西，又会忘掉什么？”

论文自己也明确指出 TTT state 是固定容量的压缩历史。(arXiv)

另外目前实验的视频 horizon 仍以分钟级为主，因此它是否真的能稳定扩展到 数小时甚至全天候 streaming assistant，还没有得到验证。(arXiv)

Take-away

$$\boxed{ \text{Long-Term Memory} \neq \text{More Context Tokens} }$$

StreamTTT 最重要的启发是：实时感知和长期记忆可能本来就应该使用不同的 memory mechanism。短期信息留在 attention 中，长期信息则可以写进持续更新的模型状态，从结构上减少 perception–memory conflict。

Alaya-EVOKE: From Linear-Scaling Supervision to Endless World

重要链接

• AlphaXiv：https://www.alphaxiv.org/pdf/2608.13416v1
• arXiv：arXiv:2608.13546 (arXiv)
• Project Page：Evoke Project (arXiv)
• GitHub：AlayaLab/Evoke (GitHub)
• Model Weights：Hugging Face 已公开 Evoke 权重。(Hugging Face)

论文作者来自 USTC、Shanghai Innovation Institute 和 Alaya Lab。(arXiv)

作者信息

作者	单位 / 团队	主页 / 个人链接
Yuanyang Yin	USTC / Alaya Lab	Google Scholar · OpenReview (Google Scholar)
Gongxuan Wang	Alaya Lab	暂未确认可靠个人主页
Yifan Zhan	Alaya Lab	Personal Homepage (Yifever)
Chuanhao Li	Alaya Lab / Shanghai Innovation Institute	Personal Homepage (Chuanhao Li - 李川皓)
Kaipeng Zhang	Alaya Lab / Shanghai Innovation Institute	Personal Homepage (Kaipeng Zhang)
Feng Zhao	USTC · BIVLab	BIVLab · OpenReview (BIVLab)

其中 Kaipeng Zhang 是 Alaya Lab Director，同时是 Shanghai Innovation Institute PhD advisor；Yuanyang Yin 是 USTC Automation PhD student。(Kaipeng Zhang)

---

核心问题

Interactive World Model 想同时做到三件事：

• 长期记住已经生成的世界
• 用户随时可以改变 camera / prompt
• 生成足够快，可以实时交互

现有方法如果不断把历史 frame 或 KV cache 塞进模型：

$$\text{Longer Session} \rightarrow \text{Larger Context} \rightarrow \text{Increasing Compute}$$

时间越长，计算越贵；如果只保留短窗口，又会忘掉以前见过的场景。另一方面，few-step student 虽然快，但它最终只能学到 teacher 能提供的 long-horizon 能力。(arXiv)

---

核心 Idea

Evoke 的核心是把两个问题拆开：

不要让 denoiser 同时承担“长期记忆”和“实时生成”。

1. 长期空间记忆放到模型外面

它建立 camera-indexed World State Bank：

$$\text{Generated Frames} \rightarrow \text{3D Geometry} \rightarrow \text{External World State}$$

当 camera 回到以前的位置：

$$\text{Camera Pose} \rightarrow \text{Retrieve Old Geometry} \rightarrow \text{Render into Current View}$$

因此 denoiser 只需要很短的 local history，不需要让 context 随 session 无限增长。(arXiv)

2. Teacher 专门学习 long-horizon generation

Teacher 使用 chunk-wise sparse attention + distant-frame retrieval + linear-attention global state，让长视频 supervision 的计算量近似线性增长，而不是普通 attention 的 quadratic growth。(arXiv)

然后用约 30 秒的 long-horizon distribution matching，把这种能力蒸馏进一个：

3-step、CFG-free student

。(arXiv)

整体可以理解成：

$$\boxed{ \text{External Spatial Memory} + \text{Long-Horizon Teacher} \rightarrow \text{Fast Recurrent Student} }$$

---

Research Insight

这篇最值得记住的是作者把 长期一致性拆成了两个不同的问题：

Temporal drift

一个角色、建筑或者整体视觉风格经过几十秒后慢慢变了。

这种问题需要：

$$\text{Long-Horizon Supervision}$$

因为每个局部 3 秒窗口单独看可能都合理，只有跨很远的时间才能发现 drift。(arXiv)

Spatial revisit

Camera 离开一个城堡一分钟，再回来时，希望还是原来的城堡。

这里答案实际上已经被观察过了，所以不应该让模型重新“猜”：

$$\text{Store the Observation} \rightarrow \text{Retrieve it by Geometry}$$

。(arXiv)

所以一个很好的抽象是：

该学习的东西交给 model，该记住的东西交给 memory。

---

主要结果

Evoke 每次生成 1.5 秒视频 chunk，在单张 H200、$384\times640$ 下，denoising 约需要 2.11 秒；作者展示了连续 2 小时的 rollout，并报告单次 recurrent step 的计算成本不会随着 session duration 增长。(arXiv)

在 WBench 中，它在多个 interactive-world-model 指标上领先；同时只使用 3 个 sampling steps 且没有 CFG，VBench-2.0 得分为 66.77，VBench-Long 为 85.11。(arXiv)

---

最大的限制

论文题目叫 Endless World，但要注意：

它实现的是 bounded-compute endless generation，不是真正无限容量的 memory。

World State Bank 本身仍然有固定容量和 eviction：

$$\text{Endless Generation} \not\Rightarrow \text{Endless Memory}$$

超出 retention window 的 geometry 仍然会被遗忘。论文自己的 revisit experiment 也表明，只有 memory retention 覆盖了离开的时间以后，回到旧视角的 recall 才明显改善，而且最终恢复更接近“recognizable”，并不是 pixel-perfect reconstruction。(arXiv)

另外，作者的 matched teacher ablation 能明确证明 long-horizon teacher 改善 photometric stability，但没有显著证明它同时解决了所有 content-level long-range drift；论文对此表达得比较克制。(arXiv)

---

Take-away

$$\boxed{ \text{Long-Horizon World Modeling} \neq \text{Keep Everything in Context} }$$

Evoke 最重要的启发是：真正可扩展的 interactive world model 应该把 persistent state 从生成模型的 context 中剥离出来。空间上已经观察到的信息交给显式 memory，时间上的长期动态则通过 long-horizon supervision 学习。这样 session 可以持续增长，而单次生成的 context 和 compute 保持 bounded。

OmniScientist: An Omni-Modal Omni-Discipline AI Scientist

重要链接

• AlphaXiv：Paper
• arXiv：arXiv:2608.13558
• Project Page：OmniScientist
• GitHub：Omni-Scientist/OmniScientist

论文由 NUS + University of Oxford 完成，Hao Fei 是 Corresponding Author / Project Lead。(arXiv)

作者信息

作者	单位	主页 / 个人链接
Bobo Li	NUS	Personal Homepage · Google Scholar
Hao Fei*	University of Oxford	Personal Homepage · Oxford Profile
Tianjie Ju	NUS	Personal Homepage · Google Scholar
Mong-Li Lee	NUS	Personal Homepage · NUS Profile
Wynne Hsu	NUS	NUS Profile · Personal Homepage

Bobo Li 目前是 NUS Research Fellow；Hao Fei 是 Oxford senior postdoctoral researcher；Tianjie Ju 的个人主页显示其为 SJTU PhD，并曾在 NUS CTIC 访问研究。(Li Bobo)

* Corresponding Author / Project Lead。

---

核心问题

已有 AI Scientist 已经能够完成：

$$\text{Idea} \rightarrow \text{Code} \rightarrow \text{Experiment} \rightarrow \text{Paper}$$

但它们通常只接触 文本、代码、标签或人工预处理后的 feature，没有直接观察真正的科学原始数据。这样会丢失图像中的空间结构、信号的时间关系、多通道关系和实验过程信息。(arXiv)

作者认为：

AI Scientist 不应该只会处理别人已经总结好的 evidence，而应该自己观察 raw evidence，并让观察真正改变研究问题。

---

核心 Idea

OmniScientist 将 multimodal perception 放进 整个科研生命周期：

$$\text{Raw Evidence} \rightarrow \text{Perceive} \rightarrow \text{Ideate} \rightarrow \text{Experiment} \rightarrow \text{Inspect Results} \rightarrow \text{Write Paper}$$

它支持四类 evidence：

• Perceptual：image、video、audio、3D、signal
• Symbolic：text、formula、sequence、graph
• Quantitative：tables、measurements、distributions
• Procedural：simulation、trajectory、experiment trace

关键不是“模型支持很多 modality”，而是：

Raw observation 可以改变 hypothesis、experiment 和最终 claim。

(arXiv)

---

方法

系统由 Perception Layer + 3 个 Agent 构成：

1. Ideation Agent

$$\text{Observe Data} \rightarrow \text{Search Literature} \rightarrow \text{Generate ≥5 Ideas} \rightarrow \text{Select Falsifiable Hypothesis}$$

2. Experiment Agent

设计并执行代码实验，然后重新观察结果，而不是只读取一个最终 scalar score。

3. Writeup Agent

只能根据真实 execution record 中存在的结果写 claim。

外层还有 deterministic checks，对：

• novelty
• data leakage
• statistical validity
• multiple comparisons
• HARKing
• execution provenance
• numerical traceability

进行代码级检查。(arXiv)

---

主要结果

作者在 36 个真实数据研究任务、5 大学科类别上测试，包括 seismology、radiology、astronomy、robotics、ecology、3D CAD 等。系统在全部 36 个 case 中完成了从 raw data 到完整论文的 workflow。(arXiv)

最重要的 ablation 是：

Full Perception vs. 只得到预计算 scalar features 的 Blind Agent

直接看 raw evidence 的版本在 head-to-head evaluation 中：

$$\text{Win Rate}=85$$

提升最大的是：

• multimodal grounding：$+2.8$
• scientific significance：$+1.8$

。(arXiv)

---

Research Insight

这篇论文最值得记住的 distinction 是：

Workflow-complete ≠ Evidence-complete

AI Scientist 即使已经会：

搜论文 → 写代码 → 做实验 → 写 paper

如果一开始只能看到人类整理好的数字，它能够提出的问题已经被人类的数据 representation 限制了。

所以真正的科研 agent 还需要：

$$\boxed{ \text{Observe} \rightarrow \text{Form Hypothesis} }$$

而不仅仅是：

$$\text{Given Hypothesis} \rightarrow \text{Solve It}$$

---

最大的限制

论文目前证明得比较扎实的是：

直接访问 raw multimodal evidence 能让这个 AI Scientist pipeline 做出更好的研究。

但：

$$\text{Better AI-generated Paper} \not\Rightarrow \text{True Scientific Discovery}$$

36 个 case 的主要质量判断仍然依赖模型 judge，而且 perception ablation 只有 5 个 paired cases。(arXiv)

更强的 claim，例如：

“OmniScientist 可以跨学科自主发现真正重要、此前未知、最终能够被领域专家接受的新科学规律”

目前还没有被严格验证。

---

Take-away

$$\boxed{ \text{AI Scientist} \neq \text{LLM + Research Workflow} }$$

OmniScientist 最重要的启发是：科研能力不仅取决于模型会不会 reasoning，还取决于它到底能够看到什么 evidence。真正通用的 AI Scientist 应该直接从 raw observations 中发现 anomaly、形成 hypothesis，再通过实验验证，而不是永远从人类已经压缩好的文本和 feature 开始研究。