[Intra-node PD][DSV4] Pack all layers into one batch for INTRA_NODE_NVLINK path
该 PR 在 INTRA_NODE_NVLINK 自定义内存池传输路径中,将所有层打包为一个批次处理,与 RDMA 路径的层批处理方式对齐。它减少了节点内 KV 传输的分层调度开销,对 DeepSeek V4 类单节点预填充与解码分离部署有直接性能价值。
每天 04:00(Asia/Shanghai)自动抓「昨天」一天的新内容。
[Intra-node PD][DSV4] Pack all layers into one batch for INTRA_NODE_NVLINK path
该 PR 在 INTRA_NODE_NVLINK 自定义内存池传输路径中,将所有层打包为一个批次处理,与 RDMA 路径的层批处理方式对齐。它减少了节点内 KV 传输的分层调度开销,对 DeepSeek V4 类单节点预填充与解码分离部署有直接性能价值。
[Bugfix][SparseMLA] Fix piecewise cudagraph capture crash in index group
该 PR 修复 sparse-MLA 模型在 piecewise cudagraph 捕获 decode batch 时,index group 事件等待路径触发 CUDA invalid argument 的启动崩溃。它让 GLM-5.3-Flash 这类 hybrid KDA 与 sparse-MLA 模型能够在多 GPU 捕获路径上稳定进入推理。
[None][test] Remove 59 closed-bug waive entries for main
该 PR 从 TensorRT-LLM main 分支测试配置中移除 59 条已关闭问题对应的 waive 记录,覆盖 DeepSeek、MTP、NVFP4、多 GPU 等测试项。它恢复了相关精度与吞吐配置的 CI 可见性,提升推测解码和低精度推理路径的回归发现能力。
[4/N][warmup][DSv4] Migrate common attention kernels
该 PR 将 DSv4 通用 attention 准备、缓存、索引器、稀疏 attention 以及 Q/K 归一化等内核迁移到共享 warmup contract,并定义 kernel-owned compile keys 与 AST-traced warmup spaces。它减少了专用 warmup 逻辑分叉,让 Triton 编译、缓存压缩和稀疏注意力调度在服务启动阶段更可控。
Add DeepSeek-V3 NVFP4 training support
该 PR 为 DeepSeek-V3 训练加入 NVFP4 支持,将 1F1B EP-overlap schedule 的低精度上下文扩展为按层选择 FP8 或 FP4,并把 MTP 层纳入 FP4 初始化与调度路径。它使 DeepSeek-V3 类模型能够在 NVFP4 量化上下文下训练,增强低精度训练与重叠并行的硬件适配能力。
[TRTLLM-14093][feat] Eagle3 support for MiniMax-M3
该 PR 汇总 MiniMax-M3 分支上的 Eagle3 支持,尽量把改动限制在 MiniMax-M3 专属路径,仅少量触及 flashinfer 与 executor 热路径。它为 MiniMax-M3 接入 Eagle3 推测解码能力,同时降低对通用推理热路径的侵入风险。
[Model] Support DeepSeek-V4.1-Flash
该 PR 在 vLLM 中加入 DeepSeek-V4.1-Flash 模型支持。它扩展了服务推理侧可直接加载的 DeepSeek V4.1 Flash 模型范围,便于推测解码和高性能推理栈适配新模型。
[V1][Metrics] Support Sliding Window Attention (SWA) and hybrid layers in MFU/MBU estimation
该 PR 修正 vLLM V1 性能指标估算逻辑,使 MFU 和 MBU 计算支持 Sliding Window Attention 以及混合层,而不是默认所有层都采用完整二次 attention。它让启用 SWA 或混合 attention 的模型获得更贴近实际结构的利用率估算,提升线上推理性能观测的解释准确性。
[Bugfix][Spec Decode][MoE] Avoid uninitialized EPLB state in DeepSeek V4.1 DSpark drafter
该 PR 修复 DeepSeek V4.1 DSpark drafter 在目标模型启用 EPLB 时继承不兼容 EPLB 状态导致启动失败的问题,并在 shared load_dspark_model 路径构造 draft Parallel 时应用覆盖。它保持目标模型 EPLB 可用,同时避免 drafter 因专家拓扑不同而访问未初始化负载映射,提升 MoE 推测解码部署稳定性。
[TRTLLM-16020][test] Add Kimi K3 GSM8K accuracy tests to GB300 multi-node post-merge CI
该 PR 只更新 TensorRT-LLM 的 CI 注册与文档,在 GB300 多节点 post-merge CI 列表中加入 Kimi K3 GSM8K baseline 与 speculative-attention 测试,并调整相关超时配置。它扩大了 GB300 多节点推理场景下 Kimi K3 与推测 attention 的持续验证覆盖。
[misc] Trim redundant variants from the 8-gpu-h20 disaggregation test suite
该 PR 精简 8-GPU H20 disaggregation 测试套件,移除与 KV 传输后端正交或被动态 chunking 覆盖的冗余变体,并把 load budget throttle 行为迁入单元测试。它缩短了硬件相关分离式推理测试链路,同时保留关键行为覆盖以提高 CI 周转效率。
[profiler] Label draft-runner steps DRAFT and target verify VERIFY in step spans
该 PR 为 SGLang profiler 的 step span 增加 draft worker 标识,使 draft runner 步骤标记为 DRAFT,target verify 步骤标记为 VERIFY,其余模式保持原名。它让推测解码 trace 中 draft 与 target 的验证阶段更容易区分,提升性能分析和问题定位效率。
[Bugfix][Spec Decode] Only create draft_id_to_target_id when draft vocab differs
该 PR 修复 full-vocab EAGLE3 drafter 在 draft vocab size 与 target vocab size 相同时仍创建 draft_id_to_target_id 的问题,使其走 lm head 后的快速路径。它避免无意义的词表重映射,减少 decode 阶段额外开销并改善全词表 EAGLE3 推理路径。
model, mtmd: fix gemma4 vision handling
该 PR 修复 Gemma 4 vision 处理逻辑,为较小的 E2B 和 E4B 模型始终使用 causal attention,并确保 global layer 与 transformers 实现保持 causal,同时修正 vision token budget。它提升 llama.cpp 对不同 Gemma 4 视觉模型结构差异的适配准确性,降低多模态推理中的注意力语义偏差。
[Refactor] StructuredOutputManager x Speculative Decoding Refactor
该 PR 重构 StructuredOutputManager 与 Speculative Decoding 的交互,并整合结构化输出、reasoning structured output 和 MTP 推测解码相关测试。它减少非测试代码与测试重复,使结构化输出约束和推测解码调度之间的控制流更集中、更易维护。
[Doc] Clarify ITL vs TPOT Prometheus metrics
该 PR 修正文档中对 Prometheus 指标 vllm:inter_token_latency_seconds 的说明,区分 ITL 与 vllm:request_time_per_output_token_seconds 表示的 TPOT,并补充 TPOT 面板。它避免在推测解码一次输出多个 token 或不同聚合权重场景下误读延迟指标,提升推理服务观测口径一致性。
[Minor] Invert MRV1 specdec method fallback logic
该 PR 反转 MRV1 speculative decoding method fallback 判断逻辑,改为基于不支持的方法检测,并合并原本分离的 ngram 检查。它让 MRV1 退场阶段的推测解码方法选择逻辑更集中,降低后续维护和服务配置判断成本。
[Doc][Metrics] Fix spec-decode PromQL examples to use the exposed names
该 PR 修正 SpecDecodingProm 文档字符串中的 PromQL 示例,将 Counter 在 scrape endpoint 暴露时追加 total 后缀的指标名写对,同时保留 LLM.get_metrics 侧的无后缀命名。它让推测解码接受率、草稿 token 和按位置接受 token 的监控查询能够匹配真实指标,改善服务观测可用性。
[Spec] Allow speculative workers to stage prefill shared reads
该 PR 为 speculative workers 增加可选的 prefill_shared_read_stager 回调,使后续 draft-prefill reader 能在 target replay 前暂存 shared read,并在成功后记录 read-done 事件。它改善推测解码中 prefill 共享读取的事件流控制,减少 worker 间同步受限带来的调度阻塞。
[Model Runner V2] Acceptance estimation for adaptive verification
该 PR 在 Model Runner V2 中实现在线 acceptance estimator,将 adaptive verification 从带 confidence head 的 DSpark 扩展到 MTP、EAGLE3、DFlash 以及无 confidence head 的 DSpark 等 draft-model speculator。它让推测解码验证长度能够依据运行时接受率估计自适应调整,在后端支持 variable length verification 时提升推理调度弹性。
「llama.cpp」版本「b10982」为「Vulkan」后端加入 sparse Flash Attention,覆盖「DSV4」和「GLM」调优实现,并补充测试以避免非确定性 atomicAdd。对本地推理和跨平台部署者来说,这意味着部分稀疏注意力模型在非「CUDA」路径上也能获得更接近专用后端的效率。
「llama.cpp」版本「b10981」优化「OpenVINO」的 stateful decode 和「GPU MoE」推理,修复「Gemma-4」分层 head 尺寸、交错滑窗层识别、MSVC 类型收窄等问题。它还加入4位 requant 目标选择和权重溢写目录配置,对在英特尔硬件上跑长上下文、滑窗和混合专家模型更友好。
无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA
无问芯穹联合清华、上交开源具身端侧推理引擎「APXInf」,主打具身智能规模化落地中的端侧推理瓶颈,并宣称「Pi 0.5」性能达到领先水平。对机器人和端侧智能体团队来说,这类引擎的关键价值在于把多模态决策模型从云端演示推进到低延迟、低功耗的真实设备运行。
Sakana AI 研究者提出「PC-ALM」,一种带增广拉格朗日约束的层局部学习方法,试图替代传统反向传播来训练极深网络。它在8到128层宽深配置上匹配反向传播,并在参考单元中把与反向传播梯度的余弦相似度从0.604提升到0.909,还扩展到1000层训练。若后续能在大规模模型上成立,分布式训练可能减少全局反传依赖,给低通信训练带来新路线。
Accelerating Dropless MoE Training in JAX with NVIDIA Transformer Engine
NVIDIA 介绍如何用「Transformer Engine」在「JAX」中加速 dropless「MoE」训练,聚焦专家路由不丢 token 时的性能和稳定性。随着「DeepSeek」、「Qwen」和「Mixtral」等模型推动「MoE」成为主流架构,这类训练栈优化会直接影响大模型预训练吞吐、显存占用和专家并行工程复杂度。
「HF PEFT」发布「v0.21.0」,新增 Riemannian-preconditioned LoRA optimizer 和「KaSA」等方法,强化参数高效微调的优化器与奇异值适配能力。前者试图改善「LoRA」特征学习并减少 A、B 矩阵学习率分开调参,后者关注从基础权重中识别知识相关奇异值。对微调工程而言,这版更新意味着「PEFT」继续从省参数扩展到更细粒度的优化质量控制。
「llama.cpp」版本「b10985」修正「RPC」后端缓存策略,只对权重做 hash-cache,避免激活张量在多节点切分时被反复哈希和写入缓存。此前「Qwen3.8-Flash-Next」两节点 prefill 中较大 ubatch 会把 worker 缓存目录膨胀到约1.4TB。这个改动直接降低分布式本地推理的磁盘写放大和延迟,对远程后端切分更实用。
「llama.cpp」版本「b10978」为「Metal」后端补齐「MiniCPM3」所需的 Flash Attention kernel,覆盖 key 长度96、value 长度64的配置。此前「fa auto」会因缺少对应 kernel 而中止,现在苹果设备上运行该类注意力形状的模型更顺畅。对端侧用户来说,这是典型的小形状补齐带来的可用性提升。
全球AI视频榜单第一梯队再添中国力量:智象发布首款物理规律导向视频模型
智象未来发布首个原生全模态视频生成模型「HiDream-O1-Video-1.0」,强调物理规律导向的视频生成能力。对视频模型从业者来说,重点不只是画面质量,而是生成结果是否能在运动、交互和因果连续性上更接近真实世界,这会影响广告、影视预演和具身数据生成的可用性。
Apple brings a fully revamped Siri built on Google's Gemini, but not to the EU
Apple 推出重建后的「Siri AI」,底层采用 Google「Gemini」模型,并结合端侧运行与「Private Cloud Compute」,但暂未面向欧盟开放。早期测试显示其多步请求和屏幕上下文能力有提升,同时仍存在幻觉和个人上下文缺口。对开发者而言,这标志着手机级助手进入大模型驱动阶段,但隐私、区域合规和可靠性仍是落地约束。
量子位报道 Meta 关于字节模型蒸馏的新研究,核心看点是将 byte-level 模型能力通过蒸馏进一步抬高上限。对基础模型训练者来说,字节粒度路线的价值在于减少分词器带来的语言和符号边界假设,但真正可用还取决于蒸馏后效率、长序列成本和下游泛化能否同时成立。
[AINews] AEF-1 standard emerges for Third Party Evaluators, as Xai, OpenAI, and Anthropic all cosign
「Latent Space」报道「AEF-1」第三方评测标准开始形成,并获得 xAI、OpenAI 和 Anthropic 等机构共同背书。对模型厂商和企业采购方来说,独立评测标准能缓解各家自报榜单难以横向比较的问题,也会推动安全、能力和部署适配从营销指标转向更可审计的流程。
这篇文章把现代智能体栈拆成「Agent Harness」、「Agent Framework」和「MCP」三层,重点厘清循环控制、状态、工具、权限和失败恢复分别该由谁负责。对工程团队的价值在于避免把协议、编排框架和运行时护栏混成一团,从而更清楚地设计生产级智能体边界。
Abnormal AI: Amazon Bedrock AgentCore for agentic email security at scale
「Abnormal AI」用「Amazon Bedrock AgentCore Code Interpreter」作为临时计算沙盒,支撑实时邮件威胁检测智能体在十亿级消息规模下运行。重点不只是接入代码解释器,而是展示了短生命周期执行环境、沙盒隔离和生产运维约束如何落到安全场景里。
Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARE
「NVIDIA FLARE」介绍如何把联邦学习从单服务器和少量客户端扩展到「Docker」、「Kubernetes」与「Slurm」环境。对企业训练团队而言,核心意义是让跨机构数据不出域的训练流程能进入更真实的集群调度、容器化和高性能计算场景。
「llama.cpp」本次构建为「CUDA」后端补上行连续张量的「SUM_ROWS」支持,并整理共享内核以覆盖「GGML_OP_MEAN」相关路径。对本地推理和轻量部署用户来说,这类算子覆盖能减少张量布局变化带来的慢路径,提高模型图执行的稳定性。
Salesforce and Nvidia’s new reasoning model is everything the AI labs should fear
「Salesforce」和「NVIDIA」推出面向销售、营销与客服任务的推理模型「Koa」,基于开放权重的「Nemotron」训练而来。它释放的信号是,垂直场景厂商可以在开放基座上快速做出任务型推理模型,对通用大模型实验室的应用层溢价形成压力。
「llama.cpp」在「OpenCL」后端新增通用「ssm_scan」算子,并同步修正代码格式。这个改动面向状态空间模型等依赖扫描算子的结构,有助于扩大非「CUDA」设备上的模型兼容性和推理覆盖面。
这篇文章拆解「Meta」构建组织第二大脑智能体的设计思路,核心关注企业知识、工作流和长期上下文如何被智能体持续组织与调用。对从业者的启发在于,生产级企业智能体需要围绕记忆、权限、可追溯和跨工具协作设计,而不只是套一层聊天入口。
从 Trace 到规模化实时评估:面向生产流量的 Agent 可观测实践|QCon上海
文章聚焦从「Trace」走向生产流量实时评估的智能体可观测实践,强调线上智能体不能只靠离线样例和人工抽检判断质量。对工程团队而言,关键是把调用链、工具结果、用户反馈和自动评测接起来,形成能覆盖真实失败模式的持续观测闭环。
Not everyone is convinced that Big AI's proposed slowdown is really about safety
「OpenAI」、「Anthropic」和「Google」推动放慢前沿「AI」开发节奏,并以安全风险作为主要理由,但行业和政治层面出现明显反弹。争议焦点在于这究竟是安全治理,还是大型实验室通过规则抬高竞争门槛,对模型创业公司和开源生态都有直接影响。
Agent-net Open Sources Webagent: A Go Harness That Turns Any Website into a Guarded AI Agent
「Agent-net」开源了用「Go」编写的「Webagent」,目标是把任意网站包装成带防护的公开业务智能体,并支持智能体之间发现、信任和交易。它把很多原本需要手写的编排逻辑前移到运行时框架里,对想把网站能力接入智能体网络的团队很有参考价值。
viable/strict/1789457489: [xpu] Refine and improve MemPool functionality (#192048)
「PyTorch」在「XPU」后端改进「MemPool」功能,并对齐其他后端加入「no_split」参数。这个变化属于底层内存管理能力补齐,能让非「CUDA」设备在缓存、分配和算子执行路径上更接近主流后端行为。
viable/strict/1789454551: [_native][2/8] Add shared CuTeDSL and reduction machinery (#195050)
「PyTorch」合入共享的「CuTeDSL」和归约算子基础设施,用于统一描述逐元素变换、归约规则、内核生成和启动逻辑。它是后续原生算子栈的基础工程,意义在于减少各算子重复写内核调度细节,让生成式高性能算子更容易复用。
Siri model swapping 🔄, Claude Money 💰, Hugging Face Tau 👨💻
这期「TLDR AI」汇总了「Siri」模型切换、「Claude Money」和「Hugging Face Tau」等动态,覆盖消费端助手、商业化和开发者工具方向。对从业者而言,它反映出模型能力正在同时向终端系统集成、付费产品形态和开源平台体验扩散。
文章从「Token」账单异常切入,指出成本飙升背后可能隐藏调用链失控、提示词膨胀、重复检索或智能体循环异常。对生产团队来说,账单监控应当和链路追踪、缓存命中、上下文长度和工具调用次数联动,否则很难定位真正的系统性浪费。
发长文预警 AI 风险后,Dario 首次专访回应:AI 不能停,但必须慢下来
「Anthropic」首席执行官「Dario Amodei」在长文预警后进一步回应,主张「AI」发展不能停止,但需要降低失控风险并放慢部分前沿推进节奏。这类表态会影响安全规范、监管讨论和大模型竞赛节奏,也会改变企业采用前沿模型时对风险评估的预期。
Nvidia CEO Jensen Huang tells Trump ‘we’re not going to let [an AI slowdown] happen’
「NVIDIA」首席执行官「Jensen Huang」公开反对放慢「AI」发展的倡议,并向「Trump」表示不会让减速发生。与「Dario Amodei」、「Sam Altman」和「Elon Musk」等人的安全立场相比,这凸显了算力产业链对持续扩张和全球竞争节奏的强烈诉求。
「Reward AI」发布机器人策略「OM-1」,它完全由七自由度可穿戴手套采集的人类示范训练,没有使用遥操作或机器人本体数据。该策略可在人形和工业机械臂上以接近人类速度运行,新任务少于三十分钟数据即可学习,并结合电磁手部追踪与强化学习控制层,但目前未开放权重、代码或接口。
Manage end-user OAuth consent for AI agents with Amazon Bedrock AgentCore
「Amazon Bedrock AgentCore Identity」新增同意门户,为「AgentCore Gateway」提供托管式终端用户授权界面和会话绑定端点。文章用「GitHub」和「Slack」授权码流程做示例,说明生产智能体接入外部工具时如何把用户授权、审计和「CloudTrail」记录纳入治理。
v0.34.1-rc0: MLX: version bump (#18235)
「Ollama」候选版本升级「MLX」依赖,并加入对「MoE」模型中「ModelOpt」全局缩放的支持。对苹果生态和本地推理用户来说,这意味着量化或优化后的混合专家模型在「MLX」路径上的兼容性继续提升。
OpenAI, Anthropic, Google have been in talks on AI safety for weeks
「OpenAI」确认已与「Anthropic」和「Google DeepMind」就「AI」安全进行数周讨论,同时美国政府团队更强调与中国竞争的速度。这个分歧说明前沿模型治理正在变成产业联盟、安全规范和国家战略之间的博弈,研发团队需要同时关注技术风险与政策信号。
什么样的数据库底座,能加速 Agent 从 Demo 走向生产?
文章讨论什么样的数据库底座能支撑智能体从演示走向生产,重点在于状态、记忆、检索、权限和事务一致性。对开发者来说,智能体应用的数据层不能只当普通向量库使用,还要承载长期上下文、操作审计和多工具协作中的可靠恢复。
量子位报道称,曾任高瓴创投合伙人、投过智谱和「MiniMax」的严文韬加入梁文锋相关团队并担任财务负责人。对大模型行业而言,这类资本与财务角色到位通常意味着公司治理、融资节奏和商业化布局进入更制度化阶段。
「llama.cpp」调整模型构图代码,把「build_arch_graph」定义移动到「graph」模板特化之后。这个改动偏工程结构修复,能减少模板解析和架构图构建顺序导致的维护风险,为后续模型架构扩展留出更清晰的代码路径。
Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents
前「Anthropic」员工和前「METR」运营负责人创办的「AIUC」完成四千万美元「A」轮融资,方向是约束失控或越权的智能体行为。它把智能体安全从抽象评测推进到类似承保、审计和风险控制的产品形态,对企业部署自主代理具有现实意义。
量子位报道的手机智能体演示中,用户只给一句话,系统便自动执行约一百步流程,体现终端助手从问答走向跨应用操作。对移动端「AI」产品来说,真正的竞争点正在转向权限编排、界面理解、长流程稳定性和失败恢复,而不只是模型对话能力。
viable/strict/1789482542: [dynamo] Specialize symbolic list.pop() indices (#196590)
「PyTorch Dynamo」修复了动态形状场景下「list.pop」索引特化的问题,避免形状派生索引触发「AsPythonConstantNotImplementedError」并逃出追踪器。由于弹出哪个元素会改变计算图结构,补丁采用与「Python」索引转换一致的路径处理索引,让动态图编译在列表结构操作上更稳。
前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了
前「OpenAI」后训练负责人回应陶哲轩关于「AI」影响数学的判断,认为未来模型不只会解题,还可能提出有价值洞见并建立新的概念框架。这个讨论关系到大模型在科研中的角色边界,即从自动化助手升级为能参与问题发现和理论构造的协作者。
v0.34.1-rc2: API: Deprecate typical_p (#18448)
「Ollama」候选版本废弃新模型中的「typical_p」参数,但保留对已有「GGUF」模型相关设置的兼容读取。对本地模型分发和推理配置而言,这意味着采样参数接口正在收敛,模型制作者需要调整新模型的配置习惯。
Grouped Value Attention: Efficient KV Caching via On-Demand Key Reconstruction
「Grouped Value Attention」面向长上下文推理中「KV」缓存随序列长度线性膨胀的问题,核心思路是只持久存储分组后的 value,再用可学习线性映射按需重构 key。它把传统「GQA」的缓存压缩方向进一步拆开,避免 key 和 value 都完整落盘或驻留显存。结果是在更小持久缓存下接近「GQA」精度,对端侧部署和高并发 serving 的显存预算很有现实意义。
Atria Dawn: The Dawn of Agentic Superintelligence
「Atria Dawn」把基础语言模型训练推进到可验证工具交互场景,目标不是只回答题目,而是在科研任务中完成项目级协作。模型通过带验证信号的工具使用轨迹学习规划、执行和修正,让智能体能力从静态文本推理转向可检查的外部行动。其强基准表现说明,未来科研助手的关键竞争点会更多落在长期任务闭环和工具环境反馈上。
ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search
「ZGCM-1」是一款70亿参数开放基础模型,主打数学推理和智能体搜索场景,解决小模型在复杂推理与外部工具调用之间难以兼顾的问题。它通过架构与系统协同设计、渐进式长上下文扩展和自主智能体工作流训练,把内部思考与外部搜索结合起来。价值在于给开源社区提供了一个更高效的推理型基座,适合研究低成本推理、工具增强和长上下文训练配方。
PhysBrain 1.5: From Vision-Language Models to Physical Foundation Models
「PhysBrain 1.5」试图把视觉语言模型升级为面向物理世界的基础模型,同时处理环境理解、动作生成和未来状态预测。它把视觉语言、运动和视觉目标都离散成序列,并用联合自回归训练统一建模。开源具身评测达到领先水平,说明多模态基座如果要服务机器人和交互式世界模型,需要把看懂、能动和预测后果放进同一训练目标。
RSIAgent: Autonomous Exploration for Recursive Self-improvement in New Environments
「RSIAgent」关注数字智能体进入新环境后缺少训练样本、难以快速自我改进的问题。它采用免训练多智能体框架,通过自主构建记忆和先广后深的探索策略,让智能体在环境交互中递归积累可复用经验。对从业者的价值在于,它把环境适应从再训练问题转成探索和记忆组织问题,适合低成本部署到新工具链或新任务空间。
HazardAuditor: From Executable Threats to Safer Computer-Use Agents
「HazardAuditor」面向电脑使用智能体的安全监督,痛点是文本规则很难覆盖真实执行链路里的危险操作。它把威胁转成可执行场景,并提出「Guard Policy Optimization」,让生成式防护策略直接对齐序列级安全结果。相比只做静态分类,这种执行落地的审计方式更接近真实浏览器、桌面和工具调用环境中的风险控制。
LLaDA-UI: Bringing Block-wise Diffusion to Vision-Language GUI Agents
「LLaDA-UI」把块级扩散生成引入视觉语言「GUI」智能体,探索不同于自回归解码的人机界面操作路线。其167亿参数混合专家模型在多模态界面理解与动作生成上保持较强表现,同时保留块并行解码带来的效率优势。对智能体系统而言,这提示「GUI」任务未必只能依赖逐 token 自回归,扩散式并行生成可能成为低延迟操作规划的新选择。
Learning to Solve Hard Problems in RL for LLMs by Never Giving Up
这篇工作指出,大语言模型强化学习常把收益集中在本来较容易的任务上,困难样本反而因为成功率低而拿不到足够训练信号。「NGU」通过自适应采样把计算预算重新分配给更难的问题,让模型在训练中坚持探索高价值难题。它的意义在于提醒「RL」训练不能只看平均奖励上升,还要控制样本难度分布和计算投入位置。
Per-Matrix Optimality Is Not Enough: Three-Level Optimization for Low-Rank LLM Compression
这篇论文挑战了低秩压缩里只对单个矩阵做最优截断的常见假设,因为各矩阵独立压缩后的误差会在 Transformer 块的非线性前向中相互放大。作者提出三级优化链,从白化「SVD」的矩阵级压缩,到块级联合优化,再到端到端全模型校正,逐步扩大优化范围。它对工程压缩的启发是,参数量削减不能只看单层重构误差,还要用真实前向路径评估压缩后的整体行为。
Vidu S2: Real-Time Interactive, Editable, and Spatial Video Generation
「Vidu S2」面向交互式视频生成和编辑,把实时头像、空间视频生成和动态参考更新放进同一模型体系。它支持高分辨率场景下持续修改参考条件,使视频创作从一次性生成走向可迭代编辑。对多模态产品而言,关键价值是降低视频生成的交互延迟,让用户能边看结果边调整角色、空间和动作约束。
Dream-RSI: Recursive Self-Improvement through Evolving Worlds
「Dream-RSI」处理递归自改进中在线评估昂贵、探索策略迭代成本高的问题。它利用历史发现回放,在离线环境中评估探索策略,从而减少每轮都要真实跑环境的开销。这个方向对智能体训练很重要,因为可扩展自改进不仅需要会探索,还需要便宜、稳定且可复盘的评估机制。
LynnReal-Omni: Native multi-modal Video Generation for Agentic Visual Workflows
「LynnReal-Omni」提出统一的多模态视频扩散框架,目标是服务带智能体控制的视觉工作流,而不仅是纯文本到视频。它把高保真生成、视觉控制和实时加速整合起来,让模型能在生成过程中响应更复杂的代理式指令。对视频应用开发者来说,这类框架把视频模型从内容生成器推进到可编排的视觉执行引擎。
Discovery Foundation Models: Toward Open-Ended Discovery Intelligence
「Discovery Foundation Models」面向开放式科学发现,核心痛点是当前模型通常停在问答或局部实验辅助,难以持续提出问题、检验假设并根据证据修正方向。论文把干实验和湿实验场景中的问题表述、假设测试、证据更新组织成迭代闭环。它的价值在于给科研智能体提供了更接近真实发现过程的基础模型目标,而不是只优化单次任务得分。
How Lossless Is Lossless Speculative Decoding? The Role of Numerical Precision in Orthrus
这篇论文重新审视「Orthrus」的无损投机解码,指出其严格无损性质依赖较高数值精度。「BF16」下会出现生成轨迹分歧,但这种分歧并未明显损害下游基准表现。它对推理系统的意义很直接:工程上宣称无损需要说明精度条件,而实际部署还要区分逐 token 一致性和任务级效果是否退化。
BVB: Benchmarking Agentic Video Understanding via Programmatic Reconstruction in Blender
「BVB」用在「Blender」中程序化重建真实视频的方式评测智能体视频理解,要求模型不仅看起来相似,还要保留对象、位置、运动和时间关系。结果显示当前模型能取得较高感知相似度,却容易丢失关键时空事实。这个基准把视频理解从描述和选择题推进到可执行重建,对评估具身智能和视觉智能体更有区分度。
AlayaVista: Streaming World Modeling from Panoramic States to Perspective Video
「AlayaVista」面向交互式世界建模,把全景状态演化和透视视频合成解耦,避免每个视角都从头建模世界变化。它借助「MUGEN」数据集支持从全景世界状态到用户视角视频的流式生成。对游戏、机器人仿真和空间智能应用而言,这种设计能在保持画质的同时提升多视角交互效率。
「Omni-Streaming Thinking」针对流式全模态推理中的过早下结论问题,尤其是音频场景下的幻觉。它让模型延后声明结论,先等待跨模态证据互相验证,再输出更可靠判断。这个机制对实时语音、视频助手很关键,因为低延迟系统既要快,也要避免在证据未齐时把猜测说成事实。
When Agents Slow Down: Understanding LLM Agents' Test-Time Strategies via Elo-per-token Analysis
这篇论文用「Elo-per-token」分析大语言模型智能体的测试时策略,衡量每消耗一个 token 带来的能力增益。研究发现智能体早期比独立采样扩展更快,但长会话会逐渐变慢,而并行多个短会话往往优于单次长跑。它为智能体部署提供了清晰信号:测试时计算预算不只要加量,还要决定是深挖一条轨迹还是并行探索多条轨迹。
Disentangling Representation Evolution in Transformers through Directional Decomposition
这篇论文用方向分解研究 Transformer 表征如何随层演化,把学习到的更新拆成保持当前方向的平行分量和改变方向的垂直分量。作者发现预训练模型中存在大量超出残差恒等路径的平行分量,并进一步分析注意力、MLP 更新以及 attention value 聚合相对隐藏状态的几何作用。它为可解释性和架构分析提供了更细的工具,能帮助判断模型是在强化已有语义方向,还是把表示转向新的计算子空间。
Before You Poll with LLMs: A Deliberative Diagnostic Framework
这篇论文关注用大语言模型做人群意见模拟时的动态可信度问题:模型是在像人一样吸收新论据后改变看法,还是只复述训练中缓存的立场。作者提出 deliberative diagnostic framework,用来评估角色在接触新信息后的信念更新是否符合人类协商过程。它对硅基抽样很重要,因为真实民调应用需要的不只是静态观点相似,还包括论证、反驳和更新路径的保真度。