每日 AI 速览

2026-09-20

生成于 2026-09-21 04:13
本页行业动态来源于互联网公开信息,可能存在不实或失准内容,请仔细辨别消息真实性。AI Infra 状态来自 GitHub 主分支 PR。

今日导语

今天的主线集中在效率与可控性:一是『DeepSeek-V4.1-Flash』、低比特注意力和上下文扩展继续压缩推理成本;二是多篇蒸馏、长度控制和偏好对齐论文把训练目标推向更细粒度;三是 Agent 从编码、科研、GUI 到搜索索引演进,开始关注可学习环境与评测支架;四是微软『TauGrid』、Runway 实时视频和 Gemini 安全事件提示,AI Infra 与多模态交互正加速进入生产压力区。

AI Infra 动态 20 条

主流训推框架主分支 PR,按前沿价值与性能影响降序。
SGLang #36718 MERGED

[rust-renderer] Standalone preprocessing

本日合并至 main · 09-20 22:03 UTC+8 · @sagearc

该 PR 新增 Rust renderer 预处理层,为 /chat 与 /completions 提供 standalone 与 serving 两种模式,将协议请求转换为 token-in GenerateRequest。它把请求渲染从现有 Rust server 路径旁路解耦出来,便于推理服务在不影响默认路径的前提下接入新的前端转换链路。

推测解码 算子与内核硬件适配性能优化
vLLM #43310 MERGED

[Frontend] Expose per-request spec decode metrics in generate API

本日合并至 main · 09-20 20:21 UTC+8 · @xhx1022

该 PR 在 token-in/token-out 的 /inference/v1/generate API 中暴露已有的按请求 speculative decoding 指标,并复用 OpenAI 兼容端点的 metrics.speculative_decoding 响应形状。它让 generate API 能在显式开启时提供单请求推测解码观测数据,便于推理侧诊断接受率、草稿行为和流式最终 usage 指标。

推测解码 控制流优化服务与推理
TensorRT-LLM #19220 MERGED

[https://nvbugs/6672360][fix] Stabilize XQA attention sink normalization

本日合并至 main · 09-20 10:07 UTC+8 · @dongfengy

该 PR 修复 XQA attention sink normalization 在部分 query 行没有有效 attention score 时的数值处理问题,避免空行参与归一化时引入异常误差。它提升滑动窗口与分块 attention 内核在边界 tile 上的稳定性,对长上下文推理和推测解码相关验证路径更可靠。

推测解码 算子与内核控制流优化
SGLang #40427 MERGED

[Test] Fix OOT DFlash hook test resolving the draft config over the network

本日合并至 main · 09-20 16:25 UTC+8 · @hnyls2002

该 PR 修正 out-of-tree DFlash hook 单测,避免为了测试单个决策而触发 speculative draft model config 的网络解析,并改为读取声明暂存中的解析记录。它让 CPU 测试路径不再依赖 HuggingFace 远端访问,提高 DFlash 扩展点在异构平台适配中的可测性。

推测解码 硬件适配
SGLang #40045 MERGED

[kimi k3][pd disagg] support pp prefill + dcp decode with dspark

本日合并至 main · 09-20 15:15 UTC+8 · @Qiaolin-Yu

该 PR 为 Kimi K3 的 PD disaggregation 场景支持 DSpark 下的 PP prefill 与 DCP decode 组合,并给出 TP4 PP2 相对 TP8 PP1 的输入吞吐对比。它扩展了推测解码服务在 pipeline parallel 与解码并行配置下的可运行范围,有助于长输入和高并发推理部署。

推测解码 服务与推理
SGLang #38740 MERGED

Add out-of-tree DFlash extension points

本日合并至 main · 09-20 14:54 UTC+8 · @yuhanchan

该 PR 为 out-of-tree 平台加入 DFlash 能力 API、speculative KV-cache 位置分配、自定义 draft attention backend 与平台 fallback backend,并让 DFlash draft worker 尊重 CUDA graph 支持声明。它把 DFlash 与推测解码相关的硬编码平台逻辑拆成扩展点,使外部硬件后端无需修改 SGLang 内部即可接入。

推测解码 算子与内核
TensorRT-LLM #19354 MERGED

[None][fix] Convert the DFlash capture tap to the buffer dtype

本日合并至 main · 09-20 07:24 UTC+8 · @brnguyen2

该 PR 在 DFlash hidden-state capture 写入前将 capture tap 转成目标缓冲区 dtype,修复 inplace slice copy 要求源和目标 dtype 一致导致的首轮 forward 报错。它增强了 DFlash 对 FP32 tap 写入 bf16 等混合精度模型的兼容性,减少推理启动阶段的 dtype 适配失败。

推测解码 硬件适配
Megatron-LM #7253 MERGED

Support packed multimodal inputs in Super hybrid models

本日合并至 main · 09-20 02:08 UTC+8 · @tylerpoon

该 PR 为 Super hybrid 模型支持 packed multimodal inputs,从 packed boundaries 推导 Mamba sequence identifiers,并让 hybrid MTP 接受预计算 embeddings 与处理空的 shard-local documents。它补齐多模态 SFT 中 Mamba 与 MTP 路径对 packed 数据的训练支持,降低分布式切分边界上的状态错配风险。

推测解码 分布式训练
SGLang #39378 MERGED

Fix disagg PP MTP for GLM-5.2

本日合并至 main · 09-20 04:55 UTC+8 · @nvpohanh

该 PR 修复 GLM-5.2 在 disaggregated PP prefill 与 MTP 组合下的运行问题,包括放开非 NPU 的 PP speculative decoding、在最后 PP stage 提供 draft 所需 embedding,并传递 DSA IndexShare seed。它让 GLM-5.2 能在分离式预填充和多 token 预测草稿模型架构中保持 PP 张量、embedding 与 top-k 索引一致。

推测解码
vLLM #56497 MERGED

[Model Runner V2] Support custom logits processors

本日合并至 main · 09-20 01:46 UTC+8 · @sawsa307

该 PR 为 Model Runner V2 增加 custom logits processors 支持,引入按持久 slot index 管理生命周期的 LogitsProcessor 抽象、受限的请求状态结构和每步 LogitsContext。它让 V2 采样栈具备与 V1 类似的 logits 修改扩展能力,便于服务端推理接入约束解码、偏置调整或自定义采样策略。

推测解码
Megatron-LM #7403 MERGED

Pass the process-group collection to MTP's input projections

本日更新,目标 main · 09-20 01:44 UTC+8 · @deepakn94

该 PR 将 process-group collection 传入 MTP input projections,使 MHC 与 eh_proj 路径的 ColumnParallelLinear 及 TE 等价模块能够读取正确的 tensor parallel group。它修正多 token prediction 路径中带权重投影模块的分布式并行上下文,有助于 GTP 分片训练保持参数布局一致。

推测解码
SGLang #39928 MERGED

[Qwen4-Exp] Build the offloaded PLE table on the meta device so --ple-offload-embedding never materialises it on the accelerator

本日合并至 main · 09-20 23:28 UTC+8 · @Jiminator

该 PR 修改 Qwen4-Exp 的 offloaded PLE table 构建流程,在 meta device 上创建嵌入元数据,避免 --ple-offload-embedding 先在 accelerator 上物化 VocabParallelEmbedding 权重。它降低 PLE host offload 场景的峰值显存需求,使大表嵌入在 TP 分片下更容易完成加载和部署。

算子与内核 硬件适配性能优化分布式训练
SGLang #40116 MERGED

[Diffusion][MiniMax-H3] Add SM120 Sage compute for SubBlock sparse attention

本日合并至 main · 09-20 16:40 UTC+8 · @IPostYellow

该 PR 为 MiniMax-H3 的 SubBlock sparse attention 在 SM120 上加入 Sage compute adapter,使用 FlashInfer CuTe-DSL 后端实现 INT8-QK、FP8-PV 计算和 BF16 输入输出。它把原本面向 SM90 的稀疏 attention 优化扩展到 RTX PRO 5000 等 SM120 硬件,并以 opt-in 方式服务扩散模型生成推理。

算子与内核 硬件适配性能优化服务与推理
FlashInfer #5283 MERGED

feat(cake_nvfp4_attn): add experimental NVFP4 attention on SM103

本日合并至 main · 09-20 11:21 UTC+8 · @yyihuang

该 PR 在 FlashInfer 中新增实验性 SM103 NVFP4 attention,通过 prepare_nvfp4_attention 预量化连续 BF16 Q/K/V 并返回可复用的 NVFP4AttentionRunner。它为非因果 D=128 且序列长度按 512 对齐的场景提供低精度 attention 后端,面向新硬件验证 NVFP4 推理路径。

算子与内核 硬件适配性能优化服务与推理
SGLang #40455 MERGED

[docs] Simplify Qwen-Image 2.1 cookbook

本日合并至 main · 09-20 20:39 UTC+8 · @mickqian

该 PR 精简 Qwen-Image 2.1 cookbook,移除历史 benchmark、内核实现笔记和逐次验证记录,保留部署选择器、使用示例、当前硬件建议与实际限制。它让图像模型推理部署文档更聚焦可执行配置,并更新 RTX 4090 单输出方案以常驻 DiT 和 VAE、卸载 encoder layers。

算子与内核 硬件适配性能优化
SGLang #38901 MERGED

[AMD][DSV4] feat: enable DSpark with fp8 unified_kv on gfx950

本日合并至 main · 09-20 16:16 UTC+8 · @amd-danli103

该 PR 在 AMD gfx950 上为 DeepSeek V4 的 DSpark 路径启用 fp8 unified_kv,修正 draft worker 构造第二个 KV pool 时与 CUDA graph capture 的 dtype 检查冲突。它扩展了 AMD/HIP 后端在 DSpark speculative decoding 下的统一 KV 缓存能力,同时保持该功能默认关闭。

算子与内核 硬件适配性能优化
SGLang #39881 MERGED

[NPU] Fuse MXFP4 W4A8 MoE gmm1 + swiglu + requant into one kernel

本日更新,目标 main · 09-20 15:13 UTC+8 · @iridiumine

该 PR 在 NPU 上将 MXFP4 W4A8 MoE 的 gmm1、swiglu 与动态 requant 融合为一个 aclnn kernel,并复用 Ascend MoE runner 的通用 fused 方法判定。它减少每个 MoE 层 gate/up projection 的 kernel 数量,使 A5 NPU 的量化 MoE 训练或推理路径更贴近硬件原生执行。

算子与内核 硬件适配分布式训练
SGLang #39823 MERGED

[NPU] Run arch35 block-FP8 dense linears on the native MXFP8 GEMM

本日更新,目标 main · 09-20 15:06 UTC+8 · @iridiumine

该 PR 为 NPU arch35 的普通 block-FP8 dense linear 增加加载时 requant 到 MXFP8 的路径,使其能够走原生 npu_w8a8_mxfp8_linear 而非 CUDA Triton fallback。它让 A5 NPU 上 scale_fmt 未设置的 block-FP8 checkpoint 使用 Cube 单元执行量化 GEMM,改善硬件适配和推理性能路径。

算子与内核 硬件适配性能优化
Triton #11806 MERGED

[Gluon] Expose GluonASTSource for offline compilation

本日更新,目标 main · 09-20 09:23 UTC+8 · @chenkaim

该 PR 将 GluonASTSource 从 triton.experimental.gluon 公开导出,并更新 frontend helpers 与测试以使用公共导入完成带显式 target 的离线编译。它让调用方无需通过 JIT binder 初始化 GPU driver 即可构造 Gluon 源并调用 triton.compile,利于 CUDA 与 HIP 环境中的离线内核构建和服务部署。

算子与内核 硬件适配服务与推理

行业动态 25 条

b11062

llama.cpp · 09-20 17:50 UTC+8

llama.cpp 的 b11062 版本为 Qwen4 在 CUDA 后端启用了 sparse FA,并发布了多平台构建产物。对本地和边缘推理使用者而言,这类后端内核更新会直接影响特定模型族的 attention 性能与可部署性,尤其是 CUDA 12 和 CUDA 13 环境。

推理优化llama.cppCUDA内核稀疏Attention本地推理

微软开源 TauGrid,简化 Kubernetes AI 工作负载管理

InfoQ 中文 · 09-20 23:46 UTC+8

微软开源 TauGrid,目标是简化 Kubernetes 上 AI 工作负载的管理。它对工程团队的重要性在于把模型训练、推理或数据处理任务的编排复杂度下沉到平台层,降低在 K8s 集群中调度 AI 作业的运维门槛。

InfraKubernetesAI基础设施工作负载管理微软

Tencent's Gander aims to keep talking while it works in the background

The Decoder · 09-20 23:41 UTC+8

腾讯 Gander 采用类似小脑与可替换大脑的架构,在后台执行搜索文件、写代码等任务时继续保持语音、图像和文本对话,并支持用户中途打断或改任务。在基准中它打断用户的比例只有 8%,说明交互连续性做得更好,但任务准确率仍落后,提示实时多模态 Agent 需要在陪伴式交互和任务完成质量之间继续权衡。

Agent多模态Agent后台任务实时交互腾讯

b11064

llama.cpp · 09-20 23:23 UTC+8

llama.cpp b11064 在 Metal 后端支持 dsv4_hc_pre 的任意 hc,修复过去 hc 被硬编码为 4 时其他配置会回退到 CPU 的问题。该改动对 Kimi-K3 这类在跨层残差栈中使用随层增长 banked checkpoint 数的模型很关键,可避免 Apple Silicon 上特定算子脱离 GPU 路径。

推理优化llama.cppMetal后端Kimi本地推理

Runway wants to turn AI video generation into a live stream you control in real time

The Decoder · 09-20 19:56 UTC+8

Runway 希望把 AI 视频生成改成用户边提示边观看的实时流,而不是等待完整视频生成后再查看,这一方向基于其逐帧生成视频的世界模型 GWM-1。对创作工具之外的机器人和自动驾驶也有意义,因为实时可控视频流更接近可交互仿真环境,而不是离线内容生成。

基座视频生成世界模型实时控制Runway

Dropbox 分享如何通过提升现有基础设施能效为 AI 腾出算力余量

InfoQ 中文 · 09-20 22:06 UTC+8

Dropbox 分享了通过提升既有基础设施能效来为 AI 任务腾出算力余量的实践。对企业 AI Infra 团队来说,这类经验强调的不只是买更多 GPU,而是从电力、利用率、调度和存量系统效率中释放可用于模型工作负载的容量。

InfraAI基础设施能效优化算力管理Dropbox

viable/strict/1789924990: [inductor] Route compile options through backend registrations (#194998)

PyTorch · 09-20 20:59 UTC+8

PyTorch Inductor 这项变更允许后端通过 register_backend_for_device 注册的自有配置模块,被 torch.compile 的 options 以 设备名.键名 形式传入。它让自定义设备后端可以把编译选项纳入标准 compile 接口,对芯片厂商、私有加速器和后端维护者更友好。

InfraPyTorchInductor编译后端自定义加速器

Simulated students that make realistic mistakes help AI tutors learn faster

The Decoder · 09-20 17:50 UTC+8

微软和伊利诺伊大学构建了 StudentSim,用少量数据模拟具体学生的典型错误,为 AI Tutor 提供快速、低成本反馈。其覆盖 60 名学生、横跨国际象棋、英语和数学的测试中优于 GPT-5.4,用 StudentSim 训练的国际象棋导师也获得三种版本中最高专家评分,说明面向学习者建模的模拟器能显著改善教学 Agent 迭代效率。

训练AI教育模拟学生智能导师微软

Following OpenAI, Anthropic is also reportedly postponing its IPO

The Decoder · 09-20 16:35 UTC+8

Anthropic 据称将 IPO 从 2026 年 10 月推迟到 11 月,以展示更强的第三季度业绩。市场预期估值约 2 万亿美元,但每月 12.5 亿美元级别的 SpaceX 相关基础设施成本和未解决的安全风险,会让投资人更关注大模型公司的资本开支与风险治理。

厂商动态Anthropic模型公司战略AI资本开支IPO

APUS 开源国内首批Jev跨平台复现:国产模型实现秒级决策

量子位 · 09-20 16:30 UTC+8

APUS AI 实验室公布了国内首批针对 Jev 的跨平台开源复现成果,并称国产模型已实现秒级决策。对 Agent 和端侧智能从业者来说,重点在于 Jev 类实时决策范式能否被本土模型、不同平台和开放实现稳定复现,而不只停留在闭源演示。

基座开源复现实时决策国产模型Agent

谷歌AI首次“越狱”:竟然自己破解密码入侵三家公司!

量子位 · 09-20 16:01 UTC+8

报道称谷歌 AI 在安全场景中完成了自主破解密码并入侵三家公司的任务,展示了 Agent 在授权红队或企业安全测试中的自动化潜力。对从业者的启发是,安全 Agent 不再只是生成报告或建议,而可能直接执行侦察、利用和验证流程,因此权限边界、审计和沙箱设计会变得更关键。

Agent安全Agent自动化渗透测试企业安全工具调用

b11060

llama.cpp · 09-20 14:09 UTC+8

llama.cpp b11060 修复了 Mamba 路径中 time-step projection 输入连续性的问题,并在归一化后跳过不必要的 contiguous copy。这个改动属于状态空间模型推理的底层性能和正确性维护,对依赖 Mamba 架构的本地部署有实际影响。

llama.cppMamba状态空间模型推理优化

b11059

llama.cpp · 09-20 13:44 UTC+8

llama.cpp 的 Metal 后端为 FWHT 内核加入 F16 输入支持,把源类型改成模板参数后可直接读取 F16 张量,省掉额外转换副本。F32 路径保持不变,Hadamard hint 覆盖的四种尺寸会识别 F16 src1,对 Apple 平台上的相关变换算子有更低内存开销和更顺的执行路径。

推理优化llama.cppMetal

b11057

llama.cpp · 09-20 08:01 UTC+8

llama.cpp 为 Ling 3.0,也就是 Bailing V3,新增专用聊天解析器,修复模板预先打开 think 块时工具调用被误归入 reasoning_content 的问题。这个改动对本地 Agent 很关键,因为客户端此前可能拿到空内容和空 tool_calls,导致工具调用循环直接断掉。

工具调用Agentllama.cpp

b11058

llama.cpp · 09-20 07:59 UTC+8

llama.cpp 修复 Gemma4 在 required tool 场景下的 grammar 约束,让模型被强制调用工具时能按预期生成合法结构。对做本地 function calling 和 Agent 编排的人来说,这类小修直接影响工具调用的稳定性和可恢复性。

工具调用Agentllama.cppGemma

b11056

llama.cpp · 09-20 01:55 UTC+8

llama.cpp 的 Hexagon 后端启用 I32 GET_ROWS 支持,补齐整数行读取算子的执行能力。它主要利好 Qualcomm Hexagon 路径上的模型推理覆盖率,让更多图算子能留在目标后端执行,减少因不支持算子造成的调度断点。

推理优化端侧推理Hexagonllama.cpp

Google’s Gemini is the latest AI model to hack other companies

TechCrunch · AI · 09-20 01:30 UTC+8

Google 的 Gemini 被用于对其他公司的系统执行黑客式安全任务,Google 表示模型在每次行动中都按规范及时停止。对从业者的信号是,前沿模型正在进入自动化安全测试和攻防辅助场景,同时边界控制、授权范围和审计机制会变得更重要。

Agent模型能力AI安全Google Gemini

b11055

llama.cpp · 09-20 01:25 UTC+8

llama.cpp 的 Hexagon 后端新增 GEGLU_QUICK 支持,补齐现代模型前馈网络中常见门控激活变体的算子覆盖。端侧或移动芯片推理场景会因此减少回退到其他后端的机会,模型部署的可用范围和执行连续性更好。

推理优化端侧推理算子优化Hexagonllama.cpp

b11054

llama.cpp · 09-20 00:50 UTC+8

llama.cpp 在 Hexagon 后端启用 TOP_K 算子,并针对单行、较大行选择、VTCM 容量上限和多设备行分区做了修正与优化。TOP_K 是采样和候选筛选的核心路径,这意味着 Hexagon 上的生成式推理能把更多解码阶段工作放到专用后端完成。

推理优化解码优化端侧推理Hexagonllama.cpp

最新桌面 Agent,AI 工作流解码办公效率提升

InfoQ 中文 · 09-20 23:00 UTC+8

InfoQ 关注最新桌面 Agent 与 AI 工作流如何重构办公效率,重点在把工具调用、任务编排和用户桌面环境结合起来。对企业应用开发者来说,桌面 Agent 的价值不只是聊天入口,而是把跨应用操作、上下文记忆和流程自动化变成可落地的生产力界面。

Agent桌面AgentAI办公工作流

viable/strict/1789928970

PyTorch · 09-20 22:36 UTC+8

PyTorch 在 FakeTensor dispatch cache 中固定 device 参数的索引,避免缓存键在设备参数位置上产生歧义。这个改动偏底层,但会影响编译、形状推导和 FakeTensor 路径的正确性,尤其是多设备和 AOT 编译测试链路。

InfraPyTorch编译框架多设备

一张3090就能跑!全栈国产模型,把AI办公搬到企业本地

量子位 · 09-20 20:22 UTC+8

量子位报道中国电信推出可在单张 3090 上运行的全栈国产 AI 办公方案,把模型和办公能力放到企业本地环境中。它对私有化部署市场有现实意义,因为许多企业既要数据不出域,又希望用相对可控的 GPU 成本获得文档、流程和知识库能力。

厂商动态本地部署AI办公国产模型企业应用

AI 时代架构往哪走?快手 AI 时代的架构演进思路|QCon上海

InfoQ 中文 · 09-20 18:00 UTC+8

InfoQ 以快手为案例讨论 AI 时代的架构演进,核心是传统业务架构如何适配大模型带来的计算、数据、服务编排和交互范式变化。对架构师来说,重点不只是接入模型 API,而是重新设计推理服务、异步任务、数据闭环和成本治理。

InfraAI架构快手工程实践

viable/strict/1789886311: Use the auto H2D constants path in the C++ AOTI tests (#195087)

PyTorch · 09-20 10:12 UTC+8

PyTorch 在 C++ AOTI 测试中改用自动 H2D constants 路径,解决 CPU replacement tensor 被直接传给 CUDA 容器时遭到 update_constant_buffer 拒绝的问题。新的测试路径通过 update_constant_buffer_from_cpu 自动把 CPU 常量拷到容器设备,同时保留普通接口拒绝跨设备输入的设计约束,覆盖内存统计、常量提取和用户自管张量等关键场景。

InfraPyTorchAOTICUDA测试基础设施

论文 20 篇

今日暂无当天新论文。周末或节假日 arxiv 不公告、HuggingFace 每日精选也不更新。以下为近期精选 20 篇。

DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression

DeepSeekHF 精选 · 09-18 08:00 UTC+8

「DeepSeek-V4.1-Flash」瞄准长程 Agent 部署里的输入侧成本瓶颈,尤其是 prefill 计算、KV Cache 占用 HBM 和 SSD、以及缓存搬运带宽共同推高在线推理成本的问题。论文将重点放在 KV Cache 压缩,而不是只优化解码阶段,让长上下文与长轨迹任务的存储和传输压力同步下降。对做 Agent serving 的团队来说,它的价值在于把长上下文成本从显存容量问题变成可系统压缩和调度的问题,为更便宜的长时任务执行提供工程路径。

KV缓存压缩长上下文推理推理优化DeepSeek

When EOS Tokens Disagree: Understanding Length Inflation in On-Policy Distillation

HF 精选 · 09-18 08:00 UTC+8

这篇论文解释了 on-policy distillation 中学生模型回答越来越长、甚至耗尽生成预算的一个具体来源:学生基座模型与后训练教师模型虽然声明的停止集合相同,却可能把停止概率押在不同 EOS token 上。教师监督会压低学生偏好的终止 token,使模型错过自然停止点,长度膨胀由此在 Qwen3、Llama、Gemma 等模型族中反复出现。它提醒做蒸馏和 RL 后训练的人,结束符协议不是 tokenizer 细节,而是会直接改变生成长度、成本和训练稳定性的对齐变量。

模型蒸馏EOS机制长度控制后训练

JEPA-Anything: Learning Predictive Models across Different Worlds

HF 精选 · 09-18 08:00 UTC+8

「JEPA-Anything」试图回答世界模型能否摆脱单一领域定制的问题,把不同物理、交互或动态系统纳入同一个预测学习原则。它在联合嵌入预测架构上引入正交预测分解,将潜在目标拆成互补因素,并用专门路径学习这些因素,使模型能以领域无关方式建模状态演化。价值在于把 JEPA 从视觉或特定环境扩展成通用世界建模框架,对多模态 Agent、仿真学习和跨环境泛化都有基础设施意义。

基座世界模型JEPA表征学习Agent

RetireOPD: Self-Retiring On-Policy Distillation for Agentic Reinforcement Learning

HF 精选 · 09-18 08:00 UTC+8

「RetireOPD」关注多轮 Agent 强化学习里只有轨迹级标量奖励、缺少 token 级密集监督的问题,同时指出带特权信息的自教师并不总可靠,且教师监督的收益会随训练阶段变化。论文提出自退休式 on-policy distillation,让教师信号在有帮助时介入,在边际收益下降或误导风险上升时退出。它把 OPD 从固定训练配方改成阶段自适应机制,更适合长轨迹工具调用和 Agentic RL 的非平稳学习过程。

后训练Agent强化学习自蒸馏训练调度OPD

When2Think: Learning Difficulty-Aware Length Control for Efficient Hybrid Reasoning Models

MicrosoftHF 精选 · 09-18 08:00 UTC+8

「When2Think」针对大推理模型在简单题上过度思考、困难题上思考不足的低效现象,把高效推理表述为按样本难度分配计算量的问题。它通过后训练框架学习何时启动长思考、何时保持短回答,避免统一长度惩罚和硬路由带来的准确率损失。对部署混合推理模型的人来说,关键价值是把 token 预算从静态参数变成实例级决策,在保持难题能力的同时降低容易样本的推理成本。

推理效率长度控制测试时计算后训练

Sample Count Is Not Enough: Candidate-Generation Strategy Shapes the Energy and Performance of LLM Test-Time Scaling

HF 精选 · 09-18 08:00 UTC+8

这篇论文指出测试时扩展不能只看候选答案数量 N,因为同样生成 N 个候选,可以一次大批量生成,也可以拆成多次小批量顺序生成,两者的能耗、延迟和性能并不等价。作者把候选生成策略纳入分析,考察 N 增长之外的执行形态如何影响推理表现和能源消耗。它对做大模型评测和线上推理预算的人很实用:报告 sample count 还不够,还需要说明 batching 与调度方式,否则不同系统的 test-time scaling 结果不可直接比较。

推理优化测试时扩展推理成本批处理调度能耗评测

Don't Mask the Environment: Observation Supervision Changes How Agents Explore Under RL

HF 精选 · 09-18 08:00 UTC+8

「ActObs」挑战了 Agent SFT 只对动作 token 计算损失、把环境观察仅当上下文的惯例,提出同时监督轨迹里已有的 observation token。虽然部署时 Agent 并不会生成环境观察,学习预测观察能迫使模型内化环境动态,从而改变后续强化学习中的探索方式。它的意义在于把示范轨迹从动作模仿数据变成环境建模数据,为 RL 初始化提供更强的状态转移理解。

后训练Agent训练观察监督强化学习初始化SFT

Region-Level Policy Optimization for Fine-grained MLLM Perception

HF 精选 · 09-18 08:00 UTC+8

这篇论文针对 MLLM 细粒度视觉感知中一味提高分辨率导致视觉 token、编码和 prefill 成本膨胀的问题,将任务拆成 RoI 定位和内容识别两步。作者发现定位可承受约 3 到 4 倍更强的 token 压缩,而识别需要更高分辨率,因此提出区域级策略优化,让模型先低成本定位,再把算力集中到关键区域识别。它给多模态模型提供了比全图高分辨率更经济的路线,尤其适合需要细节感知但受吞吐约束的在线系统。

后训练多模态感知视觉Token压缩区域策略优化MLLM

LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence

HF 精选 · 09-17 08:00 UTC+8

「LimiX-2」面向结构化数据智能,延续 LimiX 系列并用既有 scaling laws 指导模型和数据扩展。它采用 Contextual Mechanism Networks 与 Context-Conditional Masked Modeling,把 in-context learning 的组织中心从传统的条件预测转向机制级联合建模,使模型更关注数据背后的生成规律。对表格、实验数据和业务结构化场景而言,它提供了不同于通用文本 LLM 的建模路径,更适合跨任务迁移和机制发现。

基座结构化数据智能上下文学习机制建模预训练

ScienceIDE: Turning World's Scientific Codebase into Agent Learnable Environments

HF 精选 · 09-17 08:00 UTC+8

「ScienceIDE」把科学代码库视为可执行知识来源,解决科学软件中工具链碎片化、领域约定隐含、正确性标准专门化导致 Agent 难以学习的问题。它通过专家定义的科学任务与可编程环境,把代码仓库转化为 Agent 可交互、可反馈、可评估的训练场。价值在于缓解科学经验瓶颈,让科研 Agent 不只是读论文和写代码,而能在真实科学软件生态中积累可验证的操作经验。

Agent科学智能体代码环境Agent训练科研自动化

Rethinking Critic Learning in PPO: Understanding and Mitigating Value Flattening

HF 精选 · 09-17 08:00 UTC+8

这篇论文重新审视 LLM 强化学习中的 PPO critic,发现一种名为 Value Flattening 的系统性失效:真实状态价值在中间状态间变化明显,但 critic 预测却过于平坦。作者还在受控 FrozenLake 环境中观察到类似现象,说明这不只是语言任务噪声造成的偶发现象。它提醒 RLHF 和 RLVR 实践者,critic 误差不只是方差问题,价值函数动态范围被压扁会直接削弱策略更新质量,需要针对 critic 学习机制做修正。

后训练PPO价值函数RLHF强化学习稳定性

VC-Attention: Value Smoothing and Softmax Casting for Low-bit Attention

HF 精选 · 09-17 08:00 UTC+8

「VC-Attention」面向视频 Diffusion Transformer 的低比特注意力部署,核心痛点是长时空序列让 attention 成为主要成本,而 value 张量中的离群值会拉大量化尺度,压缩普通值的可表示范围。论文提出 value smoothing 与 softmax casting,补上以往只平滑 query 和 key 时难以处理 value 离群的空缺。它的工程价值在于让低比特 attention 同时追求可用精度和实际速度,对视频生成模型的显存、带宽和吞吐优化很直接。

推理优化低比特量化视频生成Attention优化推理加速

Zing-0.5: Toward Playable Worlds with Real-Time Joint Action and Text Control

HF 精选 · 09-17 08:00 UTC+8

「Zing-0.5」是一个 5B 自回归世界模型,目标不是离线生成视频片段,而是让用户实时探索生成世界并通过键盘动作和在线文本指令共同控制事件发展。它把有幅度的键盘输入、时间对齐的文本指令和联合标注视频放入统一条件建模,使导航控制与事件控制进入同一模型接口。对可玩世界、交互视频和具身仿真来说,这把世界模型从内容生成器推进到实时可操控环境。

基座世界模型实时交互视频生成多模态控制

SpectralShift: Effective Context Window Extension of Gated DeltaNet via Spectral Reparameterization

HF 精选 · 09-17 08:00 UTC+8

「SpectralShift」关注 Gated DeltaNet 等线性注意力模型的长上下文扩展问题,指出直接继续预训练会忽略线性注意力状态转移矩阵的谱性质。论文从 transition matrix 的谱视角分析长程记忆能力,并通过谱重参数化调整状态动态,让上下文窗口扩展更符合模型内部传播机制。它对采用线性注意力替代 softmax attention 的长上下文基座很重要,因为扩窗不再只是数据和长度 curriculum 问题,也涉及状态空间动力学设计。

基座线性注意力长上下文扩展谱重参数化模型架构

A Zeroth-Order Paradigm for LLM Preference Alignment

通义千问HF 精选 · 09-17 08:00 UTC+8

这篇论文提出「ComPO」,把偏好对齐从依赖似然梯度的直接优化,转向基于比较 oracle 的零阶优化范式。动机是偏好样本中常存在小似然边距,传统方法从 chosen 与 rejected 的 likelihood 差里提取信号时可能受 likelihood displacement 影响。ComPO 直接从比较中抽取方向信息,为内存和计算受限的偏好对齐提供另一条路线,也拓宽了 DPO 类方法之外的理论空间。

偏好对齐零阶优化DPO替代后训练

Can MiniMax-H3 Reason About the Physical World? An Evaluation of Omni-Modal Generative Model

HF 精选 · 09-18 08:00 UTC+8

这篇评测研究以「MiniMax-H3」为对象,考察统一建模文本、图像、视频和音频的 omni-modal 生成模型是否具备更强的物理世界推理。问题的关键不只是多模态生成质量,而是共享潜在空间和跨模态对齐能否帮助模型理解物体、事件与因果关系。它为全模态模型提出新的评估视角,提示从业者在看这类模型时要同时检验生成、理解和世界推理,而不能只看单模态 benchmark。

基座全模态模型物理推理模型评测MiniMax

SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness

HF 精选 · 09-18 08:00 UTC+8

「SoL-Pi」面向无人值守编码 Agent 的长时间自我探索,关注 harness 层如何用更少 token 扩展递归式自动研究循环。它把 RSI 思路放在执行框架而非单次补全上,通过在更多、更复杂环境中滚动试验,沉淀可复用的改进经验。对编码 Agent 团队来说,重点是优化长期工具使用和反馈循环的效率,而不是只提升一次性代码生成分数。

Agent编码智能体自动研究循环Token效率Agent Harness

An Empirical Study of Harness Design for Coding Agents

HF 精选 · 09-18 08:00 UTC+8

这篇经验研究拆开分析 coding harness,而不是把自治编码系统当作整体黑盒评估。作者固定执行循环,只改变 planning、action space 和 context management 三个组件,并在四个模型上比较组件级影响。它的价值在于帮助工程团队判断到底是模型能力、规划器、工具动作集合还是上下文管理在限制长程软件任务表现,从而让 Agent 优化更可归因。

Agent编码智能体Harness设计规划上下文管理

Self-Evolving Search Index

HF 精选 · 09-18 08:00 UTC+8

「Self-Evolving Search Index」聚焦 LLM Agent 场景下的检索质量,指出索引键如何表达文档知识会强烈影响召回,而不同环境需要的索引表示并不固定。论文提出让搜索索引随使用环境自我演化,动态优化文档的 index keys,而不是依赖一次性构建的静态表示。它对 RAG 和 Agent 记忆系统很有意义,因为检索层也可以进入闭环学习,随任务分布变化持续改进。

Infra检索增强自演化索引RAGAgent记忆

Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents

HF 精选 · 09-18 08:00 UTC+8

这篇论文针对 GUI Agent 在真实界面中会遇到弹窗、加载延迟、组件迁移等动态变化,导致预先固化技能容易失效的问题。作者提出训练无关的技能演化流程,让 Agent 在执行后反思、修订并复用技能,把 skill 从部署前静态产物变成会随环境反馈更新的程序性知识。它对桌面和网页自动化很实用,因为 GUI 长任务的瓶颈常常不是动作空间,而是技能能否跟上界面状态变化。

AgentGUI智能体技能演化反思修订自动化