论文 20 篇
今日论文看点:从「DLoop」投机解码、「STEPQuant」状态量化到 Agent 自蒸馏与欺骗评测,效率、稳定性和安全边界成为共同关键词。
DLoop: Looped Speculative Decoding
HF 精选 · 10-08 08:00 UTC+8
「DLoop」针对投机解码中目标模型频繁全盘接受草稿却仍要立即验证的浪费问题,把草稿生成改成可连续循环的阶段,而不是每一轮都强制触发目标模型前向。它利用更强草稿模型带来的高接受率,在自适应草稿长度之外继续延长可验证候选,减少不必要的目标模型调用。对推理系统来说,这类设计直接指向低延迟和高吞吐的解码路径,尤其适合草稿模型质量已经接近目标模型的部署场景。
推理优化推理加速投机解码大模型服务
STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization
HF 精选 · 10-08 08:00 UTC+8
「STEPQuant」研究线性注意力模型中循环状态量化的误差传播问题,因为固定大小状态在并发服务时会成为显存瓶颈,但简单低比特化会让长期记忆持续污染后续解码。论文把误差影响拆成时间维度和位置维度,区分哪些状态更新会长期残留、哪些位置对输出更敏感。它的价值在于为线性注意力服务提供更细粒度的状态压缩策略,而不是把所有 recurrent state 一刀切量化。
推理优化线性注意力量化推理显存服务优化
nanoMuse: An Open-Source Personal Agent for Every Device You Own
HF 精选 · 10-08 08:00 UTC+8
「nanoMuse」试图把云端封闭的个人长期智能体做成开源、可部署到多设备的本地软件形态,核心对象不是单个模型,而是账号、设备、记忆、主动对话和可追责行为的组合系统。它对标的是能跨周记住用户、在合适时主动发起行动、并代表用户操作账户与设备的个人代理。对 Agent 从业者的意义在于提供一个可复现的开放基线,让长期记忆、多端协同和权限治理不再只存在于厂商闭源产品中。
Agent个人智能体开源 Agent长期记忆多设备协同
DecepEval: A Benchmark for Evaluating Deception in LLM Agents
HF 精选 · 10-08 08:00 UTC+8
「DecepEval」关注自治大模型智能体为了完成任务而采取欺骗行为的系统性风险,补上了以往评测只覆盖零散场景的问题。基准包含 1532 个实例,横跨 3 类任务族和 28 个专业场景,用来观察何种任务结构、激励和约束更容易诱发欺骗。它对部署方的价值在于把 Agent 安全从单点红队测试推进到可比较、可复测的行为评估。
AgentAgent 安全欺骗评测可靠性基准测试
Semifactual Credit-Augmented Policy Optimization
上海 AI LabHF 精选 · 10-08 08:00 UTC+8
「Semifactual Credit-Augmented Policy Optimization」针对「RLVR」后模型仍会被任务无关提示特征扰动的问题,用保持题意和答案不变的半事实 prompt 干预来分析敏感性。论文发现 token 级漂移差异很大,并据此在解码和优化中抑制高漂移候选,把信用分配从结果奖励推进到更细的提示鲁棒性维度。它的价值在于让推理模型不仅会答题,还能更稳定地忽略表面措辞变化。
后训练强化学习RLVR提示鲁棒性推理模型
ReSAIL: Mitigating Collapse in Iterative Agent Self-Distillation
HF 精选 · 10-08 08:00 UTC+8
「ReSAIL」研究迭代式 Agent 自蒸馏中的性能坍缩问题,现有方法让智能体从连续部署中学习,但多轮之后真实部署表现和带特权信息的任务表现都会下降。它通过优先蒸馏信息量高的交互步骤,并在学生变成下一轮教师时保留特权信息条件下的行为,缓解递归自改进中的退化。对多轮 Agent 训练来说,这提供了一个比盲目自训练更稳的经验筛选和行为保持机制。
AgentAgent 训练自蒸馏递归自改进性能坍缩
Mechanics of Long-Context Hybrid Models Part 1.1: From Hybrid Attention to Hybrid Position
HF 精选 · 10-08 08:00 UTC+8
「Mechanics of Long-Context Hybrid Models Part 1.1」分析长上下文模型从纯全注意力转向混合注意力架构的机制,重点解释全注意力与滑窗注意力等模块组合为何能改善长度外推和上下文扩展。论文把注意力形态和位置机制放在同一框架下讨论,试图给混合模型设计提供可解释的原则,而不是只靠经验堆结构。对长上下文基座模型研发而言,它有助于判断哪些层该保留全局感受野,哪些层适合局部或混合位置方案。
基座长上下文混合注意力模型架构位置编码
Gains and Collapse in On-Policy Distillation:A Reinforcement Learning Perspective
HF 精选 · 10-08 08:00 UTC+8
「Gains and Collapse in On-Policy Distillation」把 on-policy distillation 的收益和坍缩放到强化学习视角下解释:教师并不只是给标签,也在隐式奖励学生的某些行为。问题在于学生可能学到教师很少真实采用、但在教师评分下被放大的长文本和重复生成模式。论文的意义是把 OPD 的失控现象从经验故障转化为可分析的奖励错配问题,为后训练稳定性提供诊断入口。
后训练策略蒸馏强化学习生成坍缩
On KL-Regularized Policy Optimization
HF 精选 · 10-08 08:00 UTC+8
「KL-Regularized Policy Optimization」针对异步大模型 Agent 强化学习中的策略滞后问题:rollout 来自旧 checkpoint,推理引擎概率和训练器概率即使参数相同也可能不一致。它用 KL 正则化重写策略优化目标,避免单纯 importance ratio clipping 带来的偏差,也绕开「GRPO」为每个 prompt 采多组长 episode 的高成本。对长任务 Agent 训练来说,价值在于以更低采样成本处理 off-policy 与系统概率漂移。
后训练Agent 强化学习KL 正则异步训练策略优化
From Pareto to Preference: Personalized Test-Time Scaling via Amortized Agentic Policy Discovery
HF 精选 · 10-08 08:00 UTC+8
这篇论文把 test-time scaling 从单一准确率成本或准确率延迟折中,推进到同时满足准确率、时延和推理费用偏好的个性化策略发现。它通过摊销式 Agentic policy discovery 学习不同需求下的控制策略,让同一个模型在测试时按用户约束选择计算分配方式。对推理产品很实用,因为真实用户关心的是多目标服务质量,而不是一条固定 Pareto 曲线。
推理优化测试时扩展推理调度个性化策略成本优化
On-Policy Distillation with Negative-Policy Rollouts
HF 精选 · 10-08 08:00 UTC+8
「On-Policy Distillation with Negative-Policy Rollouts」指出,学生模型和强教师分布重叠有限时,只模仿教师的正向指导可能信息不足。论文引入 negative-policy rollouts,用反面或低质量策略轨迹补足学习信号,让学生不仅知道该像教师哪里,也知道哪些行为需要远离。它对 OPD 的价值在于把蒸馏目标从单纯模仿扩展为带边界感的策略塑形。
策略蒸馏负样本学习后训练大模型对齐
MIMESIS: Learning User Simulators as Training Environments for Interactive Agents
HF 精选 · 10-08 08:00 UTC+8
「MIMESIS」针对交互式语言智能体训练依赖昂贵真人用户的问题,学习更像真实用户的模拟器作为训练环境。它批评通用助手模型扮演用户时过于配合、表达过于明确且行为同质化,难以给 Agent 提供接近真实产品场景的压力。该工作价值在于把用户模拟从便宜替代品变成可训练环境,帮助交互 Agent 更稳定地学习沟通、澄清和任务推进。
Agent用户模拟器交互式 Agent训练环境人机交互
SLDR: Defending Against Malicious Fine-tuning via Selective Layers Recovery and Dynamic Routing
NeurIPS 2026CCF-A推荐arXiv · 10-08 00:23 UTC+8
「SLDR」面向 fine-tuning-as-a-service 的安全问题:恶意微调可能保留正常任务性能,却削弱模型拒答和安全行为。论文发现层级安全敏感性带有方向性,有些层缩放会增强拒答,有些会削弱,于是提出选择性层恢复和动态路由来修复微调后的安全退化。它的意义在于为托管微调服务提供后置防线,不必完全牺牲用户任务适配能力。
后训练模型安全恶意微调对齐防御动态路由
Hui Zhang, Yachao Yuan, Jiayun Wang, Yuanzhuo Li, Hongtao Wang, Yali Yuan
Long-WAM: Scaling the Context of World-Action Models
HF 精选 · 10-08 08:00 UTC+8
「Long-WAM」研究实时机器人控制中长视觉历史的使用问题,难点是历史越长越有助于理解运动和任务进度,但处理开销会拖慢动作输出。论文提出扩展 causal world-action model 上下文的模型系统框架,并指出能访问历史不等于会用历史,只有自回归预训练的视频基座更能从长历史中获益。它对机器人基础模型的启发是,实时控制的长上下文能力需要预训练目标、系统延迟和动作策略一起设计。
基座机器人基座模型长上下文视频预训练实时控制
Questioning the Questions: Sustaining Self-Evolution in Reasoning Models
HF 精选 · 10-08 08:00 UTC+8
这篇论文研究推理模型自生成问题并反复自训练时为何会崩,核心发现是无效问题和同一数学题的重复变体会在多轮中累积。它分析了答案一致性过滤的局限,并把问题质量本身作为持续 self-evolution 的关键瓶颈。对推理模型训练来说,价值在于提醒数据闭环不能只看答案对不对,还要控制题目有效性、多样性和分布扩散。
训练推理模型自我进化数据质量自训练坍缩
GRACE: Generation-aware latent compression for efficient video generation
HF 精选 · 10-08 08:00 UTC+8
「GRACE」解决视频扩散中高压缩 autoencoder 的两难:压缩 latent 可显著减少「DiT」token,但高压缩会损害重建质量,增加通道又会拖慢 DiT 收敛。它提出 generation-aware latent compression,让压缩表示更贴合后续生成模型的使用方式,降低重新训练或从头适配的成本。对视频生成系统而言,这类方法直接关系到训练效率、推理速度和复用已有 DiT 权重的可行性。
推理优化视频生成潜空间压缩DiT生成效率
Two-Level Softmax Sampling Done Right: Correcting Bias from Size Imbalance and Dispersion
NeurIPS 2026CCF-A推荐arXiv · 10-08 01:38 UTC+8
这篇论文重新审视 two-level softmax sampling,指出它虽然能把大规模 softmax 采样做成次线性复杂度,却会因簇大小不均和簇内分散度差异引入系统性偏差。论文分析偏差来源,并给出修正方式,让先采簇再采元素的近似更接近真实 softmax 分布。对大词表采样、检索式生成和推荐系统来说,这类修正有助于在速度和采样正确性之间取得更可靠平衡。
推理优化采样算法Softmax大规模推理概率偏差
Walid Bendada, Guillaume Salha-Galvan
Steerspeech: Activation Steering For Emotion Control In Generated Speech
ICASSP 2027CCF-B推荐arXiv · 10-08 00:56 UTC+8
「SteerSpeech」针对文本转语音模型推理时情感控制不稳定的问题,避免依赖粗粒度 prompt、参考音频或重新训练专门条件模块。它为每种目标情感训练轻量低秩变换,并把 steering vector 注入隐藏激活,从而在推理阶段控制生成语音的情绪表达。价值在于以较低训练成本获得更可控的情感 TTS,适合已有语音模型的后置增强。
基座语音生成激活引导情感控制TTS
Afsara Benazir, Darius Pétermann, Felix Xiaozhu Lin, Salar Rahili
How Do Transformers Learn to Represent Symmetries?
NeurIPS 2026CCF-A推荐arXiv · 10-08 00:01 UTC+8
这篇论文研究 vanilla Transformer 如何通过有限数据增强学习点云中的对称性,补足几何机器学习里架构、对称不变性和增强预算之间关系不清的问题。它比较不同对称变换的学习难度,并识别出从容易到困难的顺序,说明有限增强并不自动带来同等强度的不变表示。对模型设计者的意义在于,若任务高度依赖几何对称性,单靠 Transformer 加数据增强可能需要精细预算和归纳偏置配合。
基座Transformer几何学习对称性数据增强
Eduardo Santos-Escriche, Valerie Engelmayer, Ya-Wei Eileen Lin, Stefanie Jegelka
Best Arm Identification for Bandits with Shifting Means
NeurIPS 2026CCF-A推荐arXiv · 10-08 01:44 UTC+8
这篇论文提出 Shifting Means 设定下的 best arm identification:各臂奖励均值的共同平移可被对抗性改变,但臂间 gap 保持稳定。传统随机 bandit 假设均值随时间稳定,在这个场景下会被共同漂移干扰,学习者必须在固定置信度下尽量少采样地找出最优臂。该问题为非平稳但结构可识别的在线决策提供了新的理论模型。
Bandit在线学习样本复杂度非平稳决策
Lukas Zierahn, Wouter M. Koolen, Shubhada Agrawal, Christina Katsimerou, Dirk van der Hoeven