🗂 历史归档
每日 AI 速览

2026-07-17

生成于 2026-07-18 04:08
⚠️ 本页行业动态来源于互联网公开信息,可能存在不实或失准内容,请仔细辨别消息真实性

今日导语

今日月之暗面发布 Kimi K3 2.8T-A50B,成为迄今最大开源模型,性能比肩前沿闭源,引发廉价 AI 时代终结论。英伟达 Vera Rubin 架构亮相,专为 Agentic AI 后训练与推理打造极致每美元智能。学术前沿,固定 GPU 预算下突破 2M Token 长上下文 RL 的「LongStraw」,及用 KV-Cache 嫁接使小模型化身知识飞轮的「Smarter and Cheaper at Once」备受关注。Agent 方面,SearchOS-V1 推进开放域智能体协作,企业智能体评估与安全成焦点。

🗞 行业动态 33 条

v0.18.0

Axolotl · 07-17 20:28 UTC+8

Axolotl v0.18.0重点支持大规模稀疏MoE模型的4位专家LoRA/QLoRA,通过NVFP4等格式在Blackwell和Hopper GPU上实现长上下文高速微调且显存恒定,大幅降低了超大规模稀疏模型的微调门槛。

后训练AxolotlMoE微调QLoRANVFP4长上下文

Kimi K3, and what we can still learn from the pelican benchmark

Simon Willison · 07-17 04:19 UTC+8

Simon Willison对Kimi K3的评测指出其以2.8万亿参数自称首个开放3T级模型,自评基准超越Claude Opus 4.8和GPT-5,并承诺于7月27日开放权重,这一动态可能成为开源生态格局的转折点。

厂商动态Kimi K3开放权重大模型基准Moonshot AI

b10064

llama.cpp · 07-17 23:42 UTC+8

llama.cpp最新提交优化了OpenCL后端的q4_K量化权重转置,通过合并读取进一步提升GPU推理吞吐,对需要在边缘设备上高效运行量化模型的从业者而言是直接的加速改良。

推理优化llama.cppOpenCL量化优化推理加速

b10058

llama.cpp · 07-17 19:45 UTC+8

llama.cpp为Vulkan后端新增Q_2_0量化支持,使得极低比特量化模型能在移动及桌面GPU上高效运行,进一步拓宽了本地量化推理的部署选项。

推理优化llama.cppVulkan量化支持Q2_0

从GPU到Token:英伟达Vera Rubin如何重构下一代AI工厂

InfoQ 中文 · 07-17 18:09 UTC+8

InfoQ对NVIDIA Vera Rubin架构的深度解读剖析了其如何通过芯片到token的协同设计重构AI工厂,为从业者理解下一代训练与推理硬件流水线的演进提供了关键参考。

厂商动态NVIDIAVera Rubin架构解读AI工厂

Introducing Grok on Amazon Bedrock

AWS 机器学习 · 07-17 03:29 UTC+8

Grok 4.3在Amazon Bedrock上线,完整支持可配置推理努力、工具调用、结构化输出及图像输入等能力,为智能体和企业负载提供了功能丰富的API化模型选择。

厂商动态GrokAmazon Bedrock智能体工具调用

b10052

llama.cpp · 07-17 05:25 UTC+8

llama.cpp 重构 Hexagon 后端的 L2 缓存脏位跟踪与懒刷写机制,并改进矩阵乘法工作负载分配,提升高通平台上的推理效率。

Infra推理框架llama.cpp移动端推理

b10051

llama.cpp · 07-17 04:51 UTC+8

llama.cpp 为 Arm KleidiAI 引入 SME 与 SME2 的精确区分,避免在仅支持 SME v1 的硬件上错误调用 SME2 指令,提高了内核调度的兼容性。

Infra推理框架Armllama.cpp

v0.32.1

Ollama · 07-17 02:49 UTC+8

Ollama v0.32.1 改进了 Gemma 4 的工具调用与多轮推理,修复了 MLX 模型缓存泄漏,并让交互式智能体可感知当前工作目录。

Infra推理框架Ollama工具调用

b10059

llama.cpp · 07-17 20:24 UTC+8

llama.cpp 将 BLAS 后端的哈达玛矩阵乘默认回退至 CPU 实现,优化特定计算模式下的执行路径。

Infra推理框架llama.cppBLAS

b10054

llama.cpp · 07-17 08:30 UTC+8

llama.cpp 文档新增在 Adreno 810 上使用 OpenCL 的注意事项,帮助移动端开发者正确配置推理环境。

Infra推理框架llama.cpp移动端

留给开源模型的时间,就剩6个月?

InfoQ 中文 · 07-17 02:51 UTC+8

InfoQ 中文引发对开源模型窗口期的讨论,认为未来 6 个月可能是决定开源模型能否持续追赶闭源模型的关键阶段。

厂商动态开源模型大模型竞争

Quoting Thibault Sottiaux

Simon Willison · 07-17 01:45 UTC+8

OpenAI Codex 被曝在无沙盒保护时可能误删 $HOME 目录,暴露出智能体在直接操作文件系统时的严重安全隐患。

厂商动态智能体安全OpenAI工具调用

📄 论文 19 篇

今日论文看点聚焦「LongStraw」的超长上下文强化学习突破、「Smarter and Cheaper at Once」的字节级 KV-Cache 嫁接降本,以及「SEED」与「SearchOS-V1」在 Agent 自主进化与协作方面的创新。

LongStraw: Long-Context RL Beyond 2M Tokens under a Fixed GPU Budget

HF 精选 · 07-17 08:00 UTC+8

针对智能体长轨迹中推理与RL后训练上下文长度严重脱节的问题,LongStraw在固定GPU预算下构建架构感知的执行栈,将RL后训练的上下文窗口突破性地推进到200万token以上。通过精细化的显存调度与计算-通信重叠优化,它让原本受显存限制的长上下文RL训练得以可实现,为构建能处理超长交互历史的智能体提供了关键训练基础设施,对需要累积大量观察与工具输出结果的智能体应用尤其重要。

后训练长上下文RLRL后训练智能体训练固定GPU预算架构感知
📖 阅读⬇ PDF

Smarter and Cheaper at Once: Byte-Exact KV-Cache Grafting Turns a Frozen Small Model into a Verified-Knowledge Flywheel

HF 精选 · 07-17 08:00 UTC+8

该工作提出一种字节级精确的KV缓存嫁接技术,将已验证的知识一次性存入KV状态制品,后续推理时通过嫁接实现比特完全一致的恢复,全程无需改动模型权重。实测恢复后的logits与原计算SHA-256相等,零KL散度且argmax完全一致,使得冻结的小模型同时获得能力提升与大幅成本下降,巧妙地把知识复用转化为了一种高保真、低成本的飞轮机制。

推理优化KV缓存嫁接知识复用冻结模型推理加速比特精确
📖 阅读⬇ PDF

Mask-Aware Policy Gradients for Diffusion Language Models

COLM 2026arXiv · 07-17 00:57 UTC+8

强化学习向掩码扩散语言模型(MDLMs)的迁移长期受制于对数似然的不可解性,现有近似方法只考虑token预测而忽略了解掩顺序。该工作注意到MDLM生成过程包含给掩码位置填什么token和优先解掩哪个位置两步决策,据此提出掩码感知策略梯度,将这两个维度同时纳入RL优化,在推理基准上获得了比忽略顺序的方法更显著的对齐效果。

后训练掩码扩散语言模型策略梯度RL微调解掩顺序
Haran Raajesh, Kulin Shah, Adam Klivans, Philipp Krähenbühl
📖 阅读⬇ PDF

VideoChat3: Fully Open Video MLLM for Efficient and Generalist Video Understanding

HF 精选 · 07-17 08:00 UTC+8

针对当前开源视频多模态模型泛化性差、计算成本高且关键组件不开源等问题,VideoChat3构建了一个完全开源的通用视频理解模型,同时覆盖运动、长视频和流式交互等多样场景。它公开全部训练代码与模型权重,在高效性和跨视频类型泛化上取得突破,为社区提供了可复现的强基线。

基座视频多模态开源模型高效视频理解VideoChat3
📖 阅读⬇ PDF

SEED: Self-Evolving On-Policy Distillation for Agentic Reinforcement Learning

HF 精选 · 07-17 08:00 UTC+8

基于结果反馈的强化学习在长程智能体任务中只提供稀疏的轨迹级奖励,难以有效指导中间token级决策。SEED提出自演化在策略蒸馏框架,从模型自身成功的交互轨迹中提取密集的token级引导信号,实现智能体在训练过程中自我改进,无需外部标注,在复杂长程任务中样本效率与成功率均有明显提升。

Agent在策略蒸馏智能体RL自演化token级监督
📖 阅读⬇ PDF

SearchOS-V1: Towards Robust Open-Domain Information-Seeking Agent Collaboration

蚂蚁HF 精选 · 07-17 08:00 UTC+8

开放域信息搜寻智能体在交互历史增长时容易丢失任务追踪线索,搜索失败后陷入重复循环浪费预算。SearchOS引入系统级多智能体协作架构,通过任务分工与动态调度来打破这种循环,使搜索过程更加鲁棒,最终答案的完整性和正确性均优于单智能体系统。

Agent智能体协作信息检索搜索智能体多智能体系统
📖 阅读⬇ PDF

Spectral Rewiring for Exploration, Purification, and Model Merging

字节 SeedHF 精选 · 07-17 08:00 UTC+8

全参数密集RL更新常导致推理性能衰退、测试时缩放过早饱和以及多能力模型合并的严重干扰。该研究发现这些副作用集中体现于模型权重的频谱空间,于是提出频谱重连技术,通过选择性重组频谱分量同时实现探索增强、能力纯化与模型融合。实验表明它能缓解测试时缩放饱和,并在模型合并后保持更优的综合推理能力。

后训练频谱重连RL微调模型合并推理能力
📖 阅读⬇ PDF

Demystifying On-Policy Distillation: Roles, Pathologies, and Regulations

腾讯 AI LabHF 精选 · 07-17 08:00 UTC+8

该研究系统解构了在策略蒸馏(OPD)在后训练中的真实角色、常见病理及调控方法。澄清OPD本质上是探索催化剂,通过密集token引导将学生引向正确推理路径,却并不扩展能力天花板;进一步揭示提示多样性远比每个问题重复采样数重要,并诊断出过度正则化等病理,给出了避免天花板固化的实用调控策略。

后训练在策略蒸馏后训练动力学探索催化剂提示多样性
📖 阅读⬇ PDF

UniVR: Thinking in Visual Space for Unified Visual Reasoning

HF 精选 · 07-17 08:00 UTC+8

UniVR首次探索从纯视觉示范中联合学习复杂推理、精细物理动态与长期规划。其核心VR-GRPO强化学习范式提供互补的全局与步级奖励,强制推理过程保持逻辑连贯与物理一致,让模型「在视觉空间中思考」,在多种视觉推理任务上展现出统一且泛化性强的能力。

后训练视觉推理强化学习物理动态统一模型
📖 阅读⬇ PDF

Video = World + Event Stream

HF 精选 · 07-17 08:00 UTC+8

Wan-Streamer v0.3将视频重新表达为持久的世界上下文与动态事件流的组合,世界包括环境、场景、语音特征等稳定条件,事件流捕获所有时间上的变化。这种分解使流式生成可以维持长期的世界连贯性,同时精确控制事件驱动的变化,在长视频交互和实时生成场景中展现出显著优势。

基座视频建模世界模型事件流流式生成
📖 阅读⬇ PDF

DeepLoop: Depth Scaling for Looped Transformers

HF 精选 · 07-17 08:00 UTC+8

循环Transformer通过复用物理块增加展开深度,但参数共享导致残差分支的梯度聚合与读取不匹配,限制了深度扩展。DeepLoop提出一种深度缩放策略,精确控制每一循环轮的贡献强度,使得小参数量的循环模型在稳定训练的前提下能达到甚至超过同等深度非循环模型的性能。

基座循环Transformer深度缩放参数共享高效训练
📖 阅读⬇ PDF

GRASP: GRanularity-Aware Search Policy for Agentic RAG

HF 精选 · 07-17 08:00 UTC+8

智能体RAG需要实时决策何时检索、使用哪种匹配方式以及控制上下文粒度,以避免无关token干扰推理。GRASP通过强化学习训练检索策略,使智能体能自适应地进行粒度感知的搜索,在多步推理和复杂问答任务上显著提升了效率与答案质量。

Agent智能体RAG检索策略强化学习粒度控制
📖 阅读⬇ PDF

Token Time Continuous Diffusion for Language Modeling

HF 精选 · 07-17 08:00 UTC+8

TTCD是一种新型连续扩散语言模型,确定性地将高斯噪声映射为最终token序列且无需额外采样,并创新地引入每token可变去噪速率,让部分token比其它更快完成生成。这种连续空间建模避开了并行采样多token带来的不准确问题,在高引导尺度下生成质量尤为突出。

基座扩散语言模型连续扩散token时间确定性生成
📖 阅读⬇ PDF

Symbal: Detecting Systematic Misalignments in Model-Generated Captions

ICML 2026CCF-A推荐arXiv · 07-17 01:18 UTC+8

多模态大模型生成的图像描述常出现系统性错位,即特定视觉特征与某一类重复错误强关联。Symbal通过分析图像-文本对齐中的统计关联来自动检测这类系统性偏差,为数据集清洗和模型诊断提供了实用工具。

基座多模态错位描述生成系统性错误数据质量
Maya Varma, Jean-Benoit Delbrouck, Sophie Ostmeier, Akshay Chaudhari, Curtis Langlotz
📖 阅读⬇ PDF

MeanFlowNFT: Bringing Forward-Process RL to Average-Velocity Generators

腾讯混元HF 精选 · 07-17 08:00 UTC+8

MeanFlow生成器通过预测平均速度实现快速采样,但已有前向过程RL方法无法直接迁移。MeanFlowNFT将前向过程RL框架适配到平均速度预测的特殊结构,无需反向轨迹即可进行偏好对齐,为快速采样生成模型的高效对齐开辟了路径。

后训练前向过程RL平均速度生成偏好对齐扩散模型
📖 阅读⬇ PDF

WanSong v1.0 Technical Report

HF 精选 · 07-17 08:00 UTC+8

WanSong是一个纯扩散音乐生成模型,摒弃了自回归和级联多阶段流水线,可直接生成长篇、商业级品质的歌曲并支持精细可控性。它在音质、时长和生成效率上都达到了实用水平,为音乐创作提供了一种简洁而强大的端到端方案。

基座音乐生成扩散模型长篇音频可控生成
📖 阅读⬇ PDF

BadWAM: When World-Action Models Dream Right but Act Wrong

HF 精选 · 07-17 08:00 UTC+8

世界-行动模型(WAMs)寄望于通过未来预测提供安全解释,但BadWAM揭示了一种脆弱性:模型可能正确想象未来却采取错误行动。该框架系统建模并评估这种妄想与行动的不一致,为具身智能的安全校验提出了新风险维度。

Agent世界-行动模型安全性具身控制预测不一致
📖 阅读⬇ PDF

RoboTTT: Context Scaling for Robot Policies

NVIDIAHF 精选 · 07-17 08:00 UTC+8

现有机器人策略大多仅使用单步或极短历史上下文,RoboTTT通过测试时训练将上下文窗口扩展到8000步,而不增加推理延迟。这解锁了一次性从人类视频模仿、在线策略改进等全新能力,使机器人泛化性与鲁棒性达到前所未有的水平。

Agent机器人策略上下文扩展测试时训练视觉运动
📖 阅读⬇ PDF

RxBrain: Embodied Cognition Foundation Model with Joint Language-Visual Reasoning and Imagination

腾讯混元HF 精选 · 07-17 08:00 UTC+8

RxBrain将语言推理与视觉想象融合在单一规划序列中,使具身智能体能同时完成高层任务推理和具体物理状态的预期。这种联合表征让模型在复杂任务中展现出更强的计划与执行一致性,区别于只关注场景理解或未来画面预测的传统方法。

基座具身认知视觉推理想象基础模型
📖 阅读⬇ PDF