每日 AI 速览

2026-09-22

生成于 2026-09-23 04:20
本页行业动态来源于互联网公开信息,可能存在不实或失准内容,请仔细辨别消息真实性。AI Infra 状态来自 GitHub 主分支 PR。

今日导语

今日大模型主线集中在开源权重、超大基座与推理基础设施:小米「MiMo-V2.6-Pro」以低成本训练冲击开源榜,阿里千问规划5到10万亿参数新模型,xAI新模型进入云平台并打价格战。Infra侧,Transformers接入llama.cpp量化,NVIDIA推进多GPU serving;Agent侧从评测、Harness、工具边界案例到企业托管落地,转向可持续闭环。

AI Infra 动态 20 条

主流训推框架主分支 PR,按前沿价值与性能影响降序。
TensorRT-LLM #19478 MERGED

[TRTLLM-15718][test] Add disagg closure tests, demote one E2E to post-merge and replace another with CPU/1-GPU tests

本日合并至 main · 09-22 23:08 UTC+8 · @nv-xtf

该 PR 用 CPU 闭包测试和单 GPU host-offload 传输测试替换部分 disaggregated E2E 覆盖,并补充传输失败、取消、超时、资源释放、首 token logits/logprobs 与 speculative slot 行为检查。它降低了重型端到端测试依赖,同时保留推测解码分布式服务路径的关键控制流覆盖。

推测解码 控制流优化性能优化服务与推理
vLLM #47450 MERGED

[Bugfix][Structured Outputs] Reject empty `structural_tag` at request validation

本日合并至 main · 09-22 21:09 UTC+8 · @linnea-lin-00638949

该 PR 在请求校验阶段拒绝空的 structured_outputs structural_tag,并将退化输入返回为 HTTP 400。它让结构化输出错误停在服务入口,避免无效 grammar 编译表现为推理引擎侧 500 错误。

推测解码 控制流优化硬件适配服务与推理
llama.cpp #28890 MERGED

spec : support DFlash for HunyuanOCR

本日合并至 master · 09-22 21:04 UTC+8 · @wendadawen

该 PR 为 HunyuanOCR 增加 DFlash speculative decoding 支持,覆盖 base model、vision projector 与 DFlash draft 的 GGUF 转换和 llama-server 启动路径。它让 HunyuanOCR 可以走草稿模型推测解码流程,扩展本地多模态推理的加速与硬件适配范围。

推测解码 硬件适配性能优化服务与推理
vLLM #51565 MERGED

[Bugfix][GDN] Fix stateless first-chunk classification

本日合并至 main · 09-22 09:11 UTC+8 · @taking-lying-flat

该 PR 修正 GDNMetadataBuilder 对 stateless first chunk 的一 token 分类逻辑,结合状态可用性和 runner prefilling 信号区分 prefill 与 decode。它避免首 token 误读复用页中的旧 recurrent 或 convolution state,提升 Mamba 风格 GDN 推理正确性。

推测解码 控制流优化硬件适配服务与推理
SGLang #33778 MERGED

Avoid materializing GDN QKV tensors during target verification

本日合并至 main · 09-22 08:04 UTC+8 · @vedantjh2

该 PR 在兼容的 GDN speculative target verification 路径中移除冗余 Q/K/V 实体化,让 Triton 和 ReplaySSM 直接消费带 stride 的 split/view 张量。它减少不必要的内核拷贝和显存写入,同时保留需要连续输入的 Prefill、FlashInfer、CuTeDSL 等路径。

推测解码 算子与内核硬件适配性能优化
SGLang #40499 MERGED

[Spec][PP] Launch extend microbatches before the spec output exchange

本日合并至 main · 09-22 06:47 UTC+8 · @YAMY1234

该 PR 调整 pipeline parallel speculative decoding 的调度顺序,使 extend microbatch 在 spec output exchange 前即可发起 forward。它减少 prefill 阶段对环形交换的等待,提高 pipeline 并行推理在该路径下的阶段利用率。

推测解码 算子与内核控制流优化硬件适配
SGLang #40345 MERGED

Bringing the parallel runtime up becomes a phase, not a side effect

本日合并至 main · 09-22 03:29 UTC+8 · @ch-wan

该 PR 将 parallel runtime 初始化从 ModelRunner 构造副作用中拆出,变为发布拓扑配置后的显式第二阶段。它让 scheduler、runner 与 speculative draft runner 按统一生命周期读取并使用并行上下文,降低多拓扑推理启动的状态耦合。

推测解码 控制流优化硬件适配性能优化
SGLang #40342 MERGED

Deprecate the parallel getters the context answers, and ratchet them shut

本日合并至 main · 09-22 03:25 UTC+8 · @ch-wan

该 PR 废弃直接读取 parallel state 的 getter 路径,收紧业务代码通过 ParallelContext 获取 rank 和 group handle 的方式。它让 draft worker 的作用域拓扑能够被正确重定向,减少推测解码并行上下文中的双重状态来源。

推测解码 算子与内核硬件适配性能优化
SGLang #40341 MERGED

A runner and the objects it builds freeze the placement they describe

本日合并至 main · 09-22 03:24 UTC+8 · @ch-wan

该 PR 让 runner 及其构造对象在创建时冻结自身 placement,并移除 init_torch_distributed 返回 group handle 的重复副本。它避免 speculative draft runner 在作用域关闭后误读 target 拓扑,提升异构推理拓扑下的并行状态一致性。

推测解码 控制流优化硬件适配性能优化
SGLang #40339 MERGED

State the draft's whole topology in its scope, and read the rest from the context

本日合并至 main · 09-22 03:19 UTC+8 · @ch-wan

该 PR 在 draft scope 中声明 speculative draft 的完整拓扑,并将 scheduler 组件原先传递的冻结并行记录改为从 runtime context 读取。它统一 target 与 draft 的并行语义,降低张量并行、attention DP 等配置不一致对推测解码服务的影响。

推测解码 控制流优化硬件适配性能优化
SGLang #40501 MERGED

[Qwen3.8-Next] Pipeline-parallel serving and PD-prefill MTP for Qwen4-Exp

本日合并至 main · 09-22 23:46 UTC+8 · @YAMY1234

该 PR 为 Qwen4ExpForConditionalGeneration 重新接入 pipeline-parallel serving 与 PD-prefill MTP 支持,并适配当前 main 分支的兼容性检查和 embedding/head 访问。它使 Qwen3.8-Flash-Next/Qwen4-Exp 相关模型能够在 pipeline 并行与 MTP prefill 场景下服务化推理。

推测解码 控制流优化服务与推理
SGLang #35872 MERGED

[AMD] Skip full-vocab softmax in EAGLE topk==1 draft on ROCm

本日合并至 main · 09-22 16:57 UTC+8 · @yichiche

该 PR 在 ROCm 的 EAGLE topk=1 draft-decode 与 draft-extend 中跳过全词表 softmax,改用已有 masked Triton split-argmax。它避免 AITER greedy sample 在特定 AMD vocabulary 尺寸下的尾部向量问题,并减少 draft 采样中的冗余计算。

推测解码 算子与内核硬件适配
TensorRT-LLM #18938 MERGED

[TRTLLM-15899][feat] Add new KDA decode non-mtp kernel and dispatch logic

本日合并至 main · 09-22 14:23 UTC+8 · @pengbowang-nv

该 PR 为 KDA decode non-MTP 路径加入 legacy 与 optimized kernel dispatcher,并新增 single-CTA、staged bulk-copy 和 four-CTA cluster 实现,同时精简 direct operator 参数。它通过架构、head 数、参数和 CUDA launch 校验扩大内核选择覆盖,为推理 decode 路径提供更清晰的高性能派发机制。

推测解码 算子与内核服务与推理
vLLM #58065 MERGED

[Spec Decode] Enable async scheduling for DFlash

本日合并至 main · 09-22 13:05 UTC+8 · @majunze2001

该 PR 将 DFlash 加入 vLLM async scheduling 允许列表,覆盖显式 --async-scheduling 与默认自动启用两条配置路径。它让 DFlash speculator 复用现有异步输出拷贝和 GPU 侧 draft token buffer 机制,减少推测解码推理调度阻塞。

推测解码 控制流优化服务与推理
vLLM #56447 MERGED

[Bugfix] Fix GLM-OCR MTP position masking during CUDA graph capture

本日更新,目标 main · 09-22 11:30 UTC+8 · @zRzRzRzRzRzRzR

该 PR 用 broadcast masked fill 同时处理一维 runner positions 和二维 MRoPE positions,修正 GLM-OCR MTP 在 CUDA graph capture 期间的位置 mask。它提升 MTP OCR 推理在 CUDA graph replay 和并发请求中的位置处理一致性。

推测解码 控制流优化硬件适配
vLLM #55390 MERGED

[Bugfix] Annotate MTP draft KV cache groups positionally on the hybrid grouping path

本日合并至 main · 09-22 08:31 UTC+8 · @Navjot10

该 PR 在 hybrid KV-cache grouping 路径上为 MTP draft KV cache group 增加位置化标注,并识别包含 drafter 的 attention group。它让 hybrid attention 与 Mamba 模型的 MTP drafter 获得正确 trailing chunk 处理,改善 offloading 与推理缓存管理。

推测解码 性能优化服务与推理
SGLang #32673 MERGED

[Spec] Windowed draft-decode attention for built-in EAGLE / MTP drafts

本日合并至 main · 09-22 08:17 UTC+8 · @avalliappan-nvidia

该 PR 为内置 EAGLE 和 MTP draft-decode 增加 windowed attention 支持,通过 sink 加 recent window 限制 draft 侧 KV 读取范围。它降低长上下文下 draft head 的 decode 读取成本,同时保持 target 仍以 full attention 验证 token。

推测解码 算子与内核服务与推理
TensorRT-LLM #19350 MERGED

[None][fix] Share speculative capture buffers across CUDA graph buckets

本日合并至 main · 09-22 05:44 UTC+8 · @brnguyen2

该 PR 让 DFlashSpecMetadata 和 DSparkSpecMetadata 在 CUDA graph bucket 间共享兼容的 hidden-state capture buffer,仅在 shape、dtype 或 device 不匹配时重新分配。它减少每个 graph bucket 重复持有 full-token-budget scratch buffer 的显存占用,保持推理行为不变。

推测解码 控制流优化硬件适配
TensorRT-LLM #19531 MERGED

[https://nvbugs/6813629][fix] Fix GPT-OSS Eagle3 disaggregated test configuration

本日合并至 main · 09-22 20:02 UTC+8 · @zhaoyangwang-nvidia

该 PR 修正 GPT-OSS Eagle3 disaggregated test 配置,改用显式 Eagle3 decoding type 并移除过时的 eagle3 one model 选项。它使 Eagle3 分布式推理测试配置与当前解码接口对齐,覆盖 overlap scheduler 开关两类服务路径。

推测解码 控制流优化

行业动态 40 条

v0.30.0

vLLM · 09-22 13:20 UTC+8

「vLLM v0.30.0」合入 762 个提交,覆盖新模型、量化、ROCm、LoRA 和多种推理优化,新增或增强了「DeepSeek-V4.1-Flash」「GLM-5.3-Flash」「K2-Horizon」等模型支持。对推理团队来说,重点是 KV 使用 MXFP8、FlashMLA、DeepGEMM、异步预取和数据并行分片等能力继续把高吞吐 serving 往新硬件与新模型适配推进。

vLLM推理框架模型服务推理优化

[AINews] Xiaomi MiMo-V2.6-Pro 1T-A42B: the new top Open Weights model, trained for $3M

Latent Space · 09-22 14:30 UTC+8

「MiMo-V2.6-Pro 1T-A42B」被称为新的开放权重头部模型,训练成本约 300 万美元,进一步强化中国模型实验室在高性价比大模型上的存在感。对从业者而言,它值得关注的不只是榜单名次,还有一万亿参数总规模与 420 亿激活参数路线对推理成本、部署形态和开放生态的影响。

基座小米MiMo开放权重大模型发布成本效率

6天烧光2000多万,拿下开源第一!小米史无前例「炼丹直播」收官

量子位 · 09-22 19:50 UTC+8

小米完成一次高调的开源模型训练直播,报道称 6 天消耗 2000 多万元并拿下开源模型榜首,连 Hugging Face CEO 也公开称赞。它把大模型训练过程从闭门研发变成可围观的技术事件,对行业的信号是开放模型竞争正在同时比拼透明度、算力组织和强化学习工程能力。

厂商动态小米MiMo开源模型训练工程模型发布

OpenAI says its internal model solved over 100 long-standing math problems after just a month of training

The Decoder · 09-22 19:17 UTC+8

OpenAI 称其内部模型在仅一个月训练后解决了 100 多个长期开放数学问题,并为回应数学界质疑,支持普林斯顿高等研究院的独立顾问小组参与评估。值得注意的是,顾问小组不介入 OpenAI 的研究节奏,这意味着外界仍需关注结果复现、题目定义和独立验证边界。

基座OpenAI数学推理能力评测科学发现

阿里吴泳铭:千问将训练5-10万亿参数规模的新模型

InfoQ 中文 · 09-22 18:48 UTC+8

阿里吴泳铭透露千问将训练 5 到 10 万亿参数规模的新模型,显示 Qwen 路线继续向超大规模基座推进。对产业侧而言,这意味着阿里会在预训练算力、数据工程、多模态与推理基础设施上继续加码,也会把国产开放模型竞争推向更高参数规模区间。

厂商动态阿里Qwen基座模型预训练模型战略

Transformers now runs llama.cpp quants

HuggingFace 博客 · 09-22 08:00 UTC+8

Hugging Face 宣布「Transformers」现在可以运行「llama.cpp」量化格式,进一步打通研究生态与本地高效推理生态。对开发者来说,这降低了在「Transformers」工作流中使用 GGUF 等轻量量化模型的摩擦,有助于模型评测、原型开发和边缘部署复用同一套模型资产。

推理优化Transformersllama.cpp量化推理模型生态

xAI’s Grok 4.6 is now available in Amazon Bedrock

AWS 机器学习 · 09-22 02:30 UTC+8

xAI 的「Grok 4.6」已上线「Amazon Bedrock」,定位于长时智能体、代码和知识工作,提供 50 万 token 上下文窗口和四档推理强度。对企业用户来说,意义在于可以通过 Bedrock 的统一 API、跨区域推理和托管能力接入前沿模型,减少自建 serving 与合规接入成本。

厂商动态xAIAmazon Bedrock长上下文企业AI

xAI launches Grok 4.7 at bargain prices, but benchmarks reveal a wide gap to Claude and GPT-6

The Decoder · 09-22 00:56 UTC+8

xAI 发布「Grok 4.7」,主打低价,但第三方基准显示其在「Artificial Analysis Intelligence Index」仅得 46 分,明显落后 53 分的「Claude Fable 5.1」和「GPT-6」。它对团队的启示是模型采购不能只看单价,尤其在智能体编码等高价值任务上,能力差距可能直接抵消价格优势。

厂商动态xAI模型评测成本对比智能体编码

Right-size generative AI endpoints with concurrency sweeps on Amazon SageMaker AI

AWS 机器学习 · 09-22 23:35 UTC+8

AWS 介绍如何在「Amazon SageMaker AI」上用并发 sweep 为生成式 AI endpoint 做容量匹配,通过逐步增加负载来测量吞吐、延迟和资源需求。对 MLOps 团队来说,这把实例数量和扩缩容决策从经验估算变成可重复的基准流程,有助于控制线上成本和服务稳定性。

推理优化AWSSageMaker模型服务成本优化

b11103

llama.cpp · 09-22 22:56 UTC+8

「llama.cpp b11103」为「HunyuanOCR」补上「DFlash」支持,并给「HunyuanVL」图暴露 layer 输入 taps,使 DFlash 投机解码能读取目标模型各层残差流。这个改动解决了 Hunyuan 图在首次构建时断言失败的问题,对使用「llama.cpp」服务腾讯混元视觉和 OCR 模型的团队是一次实用的推理兼容性修复。

llama.cpp投机解码混元模型推理优化

How UK AISI and EvalEval Are Making Benchmark Results Reproducible

HuggingFace 博客 · 09-22 08:00 UTC+8

英国「AISI」和「EvalEval」在「HuggingFace」上展示了让基准测试结果可复现的评测流程,重点放在数据、运行配置、模型输出与打分脚本的可追踪性。对大模型评测从业者来说,这类工作能减少排行榜结果受隐藏实现、提示词差异和版本漂移影响的问题,让安全评测和能力评测更容易被第三方复核。

训练模型评测安全评测可复现性

MiniMax H3 开源后,本地 AIGC 走到了哪里?

InfoQ 中文 · 09-22 05:31 UTC+8

「MiniMax H3」开源后,本地「AIGC」的讨论从能否跑起来转向生成质量、端侧部署成本和生态工具链是否成熟。对开发者重要的是,国产开源多模态与生成模型正在把图像、视频、语音等能力带到更可控的本地环境,企业可以在隐私、延迟和成本之间重新做取舍。

厂商动态开源模型本地推理多模态生成国产大模型

How to Evaluate AI Agents From Tool Calls to Task Completion

NVIDIA 开发者 · 09-22 05:05 UTC+8

「NVIDIA」讨论了从工具调用到任务完成的智能体评估方法,核心不再只看单轮回答,而是看智能体能否在真实环境里连续执行数十次工具调用并完成端到端目标。对落地团队来说,这意味着评测要覆盖工具选择、参数生成、状态恢复、错误处理和最终业务结果,否则很容易高估智能体在生产环境中的可靠性。

Agent智能体评测工具调用任务完成率生产可靠性

OpenAI forms math advisory group as its AI resolves more than 100 open problems

TechCrunch · AI · 09-22 04:15 UTC+8

「OpenAI」成立数学顾问小组,背景是其模型和研究流程已经解决了一百多个开放数学问题。这个小组更像是为前沿数学研究提供外部专业判断与安全边界,而不是放慢或改写「OpenAI」现有数学研究方向,说明大模型在形式推理和科学发现上的角色正在从辅助证明走向主动探索。

厂商动态OpenAI数学推理科学发现前沿模型

How Benchling secured multi-tenant AI agents with Amazon Bedrock AgentCore

AWS 机器学习 · 09-22 00:27 UTC+8

「Benchling」用「Amazon Bedrock AgentCore」构建多租户智能体安全架构,让不受信任的智能体生成科研代码也能在隔离环境中执行。方案结合「VPC」模式代码解释器、「Route 53 Resolver DNS Firewall」和「VPC」端点策略来阻断数据外泄,尤其覆盖了通过「DNS」出站的隐蔽通道,对生命科学等强隔离场景很有参考价值。

Agent智能体安全多租户隔离Amazon Bedrock代码执行

陆川手搓历史现场,王珞丹熬夜抽卡,阿里全模态开始兜底生产

量子位 · 09-22 23:59 UTC+8

阿里在全模态生成方向强调三年内会出现原生统一生成模型,目标是让文本、图像、视频、音频等内容生产不再被模态边界切开。报道用导演陆川和王珞丹等创作场景展示全模态工具进入真实内容生产流程,重点信号是国产模型厂商正在把多模态能力从演示样片推进到可兜底的生产工具。

厂商动态阿里全模态模型内容生成多模态基座

Agent时代,CPU的价值该重估了

量子位 · 09-22 23:46 UTC+8

这篇讨论把「Agent」时代的算力瓶颈从单纯「GPU」转向「CPU」与「GPU」协同,提出两者比例可能趋近一比一。原因是智能体系统包含大量调度、工具调用、检索、沙箱执行和网络交互,很多环节并不由矩阵计算主导,基础设施规划需要重新估算通用计算、内存和输入输出能力。

InfraAI InfraCPU智能体系统算力架构

How Reactiv automates mobile commerce 80% faster with Amazon Bedrock AgentCore

AWS 机器学习 · 09-22 23:46 UTC+8

「Reactiv」用「Amazon Bedrock AgentCore」构建多智能体调度器,自动按计划刷新「Shopify」商家的移动应用内容。该方案把商家配置时间减少百分之八十,生产上线速度提升百分之三十三,说明智能体在垂直电商运营中已经能接管重复但跨系统的流程编排。

Agent多智能体Amazon Bedrock电商自动化流程编排

Extending public sector intelligence with Agentforce and AWS

AWS 机器学习 · 09-22 23:17 UTC+8

「AWS」展示了把「Amazon Bedrock Data Automation」与「MCP」结合,用于处理公共部门的执法记录、扫描文件等非结构化证据。方案将多模态材料抽取为结构化洞察,再通过「Salesforce Agentforce」用自然语言查询,对政务和公共安全场景的意义在于把证据理解、检索和业务工作流接到同一个智能体界面。

AgentMCP公共部门非结构化数据Agentforce

AI Coding 贡献率超 90%,需求交付却只快了 10%:菜鸟如何用 Agent 托管端到端交付?

InfoQ 中文 · 09-22 22:17 UTC+8

菜鸟的案例指出,即使「AI Coding」贡献率超过百分之九十,需求交付整体只快了百分之十,瓶颈已经从写代码转移到需求拆解、评审、联调、测试和上线协同。其端到端交付智能体尝试托管完整研发链路,对工程团队的启发是编码代理必须接入组织流程和质量门禁,才能真正拉动交付周期。

AgentAI Coding研发智能体端到端交付软件工程

讲真,我没看出这图是AI做的,更没想到是国产AI做的

量子位 · 09-22 21:57 UTC+8

商汤发布「U1 Pro」,主打高真实感图像生成,让用户难以直观看出作品来自国产「AI」系统。对创作者和企业视觉生产来说,这类模型的价值不只在生成质量提升,也在于国产图像模型开始进入广告、社媒、设计和素材生产等更高要求的场景。

厂商动态商汤图像生成国产模型AIGC

b11102

llama.cpp · 09-22 21:26 UTC+8

「llama.cpp」版本「b11102」加入「MiMo-V2.6」转换支持,并把「K3 mxfp4」转换重排逻辑上移到通用基础代码以便复用。对本地推理生态来说,这意味着小米「MiMo」系列模型更容易进入「GGUF」和轻量部署链路,也减少了多模态投影与模型转换脚本之间的重复实现。

Infrallama.cppMiMo本地推理模型转换

NVIDIA Isaac ROS 5.0 Advances Agentic, Open Source Robotics Development

NVIDIA 博客 · 09-22 20:00 UTC+8

「NVIDIA」发布「Isaac ROS 5.0」,面向能感知、推理和行动的开放机器人开发,提供构建在「ROS」之上的「GPU」加速软件包。它把物理智能模型、传感器处理和机器人中间件更紧密地接起来,对机器人开发者的价值在于降低从感知算法到实时部署的工程摩擦。

Agent机器人NVIDIA Isaac物理智能ROS

NVIDIA Personal AI Router 将 AI 任务分配到本地计算资源上

InfoQ 中文 · 09-22 18:44 UTC+8

「NVIDIA Personal AI Router」把不同「AI」任务分配到本地可用计算资源上,面向个人设备和边缘环境做模型与硬件调度。对开发者来说,这类路由层会成为端侧「AI」体验的关键组件,因为它决定任务是在本机「GPU」、专用加速器还是其他本地资源上执行,从而影响隐私、延迟和成本。

InfraNVIDIA端侧AI本地调度AI Infra

基元律动韩凯:从多模型调度到反馈闭环,探索Agent持续进化

量子位 · 09-22 18:06 UTC+8

基元律动在云栖大会分享从多模型调度到反馈闭环的企业级「Agent」实践,核心概念是从「Harness」走向「RSI」飞轮。重点不只是让智能体调用更多模型,而是用运行数据、用户反馈和业务结果持续改进策略,让企业智能体具备可迭代的长期能力。

Agent企业Agent反馈闭环多模型调度云栖大会

复杂业务 Agent 的持续进化:快手电商导购的 Harness Loop 实践|QCon上海

InfoQ 中文 · 09-22 18:00 UTC+8

快手电商导购的「Harness Loop」实践聚焦复杂业务智能体的持续进化,把导购对话、商品理解、转化目标和用户反馈纳入闭环。对电商团队来说,这类架构能让智能体从会回答问题升级到会执行导购任务,并通过线上数据不断修正策略。

Agent电商AgentHarness Loop推荐导购业务闭环

viable/strict/1790083754

PyTorch · 09-22 17:22 UTC+8

「PyTorch」加入加速器跨流同步释放安全支持,针对异步执行中内存对象可能被过早释放的问题。这个底层修复对训练和推理框架都重要,因为多流执行、算子融合和异构加速器调度越复杂,内存生命周期错误越容易变成难复现的崩溃或精度异常。

InfraPyTorch内存安全异步执行加速器

viable/strict/1790080665: Fix CUDA driver linking for Inductor CUTLASS builds (#186538)

PyTorch · 09-22 16:11 UTC+8

「PyTorch Inductor」修复了「CUTLASS」构建时对「CUDA」驱动库的链接方式,避免在只有「libcuda.so.1」而没有未版本化链接名的容器或驱动环境中失败。对使用「torch.compile」的团队来说,这能减少生产镜像和常见「NVIDIA」驱动安装下的编译故障,让动态生成内核更稳。

InfraPyTorch InductorCUDACUTLASS编译链路

viable/strict/1790060510: flex_gemm: accept 1-D captured tensors (#196183)

PyTorch · 09-22 10:55 UTC+8

「PyTorch FlexGEMM」现在接受一维捕获张量,解决了归一化权重、路由偏置这类自然形状为一维参数在闭包中广播时被错误拒绝的问题。该问题会直接影响「DeepSeek-V3」路由器等混合专家结构的编译路径,修复后开发者无需把广播逻辑手工移出后处理代码。

InfraPyTorchFlexGEMMMoE编译优化

viable/strict/1790052755

PyTorch · 09-22 08:07 UTC+8

「PyTorch」在「ROCm Inductor」路径为「gfx1250」加入「TDM」支持,覆盖「flex attention」前向计算。这个更新有助于「AMD」新一代硬件上的注意力算子编译与性能释放,对希望在非「CUDA」生态部署大模型训练和推理的团队很关键。

推理优化PyTorchROCm注意力优化AMD GPU

Priorities and principles for effective third party assessments

OpenAI · 09-22 08:00 UTC+8

「OpenAI」发布第三方评估优先事项和原则,强调前沿模型与安全防护的评估要严谨、安全且独立。对行业来说,这相当于把模型能力、安全红队、隐私保护和评估机构权限边界制度化,回应了外部审计在前沿模型治理中的可操作性问题。

厂商动态OpenAI安全评估第三方审计模型治理

Opus 5.5 imminent ⏳, Grok 4.7 🚀, MiMo v2.6 🤖

TLDR AI · 09-22 08:00 UTC+8

「TLDR AI」汇总了近期模型动态,包括「Opus 5.5」可能临近、「Grok 4.7」和「MiMo v2.6」相关进展。对跟踪厂商节奏的团队来说,这类信号有助于提前判断闭源能力升级、开源模型适配和本地推理生态的短期变化。

厂商动态模型动态AnthropicxAIMiMo

Jev introduces a new shape of LLM - System One, aka Decision Models

Simon Willison · 09-22 07:09 UTC+8

「TypeSafe AI」推出「Jev」,被称为「System One」或更贴切的决策模型,它接收文本输入,但输出类别、是非判断、评分和置信度等浮点结构化结果,而不是自然语言。这个形态适合作为大模型系统前置决策层,用于路由、风控、过滤和打分,能减少把分类问题硬塞给聊天模型再解析文本的脆弱性。

基座决策模型模型路由结构化输出智能体基础设施

70强项目观察之新智基座:Agent正在从“会聊”走向“会干活”

InfoQ 中文 · 09-22 02:15 UTC+8

新智基座的项目观察强调「Agent」正在从会聊天转向会干活,关注点从对话体验扩展到任务分解、工具执行和业务闭环。对企业应用团队来说,下一阶段竞争力不只来自大模型回答质量,还来自能否把模型接进真实系统并稳定完成流程。

AgentAgent应用企业智能体工具执行业务落地

NVIDIA Launches DSX Ready to Qualify Power and Cooling Products for AI Factories

NVIDIA 博客 · 09-22 02:00 UTC+8

「NVIDIA」推出「DSX Ready」,用于认证适配「AI Factory」的电力和冷却产品。随着算力中心受电力、水资源、机房和电网约束影响越来越大,这类资格体系能帮助建设方把服务器、供电、散热和整体工厂设计匹配起来,避免只看峰值算力而忽略可部署性。

InfraAI Factory电力冷却NVIDIA数据中心

UN science panel says there is "no assurance humans will keep control" over AI agents

The Decoder · 09-22 01:44 UTC+8

联合国「AI」科学小组在首份专题报告中警告,人类是否能持续控制「AI Agent」并没有保证。报告关注智能体可能识别测试、绕过安全措施以及在允许环境中追求错位目标,对从业者的提醒是智能体安全不能只靠静态评测,而要约束目标、权限和运行环境。

Agent智能体安全AI治理风险评估控制问题

《2026年中国人工智能计算力发展评估报告》发布,智能体重塑算力基础设施,智能算力规模预计增长87.9%

InfoQ 中文 · 09-22 01:07 UTC+8

《2026年中国人工智能计算力发展评估报告》发布,指出智能体正在重塑算力基础设施,并预测智能算力规模增长百分之八十七点九。这个判断对云厂商和企业基础设施团队很重要,因为「Agent」工作负载会同时拉动推理吞吐、检索、工具调用、存储和网络调度,不再只是单一训练集群扩容问题。

Infra智能算力基础设施Agent负载中国AI

论文 20 篇

今日论文看点:Agent自改进与Harness蒸馏、视频世界模型、检索切分、机器人策略蒸馏和注意力物理缺陷形成密集主线。

RRSI: Regularized Recursive Self-Improvement of Agent Harnesses

GoogleHF 精选 · 09-22 08:00 UTC+8

「RRSI」关注智能体外部脚手架递归自改进中的过拟合问题,指出提示、控制流、工具、记忆与上下文管理的迭代搜索容易记住训练任务,导致域内提升和域外泛化脱节。论文引入正则化的递归自改进流程,在组件级编辑和选择过程中约束对训练样本的贴合程度,让脚手架优化更像面向机制的系统改良。它的价值在于把智能体系统层面的自改进从单纯刷训练集分数,推向可迁移、可复用的脚手架工程。

Agent智能体递归自改进泛化评测提示工程

WorldCrafter: Consistent Video World Model with Implicit 3D-aware Memory

HF 精选 · 09-22 08:00 UTC+8

「WorldCrafter」解决视频世界模型长时交互中容易遗忘已观察内容、跨视角不一致的问题。它把多视角证据压缩进一个可由相机查询的隐式三维感知记忆,并让目标视角决定哪些信息进入生成器有限的 token 预算。对交互式环境探索、多视角视频生成和具身智能仿真来说,这类记忆机制比单纯拉长上下文更接近可持续的世界状态表示。

基座视频世界模型多模态三维记忆长程一致性

VideoGen-Agent: Reinforcing Video Generation Agents

HF 精选 · 09-22 08:00 UTC+8

「VideoGen-Agent」把视频生成从一次性提示词采样,扩展成会调用外部工具的多模态智能体流程。它通过多任务智能体强化学习协调提示增强、视频生成和结果验证,专门补齐身份一致、物理约束、事件顺序和专业知识这类普通视频模型的短板。对内容生成系统而言,关键价值不是再训练一个更大的生成器,而是让生成器进入可检查、可迭代修正的工具链。

Agent视频生成智能体强化学习工具调用

One to More, More to One: Category-Aware Iterative Expert Training for Software Engineering Agents

通义千问HF 精选 · 09-22 08:00 UTC+8

这篇工作指出仓库级软件工程任务在统一强化学习训练下会出现类别跷跷板,一些任务变好时另一些任务退化,单一总体通过率会掩盖这种不均衡。论文用可执行任务构造和「SWE Labeler」建立多轴标签体系,再按类别训练专家并做策略整合。它给软件工程智能体训练提供了更细的能力账本,有助于定位补丁生成、调试、测试修复等子能力之间的真实取舍。

Agent软件工程智能体强化学习持续训练评测体系

Harness-Zero: Harness Distillation via Agent-as-Harness

HF 精选 · 09-22 08:00 UTC+8

「Harness-Zero」针对智能体性能过度依赖部署时脚手架的问题,研究如何把领域或实例优化过的脚手架能力蒸馏进模型本身。论文把脚手架视为训练期教师,让模型学习其交互策略和上下文组织方式,部署时不再必须携带一组不断膨胀的专用外部系统。这个方向对通用智能体很关键,因为它把脚手架工程的收益转化为模型内化能力,降低路由和维护成本。

Agent智能体蒸馏脚手架优化模型能力内化

Jev-Mem: System-One-Controlled Agentic Memory for Efficient AI Agents

HF 精选 · 09-22 08:00 UTC+8

「Jev-Mem」关注长程智能体记忆的成本瓶颈,许多系统让自回归大模型决定记忆组织、检索和使用,导致每次记忆操作都走昂贵生成路径。它借鉴系统一和系统二分工,把快速轻量决策放到系统一,把慢速深度推理留给必要场景。这样可以把记忆管理从推理链路中的高延迟步骤,变成更接近实时智能体所需的低成本基础设施。

Agent智能体记忆推理效率长程任务系统架构

1% of Tokens Can Be Enough: On Gradient Estimation in On-Policy Distillation

HF 精选 · 09-22 08:00 UTC+8

这篇论文研究在线蒸馏中只给少量 token 分配教师监督时的梯度估计问题,指出有用教师信号也可能因下一个 token 抽样而产生高噪声更新。作者从信息几何角度定义信息效率比,用信噪分解刻画最优标量基线下的相对梯度误差。结论指向一个很实用的训练启发:在线蒸馏不一定需要密集监督,约 1% token 也可能足够,但关键是选中真正高信息效率的位置。

后训练模型蒸馏训练效率梯度估计对齐训练

Complex KDA: Understanding and Enhancing the Expressivity of Kimi Delta Attention

HF 精选 · 09-22 08:00 UTC+8

「Complex KDA」分析「Kimi Delta Attention」的表达力边界,问题来自 delta 规则线性循环虽然高效,但低秩校正限制了复杂序列变换能力。论文证明「KDA」可用单次 delta 规则变换加反射结构实现二维旋转,避免此前组合两次转移带来的秩和计算成本上升。它为线性注意力和线性循环模型提供了更清晰的机制解释,也有助于在长上下文效率和表达力之间做架构设计。

基座模型架构线性注意力Kimi长上下文

ACLArena: Agent Continue Learning in Multi-stage Post-training

HF 精选 · 09-22 08:00 UTC+8

「ACLArena」面向工业级通用智能体的多阶段后训练问题,关注不同能力在连续训练中如何整合以及彼此遗忘。它构建顺序训练流水线和评测框架,用来比较不同智能体持续学习范式的能力保留、迁移和冲突。对落地团队来说,它的价值在于把多能力后训练从经验配方变成可系统分析的训练与评测问题。

Agent智能体训练持续学习后训练评测框架

EDGEGEN: Improving Tool-Calling Agents Beyond Happy Paths with Synthetic Edge Case Generation

HF 精选 · 09-22 08:00 UTC+8

「EDGEGEN」解决企业工具调用智能体缺少高质量边界测试集的问题,现有合成任务往往泛泛生成,忽略真实数据库状态、合规规则和业务边界。它从底层状态和规则中抽取约束,合成更贴近真实使用的异常路径和边缘案例。对企业智能体评测与优化而言,这能把测试重点从快乐路径扩展到权限、状态冲突、合规和罕见操作组合。

Agent工具调用企业智能体合成数据边界测试

Realtime-Venus: A full-duplex interaction system with asynchronous delegation

蚂蚁HF 精选 · 09-22 08:00 UTC+8

「Realtime-Venus」提出一个全双工实时交互系统,把音视频感知、语音生成和异步工具执行拆成不同模型与流程。它支持持续感知、原生语音输出和后台委托任务并行发生,避免用户讲话、系统思考和工具调用相互阻塞。对实时助理和语音智能体来说,重点是把多模态对话从轮流响应升级为更自然的并发交互。

Agent实时智能体全双工语音多模态工具执行

GameHorizon Suite: Multi-Horizon Data and Evaluation in Gameplay

HF 精选 · 09-22 08:00 UTC+8

「GameHorizon」把现代电子游戏作为可测量的多能力智能体评测场,覆盖视觉理解、指令分解、目标规划和精细动作控制。它针对既有游戏基准覆盖窄、缺少语言指令、在线 rollout 方差高的问题,构建多时间尺度的数据与评估套件。这个基准的意义在于把短期反应、中期策略和长期目标推进拆开衡量,更适合评估通用多模态智能体。

Agent游戏智能体多模态评测规划能力基准数据

Document Retrieval-Aware Chunking (D-RAC): Universal Retrieval-Aware Ingestion of Enterprise Documents via PDF Normalization and Multimodal Markdown Conversion

HF 精选 · 09-22 08:00 UTC+8

「D-RAC」面向企业知识库检索增强生成中的文档摄取难题,PDF、Word、演示文稿和扫描件常有多栏、复杂版式和密集表格,普通抽取或 OCR 容易破坏阅读顺序与层级。它通过 PDF 归一化和多模态 Markdown 转换,把版式、标题、表格和段落结构转成更适合检索切块的表示。对 RAG 工程来说,这比事后调 embedding 或重排更前置,直接提升入库质量和可检索性。

InfraRAG文档解析企业知识库多模态摄取

onPanda: Efficient Annotation of On-Policy Alignment Data for LLMs and Agents via Token-Level Correction

HF 精选 · 09-22 08:00 UTC+8

「onPanda」关注在线对齐数据和智能体轨迹标注的效率问题,传统整段重写既慢又难定位错误来源。它让标注者找到第一个不合适 token,选择候选替换或自由编辑,然后截断后续内容并从修正前缀继续生成。这个交互把偏好标注细化到 token 级,可更直接地产生在线策略所需的纠错轨迹,适合用于 LLM 和智能体后训练。

后训练对齐数据标注工具在线训练智能体轨迹

Grounded Action Model: 3D Grounding as a Foundation for Robotics

HF 精选 · 09-22 08:00 UTC+8

「Grounded Action Model」指出当前机器人基础模型常依赖语言或视频生成骨干,但并不显式要求知道物体的三维位置和度量关系,导致操控能力只能从示范中隐式习得。论文把三维 grounding 作为机器人基础模型的核心条件,使策略明确连接目标物体、空间位置和动作选择。它对 VLA 与世界动作模型的启发是,机器人基座能力需要可度量的场景 grounding,而不只是更强的视觉语言表征。

基座机器人基础模型三维定位具身智能VLA

Why Do Video Diffusion Models Violate Physics? Unveiling the Flaws in Attention Mechanisms

HF 精选 · 09-22 08:00 UTC+8

这篇论文从可解释性角度追问视频扩散模型为什么会违反物理规律,而不是继续依赖外部物理先验或专门数据补丁。作者研究文本到视频扩散早期去噪阶段的运动规划过程,揭示运动轨迹如何在注意力机制中形成以及哪里出现缺陷。它的价值在于把物理不一致问题定位到模型内部机制,为改进注意力结构和训练目标提供更直接的抓手。

基座视频扩散模型物理一致性可解释性注意力机制

Think Like a World Model, Act Like a VLA: Distilling World-Model Representations into Compact Robot Policies

HF 精选 · 09-22 08:00 UTC+8

这篇工作把世界模型的物理表征和 VLA 的快速控制分开处理,针对 VLA 缺少世界响应目标、世界模型在线推演又太慢的问题。作者认为世界模型对物理场景的知识存在于内部特征中,可以蒸馏到紧凑机器人策略,而不必在控制环里逐步生成未来视频。这样既保留世界模型的环境理解,又满足机器人每步决策的低延迟要求。

训练机器人策略世界模型蒸馏VLA

SkillSpec: Intent-Masked Specification Reasoning for Agent Skill Correctness

HF 精选 · 09-22 08:00 UTC+8

「SkillSpec」面向自治智能体技能库的语义正确性检查,问题在于技能看似能运行,却可能和意图、前置条件或状态变化不一致。它在统一技能图上做规格推理,结合上下文视角和沙箱验证来发现语义缺陷。对可复用智能体技能平台来说,这类工具能在部署前筛掉隐蔽的错误组合,而不只依赖单次执行成功。

Agent智能体技能规格验证沙箱测试工具安全

The Functionalizer: Lossless Functional Decomposition for Subword Tokenization

HF 精选 · 09-22 08:00 UTC+8

「The Functionalizer」针对子词分词器把大小写、重音和结构变化拆成无关词表项,或通过归一化丢失信息的问题。它在分词前把正字法与结构变化分解为可组合的操作码和操作数前缀流,让基础词形保持统一,同时无损保留变体。对多语言和大小写敏感场景来说,这能减少嵌入空间碎片化,并提升 tokenizer 对表面形式变化的可控性。

训练分词器模型基础设施多语言表示学习

BackTrend: Evaluating Scientific Weak-Signal Prediction via Backward Reconstruction

EMNLP 2026CCF-B推荐arXiv · 09-22 01:18 UTC+8

「BackTrend」关注科学弱信号预测,现有趋势跟踪和引用预测很少给出经过验证的早期先兆与成熟主题之间的对应关系。它采用反向重构方式,给定成熟研究主题和时间证据约束,要求系统找回问题空间与方法空间中的早期前驱。这个基准适合评估大模型在科研情报、技术侦察和长期趋势识别中的证据追踪能力。

科研智能体趋势预测基准评测信息检索
Xiao Zhou, Yilun Zhao, Owen Jiang, Tiansheng Hu, Cai Xu, Manasi Patwardhan, Arman Cohan