每日 AI 速览

2026-10-09

生成于 2026-10-10 04:13
本页行业动态来源于互联网公开信息,可能存在不实或失准内容,请仔细辨别消息真实性。AI Infra 状态来自 GitHub 主分支 PR。

今日导语

今日主线集中在三处:一是智能体从演示走向企业生产,Google、Postman、AgentOS 与 MCP 安全都指向工具调用、支付、沙箱和纵深防护;二是推理基础设施继续围绕稀疏化、Token 级路由、视觉 Token 压缩与 GPU 集群调度降本增效;三是自我改进与代码智能体升温,MiMo、Memento、TianxiCode、Mellum2.1 把强化学习、评测和真实开发工作流拉到同一张桌上。

AI Infra 动态 20 条

主流训推框架主分支 PR,按前沿价值与性能影响降序。
TensorRT-LLM #19707 MERGED

[TRTLLM-14620][feat] Add ragged DSpark verification semantics

本日合并至 main · 10-09 23:11 UTC+8 · @zhaoyuanh-nvidia

该 PR 为 DSpark 增加按请求 ragged verification window 的共享运行时语义,让 packed logits、采样参数、惩罚项、接受边界和 KV rewind 都使用同一个请求局部窗口。它提升了不同请求验证 token 数不一致时的推测解码正确性,避免行归属混乱并保留每个请求的 bonus 分布。

推测解码 算子与内核控制流优化硬件适配
SGLang #41259 MERGED

[Frontend] Parallelize long chat prompt encoding

本日合并至 main · 10-09 21:30 UTC+8 · @xiaofei-zheng

该 PR 将长聊天 prompt 编码并行化,只在可证明分块编码结果可拼接回单次编码结果的边界切分,并通过 tokenizer backend 的 batch encode 与 Rayon 池执行。它减少了 agentic 长上下文请求进入调度器前的 TTFT 路径工作量,并可与异步事件循环卸载改动组合使用。

推测解码 控制流优化硬件适配性能优化
SGLang #42570 MERGED

[AMD] Set maxseq length limit for DSV4.1 BCG metadata buffers

本日合并至 main · 10-09 17:15 UTC+8 · @1am9trash

该 PR 在 AMD HIP 的 DeepSeek V4.1 BCG 路径中为 attention metadata buffer 设置 max sequence length 上限,并让超过上限的长上下文走 eager 路径。它约束了多 graph bucket 场景下的元数据内存增长,降低长上下文多轮推理的 OOM 风险。

推测解码 算子与内核硬件适配性能优化
SGLang #43307 MERGED

docs: reorder README workloads, hardware, and ecosystem

本日合并至 main · 10-09 14:46 UTC+8 · @merrymercy

该 PR 调整 README 中 workload、hardware 和 ecosystem 的展示顺序,突出 agentic workloads、大规模 serving、RL rollouts 以及 Blackwell、Hopper、A100 和 RTX 系列硬件。它提升了文档对推理工作负载、硬件适配和生态能力的表达清晰度,便于用户快速定位相关部署方向。

推测解码 硬件适配性能优化服务与推理
SGLang #43083 MERGED

[Docs] Cookbook: AgentX launches for Qwen3.5 / Qwen3.8-Flash-Next; refresh GLM-5.2, DeepSeek-V4, DeepSeek-V4.1

本日合并至 main · 10-09 13:55 UTC+8 · @nvpohanh

该 PR 将 AgentX 长上下文部署 explorer 扩展到 Qwen3.5 和 Qwen3.8-Flash-Next,并刷新 GLM-5.2、DeepSeek-V4、DeepSeek-V4.1 的相关启动命令内容。它把不同模型和 NVIDIA sglang / dynamo-sglang lane 的推理配置集中到 cookbook 中,方便复现实验和硬件部署选择。

推测解码 控制流优化硬件适配性能优化
SGLang #37628 MERGED

[unified-memory] Fuse the draft model's KV into the target's page envelope (mechanism)

本日更新,目标 main · 10-09 12:38 UTC+8 · @caihuali95

该 PR 在 unified-memory 模式下把 speculative draft model 的 KV 行融合进 target 的 page envelope,使同一个 slot id 同时寻址 target KV 与 draft KV。它减少了独立 draft KV pool、分配器、页表和预留内存带来的管理成本,有利于推测解码的内存复用与页面迁移。

推测解码 算子与内核硬件适配性能优化
SGLang #43159 MERGED

docs(cookbook): add Qwen3.8 GB300 long-context recipe

本日合并至 main · 10-09 07:56 UTC+8 · @Ankur-singh

该 PR 将 InferenceX 认证过的单 GPU GB300 长上下文 serving 配置集成到 Qwen3.8-Flash-Next command builder,并加入 embedded MTP、ReplaySSM、HiCache DRAM offload 与 pinned-memory PLE offload 等参数。它为 GB300 上的长上下文推理提供更具体的硬件适配配方,并区分 PLE Auto、On、Off 下的配置可信度。

推测解码 硬件适配性能优化分布式训练
TensorRT-LLM #18485 MERGED

[TRTLLM-14620][feat] Add ragged sparse-attention row contracts

本日合并至 main · 10-09 05:05 UTC+8 · @zhaoyuanh-nvidia

该 PR 为 ragged verification 增加 sparse-attention kernel 与 metadata contract,支持同一 generation step 内不同请求验证不同数量 draft token。它保留既有 uniform path,同时维护请求归属和因果 KV 边界,为 ragged 推测解码提供底层 attention 语义。

推测解码 算子与内核控制流优化硬件适配
vLLM #59997 MERGED

[Bugfix][KV Connector][NIXL] Transfer the whole PLE short-conv page in disaggregated P/D

本日合并至 main · 10-09 03:58 UTC+8 · @aijanai

该 PR 修复 disaggregated P/D serving 中 NixlConnector 对 PLE short-conv page 的传输长度处理,让共享 allocation 下的 PLE 状态按完整页面传输。它解决 Qwen3.8-Flash-Next 推测解码中短卷积状态被截断的问题,支撑分离式 prefill/decode 推理的 MTP 接受流程。

推测解码 控制流优化性能优化服务与推理
vLLM #60682 MERGED

[Bugfix][HiSparse] Route by swap-row capacity, not the index-group workspace

本日合并至 main · 10-09 03:45 UTC+8 · @MatthewBonanni

该 PR 修复 HiSparse 的路由判断逻辑,使 batch 是否进入 swap-in 路径依据实际 swap-row capacity,而不是 index-group workspace 大小。它让超出 swap 容量的 batch 回到既有 all-resident 路径,避免边界 token 数下的启动或运行时崩溃。

推测解码 控制流优化硬件适配性能优化
SGLang #42690 MERGED

[Debug] Add opt-in NaN detection before sampling

本日合并至 main · 10-09 03:20 UTC+8 · @aurickq

该 PR 新增独立的 SGLANG_ENABLE_NAN_LOGITS_CHECK 开关,在 sampler 入口对 model logits 执行 NaN 检测,并复用已有 probe。它把 NaN 诊断从更重的 async assert 集合中拆出,便于在推测验证和采样前定位数值异常。

推测解码 控制流优化硬件适配性能优化
SGLang #42643 MERGED

Stream a chunk once stream_interval tokens are unsent

本日合并至 main · 10-09 01:12 UTC+8 · @shodoco

该 PR 修改 streaming 逻辑,当未发送 token 数达到 stream_interval 时立即发送 chunk,而不是依赖输出长度恰好落在固定模数位置。它改善了推测解码或 dLLM 一步追加多个 token 时的流式返回延迟,使客户端更接近配置的发送间隔。

推测解码 算子与内核控制流优化硬件适配
TensorRT-LLM #19896 MERGED

[TRTLLM-15762][refactor] Migrate decoder execution and private resources into the runner family

本日合并至 main · 10-09 00:42 UTC+8 · @lori-ren

可见 diff 仅调整 model_engine.py 和 test_pytorch_model_engine.py 的 import 格式,未展示可执行行为、API 或配置变化。由于正文所述 decoder execution 与 private resources 迁移未出现在可见 diff 中,无法据此评估其对推理架构的实际影响。

推测解码 控制流优化硬件适配服务与推理
llama.cpp #30223 MERGED

llama: keep the backend sampling graph static across ubatches

本日合并至 master · 10-09 22:20 UTC+8 · @ServeurpersoCom

该 PR 让 backend sampling graph 在不同 ubatch 间保持静态,每个 sampler 都构建 n_outputs_max_per_seq 条 sampling chain,并通过真实行掩码控制执行。它避免 GGML_SCHED_NO_REALLOC 构建中因输出行变化触发图重分配,提升 server-cuda 和 server-metal 路径的推理稳定性。

推测解码 硬件适配服务与推理
TensorRT-LLM #19790 MERGED

[https://nvbugs/6849051][fix] The shared mock helper sets `get_fp4_mla_page_table_spec = None` and both…

本日合并至 main · 10-09 19:23 UTC+8 · @trtllm-agent

该 PR 修复测试 mock 中裸 MagicMock KV cache manager 被误判为 FP4 MLA 路径的问题,将 shared mock helper 的 get_fp4_mla_page_table_spec 设为 None 并复用于相关测试。它让非 FP4 prepare 路径按预期执行,避免 FP4 MLA 状态创建阶段出现无关 TypeError。

推测解码 性能优化服务与推理
SGLang #42720 MERGED

[Scheduler] Skip the decode for a request whose last token is already in flight

本日合并至 main · 10-09 14:00 UTC+8 · @zijiexia

该 PR 在 overlap scheduler 中识别 last token 已经随上一轮结果 in flight 的请求,并跳过这些请求的下一次 decode 规划。它减少按 max_new_tokens 结束请求时被丢弃的多余 decode row,降低 overlap 模式下的无效 forward 工作。

推测解码 控制流优化服务与推理
vLLM #56983 MERGED

[Spec Decode][Model] Support DFlash2 draft models with GLM-5.3-Flash

本日合并至 main · 10-09 02:41 UTC+8 · @Dovis01

该 PR 为 GLM-5.3-Flash 支持 DFlash2 draft model,修复启动链路中的多个非 kernel 层阻塞点,并保持 kernels、默认值和 MTP 行为不变。它让该 base model 与 DFlash2 drafter 组合能够在 NVIDIA 多卡推理配置中启动和 serving,扩展了推测解码模型覆盖面。

推测解码 性能优化服务与推理
SGLang #31054 MERGED

[AMD] Support Quark DeepSeek-V4-MXFP4 checkpoints on the DSV4 stack, enabling shared-expert fusion and MTP

本日合并至 main · 10-09 13:54 UTC+8 · @ColinZ22

该 PR 在 AMD ROCm 的 DSV4 stack 上支持 Quark DeepSeek-V4-MXFP4 checkpoint,并启用 shared-expert fusion 与 MTP/EAGLE speculative decoding。它修复 Quark MXFP4 MoE 加载中专家 FFN channel 丢失的问题,使预量化 DeepSeek-V4 检查点能更完整地利用 AMD 推理路径。

推测解码 算子与内核
vLLM #52228 MERGED

[Model Runner V2][Spec Decode] Adaptive Verification without a confidence head

本日更新,目标 main · 10-09 13:08 UTC+8 · @TheEpicDolphin

该 PR 在 Model Runner V2 中为无 confidence head 的 draft-model speculator 增加 adaptive verification,通过在线接受率估计支持 MTP、EAGLE3、DFlash 1/2 以及无 head 的 DSpark。它把 variable length verification 的适用范围从特定 DSpark head 扩展到更多推测解码器,提升推理调度对不同 drafter 的适配能力。

推测解码 服务与推理

行业动态 40 条

v1.15.0

HF TRL · 10-09 13:55 UTC+8

《TRL v1.15.0》加入融合《LM Head》计分,使用《Triton》内核分块投影并直接归约为逐令牌对数概率和熵,避免构建巨大的批量、序列、词表三维logits张量。该功能默认用于《SFT》《DPO》《KTO》《GRPO》《RLOO》和蒸馏,在同卡内存下最高可支持6.9倍更长序列。对训练工程而言,这是直接缓解长序列偏好优化显存瓶颈的一次重要升级。

后训练训练框架显存优化TRL长序列训练

Impactful scheduling for GPU clusters

HuggingFace 博客 · 10-09 23:20 UTC+8

Hugging Face 讨论面向GPU集群的影响力调度,核心是让调度策略服务于训练和推理任务的实际产出,而不只是提高设备占用率。对拥有多租户集群的团队来说,这类调度思路会影响排队时延、实验吞吐、抢占策略和整体算力成本。

InfraGPU集群调度系统AI Infra成本优化

Google brings agentic AI to Gemini, starting with businesses

TechCrunch · AI · 10-09 02:18 UTC+8

Google 正把《Gemini》推向企业级智能体形态,让它能够规划并执行任务,跨业务应用和系统协作。新能力包括委派子智能体、调用多个模型,并拥有带邮箱的工作身份。对企业开发者而言,这意味着通用办公智能体开始从聊天入口转向可审计、可授权的业务执行主体。

AgentGoogle企业Agent多智能体模型厂商动态

JetBrains Releases Mellum2.1: A 12B MoE Open Model for Coding Agents

MarkTechPost · 10-09 00:17 UTC+8

JetBrains 发布《Mellum2.1》,一个采用《MoE》的12B开源代码思考模型,活跃参数为2.5B,并以《Apache 2.0》许可发布。通过真实代码仓库中的强化学习训练,它在《SWE-bench Verified》上的成绩从2.0提升到47.0。对代码智能体开发者来说,这是IDE厂商把模型、仓库环境和智能体任务闭环结合的一个强信号。

基座代码大模型JetBrainsMoESWE-bench

How Postman runs Agent Mode for 40 million developers on Amazon Bedrock

AWS 机器学习 · 10-09 23:35 UTC+8

Postman 与 AWS 分享了面向4000万开发者运行《Agent Mode》的架构经验,重点包括控制工具膨胀、提供基于Schema的读取接口,以及把上下文视为核心瓶颈。该模式运行在《Amazon Bedrock》之上,关注的是从演示级智能体走向大规模生产服务。对平台团队而言,案例价值在于展示了工具治理、上下文管理和托管模型服务如何一起决定智能体体验。

Agent企业AgentAmazon Bedrock工具调用生产架构

b11529

llama.cpp · 10-09 23:18 UTC+8

《llama.cpp b11529》修复了《ggml_acc》在负偏移场景下可能发生的越界写入问题,根因是把《size_t》偏移收窄为《int32_t》前缺少范围检查。大偏移被截断为负数后再扩展回巨大无符号数,会绕过边界断言并写到目标缓冲区之前。对本地推理和嵌入式部署来说,这类底层内存安全修复需要尽快跟进。

Infrallama.cpp推理框架安全修复本地部署

在生产环境中保护MCP:超越网关的纵深防御

InfoQ 中文 · 10-09 17:05 UTC+8

InfoQ 中文关注生产环境中的《MCP》安全,强调防护不能只停留在网关层。对企业智能体系统来说,《MCP》连接工具、数据和外部服务后,权限边界、审计、策略控制和运行时隔离都会成为核心风险面。

AgentMCPAgent安全纵深防御企业AI

联想天禧自研代码智能体TianxiCode斩获SWE-bench-Live全球第一

量子位 · 10-09 16:53 UTC+8

联想天禧自研代码智能体《TianxiCode》在《SWE-bench-Live》上以71%的问题解决率登顶。这个结果显示国内厂商正在把代码智能体能力从离线基准推进到更贴近实时软件维护的评测场景。对工程团队而言,榜单竞争的重点已经从补全代码转向理解仓库、定位问题和执行多步修复。

Agent代码Agent联想SWE-bench模型厂商动态

Meet the Underdog Saluki 27B: A 2-bit Qwen3.8-27B That Beats the Original at Tool Calling

MarkTechPost · 10-09 15:23 UTC+8

《Underdog Saluki 27B》是基于《Qwen3.8-27B》的2-bit《GGUF》量化模型,体积约7.89GB,并采用《Apache 2.0》许可。报道称它在工具调用上超过54GB原版,但在竞赛数学和推理任务上有所退让。对本地智能体部署来说,这说明极低比特量化仍可能保留甚至强化部分工具使用行为,但能力取舍需要按场景评估。

推理优化量化模型工具调用Qwen本地部署

字节找到了DeepSeek时强时弱的原因

量子位 · 10-09 15:11 UTC+8

字节相关研究指出《DeepSeek》表现时强时弱可能与Token位置有关,也就是同一信息在序列中的站位会影响模型回答正确性。这个观察提醒从业者,提示词工程和检索增强不只是塞入更多上下文,还要关注证据、指令和关键约束在上下文窗口中的布局。对长上下文应用而言,Token排布可能直接影响稳定性和评测结果。

基座提示工程长上下文DeepSeek模型行为

Asana cuts model costs 76x in browser tests with GPT-6.1 Sol

OpenAI · 10-09 15:00 UTC+8

OpenAI 披露 Asana 在《Codex》中使用《GPT-6 Astra》做浏览器智能体测试,将模型成本降低76倍,同时速度提升5倍。案例说明面向具体工作流的模型选择和执行优化,可能比单纯追求最大模型更能改善单位任务经济性。对企业智能体落地来说,成本、延迟和能力的联合优化正在成为核心指标。

厂商动态OpenAICodex浏览器Agent成本优化

Google Cloud Launches Gemini Agent, One Universal Agent for Enterprise Work

MarkTechPost · 10-09 14:47 UTC+8

Google Cloud 推出《Gemini agent》,定位为面向企业工作的通用云端智能体,可在一个提示框和一个API中完成问答、知识工作、媒体生成以及代码编写和运行。它把多类办公与开发任务统一到同一智能体入口,降低企业集成多个专用助手的复杂度。对开发者而言,重点在于云厂商正在把智能体能力产品化为可调用的企业平台能力。

AgentGoogle Cloud企业AgentGemini模型厂商动态

Sandboxing is here!

Unsloth · 10-09 14:12 UTC+8

「Unsloth」加入 Windows、Mac 和 Linux 沙箱能力,分别面向不同系统封装隔离执行环境,方便在训练、测试、导出和服务阶段更安全地运行模型工作流。更新还强调可把文本或视觉大模型训练成 Jev 风格决策模型,决策准确率从 30% 提升到 80%,对需要低成本构建可部署决策智能体的团队很实用。

后训练模型训练工具安全沙箱决策模型端侧部署

Google Research RRSI Guide: Mastering Self-Improving AI Agents

MarkTechPost · 10-09 13:06 UTC+8

这篇指南围绕 Google Research 的「RRSI」展开,重点解释如何用噪声区间、成本规则和泄漏筛查约束递归自我改进过程。对 Agent 开发者来说,它的价值在于把自我优化从经验调参拉回到可审计、可限流、可防数据泄漏的工程路径。

Agent智能体自我改进安全评估

GPT-6.1 Ultrafast ⚡, Gemini universal agent 🤖, speculative decoding 🧠

TLDR AI · 10-09 08:00 UTC+8

这期动态把「GPT-6.1」高速化、「Gemini」通用智能体和 speculative decoding 放在同一条主线里,反映模型能力、产品形态和推理效率正在一起推进。对从业者而言,重点不是单个标题,而是更强模型、更通用 Agent 和更低延迟推理正在同时成为竞争门槛。

厂商动态模型发布智能体推理优化

Pay-per-inference for AI agents: How BlockRun and Incarna use Amazon Bedrock AgentCore payments

AWS 机器学习 · 10-09 02:33 UTC+8

AWS 展示「Amazon Bedrock AgentCore payments」如何让 AI Agent 按需为外部服务付费,并由基础设施层执行支出上限。案例中 Incarna 的智能体可通过 x402 按请求向 BlockRun 支付模型推理费用,把接入 x402 支付的工作量从数月压到数天。

AgentAgent支付Amazon Bedrockx402智能体基础设施

Building Reliable Data Analytics Agents: Lessons from the KDD Cup

NVIDIA 开发者 · 10-09 02:30 UTC+8

NVIDIA KGMON 团队复盘其在 KDD Cup 2026 Data Agents 竞赛中获得第二名的系统,核心经验是把智能体 harness 做小,减少复杂控制面带来的不确定性。对数据分析 Agent 落地来说,这强调可靠性往往来自更清晰的执行边界、工具协议和错误面管理,而不是盲目堆更多推理步骤。

Agent数据智能体可靠性工程KDD CupNVIDIA

Share GPU clusters across teams with isolation and fairness using Amazon SageMaker HyperPod

AWS 机器学习 · 10-09 00:20 UTC+8

AWS 给出一套在单个「Amazon SageMaker HyperPod」EKS 集群上跨团队共享 GPU 的参考架构,使用 IAM Identity Center、团队级 SageMaker Domain、Kubernetes namespace、任务治理和成本分摊实现隔离与公平。它对训练平台团队很关键,因为 GPU 池化只有同时解决租户隔离、排队公平和 chargeback,才不会退化成资源争抢。

InfraGPU集群多租户SageMaker HyperPod训练基础设施

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

TechCrunch · AI · 10-09 00:00 UTC+8

Goodfire 发布面向 AI Agent 的 inside-out 监控方案,不是用第二个模型阅读全部行为日志,而是在模型运行时观察内部信号,异常时才触发更昂贵的外部检查。这个方向对 Agent 安全很有吸引力,因为它试图把持续监控成本从全量审查降到按风险触发。

Agent智能体安全模型监控可解释性成本优化

ICYMI: What landed for AI builders in September 2026

AWS 机器学习 · 10-09 23:38 UTC+8

AWS 汇总 2026 年 9 月面向 AI 开发者的更新,覆盖「Amazon Bedrock」、「Amazon Bedrock AgentCore」和「Strands」的模型选择、serverless agent 性能、内置评估和企业连接器知识库同步。对企业应用团队来说,这意味着从模型接入、Agent 托管到知识库维护的托管化程度继续提高。

厂商动态Amazon Bedrock企业Agent知识库托管服务

viable/strict/1791561296

PyTorch · 10-09 19:42 UTC+8

PyTorch 的这条变更围绕「FSDP2」测试路径,缩短 TestFullyShardPerParamMeshOverlap 的 delay、model 和 warmup 设置。虽然是工程细节,但它会改善全分片训练相关测试的反馈速度,对维护大规模分布式训练栈的团队属于降低迭代摩擦的基础工作。

InfraPyTorchFSDP2分布式训练测试效率

从 Demo 到生产:AI Agent 缺的到底是什么?

InfoQ 中文 · 10-09 19:13 UTC+8

这篇讨论从 Demo 到生产的 Agent 落差,核心问题通常落在可靠执行、状态管理、评估闭环、权限控制和异常恢复,而不只是模型会不会调用工具。对企业落地者来说,Agent 产品化的关键是把一次性演示能力变成可观测、可治理、可持续迭代的系统。

Agent智能体落地生产化可靠性评估体系

nightly-last-green

DeepSpeed · 10-09 14:37 UTC+8

DeepSpeed nightly 变更为「AutoTP」补上 row-parallel output head 训练中的 tied embeddings 支持。这个细节会影响大模型并行训练里共享输入输出嵌入的常见结构,使自动张量并行在更多真实模型拓扑上可用。

InfraDeepSpeed张量并行分布式训练模型并行

清华具身模型登顶全球第一!突围GPT-6、英伟达,不靠外挂和额外数据

量子位 · 10-09 11:52 UTC+8

量子位报道清华相关具身模型在全球榜单登顶,亮点是把视频预测与动作学习分阶段训练,而不是把视频和动作混在同一阶段共同建模。这个思路对具身智能很重要,因为它把世界建模和策略学习的目标解耦,有助于在不额外依赖外挂数据的情况下提升泛化。

训练具身智能视频预测动作学习模型训练

v0.40.2

Ollama · 10-09 11:37 UTC+8

「Ollama」v0.40.2 会在首次运行旧版本下载的模型时进行后台升级,以提升基于「llama.cpp」运行时的性能和兼容性。它同时保留原始副本以支持安全降级,因此短期会增加磁盘占用,运维上需要关注模型备份清理策略。

InfraOllamallama.cpp本地推理模型管理

proto-v0.5.0

vLLM · 10-09 11:11 UTC+8

「vLLM」发布 vllm-proto 0.5.0,属于推理服务协议与接口层的版本推进。对围绕 vLLM 构建网关、客户端和编排系统的团队来说,proto 版本变化会直接影响兼容性、代码生成和服务间契约。

InfravLLM推理服务协议接口

openJiuwen发布并开源企业级AgentOS,加速智能体规模落地企业

量子位 · 10-09 10:37 UTC+8

openJiuwen 发布并开源企业级「AgentOS」,主打多 Agent 协同和自我进化能力,目标是降低智能体在企业流程中的规模化接入门槛。对企业 AI 团队来说,AgentOS 类平台的价值在于统一编排、权限、工具和运行时治理,而不是把每个 Agent 做成孤立脚本。

AgentAgentOS多智能体企业智能体开源平台

代码造世界,扩散绘现实:AgentGarten让智能体在实时试炼场中边玩边进化

量子位 · 10-09 10:03 UTC+8

「AgentGarten」提出让智能体在实时试炼场中通过代码构造环境、用扩散模型生成现实感内容,并在反复试错中进化。它的意义在于把 Agent 评测和训练从静态任务集推向可交互、可生成、可持续变化的环境,有利于暴露规划和执行中的长链路问题。

Agent智能体训练仿真环境扩散模型交互评测

Into the Omniverse: How Developers Turn Ideas Into Simulations With Frontier AI Agents

NVIDIA 博客 · 10-09 05:06 UTC+8

NVIDIA 介绍开发者如何把前沿 AI Agent 与「Omniverse」库结合,用于组装资产、连接物理与渲染,并验证仿真场景行为。对机器人、工业设计和数字孪生团队来说,这类 Agent 工作流能把仿真应用构建从手工管线推进到半自动协作。

AgentNVIDIA Omniverse仿真智能体数字孪生

Claude can now generate animated explainer videos and live data dashboards from text prompts

The Decoder · 10-09 03:17 UTC+8

Anthropic 为「Claude」推出两个 beta 功能,Dashboards 可把 BigQuery、Snowflake 等数据源通过文本提示生成实时仪表盘,Motion 可基于文本和图像生成动画解释视频。对办公和数据团队来说,Claude 正从对话助手扩展到可生产可视化、数据应用和多媒体内容的工作台。

厂商动态Claude数据仪表盘多模态生成办公智能体

Popular AI leaderboard Arena nearly doubles valuation to $3.1B valuation in 10 months

TechCrunch · AI · 10-09 02:19 UTC+8

运营 LMArena 排行榜的公司完成 2 亿美元融资,估值在 10 个月内接近翻倍至 31 亿美元,并开始把模型评测扩展到撒谎等对齐问题。对模型厂商和企业采购方来说,开放竞技场式评测正在从能力排名变成影响融资、品牌和安全信任的基础设施。

训练模型评测LMArena对齐评估融资动态

26.09-alpha.rc2

Megatron-LM · 10-09 01:51 UTC+8

「Megatron-LM」出现 26.09-alpha.rc2 版本信号,文本未给出具体变更内容,但它指向大规模训练框架的下一轮 alpha 候选推进。对使用 Megatron 体系做预训练和并行训练的团队来说,此类候选版通常需要关注张量并行、流水并行、优化器和模型结构兼容性变化。

训练Megatron-LM预训练框架分布式训练

viable/strict/1791566830

PyTorch · 10-09 21:42 UTC+8

PyTorch 这条变更调整 CUDA 线性代数路径,在「lu_factor」设置 pivot 为 false 时弃用 MAGMA 路径并转向新的分发实现。对依赖 GPU 矩阵分解的科学计算和训练代码来说,这类底层调度变化会影响兼容性、性能和未来弃用风险。

InfraPyTorchCUDA线性代数底层算子

OpenAI's safety crisis keeps getting worse and the company keeps making it worse

The Decoder · 10-09 19:45 UTC+8

The Decoder 报道 OpenAI 解雇三名参与调查 Hugging Face 黑客事件的安全研究人员,相关公开信认为这会让剩余员工产生寒蝉效应并削弱安全文化。对行业来说,这不是单纯人事新闻,而是前沿模型公司在安全治理、内部问责和外部信任之间的张力继续升级。

厂商动态OpenAIAI安全公司治理安全文化

全球扩散语言模型最大融资诞生:经纬、顺为、君联数亿元押注扩散智能DiffuSpace

InfoQ 中文 · 10-09 19:07 UTC+8

DiffuSpace 获经纬、顺为、君联等机构数亿元融资,被报道为扩散语言模型方向的重要融资案例。对模型路线观察者来说,这显示资本开始押注不同于自回归 Transformer 的语言生成范式,扩散式文本建模可能在并行生成、可控编辑和推理效率上寻找突破口。

厂商动态扩散语言模型融资动态模型架构创业公司

viable/strict/1791557800

PyTorch · 10-09 18:51 UTC+8

PyTorch 变更在 NCCL 版本低于要求时,获取 symmetric memory device pointers 会直接报错。这个改动对分布式训练栈很实际,因为它把不满足通信库能力的环境问题提前暴露,避免后续在集体通信或共享内存路径中出现更隐蔽的失败。

InfraPyTorchNCCL分布式训练通信库

Anthropic's Claude Science creates the first complete ultraviolet map of the sky

The Decoder · 10-09 17:22 UTC+8

Johns Hopkins 天体物理学家 Brice Ménard 使用 Anthropic 的「Claude Science」首次生成完整紫外全天图,Agent 自动下载多项空间任务数据、校准并用 inpainting 填补缺口。预测与真实测量的平均偏差约 10%,这个案例说明科学 Agent 已能承担跨数据源、跨步骤的研究型流水线,而不只是辅助写作。

AgentClaude Science科学智能体多源数据天文计算

TRAE终于把Code和Work合并了

量子位 · 10-09 17:19 UTC+8

TRAE 将 Code 和 Work 合并,意味着编码环境与通用工作流入口进一步统一。对开发者工具来说,这类整合会减少在代码、文档、任务和协作上下文之间切换的成本,也让 AI 编程助手更接近完整工作台。

AgentAI编程开发者工具工作流整合

trunk/92050d6bbb86a545620ece7f9abbf7b28f5fc2cb

PyTorch · 10-09 14:08 UTC+8

PyTorch elastic 变更把 rendezvous rank 按节点地址的自然顺序分配。这个细节会提升弹性分布式训练中 rank 分配的可预测性,便于排查多节点启动、日志对应关系和故障恢复问题。

InfraPyTorch Elastic分布式训练集群调度

ttok 1.0

Simon Willison · 10-09 08:34 UTC+8

Simon Willison 发布「ttok」1.0,并把默认 tokenizer 从 GPT-4 切到更符合 GPT-5 系列的选择,同时讨论 GPT-6 是否沿用同族 tokenizer 的不确定性。对构建提示词预算、日志分析和模型迁移工具的人来说,默认 tokenizer 的选择会直接影响 token 计数、成本估算和上下文截断判断。

InfraTokenizerGPT-5开发者工具成本估算

论文 20 篇

今日论文看点:自我改进强化学习、长程智能体监督、稀疏推理引擎与多模态深度研究智能体形成一组从训练到部署的闭环议题。

MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement

HF 精选 · 10-09 08:00 UTC+8

《MiMo-V2.6》把强化学习计算规模作为全模态基座模型自我提升的核心变量,先通过大规模多模态中训练扩展可探索空间,再在混合《SWA》预训练架构上承接后续强化学习放大。报告强调从数据、环境与训练基础设施三条线扩展《RL》计算,使模型不仅在单一任务上刷分,而是在推理、视觉和跨模态交互中形成更稳定的能力迁移。对从业者的价值在于,它把小米《MiMo》系列的路线从模型发布推进到可复用的强化学习扩展范式。

后训练大模型基座强化学习多模态模型模型厂商动态

SparseEngine: Sparse-First Inference Engine

HF 精选 · 10-09 08:00 UTC+8

《SparseEngine》针对长上下文智能体中交互历史不断膨胀导致的《KV Cache》内存和注意力计算压力,重新设计了以稀疏为一等公民的推理引擎。它用共享生命周期契约统一不同稀疏方法的缓存表示、压缩流程和计算策略,让每种方法仍能保留自己的布局与执行逻辑。其意义在于把稀疏注意力从论文技巧变成更容易接入服务系统的基础抽象,适合长上下文《Agent》与多轮推理服务。

推理优化稀疏注意力KV缓存AI Infra

Mental-Models for Multi-Agent Systems

NeurIPS 2026CCF-A推荐arXiv · 10-09 01:59 UTC+8

《Mental-Models for Multi-Agent Systems》关注多智能体在部分可观测环境下如何推断他人的知识、意图和下一步行为,而不是只靠提示词、记忆或端到端行为塑形。论文主张学习显式的伙伴状态表征,让智能体能够把对其他参与者的心理模型纳入决策过程。这个方向对协作型和博弈型《Agent》都很关键,因为真实任务中的失败往往来自对队友、用户或对手状态的误判。

多智能体智能体规划伙伴建模Agent
Hanan Gani, Lulu Shao, Manmohan Chandraker

TokenRouter: Efficient Serving System for Token-Level LLM Routing

NeurIPS 2026CCF-A推荐arXiv · 10-09 00:21 UTC+8

《TokenRouter》把大模型路由从会话级、请求级推进到令牌级,目标是在生成过程中动态选择不同模型来改善成本与质量的帕累托边界。难点在于现有单模型推理系统默认一条请求对应一个模型,而令牌级路由会打破调度、缓存和批处理假设。论文构建面向令牌级路由的服务系统,为生产环境中混合大小模型、按生成位置分配算力提供了更细粒度的基础设施。

推理优化模型路由推理服务成本优化AI Infra
Tianyu Fu, Tengxuan Liu, Ruoxi Wang, Yixin Dong, Yi Ge, Yichen You, Yu Wang

From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation

HF 精选 · 10-09 08:00 UTC+8

《Trace2Env》针对真实系统难以访问或复现时,智能体训练和评测缺少可信环境副本的问题,提出用语言世界模型来扮演环境本身。它不重建可执行系统,而是从交互轨迹中组织状态、规则和响应,让一个世界模型智能体为任务智能体提供有状态模拟。价值在于把已有日志转化为可交互训练场,降低构建《Agent》评测环境的工程门槛。

Agent智能体环境世界模型交互模拟Agent评测

Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks

HF 精选 · 10-09 08:00 UTC+8

《Memento 3》面向陌生环境中的持续学习问题,指出有限观测常常支持多个互相竞争的世界模型,智能体需要随新证据修正自己的理解。它让冻结的大语言模型维护外部自然语言规则书,把交互得到的规律沉淀为持久语义记忆,并在后续决策中递归反思和更新。这个设计把自我改进从参数更新转向显式记忆与规则修订,适合无法频繁微调模型的智能体系统。

智能体记忆世界模型自我改进Agent

SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference

HF 精选 · 10-09 08:00 UTC+8

《SparseDecoding》抓住解码阶段受内存带宽限制的痛点,重新审视训练无关剪枝在大模型推理中的校准方式。传统方法用预收集自然序列估计《Hessian》,但实际解码时输入是模型自生成令牌,两者分布错位会影响剪枝后精度。论文把剪枝目标与解码分布对齐,在减少非零参数读取的同时维持生成质量,对低延迟部署和权重压缩都有直接价值。

推理优化模型剪枝解码优化推理加速AI Infra

OneSearch-VL: Unified Multimodal Deep Research Agent for Image and Video

HF 精选 · 10-09 08:00 UTC+8

《OneSearch-VL》面向单图、多图和视频深度研究任务,试图统一视觉定位、外部检索和事实合成这条工作流。它提出视觉扎根证据图,把局部视觉锚点、实体关系、来源支持事实和最终回答操作连接在同一任务级结构中。对多模态研究型智能体来说,这种图结构能减少证据链断裂,让图片和视频问答更可审计、更容易复现。

Agent多模态Agent视觉检索证据图谱深度研究

What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents

快手HF 精选 · 10-09 08:00 UTC+8

《AgentMonBench》关注长程智能体执行后,用户如何知道它到底做了什么、哪些决策需要复核。论文研究能识别关键决策并定位支撑证据的监控器,并构建覆盖软件工程场景的基准,评估监控器在后验监督中的作用。它把智能体评测从最终任务成功扩展到过程可解释与证据可追溯,对企业级自动化落地很实用。

AgentAgent评测智能体监督软件工程Agent可追溯性

V-CoLA: Vision Token Compression with Linear Attention

通义千问HF 精选 · 10-09 08:00 UTC+8

《V-CoLA》针对视觉语言模型中视觉令牌占据大部分序列、带来显著计算开销的问题,重新设计适配线性注意力架构的视觉令牌压缩方法。论文指出为《Softmax Attention》设计的注意力或相似度压缩策略,在《Qwen3.5》这类混合线性注意力模型上泛化不足。它的价值在于把视觉压缩从特定注意力机制中解耦出来,为新一代高效多模态架构提供更稳的加速路径。

多模态模型视觉令牌压缩线性注意力推理优化

ReSPO: Reshaped Sequence Policy Optimization for Gradient Starvation in Off-Policy Learning

HF 精选 · 10-09 08:00 UTC+8

《ReSPO》分析《RLVR》反复复用离线轨迹时,当前策略与采样策略不一致会放大裁剪策略优化中的梯度饥饿。论文指出裁剪机制会压制低重要性权重尾部中被生成不足的正样本,却允许高权重尾部中过度生成的负样本主导更新。它通过重塑序列级策略优化来缓解这种符号相关偏差,对用可验证奖励训练推理模型尤其有参考价值。

后训练RLVR策略优化强化学习训练方法

REMORY: Learning Residual Memory for Context Compaction

HF 精选 · 10-09 08:00 UTC+8

《REMORY》针对长程智能体必须压缩历史上下文的问题,指出文本摘要并不总能支撑后续所有决策。它训练一个神经记忆网络,在摘要之外生成有界数量的软记忆令牌,使冻结大语言模型更接近拥有完整历史时的续写行为。这相当于把上下文压缩从纯文本总结升级为摘要加可学习残差记忆,对长期任务和低上下文成本部署很有价值。

智能体记忆上下文压缩长上下文Agent

Accurate but Not Humble: Evaluating Epistemic Humility in LLM Agents under Knowledge Conflict

EMNLP 2026CCF-B推荐arXiv · 10-09 01:25 UTC+8

《Accurate but Not Humble》评估智能体在检索证据与先验信念冲突时,是否会修正答案、表达不确定性,还是坚持错误结论。论文把这种能力定义为认识论谦逊,并用轨迹级行为指标观察智能体在执行过程中的不确定性识别、行动和沟通。它提醒从业者,任务成功率无法覆盖可靠性全貌,尤其在检索增强和工具调用场景中,承认不确定比盲目自信更关键。

AgentAgent评测可靠性检索增强对齐评测
Kaiser Sun, Bernal Jimenez Gutierrez, Hongjun Liu, Jingyu Zhang, Jie Gao, Mark Dredze, Daniel Khashabi

Syn-Omni: Structured Specialization and Progressive Collaboration for Omnimodal Embeddings

EMNLP 2026CCF-B推荐arXiv · 10-09 00:26 UTC+8

《Syn-Omni》关注全模态嵌入中共享语义与模态专属特征混在同一参数空间时,结构分离不足的问题。它提出结构化全模态适配框架,通过模态专门化和受控跨模态协作,同时保留通用表征与特定模态能力。对检索、聚类和跨模态匹配系统来说,这类方法有助于减少不同模态互相干扰,提高统一嵌入在复杂输入上的可用性。

基座全模态嵌入多模态表征检索模型架构
Youngtaek Oh, Qiyu Wu, Hiromi Wakaki, Junmo Kim, Yuki Mitsufuji

AgentGarten: Code Worlds for Evolving Agents

HF 精选 · 10-09 08:00 UTC+8

《AgentGarten》试图解决智能体训练环境既要规则一致、状态可信,又要观测接近真实视觉分布的矛盾。它把模拟器、游戏引擎和共享神经渲染器结合起来,生成可实时交互的多样代码世界。其意义在于提升智能体练习场的保真度和可扩展性,让环境本身成为可演化的训练资产。

Agent智能体环境仿真平台神经渲染Agent训练

Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments?

HF 精选 · 10-09 08:00 UTC+8

《Learn2Play Bench》专门评估大语言模型智能体能否在陌生动态环境中从经验学习,而不是依靠预训练时已经见过的规则或题型。论文指出许多现有基准把规则写进指令或使用模型熟悉的任务,难以区分交互学习和既有知识推理。这个基准的价值在于更清楚地测量试错、记忆、归纳规则和策略更新能力,是检验真正自适应智能体的重要补充。

AgentAgent评测经验学习陌生环境智能体基准

TestPrism: Rethinking Test Evaluation Beyond a Single Reference

HF 精选 · 10-09 08:00 UTC+8

《TestPrism》重新审视代码智能体生成测试的评估方式,指出只用单一参考解会忽略其他合法实现,从而高估测试质量。它构建了来自17个来源的300个测试任务和3000个候选实现,且有效与无效实现各占一半。其核心指标联合成功函数要求生成测试能放过所有有效实现并拦截无效实现,更贴近真实软件工程中的测试判别力。

Agent代码Agent测试生成软件工程评测代码大模型

MC-Sparse: Deconstructing and Closing the Dense-Sparse Attention Gap in Diffusion Transformers

HF 精选 · 10-09 08:00 UTC+8

《MC-Sparse》研究扩散Transformer在视频和高分辨率3D生成等长序列任务中使用稀疏注意力时,为何高稀疏率会损伤生成质量。论文通过受控的预言机对比,把退化来源拆成令牌分组约束、交互选择不准和丢弃令牌带来的注意力贡献缺失。它给出的改进思路有助于缩小稠密与稀疏注意力差距,让生成模型在提速时少牺牲细节和一致性。

推理优化扩散模型稀疏注意力生成模型推理加速

HRIL: Learning Multimodal Synergy via Higher-Order Tensor Modeling

NeurIPS 2026CCF-A推荐arXiv · 10-09 01:39 UTC+8

《HRIL》聚焦自监督多模态表征中的协同信息,即只有多个模态联合出现时才显现、单一模态无法恢复的任务相关信号。论文用高阶张量建模来保留这种跨模态交互的信息容量,避免只学习各模态之间的共享部分。对医疗、音视频理解和复杂传感器融合场景而言,这类建模能更好捕捉组合信号,而不是把多模态简化成特征拼接。

基座多模态学习张量建模自监督学习表征学习
Qun Dai, Liangjian Wen, Jiang Duan, Yong Dai, Dongkai Wang, Maolin Wang, Mingjie Wang, Jianzhuang Liu

EgoVoice: Proactive Spoken Assistance from Egocentric Multimodal Streams

EMNLP 2026CCF-B推荐arXiv · 10-09 00:24 UTC+8

《EgoVoice》面向可穿戴增强现实助手,研究系统如何从第一视角视频和音频流中主动判断何时开口、说什么。它把主动视频助手、口语对话和自我中心任务理解合并成一个连续流决策问题,而不是等待用户显式提问。该方向对下一代实时个人助理很重要,因为真正有用的助手需要在不打断用户的前提下提供及时语音指导。

Agent多模态助手语音AgentAR助手实时交互
Heeseung Kim