行业动态 24 条
Nvidia wants to keep AI agents on a short leash with a watchdog built into its chips
The Decoder · 09-28 22:32 UTC+8
NVIDIA 将 OpenShell 智能体软件与新硬件 watchdog「Sentry」组合成「Open Agent Safety Platform」,目标是在芯片侧持续监控并在毫秒级隔离越界运行的 AI Agent。它对从业者重要之处在于把 Agent 安全从应用层策略扩展到硬件运行时控制,但文章也提醒,单靠 watchdog 仍难可靠阻止被诱导或会隐藏意图的智能体。
AgentAgent安全NVIDIA硬件监控运行时控制
Holo4: powering generalist computer-use agents
HuggingFace 博客 · 09-28 17:44 UTC+8
Hugging Face 发布关于「Holo4」的博客,主题是支撑通用 computer-use agents,让智能体面向真实电脑界面完成更开放的操作任务。对从业者来说,这类工作关注的是 GUI 操作、状态感知、工具链和任务泛化能力,直接影响浏览器代理、桌面代理和自动化测试智能体的落地质量。
计算机使用智能体HuggingFaceAgentGUI自动化
NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring
NVIDIA 开发者 · 09-28 16:56 UTC+8
NVIDIA 介绍「Open Agent Safety Platform」,把 OpenShell 与 in-silicon 监控结合,作为连续监测 Agent 行为的参考架构。它的重要性在于为可执行代码、调用工具和长期运行的智能体提供更底层的控制面,帮助企业把 Agent 部署从提示词约束推进到运行时隔离与审计。
AgentNVIDIAAgent安全芯片监控企业部署
v0.18.0
LMDeploy · 09-28 15:04 UTC+8
LMDeploy v0.18.0 增加 input 与 output logprobs 支持,扩展 SM90 量化 GEMM,统一 TurboMind linear 执行,并补充 Qwen3.5 dflash、Ascend GLM 5.2、MoE shared expert 与 MLA 混合 DP/TP 分片等能力。对推理工程师来说,这次更新集中在量化算子、MoE 分布式、国产硬件适配和 serving 细节,能改善新模型接入与高吞吐部署的可维护性。
推理优化LMDeploy推理框架MoE量化
b11232
llama.cpp · 09-28 22:25 UTC+8
llama.cpp b11232 在 x86 CPU 上为非向量倍数 head dim 启用 tiled flash attention,并增加 AVX2 tail mask load/store 支持,同时修复 padded KV tile 下的 FA softcap 处理。这个版本主要利好 CPU 推理和形状不规整模型,能减少因 head 维度不整齐带来的性能和正确性问题。
推理优化llama.cppCPU推理FlashAttention本地推理
b11227
llama.cpp · 09-28 17:32 UTC+8
llama.cpp b11227 修复 Gemma 视觉输入场景中切换 causal attention 会反复触发 scheduler re-reserve 的问题。对多图和视频输入来说,这能避免每个非因果图像块前后都产生昂贵调度重建,降低多模态本地推理延迟。
推理优化llama.cpp多模态推理调度优化Gemma
Add Runtime Controls to AI Agents with NVIDIA OpenShell
NVIDIA 开发者 · 09-28 16:55 UTC+8
NVIDIA 介绍「OpenShell」,为能写代码、用工具并持续执行目标的 AI Agent 增加运行时控制能力。它的工程意义在于把 Agent 的权限、执行边界和中途干预做成平台能力,适合需要审计、暂停、隔离或策略约束的企业级 Agent 部署。
AgentOpenShellAgent框架运行时控制NVIDIA
How NVIDIA DSX MaxLPS Maximizes AI Factory Throughput and Efficiency
NVIDIA 开发者 · 09-28 09:00 UTC+8
NVIDIA 介绍「DSX MaxLPS」,目标是在 AI factory 中提高单位功耗下的吞吐和效率,避免按极端峰值功耗过度预留导致容量浪费。对基础设施团队来说,这类功耗感知调度和系统设计直接关系到 GPU 集群的可用 token 吞吐、TCO 和供电约束下的扩容效率。
InfraAI InfraNVIDIAGPU集群能效优化
2026 in LLMs (so far)
Simon Willison · 09-28 07:54 UTC+8
Simon Willison 发布「2026 in LLMs so far」演讲笔记,用时间线梳理 2026 年以来 LLM 领域的重要发布和趋势。它对从业者的价值在于把模型能力、工具调用、开源生态和产品化变化放到同一张脉络图里,便于判断技术选择和生态方向。
基座LLM趋势行业动态模型生态技术综述
Implementing synthetic monitoring using Amazon Nova Act
AWS 机器学习 · 09-28 23:56 UTC+8
AWS 介绍用 Amazon Nova Act 和 Amazon Bedrock AgentCore 做 synthetic monitoring 的方案,用 Agent 驱动方式验证用户旅程,而不是依赖脆弱的 UI 脚本。对平台团队来说,这代表监控从固定脚本点击转向具备页面理解和恢复能力的智能体执行,适合复杂 Web 流程和持续回归验证。
AgentAWSAgent监控Nova Act自动化测试
viable/strict/1790621778: Improve async collective remap error (#195691)
PyTorch · 09-28 22:41 UTC+8
PyTorch 更新 Dynamo 对 legacy torch.distributed collectives 中 async_op=True 的 remap 失败提示,明确只有同步 async_op=False 会自动 remap,并建议需要异步语义的用户改用 functional collectives 与 wait_tensor。这个变化不直接改变能力,但能减少分布式训练编译路径中的误诊断,帮助用户更快定位 collective 与 Work handle 支持边界。
InfraPyTorch分布式训练Dynamo错误诊断
b11229
llama.cpp · 09-28 20:45 UTC+8
llama.cpp b11229 修复 HIP 后端中 DKQ 大于 256 的 mfma kernel 模板跳过问题。对 AMD GPU 本地推理用户来说,这属于底层 kernel 覆盖修复,可提升特定注意力形状和量化路径下的可用性。
推理优化llama.cppAMD GPUHIP本地推理
HC归来,华为正重新定义AIDC基础设施
量子位 · 09-28 19:18 UTC+8
华为把 AIDC 基础设施的重点从单纯堆算力推进到算电协同,核心是让供电、算力调度、网络和数据中心建设按 AI 负载统一设计。对大模型训练和推理团队来说,这意味着未来瓶颈不只在 GPU 数量,还会落到电力交付、集群利用率和端到端运维效率上。
InfraAI InfraAIDC算电协同华为
b11226
llama.cpp · 09-28 16:47 UTC+8
llama.cpp 版本 b11226 打通了 Windows ARM64 下使用 MSVC cl.exe 的构建路径,并集中修复 FMA、SVE 探测、交叉编译和量化相关编译问题。它对本地推理生态的意义在于继续扩大低成本端侧部署覆盖面,尤其是 Windows on ARM 设备和异构 ARM 平台。
Infrallama.cpp端侧推理Windows ARM64编译优化
Faster Rates for Federated Variational Inequalities
Apple ML · 09-28 08:00 UTC+8
Apple ML 这项工作聚焦联邦优化中的随机变分不等式求解,试图补上其收敛率长期落后于联邦凸优化理论上界的缺口。论文给出一系列更快的收敛界,首先覆盖一般光滑单调变分不等式场景,把联邦学习中常见的通信受限、随机梯度和分布式客户端约束纳入统一分析。对训练方法研究者而言,它提供了处理博弈、鞍点和对抗式目标时更接近最优的理论工具。
训练联邦学习优化理论训练方法Apple ML
b11233
llama.cpp · 09-28 23:37 UTC+8
llama.cpp 版本 b11233 重构了 recurrent state rollback 测试,把裸 llama_context 指针替换为 llama_context_ptr,并移除了手动释放逻辑。测试还新增遍历全部 dummy model 的模式,以表格报告通过、失败和跳过状态,有助于更早发现循环状态恢复在不同模型结构上的回归。
Infrallama.cpp测试工程状态回滚推理框架
Meta wants to turn Muse into a moneymaker by selling AI services to businesses
The Decoder · 09-28 22:48 UTC+8
Meta 正在推出 Meta Enterprise Platform,把内部 AI 工具和 Muse 相关能力包装为面向企业销售的服务。对从业者而言,这说明 Meta 不只押注开源模型生态,也在尝试把生成式 AI 能力转化为企业级平台收入,未来可能影响企业工具链、广告创意和内容生产工作流。
厂商动态Meta企业 AI模型厂商动态生成式 AI
viable/strict/1790620535: [c10d] Allow CPU device_id in init_process_group (#198340)
PyTorch · 09-28 22:20 UTC+8
PyTorch 修复了 init_process_group 在 GLOO CPU 后端拒绝 cpu:0 这类合法 device_id 的问题,此前会错误抛出 device_id 必须是带索引加速器的异常。这个改动让 CPU 分布式测试、无 GPU 环境和后端一致性验证更顺畅,也减少了分布式初始化路径里历史 CUDA 假设带来的摩擦。
InfraPyTorch分布式训练GLOOCPU 后端
Viral AI agent Instinct raises $1B Series C at a $10B valuation
TechCrunch · AI · 09-28 21:38 UTC+8
AI agent 公司 Instinct 完成 10 亿美元 C 轮融资,估值达到 100 亿美元。这个规模显示资本市场仍在重押 Agent 应用层,尤其是能把工具调用、自动化工作流和企业场景转成高增长收入的团队。
Agent融资AI 应用创投动态
b11228
llama.cpp · 09-28 19:10 UTC+8
llama.cpp 版本 b11228 为 Metal 后端的 GGML_OP_PAD 增加左侧填充和循环填充支持,使其行为与 CPU、CUDA、Vulkan 后端对齐。补丁还修正了 permuted source 右侧填充读取问题并添加测试,对 Apple 设备上的本地推理算子一致性和模型兼容性很关键。
Infrallama.cppMetal算子实现端侧推理
b11225
llama.cpp · 09-28 16:14 UTC+8
llama.cpp 版本 b11225 修复了多个状态相关测试中的 ggml 初始化问题,覆盖 recurrent state rollback、save-load-state 和 fragmented state restore。此类改动虽然偏工程底层,但直接关系到长上下文、会话保存恢复和增量推理状态的一致性。
Infrallama.cppggml状态恢复测试稳定性
viable/strict/1790592790: Fix AVX512 grid sampler mask gather (#197635)
PyTorch · 09-28 14:45 UTC+8
PyTorch 修复了 AVX512 grid_sample 路径中 mask_gather 的掩码解析错误,原实现用浮点相等判断全一位型,而该位型在 float 或 double 中会表现为 NaN,导致 AVX512 内核返回全零。新实现改为提取符号位,并让 SVE 与标量回退路径采用同一 active-lane 规则,提升了 CPU 向量化算子的正确性。
InfraPyTorchAVX512CPU 优化算子正确性
viable/strict/1790589573
PyTorch · 09-28 13:39 UTC+8
PyTorch 的 FlopCounter 增加 skip_unsupported 参数,用于在遇到不支持的算子时选择更温和的处理方式。对模型评测和性能分析来说,这能让 FLOPs 统计在复杂模型或自定义算子场景下更可用,减少一次 unsupported 就中断整次分析的情况。
InfraPyTorch性能分析FLOPs模型评测
Muse manifesto 📜, OpenAI training pause 🚨, trading compute 🤝
TLDR AI · 09-28 08:00 UTC+8
TLDR AI 本期聚焦 Muse 相关宣言、OpenAI 训练暂停传闻以及算力交易等话题,线索集中在模型厂商战略和 AI Infra 资源分配。对从业者而言,值得关注的是前沿模型训练节奏、算力金融化和企业 AI 产品化三条线正在同时影响模型发布周期与成本结构。
厂商动态模型厂商动态AI Infra算力交易OpenAI