2026-07-12

b9970

「llama.cpp」新增 GGML_OP_LIGHTNING_INDEXER 算子，实现对 「DeepSeek V3.2/V4」 闪电索引器的原生支持，为在消费级设备上高效运行最新大模型的关键组件提供了基础。

面向 Qwen 系列模型线性注意力的高性能优化实践｜AICon深圳

InfoQ 在 AICon 深圳分享了面向「Qwen」系列模型的线性注意力高性能优化实践，为开发者提供了具体的调优方法和落地经验。

v0.25.0

「vLLM」 v0.25.0 发布，Model Runner V2 成为稠密模型默认路径，并新增支持 EVS、实时嵌入、Mamba 混合模型前缀缓存、多模态前缀双向注意力及动态推测解码，大幅提升推理引擎的覆盖范围和性能。

A Coding Guide to NVIDIA’s Tile-Based GPU Programming: From cuTile and Triton Kernels to Flash Attention

该编码指南通过 TileGym 平台，从 cuTile 到「Triton」内核再到「Flash Attention」，系统讲解 NVIDIA 基于瓦片的 GPU 编程，帮助开发者在 Colab 环境上手高效 GPU 计算。

Claude Code now has a built-in browser that lets the AI read, click, and type on external websites

「Claude Code」现在内置浏览器，AI 可直接打开、阅读并点击网页，但对外部网站的写入操作需经过分类器筛查，购买和建号需用户批准，在增强智能体 Web 交互能力的同时兼顾安全控制。

b9973

「llama.cpp」针对「DeepSeek-V4」优化缓存清理策略，改为仅按序列而非全量清缓存，提升内存利用效率与推理速度。

AI agents win at Slay the Spire 2 after researchers replace growing chat logs with structured memory

AgenticSTS 项目用五层结构化记忆替代不断膨胀的聊天日志，将提示控制在约5000 tokens，使 AI 智能体在《Slay the Spire 2》中取得6/10胜率，而竞品全败，有力证明了结构化记忆对长程智能体的关键作用。

b9968

「llama.cpp」为 Adreno GPU 的 OpenCL 后端加入 int8 dp4 稠密和 MoE 预填充优化，提升移动端推理效率。

Mira Murati’s Thinking Machines Lab Makes The Technical Case For Human-Centered AI Built On Customizable Model Weights

Mira Murati 的 Thinking Machines Lab 发文阐述以人为中心 AI 的技术框架，将人类参与、模型所有权和去中心化对齐视为核心技术挑战，并通过 Tinker 的 LoRA 微调实现团队定制化模型权重。

b9976

「llama.cpp」修复了当架构不支持张量分裂模式时的错误提示条件，提升用户体验。

b9975

「llama.cpp」在 GGUF 格式层面拒绝空元数据键，提升模型文件格式的健壮性。

b9974

「llama.cpp」修复了 CUDA 设备无可用内存时查询内存导致崩溃的问题，改为非致命错误并分配零内存，提升系统稳定性。

b9972

llama.cpp 服务端新增了对 exec_shell_command 的流式传输支持，允许在工具调用中实时输出 shell 执行结果，并补充了测试与文档。这让模型推理服务能够直接与系统命令交互并获取流式反馈，有利于构建更实时的智能体工具链。

b9971

llama.cpp 对服务端流式架构 server_stream 进行了重构，移除非线程安全的 rd.stop() 调用，优化了 spipe 的创建流程，并更新了开发者文档。此次改进提升了流式响应的线程安全性与代码可维护性，使 API 更清晰。

b9969

llama.cpp 的 Vulkan 后端在 Adreno GPU 上修复了长提示词下量化模型崩溃的问题，方法是将大矩阵乘法路由到中等分块以解决共享内存不足的瓶颈，并清理了废弃的 Adreno 设备代码。该修复显著增强了移动端推理的稳定性。

老黄RTX Spark真机现身Bilibili World！CPU和GPU直接焊在一起，笔记本跑120B大模型

NVIDIA 在 ComputeX 发布的 RTX Spark 超级芯片真机现身 Bilibili World，采用 CPU 与 GPU 直接封装在一块基板上的设计，使笔记本形态设备能运行 120B 参数大模型。这为端侧大模型部署提供了高集成度的硬件方案，对本地推理生态有里程碑意义。

OpenAI's GPT-5.6 Sol Ultra reportedly solves a 50-year-old math problem in under an hour

据称 OpenAI 的 GPT-5.6 Sol Ultra 在不到一小时内通过 64 个子智能体并行工作，证明了图论中 50 年未解的「Cycle Double Cover 猜想」。数学家 Thomas Bloom 认为证明过程出人意料的初等，但指出缺乏对已有工作的引用。该事件再度引发 AI 是否真正创造新知识还是重组合并已有知识的争论。

Jet-Long: Efficient Long-Context Extension with Dynamic Bifocal RoPE

Jet-Long 针对大模型长上下文扩展提出一种零样本方法，通过动态适应缩放因子和双焦注意力机制，在不同序列长度下保持高性能。其双焦设计同时兼顾局部和全局信息，无需额外训练即可应对长序列，为高效长上下文推理提供了新思路。

Linear Attention Architectures: Mechanisms, Trade-offs, and Cross-Layer Routing

该工作系统对比了 softmax 注意力和循环线性注意力架构在表达能力、内存管理和训练效率上的权衡，并探讨跨层路由机制对线性注意力表达力的补偿作用。研究为在不同序列长度和模型规模下选择注意力范式提供了详尽的实验依据。

Remember When It Matters: Proactive Memory Agent for Long-Horizon Agents

针对长程任务中决策信息随轨迹膨胀而被挤出上下文窗口的「行为状态衰减」问题，该工作提出主动记忆智能体，将记忆作为主动干预机制，在关键时刻将关键状态推送给行动智能体，而不是被动检索。这种设计确保了长序列下决策所需信息始终可及，提升了任务成功率。

UP: Unbounded Positive Asymmetric Optimization for Breaking the Exploration-Stability Dilemma

UP 提出无界正向非对称优化目标，打破大模型强化学习中探索与稳定性之间的困境。通过非对称设计，在保持对已有策略的忠诚同时鼓励有效探索，使训练既稳定又能持续提升，为 RLHF 等场景提供了更平滑的优化路径。

Sparse Delta Memory: Scaling the State of Linear RNNs through Sparsity

Sparse Delta Memory 将稀疏寻址引入门控线性 RNN，大幅扩展隐状态容量以增强长上下文学习和检索能力，同时不增加计算开销。该方法让线性 RNN 可以记住更远的过去，在长序列任务上取得了明显提升。

Scaling Mixture-of-Experts Video Pretraining for Embodied Intelligence

LingBot-Video 构建了基于 DiT 的混合专家视频预训练框架，配合面向具身智能的专用数据增强和多维度奖励系统。MoE 架构在保持计算高效的同时扩大模型规模，为机器人学习复杂视觉-动作策略奠定了坚实基础。

Single-Rollout Asynchronous Optimization for Agentic Reinforcement Learning

该方法通过单次 rollout 异步优化，缓解了大模型在复杂智能体任务训练中的稳定性问题。异步更新配合精简采样，降低了方差和计算成本，在编程和推理基准上超越了以往同步方案。

AgentLens: Production-Assessed Trajectory Reviews for Coding Agent Evaluation

AgentLens 提出面向交互式代码智能体的生产级评估基准，不只看任务是否通过，而是完整审查智能体整个轨迹，包括指令遵循、工具使用、纠错和沟通等。它结合形式化验证和 LLM 撰写的轨迹评测，更贴近真实人机协作体验。

UniClawBench: A Universal Benchmark for Proactive Agents on Real-World Tasks

UniClawBench 是一个能力驱动的主动智能体基准，利用实时 Docker 容器和多智能体角色闭环评估，在真实环境中衡量智能体主动规划与执行能力。它为测试智能体在动态开放任务中的表现提供了标准化工具。

DrugGen 2: A disease-aware language model for enhancing drug discovery

DrugGen-2 以疾病本体和目标蛋白序列为条件微调 GPT-2，并引入 GRPO 强化学习进行药物分子生成。该方法在分子多样性和结合亲和力上均优于基线，展示了疾病感知语言模型在药物发现中的潜力。

CineMobile: On-Device Image-to-Video Diffusion for Cinematic Camera Motion Generation

CineMobile 综合运用蒸馏引导剪枝、扩散蒸馏和混合量化，将图像到视频扩散模型高效部署在移动端，同时保持电影级运镜质量，大幅提升推理速度，实现终端设备上的高质量视频生成。

Flash-BoN: Instant Drafts for Inference-Time Scaling in Diffusion Models

Flash-BoN 使用时间步截断、层跳过和激活代理生成廉价草稿候选，再经多阶段验证筛选，在固定时间预算下显著提升文生图的推理效率。该方法将推理时间缩放策略推向实用，降低了高质量图像生成的时延。

A Quantized Native Runtime for On-Device Semantic Audio Generation

该工作开发了一个无依赖的原生运行时，通过量化和激活引导实现嵌入式设备上的高效文本到音乐生成，保持音频质量的同时大幅压缩模型体积，使语义音频生成能够在资源受限的终端运行。

CausalDS: Benchmarking Causal Reasoning in Data-Science Agents

CausalDS 面向数据科学智能体，构建了涵盖 Pearl 因果推理三个层级的评测基准，将合成因果结构、真实观测数据和自然语言故事结合，用于系统检验智能体的因果推断能力，填补了该领域评测空白。

Accurate, Interdisciplinary and Transparent Structure-property Understanding with Deep Native Structural Reasoning

SciReasoner 是一个多模态科学基础模型，将蛋白质、分子、晶体等结构元素离散化为统一词汇，实现可解释的跨领域结构推理。它提升了预测准确性，并为科学发现提供了透明、可追溯的推断过程。

Dual Latent Memory in Vision-Language-Action Models for Robotic Manipulation

LaMem-VLA 在视觉-语言-动作模型中引入原生潜在记忆框架，通过在同一潜在空间中协调的记忆组件，将历史经验无缝融入推理过程，显著增强了机器人操作中的长期连贯性和环境适应性。

RoboDojo: A Unified Sim-and-Real Benchmark for Comprehensive Evaluation of Generalist Robot Manipulation Policies

RoboDojo 提供了一个统一的仿真与真实机器人操作基准，覆盖多种任务和评估维度，用于全面衡量通用机械手策略的表现。其统一框架有助于更准确地反映模型从仿真到真实的迁移能力。

Automating the Design of Embodied Agent Architectures

自动化智能体架构搜索在提升具身智能体性能方面展现了潜力，但研究也揭示了基于仿真训练中的优化信号、局部最优和信用分配等核心挑战，为未来自动设计智能体结构提供了重要经验。

Teaching LLMs a Low-Resource Language: Enhancing Code Completion in Pharo

针对「Pharo」这类低资源编程语言，通过专门的训练流程和基准，大语言模型在代码补全上超越了通用模型。该工作为小众语言提供智能化工具开辟了可行路径。

Video-Oasis: Rethinking Evaluation of Video Understanding

Video-Oasis 诊断分析揭示，现有近半视频理解基准可在无视觉输入下被解决，暴露出模型并未真正理解视觉内容的核心缺陷，推动社区重新审视并构建更加严密的视频评估。