FlashAttention · 07-08 16:57 UTC+8
FlashAttention v4.0.0 beta21 发布，新增 uv 安装支持，AMD ROCm 启用 RDNA 后向并采用统一工作空间，NVIDIA 实现 SM120 上的 Pack-GQA 及 SplitKV 回退。
每天 04:00（Asia/Shanghai）自动抓「昨天」一天的新内容。
跨年累积的 AI 精选：顶会顶刊高被引论文（全领域，按**具体会刊**分组）+ 各厂商实验室论文与官方动态；多源召回 + 大模型相关性精筛，每周自动维护；支持自助检索 arXiv 添加并自动归类。
FlashAttention v4.0.0 beta21 发布，新增 uv 安装支持，AMD ROCm 启用 RDNA 后向并采用统一工作空间，NVIDIA 实现 SM120 上的 Pack-GQA 及 SplitKV 回退。
OpenAI's GPT-5.6 launches Thursday after a delay forced by the U.S. government
OpenAI 的 GPT-5.6 在美国政府解除发布禁令后于周四推出，其 Sol 模型在编码基准上以约一半的成本击败 Anthropic 的 Claude Mythos 5。
Anthropic's Claude Fable 5 dominates new industry benchmarks at a steep premium
Anthropic 的 Claude Fable 5 在金融、法律、医疗等六个行业基准测试中全面领先，但成本极高，单次策略与运营任务费用是 DeepSeek V4 Pro 的百倍以上，分数仅高 12 分。
Chinese AI startup MiniMax plans to open-source a 2.7 trillion parameter model later this year
中国 AI 初创公司 MiniMax 计划在年内开源一个参数规模达 2.7 万亿的大语言模型。
NVIDIA Nemotron Achieves Benchmark-Leading Performance With LangChain Deep Agents Harness
NVIDIA Nemotron 3 Ultra 结合 LangChain Deep Agents 框架，在开放模型中取得最高准确率，并以 10 倍吞吐和更低成本媲美顶级闭源模型。
DeepSeek被曝自研AI推理芯片，一年前已启动，正对接代工与存储厂商
DeepSeek 被曝已启动自研 AI 推理芯片一年，正与代工和存储厂商对接，旨在打造高效定制推理硬件。
大模型推理也能“智能调度”：让奖励模型按需分配算力的动态路由机制 | ACL 2026
ACL 2026 提出一种动态路由机制，利用奖励模型按需为推理分配算力，实现大模型推理的智能调度。
Muse Image is technically impressive, but Meta's use of Instagram photos raises questions
Meta 发布图像生成模型 Muse Image，具备智能体式工具调用自我改进能力，但其允许利用他人 Instagram 公开照片生成图像的 @ 提及功能引发隐私合规风险。
别让AI一上来就“进厂打螺丝”：智源悟界·Orca要先教模型理解世界如何变化
智源悟界·Orca 旨在让模型学习世界变化规律而非直接执行任务，该研究登上 HuggingFace 论文月榜第一。
翁荔新博客提出「自进化先从Harness开始」，DeepSeek崔添翼转发附议
翁荔在博客中提出 AI 自进化应优先从改进评测框架「Harness」起步，获 DeepSeek 研究员崔添翼转发并认同该方向易于产出成果。
Hot French startup ZML releases free product to speed inference across lots of AI chips
获图灵奖得主 Yann LeCun 支持的法国 AI 公司 ZML 发布免费软件 ZML/LLMD，可在多种 AI 芯片上加速推理，降低部署成本。
阿里斩获国际AI顶会最佳资源论文奖，提出Agent评测新范式
阿里巴巴在国际 AI 顶会获最佳资源论文奖，提出面向智能体的评测新范式，以期为智能体能力提供更全面的评估。
DeepSeek秘密造芯！专攻推理，一年前已启动，招聘全程不公开
DeepSeek被曝已低调启动自研芯片项目，聚焦推理场景，并已与设计公司、代工厂及存储供应商接洽。此举若落地，将强化其在算力自主和推理成本控制上的纵深布局，对依赖云服务的AI厂商而言是一道新变量。
OpenAI推出新一代语音模型「GPT-Live」，为ChatGPT Voice提供动力，实现更自然的实时人机对话。这标志着多模态交互从文本向语音实时性的重大升级，直接加剧与Google、Meta在语音AI领域竞争。
Meta发布图像生成模型「Muse Image」，适用于广告、装饰和创作者经济，但用户因照片被用于训练且缺乏明确退出机制而迅速反弹。这暴露了生成式AI在数据使用权和创作者权益上的深层矛盾，从业者需关注合规与公众情绪。
Google Deepmind adds background execution and MCP support to Gemini API managed agents
Google DeepMind为Gemini API的托管智能体新增四项能力：后台异步执行、直连远程MCP服务器、自定义函数与沙盒工具混用、凭证无状态刷新。这让Agent能在生产环境里持久运行并无缝接入外部工具，对构建复杂自主工作流至关重要。
Unsloth Studio新增NVFP4、FP8、imatrix GGUFs导出，支持DeepSeek-V4-Flash及思维开关，GRPO训练加速1.3倍，MoE训练提速3-5倍，并引入HTTP断点续传和离线模式增强。这套工具链显著降低微调与部署门槛，对社区微调场景非常实用。
AI chip maker SambaNova raises $1B at $11B valuation, 5 months after last mega round
AI芯片制造商SambaNova获10亿美元融资，估值达110亿美元，距上轮仅5个月，此前Intel曾试图以约16亿美元收购。这凸显推理芯片赛道正快速升温，但SambaNova的高估值表明专用AI加速器依然被资本看重。
[AINews] Lilian Weng summarizes 35 papers on Harness Engineering for RSI
Lilian Weng梳理了35篇关于「Harness Engineering for RSI」的论文，为检索增强生成、智能体记忆等提供系统化洞察。这对关注RAG与Agent记忆模块的工程师是难得的浓缩参考资料。
Open, convenient and predictable: Introducing Provisioned Throughput
Together AI推出「Provisioned Throughput」服务，为MiniMax M3和GLM-5.2等前沿开源模型提供预留推理容量，按token计费，SLA达99%，成本比闭源API低90%。它免去了GPU管理负担，对需要稳定且低成本推理的企业很有吸引力。
Native-speed vLLM transformers modeling backend
HuggingFace博客宣布vLLM的原生速度级「transformers」后端，实现零开销集成。这意味着HuggingFace模型可以直接享受vLLM的高吞吐推理，无需额外适配，将大幅简化部署流程。
把世界学习拆成两条互补路径，悟界·RoboBrain Orca 成通用世界基础模型基石
智源发布「悟界·RoboBrain Orca」，将世界学习拆解为两条互补路径，作为通用世界基础模型的基石。这为具身智能和通用机器人策略学习提供了新的底座架构，推动物理世界理解能力前进。
Develop Humanoid Robot Policies End-to-End with NVIDIA Isaac GR00T
NVIDIA推出端到端人形机器人策略开发框架「Isaac GR00T」，旨在使机器人技能开发流程可复用、可规模化。对于正从单一任务向通用技能转型的机器人团队，这套工具链有望加速研发迭代。
llama.cpp服务端流式处理改进，为SSE重放缓冲区增加序列化/反序列化操作，并将会话管理器状态用互斥锁保护，增强并发安全性。这有助于提升多用户推理服务的稳定性和性能。
Create a LangChain Deep Agents Harness Profile for NVIDIA Nemotron 3 Ultra to Improve Performance
NVIDIA开发者文章介绍如何为Nemotron 3 Ultra创建「LangChain Deep Agents Harness Profile」，以在准确性和成本间取得平衡。它提供了一条用较高性价比模型获得接近前沿模型智能体性能的实用路径。
llama.cpp针对循环模型在批处理分割时增加「n_keep_tail」参数，避免截断重要尾部上下文。此修复对处理长序列、需保留尾部状态的推理任务至关重要。
SFT「不完全学习」之后，研究的下一个前沿在哪？ACL 2026 腾讯混元论文未来方向展望
InfoQ文章展望ACL 2026腾讯混元论文方向，指出SFT「不完全学习」之后的后训练研究前沿，可能涉及RLHF/RLVR等技术对齐。这对大模型训练范式的演进有指向性意义。
llama.cpp的Metal后端新增f16源数据的「set_rows」支持，优化Apple Silicon GPU的矩阵行设置操作，能够提升在macOS/iOS上运行模型的推理效率。
修复了UGM分词器中预编译字符表处理引起的越界读取漏洞，恶意构造的GGUF文件可能造成堆溢出。这对使用llama.cpp加载第三方模型的场景提高了安全性。
高德发布Phys AI Data：首个面向物理AI训练与应用的一站式空间数据基座
高德发布「Phys AI Data」，首个面向物理AI训练与应用的一站式空间数据基座。它为机器人、自动驾驶等物理世界AI提供标准化、高质量的空间数据，降低数据获取成本。
v0.31.2-rc2: llm: allow iGPU mmproj offload with fit padding (#16996)
Ollama允许集成GPU在内存充足时将多模态投影器卸载到iGPU，解决了之前仅限非Metal iGPU必须让CLIP跑在CPU上的问题，显著提升GB10等设备的多模态推理速度。
AI Agent 会自己选 CDN 了：当网站访问者从 “人” 扩展到 “AI”，内容分发已升级
InfoQ文章指出，随着AI Agent成为网站新「访问者」，传统CDN需升级以支持Agent自主选择最优节点分发动态内容，这反映了内容分发架构面向智能体时代的适配。
Build an AI-powered AWS support companion with Amazon Bedrock AgentCore
AWS博客展示用Amazon Bedrock AgentCore构建支持伙伴Agent，采用Strands Agents框架，通过MCP协议连接CloudWatch日志、文档等，能一站式分析日志、查文档、开case，展示了Agent在运维场景的落地模式。
Securing Amazon Bedrock AgentCore Runtime with AWS WAF
AWS展示两种使用AWS WAF保护Bedrock AgentCore运行时的架构模式：一种用Lambda代理，一种直接定向VPC终端节点IP，并封堵直接访问后门，为生产环境Agent暴露提供安全基线。
360 周鸿祎：做中国版 Mythos 不能照搬美国路线，基模能力的差距可以通过Harness补齐
360周鸿祎认为做中国版「Mythos」不能照搬美国路径，基模能力差距可通过Harness补齐。这反映了国内业界寄望于智能体框架弥补模型差距的思路，值得关注。
开源模型赢了 Token 流量，Anthropic 赚走了大部分钱
InfoQ文章指出开源模型在Token流量上占优，但Anthropic凭借闭源模型赚取了大部分收入。这揭示了开源与闭源商业模式在吸引用户和变现上的根本分化。
PyTorch修复了CTC损失在cuDNN后端开启「zero_infinity=True」时的行为，避免无穷损失传播，对语音识别等时序任务训练稳定性有提升。
50FPS、成本打掉70%，魔芯MoWorld把世界模型带进产业时代
魔芯科技的世界模型「MoWorld」实现50FPS运行，成本降低70%，将世界模型带入产业实用阶段。这对追求实时性和性价比的机器人、自动驾驶仿真有重要意义。
trunk/8614b55bd9a88c4df863268a812296fa2d4d24fe
PyTorch的Inductor编译器添加「InductorMeta」TypedDict用于运行时核配置数据传递，提升性能和类型安全。
viable/strict/1783533064: [CI/CD] Install newer CUPTI headers for CUDA-13 containers (#189214)
PyTorch CI/CD为CUDA 13容器安装新版CUPTI头文件，以支持性能剖析工具，对使用CUDA 13进行开发的人员有用。
Gemma 4 技术报告发布，介绍了新一代高效多模态语言模型系列，采用多样化架构设计提升推理能力，在多项任务上表现优于前代。
📖 阅读⬇ PDFHierarchical Sparse Attention Done Right: Toward Infinite Context Modeling
提出分层地标稀疏注意力机制，通过端到端学习块选择实现高效长上下文建模，性能逼近全注意力且能外推到训练上下文长度之外。
📖 阅读⬇ PDFVision as Unified Multimodal Generation
将多种计算机视觉任务统一为基于自然语言与视觉提示的生成问题，模型在多样化视觉任务上取得媲美专用系统的效果。
📖 阅读⬇ PDFDSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation
DSpark 将并行草稿生成与自适应验证相结合的投机解码方法，有效减少浪费并在高并发场景下提升推理吞吐。
📖 阅读⬇ PDFNemotron-Labs-Diffusion 是一个三模式语言模型，融合自回归、扩散和自投机解码，在吞吐和效率上显著超越现有模型。
📖 阅读⬇ PDFParallelized Autoregressive Decoding for Omni-Modal Dense Video Captioning
提出并行化自回归框架用于密集视频描述，利用时间上不同事件间的弱局部依赖提高生成效率，同时保持时间定位精度。
📖 阅读⬇ PDFTREK: Distill to Explore, Reinforce to Refine
TREK 使用蒸馏引导探索而非模仿，扩展策略优化的探索支持，在挑战性数学推理和智能体任务上取得更好性能。
📖 阅读⬇ PDFHunyuanOCR-1.5: Making Lightweight OCR VLMs Faster and Better
HunyuanOCR-1.5 是轻量级端到端视觉语言模型，通过 DFlash 注意力加速和 Agentic Data Flow 增强能力，实现快速推理并覆盖广泛 OCR 任务。
📖 阅读⬇ PDFSiamJEPA: On the Role of Siamese Student Encoders in JEPA
在 JEPA 模型中使用 Siamese 学生编码器，通过有效正则化改善表示可分性和训练效率，有限训练预算下性能优于单编码器变体和 MAE。
📖 阅读⬇ PDFLight-Omni: Reflex over Reasoning in Agentic Video Understanding with Long-Term Memory
Light-Omni 多模态智能体框架引入双上下文状态，在不依赖迭代推理的情况下实现更快更准确的视频理解，同时保持语义对齐。
📖 阅读⬇ PDFQuantifying and Expanding the Theoretical Capacity of Late-Interaction Retrieval Models
证明了 MaxSim 相似度可以精确复现稀疏向量内积并支持逻辑运算，提出的 Signed MaxSim 扩展到实值向量，在复杂查询类型上提升检索性能。
📖 阅读⬇ PDFWhen Classic Cache Policies Fail: Learning-Augmented Replacement for Semantic Retrieval Buffers
将 LLM 智能体的语义缓存替换形式化为带切换成本的在线问题，提出学习增强框架 SOLAR，通过遗憾驱动的修改时机和贝叶斯内容选择，性能超越传统启发式方法。
📖 阅读⬇ PDFIs One Layer Enough? Training A Single Transformer Layer Can Match Full-Parameter RL Training
研究发现 Transformer 在强化学习训练中的参数改进高度集中在特定中间层，仅训练单个层即可匹配全参数 RL 训练的效果。
📖 阅读⬇ PDFBibby AI: An Editor-Native Agentic Platform for Academic Research, Writing, and Publishing
Bibby AI 是一个编辑器原生的学术智能体平台，将研究、写作和发布整合为统一流水线，通过文档语法表示上的集成工具和智能体简化文献管理、引用和排版。
📖 阅读⬇ PDFVIBE: Voice-Induced open-ended Bias Evaluation for Large Audio-Language Models via Real-World Speech
VIBE 通过真人录制的语音和开放式任务评估大型音频语言模型，发现其在现实场景中存在系统性生成偏见，偏见程度因任务而异，主要受性别和口音线索触发。
📖 阅读⬇ PDFSkillOpt-Lite: Better and Faster Agent Self-evolution via One Line of Vibe
SkillOpt-Lite 提出一种极简技能优化流水线，通过零阶优化形式化、轨迹探索、共识挖掘和验证门控原则，去除冗余并保持收敛与泛化。
📖 阅读⬇ PDFTurnOPD: Making On-Policy Distillation Turn-Aware for Efficient Long-Horizon Agent Training
TurnOPD 提出轮次级预算策略用于长时域智能体训练中的高效在线蒸馏，解决全时域回滚低效和注意力浅层集中的问题。
📖 阅读⬇ PDFCanvasAgent: Enabling Complex Image Creation and Editing via Visual Tool Orchestration
CanvasAgent 提出大规模多模态工具使用数据集和智能体，通过多轮交互编排多种视觉工具，并利用混合奖励优化实现复杂图像创建与编辑工作流。
📖 阅读⬇ PDFAttending to Multimodal Generation One Token at a Time
研究揭示多模态大语言模型在逐 token 生成时注意力在视觉和文本模态间按语义需求切换的规律，针对性干预可进一步提升任务性能。
📖 阅读⬇ PDFRSF-GLLM 针对知识图谱多跳问答中检索器与查询语义不匹配的问题，解耦可微图推理与答案生成，通过 GRU 引导的循环软流模块弥合语义鸿沟。