OpenAI 发布 GPT-5.6 系列(Sol、Terra、Luna)并推出程序化工具调用(Programmatic Tool Calling),允许模型在隔离的 V8 运行时中运行 JavaScript 来编排工具,Sol 性能接近或超越 Claude 系列且成本大幅降低,对开发者工作流程具有重大影响。
每天 04:00(Asia/Shanghai)自动抓「昨天」一天的新内容。
跨年累积的 AI 精选:顶会顶刊高被引论文(全领域,按**具体会刊**分组)+ 各厂商实验室论文与官方动态;多源召回 + 大模型相关性精筛,每周自动维护;支持自助检索 arXiv 添加并自动归类。
OpenAI 发布 GPT-5.6 系列(Sol、Terra、Luna)并推出程序化工具调用(Programmatic Tool Calling),允许模型在隔离的 V8 运行时中运行 JavaScript 来编排工具,Sol 性能接近或超越 Claude 系列且成本大幅降低,对开发者工作流程具有重大影响。
InfoQ 分享了 vLLM 在多模态大模型推理优化中的实战经验,涵盖调度、内存管理和吞吐优化等关键技术,为相关从业者提供了生产级部署参考。
OpenAI launches its new family of models with GPT-5.6
OpenAI 正式推出 GPT-5.6 系列模型,在网络安全等多个领域带来性能提升,标志着其在模型路线图上的又一重要迭代,对行业竞争格局产生影响。
The new GPT-5.6 family: Luna, Terra, Sol
GPT-5.6 系列正式发布,包含 Luna、Terra、Sol 三个尺寸,定价极具竞争力,上下文窗口截止到 2026 年 2 月,综合性价比远超竞品,但实际成本受推理 token 数量影响。
Meta 发布 Muse Spark 1.1,首个提供 API 的 Spark 模型,在智能体工具调用和计算机使用方面有显著提升,并展现了有趣的自我对话吸引子状态。
Disaggregated prefill and decode for LLM inference on SageMaker HyperPod
AWS 介绍了在 SageMaker HyperPod 上使用 vLLM 实施预填充与解码分离(DPD)的方案,利用 HyperPod 推理算子实现高效调度,可提升 LLM 推理的吞吐和资源利用率。
Meta 发布 Muse Spark 1.1 多模态推理模型,专注智能体任务,拥有 100 万 token 上下文窗口并支持零样本工具与 MCP 服务器泛化,在多智能体委托方面表现突出。
Meta enters the crowded AI coding battle with Muse Spark 1.1
Meta 凭借 Muse Spark 1.1 进入 AI 编程领域,主打处理大型智能体工作负载、修复 bug 和代码迁移等企业级自动化能力。
Meet Nemotron Labs 3 Puzzle 75B A9B: A Compressed Hybrid MoE LLM Delivering 2.03x Server Throughput
英伟达发布 Nemotron-3-Puzzle-75B-A9B,通过硬件感知结构压缩与知识蒸馏恢复迭代,将模型从 120.7B 压缩至 75.3B,单节点 8xB200 吞吐量提升 2.03 倍,显著降低推理成本。
GPT-5.6 Sol nearly matches Fable 5 on aggregated benchmarks at one-third the cost
GPT-5.6 Sol 在综合基准上仅比 Claude Fable 5 低 1 分,但每次任务成本仅为其三分之一,在智能体编码方面更是全面胜出,给 Anthropic 带来巨大定价压力。
OpenAI pairs its GPT-5.6 public rollout with ChatGPT Work, a new agent that handles entire workflows
OpenAI 同步发布 ChatGPT Work 智能体,基于 Codex 和 GPT-5.6,能独立处理跨 Google Drive、Slack 和 Salesforce 等应用的复杂工作流,现已上线。
Meta's Muse Spark 1.1 API pricing squeezes OpenAI and Anthropic as the AI price war heats up
Meta 以极具侵略性的 API 定价推出 Muse Spark 1.1,每百万输出 token 仅 4.25 美元,远低于 OpenAI 和 Anthropic,加剧了 AI 价格战。
百万上下文下的 DeepSeek V4:SGLang 推理优化实战|AICon深圳
该报道分享了在百万 token 超长上下文场景下使用 SGLang 对 DeepSeek V4 进行推理优化的实战经验,为长上下文推理部署提供了技术参考。
Deploying quantized models on Amazon SageMaker AI with Unsloth
本文介绍了四种将 Unsloth 量化模型部署到 AWS 基础设施上的模式,包括 EC2、SageMaker 推理端点、EKS 和 ECS,兼顾托管与容器化需求。
llama.cpp 此次更新主要为 Adreno GPU 添加了 OpenCL 簇并行解码 FlashAttention 支持,并改进多平台构建,提升移动端推理效率。
该提交在 CUDA 的 top-k 和 argsort 操作中引入分块处理以减少临时缓冲区内存占用,优化了 GPU 内存使用。
Meta’s new AI chips will begin production in September
Meta 宣布其新一代 AI 芯片将于 9 月投产,采用模块化设计以应对快速演变的 AI 需求,标志着自研推理硬件的重要进展。
MCP tool design: Practical approaches and tradeoffs
AWS 撰文探讨了 MCP 工具设计中的常见误区并提出实用的上下文工程解决方案,帮助开发者构建更可靠的智能体工具。
AWS 宣布 SageMaker HyperPod 推理新功能,包括多级数据捕获、Hugging Face Hub 直接部署、NVMe 本地加载加速冷启动、Route 53 DNS 集成和 pod 级 IAM,全面增强企业推理能力。
Fine-tune NVIDIA Nemotron 3 models with Amazon SageMaker AI serverless model customization
亚马逊 SageMaker 推出对 NVIDIA Nemotron 3 模型的无服务器微调支持,用户可在 SageMaker Studio 中直接启动模型定制,无需管理底层基础设施。这大幅降低了企业微调高性能模型的门槛,有利于快速迭代与生产落地。
Build a semantic layer for agentic AI on AWS with Stardog and Amazon Bedrock AgentCore
通过 Stardog 在 Amazon Aurora 和 Redshift 上构建语义层,并借助 Amazon Bedrock AgentCore 运行的 Strands Agents 代理,无需 ETL 即可跨数据源回答客户 360 问题。这对构建企业级智能体系统很有价值,实现了统一语义访问,简化了数据集成。
Scaling agentic workflows with native case management in Amazon Quick Automate
Amazon Quick Automate 引入原生案例管理,支持智能体工作流的全生命周期管理,包括创建、处理、异常处理和人工介入。这让复杂的自动化流程有了结构化追踪和干预能力,帮助企业在生产环境中规模化部署可靠的智能体应用。
How KTern.AI built agentic AI for SAP on Amazon Bedrock AgentCore
KTern.AI 在 Amazon Bedrock AgentCore 上利用 Strands Agents SDK 构建了面向 SAP 的多智能体 AI 平台,编排多个专业化代理处理长周期项目,每个代理具有持久上下文和安全工具访问。这展示了苛刻企业场景下多智能体系统的落地实践,为 SAP 生态带来生产级可靠性。
llama.cpp 提交 b9950 为 llama-batch 添加了单元测试,并修复了 Windows 构建等问题。这提升了批处理功能的稳定性和跨平台兼容性,对依赖批量推理的开发者是重要的质量保障。
Hugging Face’s CEO on why companies are done renting their AI
Hugging Face CEO 透露开源 AI 蓬勃发展,公司已成长为 AI 领域的「GitHub」,约半数财富 500 强使用其模型和数据集。企业正从租用 AI 转向拥有和定制开源模型,意味着模型供应链的自主可控成为趋势。
viable/strict/1783707271: Move __dict__ view (get_dict_vt) onto base VariableTracker (#188181)
PyTorch 动态编译器将 __dict__ 视图提升到基类 VariableTracker,消除了多个子类中重复的字段和访问器,缓存仍按需创建,行为不变。这让代码更简洁,减少了维护负担。
史上最高调的AI重写:Claude花11天搞定Bun,创始人花一个月才敢交底
Claude 的 Fable 5 模型用 11 天完成了 Bun 从 Zig 到 Rust 的全面重写,生成超百万行代码,但创始人花了一个月才公开确认。这凸显了 AI 辅助大规模重构的惊人速度,也暴露了验证与信任 AI 生成代码的挑战。
GitHub 的旧模式被 AI 击穿,Cursor、GitLab、Zed 各自开打
AI 编码工具兴起冲击了 GitHub 的传统协作模式,Cursor、GitLab 和 Zed 等平台正以 AI 原生体验争夺开发者。这表明开发工具市场正从代码托管向 AI 驱动的智能协作快速演进。
HubSpot 分享了将语义搜索系统扩展至 200 亿向量的实践经验,涉及向量库选型、索引优化和成本控制。这对需要大规模向量检索的企业提供了真实业务规模下的落地参考。
当 AI 智能体遭遇“至暗时刻”,企业的最后防线是什么?| 技术趋势
探讨 AI 智能体在生产中遭遇错误或失控时,企业应依靠可观测性、人工干预和回滚机制构建最后防线。这提醒从业者智能体需要具备与传统软件同等甚至更高的容错与恢复能力。
Bun 借助 Claude Fable 5 在 11 天内从 Zig 重写为 Rust,生成了超过一百万行代码。这展示了前沿模型在复杂系统重构中的生产力潜力,也引发了对代码长期维护性的关注。
日均提问次数暴增 20 倍!百度搭子宣布重磅升级,企业版同步发布
百度「搭子」产品日均提问量增长 20 倍,同时发布企业版升级,表明百度在智能体方向加速推进。这标志着对话式智能体正从尝鲜走向规模化商业落地。
SGLang 发布 v0.5.15 版本,虽未公开详细改动,但此类更新通常包含性能优化和修复,使用 SGLang 进行 LLM 推理的开发者需及时跟进以获取改进。
字节跳动等团队发布十亿参数华语歌 AI 模型,从零预训练,生成的歌曲告别机械感。这突破了 AI 音乐在中文歌曲上的自然度,有望降低音乐创作门槛。
Meet LingBot-World-Infinity: An Open Causal World Model With An Agentic Harness
蚂蚁灵波发布 LingBot-World-Infinity,一个 14B 因果视频生成模型,作为交互式世界模拟器。其核心 MoBA 注意力掩码与分布匹配蒸馏有效解决了长时域漂移问题,为具身智能提供开源基础。
行业首个具身原生世界动作模型来了!蚂蚁灵波发布LingBot-VA 2.0
蚂蚁灵波发布 LingBot-VA 2.0,声称是行业首个具身原生世界动作模型,延续其世界模型路线,有望为机器人带来更自然的动作生成与环境交互。
Ollama v0.32.0-rc0 候选版引入 agent UI,开始原生支持智能体界面。这会简化本地模型的智能体开发体验,对个人开发者快速搭建 AI 代理很有吸引力。
Profiling in PyTorch (Part 3): Attention is all you profile
HuggingFace 博客的 PyTorch 性能分析系列聚焦注意力机制剖析,为优化 Transformer 推理和训练性能的开发者提供了深入分析注意力计算瓶颈的方法与工具。
llama.cpp 提交 b9946 针对 Hexagon 后端一元操作进行分块、跟踪和优化,避免了 VTCM 溢出并采用快速除法和专门线程函数,显著提升在 Qualcomm Hexagon DSP 上的运行效率,利好移动端和边缘推理。
llama.cpp 提交 b9945 修复了聊天模板在应用时解析异常导致崩溃的 bug,将思考探测移入初始化 try/catch,使其能优雅失败而不是中止,提升了服务稳定性。
Jet-Long: Efficient Long-Context Extension with Dynamic Bifocal RoPE
Jet-Long 提出了一种零样本的长上下文扩展方法,通过动态调整 RoPE 的缩放因子并引入双焦点注意力机制,能在不进行额外训练的情况下让大语言模型适应变长序列并保持高性能,为长上下文推理中的效率与效果平衡提供了新思路。
📖 阅读⬇ PDFLinear Attention Architectures: Mechanisms, Trade-offs, and Cross-Layer Routing
该文系统比较了 softmax 注意力与循环线性注意力架构在表达能力、内存管理及训练效率上的差异,覆盖不同参数量和序列长度,并提出了跨层路由策略以融合两者优势,为高效注意力机制的设计提供了具体指导。
📖 阅读⬇ PDFUP: Unbounded Positive Asymmetric Optimization for Breaking the Exploration-Stability Dilemma
针对大模型强化学习中的探索与稳定性两难问题,UP 方法提出了无界正不对称优化目标,能在不牺牲训练稳定的前提下显著增强探索能力,可作为通用目标函数嵌入现有 RL 框架,从而提升 LLM 对齐训练的效率。
📖 阅读⬇ PDFDrugGen 2: A disease-aware language model for enhancing drug discovery
DrugGen-2 将疾病本体和靶点蛋白序列作为条件,通过微调 GPT-2 结合监督学习与 GRPO 强化学习来生成小分子,在分子多样性和靶点结合亲和力上均超越基线,展现了语言模型在药物发现领域的应用潜力。
📖 阅读⬇ PDFRemember When It Matters: Proactive Memory Agent for Long-Horizon Agents
该研究将长程任务中关键信息被淹没的现象定义为「行为状态衰减」,并提出一种主动记忆智能体,将记忆视为主动干预机制而非被动检索,能在决策需要时主动唤醒相关状态,从而提升长时程任务中的决策质量。
📖 阅读⬇ PDFSuper Weights in LLMs and the Failure of Selective Training
该文重新审视了超级权重(Super Weights)现象,指出剪枝这些权重带来的性能崩溃并非普遍适用于所有 LLM,并且仅对这些重要参数进行选择性训练会导致准确率跌至随机水平,揭示超级权重不能孤立训练。
UniClawBench: A Universal Benchmark for Proactive Agents on Real-World Tasks
UniClawBench 是一个面向真实环境中主动智能体的能力驱动基准,采用 Docker 容器动态评估和闭环多角色评测,弥补了现有基准脱离真实交互的不足,能更全面地衡量智能体主动性、工具使用与任务完成能力。
📖 阅读⬇ PDFCineMobile: On-Device Image-to-Video Diffusion for Cinematic Camera Motion Generation
CineMobile 通过蒸馏引导剪枝、扩散蒸馏和混合量化,在移动端实现了图像到视频的电影级运镜生成,在保持视觉质量的同时取得显著加速,将计算密集的扩散模型压缩到端侧实用水平。
📖 阅读⬇ PDFFlash-BoN: Instant Drafts for Inference-Time Scaling in Diffusion Models
Flash-BoN 通过时间步截断、层跳跃和激活代理生成廉价草图候选,再经多阶段验证进行筛选,在固定时间预算下优于现有方法,实现了文生图扩散模型的推理时缩放,提升了推理效率。
📖 阅读⬇ PDFA Quantized Native Runtime for On-Device Semantic Audio Generation
一种无依赖运行时通过量化和激活引导在嵌入式设备上实现高效文本到音乐生成,保持音频质量的同时降低了端侧部署门槛,为离线音乐生成应用铺平道路。
📖 阅读⬇ PDFCausalDS: Benchmarking Causal Reasoning in Data-Science Agents
CausalDS 构建了一个评估数据科学智能体因果推理能力的基准,结合合成因果结构、真实观测数据和自然语言故事,覆盖 Pearl 因果阶梯的三个层次,填补了该领域的评估空白。
📖 阅读⬇ PDFVideo-Oasis: Rethinking Evaluation of Video Understanding
Video-Oasis 分析发现现有视频理解基准中近一半问题无需视觉输入即可回答,暴露出对语言偏见的过度依赖,并对视频理解模型的评估标准提出了根本性质疑。
📖 阅读⬇ PDFCan Dialects Be Steered Like Languages? Sparse Neurons and Distributed Directions in Arabic LLMs
研究发现阿拉伯语大模型中存在方言特定的稀疏神经元和分布式方向,可在推理时通过操纵这些表示来控制输出方言,无需额外训练,为方言可控生成提供了轻量级方案。
📖 阅读⬇ PDF