跳到正文
只看论文#开源/仓库
  1. 公众号：小红书技术83

    小红书引擎架构团队 OSDI 2026 新成果：HELMSMAN 重塑大规模向量检索基础设施

    小红书引擎架构团队在 OSDI 2026 发表论文，提出面向全闪存的高性能向量近似最近邻检索系统 HELMSMAN。该系统通过 ANNS 定制化存储栈、分层学习式搜索剪枝及 GPU 加速构建流水线，将向量检索服务迁移至 NVMe SSD 阵列。

    推荐理由：在保持毫秒级在线延迟的前提下，将百亿向量检索从海量DRAM迁移到NVMe SSD阵列，为推荐与搜索系统提供了成本下降超90%的生产验证方案。

  1. 公众号：小红书技术75

    小红书联合北大、上交提出 HYPIC，让混合注意力大模型用上位置无关缓存，首 token 延迟降 3.25 倍

    小红书联合北大、上交提出 HYPIC，这是首个在混合注意力大模型上实现位置无关缓存的服务系统。在 4 个生产级混合注意力模型、5 个工作负载上，HYPIC 将首 token 延迟（TTFT）平均降低 3.25 倍，同 SLO 下可持续 QPS 提升 1.66 倍，任务质量与完全重算仅相差 1.71 分。该系统通过缓存段累积转移算子实现线性层常数时间状态组合，并用缝合窗口修复全注意力层跨段对齐。

    推荐理由：此前位置无关缓存无法用于混合注意力模型，HYPIC 通过缓存转移算子与缝合窗口首次实现，RAG 场景 TTFT 降低 3.25 倍，开源代码为推理系统提供了可复用的加速路径。

  1. Hugging Face 社区博客65

    EVA-Bench Data 2.0 发布：覆盖三大领域、121 个工具、213 个场景

    EVA-Bench Data 2.0 将评估范围从单一企业领域扩展至航空公司客户服务管理（CSM）、企业 IT 服务管理（ITSM）和医疗 HR 服务交付（HRSD）三个领域，共涵盖 121 个工具、213 个场景，场景数较原始版本增长约 4 倍。每个场景均经 OpenAI GPT-5.4、Google Gemini 3.1 Pro 和 Anthropic Claude Opus 4.6 验证可解性。数据集遵循语音优先、真实性、多样性、认证流程和可复现性五项设计原则，包含单意图、多意图（最多 4 个意图）和对抗性呼叫类型。所有三个数据集已开源，可通过 `load_dataset` 从 Hugging Face 直接下载。后续将推出多语言扩展。

    推荐理由：语音代理评测缺的就是这种真实场景的数据集，EVA-Bench 2.0 把航空、IT、医疗三个最棘手的领域打包了，生成流水线也开源，做评测的可以直接拿来用。

  1. 公众号：面壁智能61

    面壁智能联合清华、OpenBMB开源最大中文预训练合成数据集及千万级SFT数据集，公开MiniCPM5‑1B核心数据

    面壁智能联合清华大学、OpenBMB发布并开源两大数据集：Ultra-FineWeb-L3（超600B Tokens，中文200B+，为当前最大中文预训练合成数据集）和UltraData-SFT-2605（国内首个千万级同时含深思考与非思考标注的SFT数据集）。两者基于UltraData数据分级治理体系构建，在MiniCPM5-1B训练流程中得到完全验证，覆盖预训练退火到后训练SFT全链路。已上线UltraData网站与HuggingFace，免费开放。

    推荐理由：填补了中文大规模合成数据空白，三年前还在用英文数据做中文模型的日子可以翻篇了，做端侧模型的可以直接拿这份数据跑一版 MiniCPM5-1B 级别的效果。

  1. Mistral AI：News55

    塑造产业的物理AI研究

    Mistral AI通过收购Emmi AI，强化其在推动AI研究前沿与工业工程解决方案方面的投入。其目标是为航空航天、汽车、半导体和能源等塑造物理世界的核心产业构建基础性物理AI模型，以加速工程开发。此项研究基于一系列已发表的突破性成果，包括：用于模拟超音速湍流的3D机翼CFD数据集、计算流体动力学基础模型的前瞻综述、应用于汽车与航空的AB-UPT模型，以及用于聚变等离子体湍流模拟的GyroSwin模型。此前已开源的UPT（通用物理Transformer）和NeuralDEM等成果也为此研究奠定了基础。

    推荐理由：Mistral 把物理 AI 定为下个重点，从流体仿真到核聚变等离子体都有论文支撑。搞工业仿真的团队值得跟进，但这次没有新模型发布，更多是路线宣示而非新突破。

  2. Qwen69

    Qwen3.5在TokenSpeed推理引擎上，针对智能体工作负载达到了创纪录的580 tokens per second (tps)速度。这一成果由通义千问推理团队、lightseekorg Foundation TokenSpeed团队、NVIDIA及Mooncake团队共同实现，并采用了tri_dao的FlashAttention-4 (FA4) 优化。此里程碑标志着开源大语言模型推理性能的边界得到了推动，相关详情可查阅PyTorch社区博客。

    引用PyTorch@PyTorch

    在 TokenSpeed 推理引擎上对 Qwen3.5 的光速优化是一个重要的里程碑，在 NVIDIA GPU 上针对智能体工作负载实现了破纪录的每秒 580 个 token（tps）。 在 PyTorch Foundation 最新的社区博客文章中，你可以全面了解 Qwen3.5 模型在 TokenSpeed 推理框架中的完整设计、实现与优化，并亲眼看到这项工作如何提升性能 👉 https://bit.ly/4uGUvIS 这一成果是 @Alibaba_Qwen 推理团队、@lightseekorg Foundation TokenSpeed 团队、@NVIDIAAI 以及 Mooncake 团队共同努力的成果，其中 @tri_dao 为 FlashAttention-4（FA4）优化做出了特别贡献。@KVCache_AI

    推荐理由：Qwen3.5在TokenSpeed上跑出580 tps，这是开源LLM推理的极限突破，对agent类应用是实实在在的性能跃进，PyTorch这篇博客值得每一个做推理部署的细读。

已经到底了