Amazon 与 Booking.com 用知识蒸馏加 Medusa 加速旅行 LLM
Amazon 与 Booking.com 将知识蒸馏与 Medusa 结合，把 70B 的 Llama-3.1 教师模型能力迁移到 1.1B 的 TinyLlama 学生模型，在保持最佳开源 LLM 质量的同时成本降至不到三分之一、速度最高提升 20 倍。
#部署/工程
Amazon ScienceAI 评分4444 LangChain：BlogAI 评分6262 LangChain 为 Managed Deep Agents 新增浏览器能力
LangChain 宣布 Managed Deep Agents 支持浏览器操作，开发者通过 define_browser 几行代码即可让 LangSmith 托管 Agent 读写真实网页，无需自建基础设施。
Databricks：BlogAI 评分4343 Databricks 为 Serverless 计算推出更精细的成本控制
Databricks 将 Serverless 成本控制扩展到 notebooks、jobs 和 pipelines，此前该能力已用于 Serverless SQL 与 Model Serving。
Tessl：产品与工程博客AI 评分5555 Tessl 工程博客探讨 AI 软件工厂的成本该由谁负责
Tessl 博客分析工程领导者如何判断 AI agent 账单背后的钱花得值不值，提出七方面管理框架：成本可见与归属、开工前评估、按任务完成成本选模型、把重复决策转为代码检查、设预算并停止无效循环、把原本不会做的维护工作单独核算，以及在预算紧张时保持完成定义不变。文中强调失败尝试也要计入成本，账单下降可能只是把工作转嫁给了评审者。
MarkTechPostAI 评分6464 Infini-AI-Lab 开源 Hermit harness 适配器框架，可不动模型和 harness 适配 Codex、Claude Code 等智能体
Infini-AI-Lab 发布开源 harness 适配器框架 Hermit（v0.1.0，Apache-2.0），在模型和 harness 均冻结的情况下训练外部适配器，用 RL 式训练循环迭代适配器版本，可部署到 Codex、Claude Code 或 Pi 并导出为插件。
Amp ChronicleAI 评分5858 Amp 推出 macOS Satellites：云端 Mac 自动构建、测试和运行苹果应用
Amp 推出 macOS Satellites（beta），让智能体在云端 Mac 上构建、测试和运行 iOS 与 macOS 应用。架构上线程仍跑在 Linux orb 上，需要 macOS 时服务器约 30 秒启动一台预装 Xcode 和模拟器的新 Mac，代码保持同步，截图、日志和构建结果回到线程，屏幕可实时观看或接管。
IT之家·人工智能AI 评分5454 全国首个华为昇腾 950DT 1024 卡智算集群在武汉上线
全国首个华为昇腾 950DT 1024 卡智算集群在武汉上线，由湖北科投投资建设，在华为中国行 2026·湖北省人工智能创新发展大会上点亮。
OpenBMB@OpenBMBAI 评分4848非常感谢 FlagOS 团队！💙 很高兴能一起将 MiniCPM-OCR 带到更多芯片平台。迫不及待想看到社区会构建出什么！🚀
引用FlagOS Community@FlagOSCommunityMiniCPM-OCR is out 🎉 Really happy to help bring the new OCR suite to 10 more chip platforms through FlagOS from day one, alongside Arm, Houmo AI, Intel and NVIDIA. Can’t wait to see what people build with it 🚀
Google Developers BlogAI 评分5454 Google Play services 中的 LiteRT 升级：GPU 推理提速 1.4 倍、应用体积减小约 8 MB
Google 宣布 Google Play services 中的 LiteRT 迎来最大升级，GPU 推理速度约为旧版 GPU delegate 的 1.4 倍，由 ML Drift 引擎驱动，并通过新的 CompiledModel API 提供。
Latent SpaceAI 评分5757 Latent Space 访谈 Supabase 创始人：为什么智能体偏爱 Supabase
Latent Space 播客访谈 Supabase 创始人 Paul Copplestone 和 Ant Wilson，探讨为什么智能体普遍把 Supabase 选为应用后端，作者的 AEO 追踪显示它在多个前沿模型中几乎全部成为首选。
Baseten 工程博客AI 评分5151 Baseten 优化 Qwen3-ASR 1.7B 批量转写，吞吐达原版 vLLM 的 7 倍
Baseten 优化了 Qwen3-ASR 1.7B 的批量转写部署，在 64 并发下吞吐比原生 vLLM 高 7 倍以上，成本降至每音频小时约 $0.0013，比闭源提供商低约 277 倍。
Mastra BlogAI 评分4646 Mastra 推出 Span Queries：按 span 过滤和分组追踪数据
Mastra 上线 Span Queries，可在所有 trace 内按时间范围、类型、名称、状态、错误、耗时等条件过滤并分组单个 span，比返回整条 trace 的 trace queries 更细粒度。
PyTorch：BlogAI 评分6262 PyTorch 2.15 发布：重写 NCCL 后端转为默认并提升多平台推理性能
PyTorch Foundation 发布 PyTorch 2.15，重写的 NCCL 后端成为所有 nccl 进程组的默认选项，附飞行记录器在 collective 挂起时转储现场，并保留 TORCH_DIST_USE_NCCL2=0 和 nccl-legacy 回退路径。
Google Developers BlogAI 评分5959 Google 演示用 Agents CLI 评测闭环爬坡式提升 Agent 质量
Google Developers Blog 实操演示 Agents CLI 的 eval 命名空间如何支撑 Agent 质量的爬山式迭代，基于 Agents CLI v1.8.0 的 LangChain 模板，以 gemini-3.8-flash 作 LLM-as-judge 按 1-5 分评分。
Meta Engineering BlogAI 评分4848 Meta Andromeda：模型与系统协同设计驱动下一代广告检索
Meta 公布下一代个性化广告检索系统 Meta Andromeda，单块 GH200 GPU 上模型推理吞吐超过每秒 100 亿条广告，相比 2024 版系统提升 100 倍。新架构引入受 LLM 启发的 MoE，推理 FLOPs 比 2024 版检索模型少约 300 倍，性能接近排序阶段水平。自 2025 年以来，该系统在 Facebook 上带来 2.4% 的转化提升。
OpenRouter：AnnouncementsAI 评分6767 OpenRouter 解析 Claude 529 Overloaded 错误及三种修复方法
OpenRouter 发文解释 Claude 的 529 overloaded_error 表示 Anthropic API 对该模型全局容量不足，与用户配额无关，区别于 429 rate_limit_error。
公众号：面壁智能AI 评分4242 面壁智能 ForgeKernel 直播挑战 DeepSeek FlashMLA Prefill 手写算子
面壁智能将于 10 月 29 日上午 10:00 直播，由 ForgeKernel 基于 DeepSeek-V4.1 的真实推理负载现场生成、编译并跑分算子，正面挑战 DeepSeek 官方开源的 FlashMLA Prefill。后者运行于 DeepSeek 生产推理栈并驱动 DeepSeek-V4.1，被称为当前手写算子的顶尖水准。
公众号：卡尔的AI沃茨AI 评分6767 豆包工作上线录制回放功能，作者实测用它做电脑自动化 Skill
豆包工作新增了类似 Codex 的 record & replay 录制回放功能，用户可录制电脑操作并配语音讲解，由 AI 生成步骤并复刻，最长录制 30 分钟。作者实测发现它在用户占用窗口时会主动暂停而非重试，适合没有 API、跨多软件的工作流；作者还用它录制随机跨平台浏览节奏来采集小红书低粉爆款等内容，降低被风控检测的概率，并计划把 Codex 上做好的 skill 迁移过来以节省额度。
Browser UseAI 评分5757 Browser Use 团队讲解如何在云端规模化运行浏览器自动化
Browser Use 团队讲解云端规模化浏览器自动化做法：任务进队列，每个任务用独立远程浏览器经 CDP 由 Playwright 或 Puppeteer 驱动，并发按套餐上限封顶，用保存的 profile 复用登录，仅在站点拦截时加代理，带退避重试并在 finally 中停止浏览器。
Browser UseAI 评分6262 Headless 浏览器被 Cloudflare 拦截的信号与对策（2026）
Browser Use 讲解 Cloudflare 拦截原生 headless Chrome 的原因：navigator.webdriver 暴露自动化、Playwright 默认 headless shell 的 UA 为 HeadlessChrome、云服务器 IP 信誉差且无 cookies。
Together AI 研究与产品博客AI 评分4444 Together GPU 集群自动修复：从 GPU 故障到健康节点
Together AI 详解其 GPU 集群自动修复系统：被动健康检查在 VM 内与宿主机两侧持续监测 Xid 错误、ECC 双比特错误、PCIe 掉卡和 InfiniBand 链路抖动，每项修复都附带证据。
Steve Yegge：MediumAI 评分6060 Steve Yegge 提出 Counting House 模式：用小模型处理海量客服工单
Steve Yegge 总结企业 AI 现代化中的 Counting House 模式，把低成本模型放到客户服务、理赔等年千万级工单的硬化轨道上，与他的 Wheelhouse 软件工厂形成鲜明对照。
Databricks：BlogAI 评分5858 Databricks 讲解用 ai_extract 与 MLflow Prompt Registry 提升文档抽取准确率
Databricks 博文讲解如何在 ai_extract 文档抽取中把一次性修补变成可评测的工程流程。实践来自一个从数十种 PDF 订单文档抽取约 40 个结构化字段的项目，结合人工审核作为 ground truth。
Databricks：BlogAI 评分4242 Databricks Lakehouse Federation：不迁移数据也能做投资分析
Databricks Lakehouse Federation 支持通过标准 SQL 直接查询 SQL Server、PostgreSQL、MySQL、Snowflake 等外部数据库，数据留在原处，无需复制或同步。
Steve Yegge：MediumAI 评分5252 Steve Yegge 提出 Counting House 企业 AI 部署模式并与软件工厂对照
Steve Yegge 在文章中提出企业 AI 落地正形成两种不同模式：开放探索的软件工厂 Wheelhouse 和把低层级模型放上加固轨道的 Counting House。
NVIDIA Technical Blog：Agentic AI / Generative AIAI 评分5151 NVIDIA 实测三种优化将 Ling-3.0-flash 在 DGX Spark 上的解码吞吐提升 42.5%
NVIDIA 技术博客介绍在 DGX Spark 上加速 Ling-3.0-flash 推理的三种优化：Humming MXFP4 MoE 内核、LM head 在线 FP8 量化、以及用 NEXTN 做 MTP 投机解码。
TechCrunch：AIAI 评分5858 General Compute 完成 1 亿美元 A 轮融资，估值升至 8 亿美元
neocloud 创业公司 General Compute 完成 1 亿美元 A 轮融资，由 Blackbird Ventures 和 Abstract Ventures 领投，投后估值 8 亿美元，此前 5 月种子轮估值仅 6000 万美元。
TechCrunch：AIAI 评分4242 Nvidia 投资印度创企 Simplismart，帮企业用更少 GPU 跑 AI 模型
Nvidia 参与印度创企 Simplismart 的 1400 万美元 B 轮融资，后者估值约 1 亿美元，其软件可优化模型部署，让企业用更少 GPU 运行 AI 模型。Simplismart 称已帮 AI 视频平台 InVideo 将 GPU 服务成本降低 56%，客户还包括 HeyGen、Higgsfield 和 Ema。其年化收入运行率过去六个月增长 14 倍，超过一半收入来自美国。
公众号：面壁智能AI 评分4444 面壁智能 ForgeKernel 登顶华为 CANNBench 与英伟达 SOL-ExecBench 算子榜
面壁智能自研 AI 算子生成系统 ForgeKernel 同时登顶华为 CANNBench 950DT、950PR、A3 三大硬件榜单和英伟达 SOL-ExecBench（FlashInfer-Bench 合集）。
Vapi 产品与 Agent 方法AI 评分4848 Vapi 上线流量分割功能，可把 0.1% 通话导给新版语音智能体
Vapi 上线流量分割功能，可将呼入呼出通话按比例分配到智能体的不同版本，最小可先放 0.1% 流量做灰度验证。该功能支持按来电者身份保持版本一致的“stickiness”，可随时回滚，官方建议先做两版本对比。Vapi 称模拟与评测只能带来约 90% 信心，剩余部分需靠真实通话验证。
Hacker News：AI 热帖AI 评分7474 Cloudflare 披露 GLM-5.3 Workers AI 跨请求 KV cache 泄露事件及修复细节
Cloudflare 于 2026 年 10 月 26 日发布协同披露报告，说明 Workers AI 上的 GLM-5.3 模型因 prefill KV cache 池（681,280 tokens）小于上下文窗口（1,048,576 tokens）叠加 SGLang 分离式推理的拒绝路径缺陷，导致超长请求读到了之前其他用户请求的 KV cache 数据。
Simon Willison 博客AI 评分4545 webframe 评测：作为网页抓取工具与沙箱的表现
Jeff Lindsay 的 webframe 项目可将网页当作程序运行，指向 URL 或文件后在隐藏的无头 WebView 中执行，console.log() 输出到标准输出、异常输出到标准错误。
Browser UseAI 评分6565 Browser Use 教你自动化无 API 的网站：每日登录并下载发票的三种方案
Browser Use 作者讲解如何自动化没有 API 的供应商门户以每日登录下载发票，建议先向供应商索要导出、API、SFTP 或邮件等方式。
LMSYS Blog精选AI 评分7171 SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题
SGLang 团队与 Cloudflare 协调披露 2026 年 8 月 27 日至 9 月 9 日影响 Workers AI 上 @cf/zai-org/glm-5.3 的跨请求 KVCache 暴露问题。
推荐理由：SGLang 团队复盘了异步 KVCache 传输中的跨请求泄漏机制、复现方法和修复方案，对运维长上下文 PD 部署有直接指导意义。
Baseten 工程博客AI 评分4747 Baseten 推出 BDN Sealed Volumes：模型数据一次发布，随处挂载
Baseten 发布 BDN Sealed Volumes，可将只读模型数据发布一次并以 digest 固定版本，在任意部署中挂载。它支持从 Hugging Face、S3、GCS 等源同步，按内容哈希分块上传，仅传输变更部分，部署启动无需下载步骤。适用于模型权重、LoRA 适配器、TensorRT-LLM 引擎和嵌入索引等运行时只读文件。
MiniMax (official)@MiniMax_AIAI 评分5555引用Unsloth AI@UnslothAIMiniMax-M3.1-Flash can now run locally! We made 2-bit GGUF retain 91.5% top 1 accuracy while being 45% smaller. Run on 150GB RAM. MiniMax-M3.1-Flash is the strongest open model for its size & among the best overall. GGUF: https://huggingface.co/unsloth/MiniMax-M3.1-Flash-GGUF Guide: https://unsloth.ai/docs/models/minimax-m3.1-flash
Latent SpaceAI 评分5959 Supabase 联合创始人谈面向十亿 AI 生成应用的后端布局
Supabase 联合创始人 Paul Copplestone 和 Ant Wilson 在 Latent.Space 访谈中讨论 AI 智能体生成更多软件如何改变后端需求，包括在数据库旁运行长时工作负载、让 schema 更易被智能体理解。
The Decoder：AI NewsAI 评分6060 华尔街高频交易公司竞相投入数十亿美元建设 AI 算力
据 Bloomberg 报道，Jane Street、Hudson River Trading 等高频交易公司为支持机器学习交易正大规模投入 AI 算力。
MarkTechPostAI 评分6161 清华与港中文团队开源 AKV：面向 LLM 智能体的 KV cache 工程服务系统
清华大学与 CUHK 研究者开源 AKV，一个构建在 SGLang 上的 KV cache 工程服务系统，让智能体通过 Drop 和 Repos（RoPE 旋转重定位）操作丢弃或重排 KV 条目而不改写文本历史。