Saining Xie@sainingxieWe have been training with TPUs in academia for two years now (huge thanks to Google TRC!). Works like Cambrian-1, Cambrian-S, RAE, and Scale-RAE would not have been possible without TPUs. We wrote a blog post sharing our experiences, optimizations, and lessons learned: https://cambrian-mllm.github.io/blog/tpu-training-experiments.html We hope this can help more people having a smoother experience working with TPUs, they are very powerful!
OpenAI 技术深潜解析 Codex 智能体循环，说明 Codex CLI 如何借助 Responses API 编排模型、工具、提示词与性能。
Manus 博客盘点了 2026 年 10 大 Vibe 编程工具，涵盖 Cursor、Replit、Lovable、Bolt.new、v0 by Vercel、Windsurf、Claude Code、Manus、Base44 和 Emergent。
OpenAI 披露其将 PostgreSQL 扩展至支撑 8 亿 ChatGPT 用户、每秒数百万次查询的架构实践，手段包括只读副本、缓存、限流和工作负载隔离。
OpenAI 开发者博客发布教程，讲解如何像测试 LLM 应用一样，用 evals 系统化评估 Codex 的 Agent 技能。核心流程为定义可度量的成功标准、用 $skill-creator 创建技能、以 codex exec -- 捕获 JSONL 轨迹做确定性检查，再用 --output-schema 输出符合评分规则的 JSON 做风格等定性评估。
推荐理由：OpenAI 官方给出用 evals 系统化测试 Codex 技能的完整模式，从定义成功标准到确定性检查与评分规则均可迁移复用。
一位内容写作者用同一提示测试 Lovable、Replit、Bolt、Cursor、Manus 五款氛围编码工具，要求构建流行艺术风格的作品集网站。Manus 付费版设计还原最佳（5/5），Lovable 最适合初学者（4/5），Replit 和 Bolt 各得 3/5，Cursor 因付费墙和 GitHub 存储库障碍让非技术人员完全无法产出。作者总结免费计划普遍有局限，提示越具体结果越好。
在生产环境中，使用vLLM部署Mistral Medium 3.1模型进行Prefill/Decode分离推理时，团队发现了一个严重的内存泄漏问题。该问题表现为系统内存以每分钟400 MB的速度线性增长，最终将导致内存耗尽。泄漏仅在启用图编译且通过NIXL传输KV Cache的特定条件下出现，初步调查指向了传输层。团队从Python内存分析工具入手，但常规工具未能定位到根源，调查随后深入到底层与UCX和Infiniband相关的交互中。
Novita AI 发布基于 SGLang 的 GLM4-MoE 生产级优化方案，通过共享专家融合、Qknorm 融合与异步传输三项核心技术，在 H200 集群 TP8/FP8 配置下实现首 token 延迟（TTFT）降低 65%、每 token 输出时间（TPOT）提升 22%。针对 Agentic Coding 场景，团队提出无需额外训练草稿模型的 Suffix Decoding 技术，利用历史输出模式重复率进一步加速推理。
Manus博客发布2026年十大提示到视频AI生成器评测，用同一条东京雨夜巷子的提示测试Runway (Gen 4.5)、HeyGen、OpenAI Sora。
推荐理由：作者用同一条提示实测了10款主流AI视频生成器，并逐一记录输出质量、界面与定价，便于读者按需求和预算对照选型。
Skyscanner 工程师分享了在日常工作流中把 OpenAI Codex CLI 通过 JetBrains MCP server 接入 IDE 的实践。Codex 可调用 get_file_problems 检查编译错误、执行预定义的测试、lint 和格式化运行配置，例如在 Databricks Java SDK 用例中立即发现 NotFound 异常构造函数不匹配的问题。
推荐理由：Skyscanner 工程师分享把 Codex CLI 接入 JetBrains MCP 的具体做法，给出了错误检查和测试运行如何缩短反馈循环的实操路径。
有效的评估能帮助团队更自信地发布AI智能体，避免陷入仅在生产环境被动发现问题、修复可能引发新问题的循环。智能体因其多轮操作的自主性与灵活性，评估更为复杂。一个完整的评估结构包含任务、评分器、记录、结果、评估框架与评估套件等核心组件。缺乏系统评估将导致团队无法区分真实的质量倒退与随机波动。建立评估体系能帮助团队在智能体规模化过程中持续监控质量、自动测试变更并量化改进效果，其价值在智能体整个生命周期内持续累积。
推荐理由：Anthropic 把内部踩过的坑全摊开了，从 eval 设计到 grader 选型到 transcript 审读，是目前最完整的 Agent 评估工程指南，做 Agent 产品的团队可以直接当手册用。
Together AI 发布生产环境开源模型选型指南。文章给出按闭源模型档位对应的参数规模起点（高档至少 300B、中档 70–250B、低档小于 32B），对比 DeepSeek、Kimi、Qwen、GLM、Llama、Gemma、Mistral 等模型族的许可证与来源，并介绍成本、速度、质量的权衡，LLM-as-a-judge 评估流程与 LoRA SFT、DPO 等微调适配方法。
OpenAI 发布了一篇关于其开发者文档 MCP（Model Context Protocol）服务器的快速入门指南，介绍了如何从常见的编码代理和编辑器连接到该服务器。
Claude Code 创造者 Boris Cherny 公开的个人工作流引发广泛讨论。其核心是并行运行多个AI代理：在终端同时运行5个Claude，浏览器中运行5-10个，通过系统通知进行管理，将编码转变为类似指挥《星际争霸》的实时战略。他坚持使用最重、最慢的Opus 4.5模型，认为其更高智能度能减少人工干预，最终效率更高。团队还通过共享的CLAUDE.md文件将AI错误转化为永久规则，使代码库能自我修正。
Modal 官方博客公开其管理超过 20,000 块并发 GPU 的可靠性系统，覆盖云实例选型测试、机器镜像准备、实例启动检查、被动与主动健康检查、可观测性与支持全流程。
介绍如何利用 NeMo Data Designer 构建许可安全的合成数据工作流，用于模型特化（model specialization）。该管道支持生成可蒸馏模型所需的高质量合成数据，确保数据来源合规，适用于下游微调与领域适配场景。
推荐理由：虽然发布快半年了，但教程讲的是如何用 NeMo Data Designer 构建 license-safe 的合成数据管道，对正在搞模型蒸馏和微调的开发者依然有参考价值，细节够实操。
NeMo Data Designer 提供符合许可证安全的合成数据工作流，用于模型专门化与知识蒸馏，帮助开发者高效生成定制化训练数据。
OpenAI Developers 博客发布了一篇 Cookbook，旨在指导用户如何为 gpt-image-1.5 模型编写提示词，以获得更可靠的图像生成结果。该资料主要是一个指向具体教程页面的链接和简短描述。
LlamaIndex 联合 Turso 的 AgentFS、Claude Agent SDK 与 LlamaParse，构建了一套让编码智能体在虚拟文件系统中操作文件的方案。
OpenAI 借助 Codex 在 28 天内完成 Android 版 Sora 的交付，AI 辅助的规划、翻译与并行编码工作流帮助一支精简团队实现了快速且可靠的开发。
细粒度激活卸载（Fine-grained Activation Offloading）采用模块级粒度，将计算与内存传输重叠，并兼容全并行设计，在主流大模型训练中同时降低峰值显存开销并提升吞吐性能，实现显存开销与吞吐性能的联合最优，获得显著性能收益和显存收益。
OpenAI Developers 博客发布了关于 GPT-5.2 的提示词指南（Cookbook），旨在帮助用户通过优化提示词，使模型在准确、简洁的企业工作流中表现更佳。该资料仅提供了标题和简短描述，指向具体的在线文档链接。
Anthropic的研究人员探索了一种新方法：使用其强大的闭源AI助手Claude来生成高质量的指令遵循数据，并用这些数据对较小的开源模型（如LLaMA系列）进行监督微调。这项实验旨在展示如何利用尖端闭源模型的能力来指导和改进可公开访问的开源模型性能，从而推动AI技术的进步与民主化。
推荐理由：用闭源模型蒸馏能力给开源模型，一条低成本微调的新路径值得关注
作者提出防止 Agent 修改外部对象时陷入死循环的方法：每次改动前先理解对象如何进入当前状态，并强制工具注入 reasoningForUpdates 参数，把改动原因持久化到对象上供后续更新参考。以 updateUserProfile 工具为例，注入推理轨迹后 LLM 不会因用户询问 Austin 天气就错误改写居住地；代价可能是额外一次 LLM 调用和轨迹去重成本。
LlamaIndex 为结构化抽取 API LlamaExtract 新增 PER_TABLE_ROW 抽取目标，将抽取粒度对齐文档结构，逐行处理重复实体而非整篇文档一次性抽取。
为解决AI智能体在跨越多上下文窗口执行长期任务时的“记忆丢失”与进展不一致问题，Anthropic为Claude Agent SDK开发了一套双重方案。该方案包含一个初始化智能体，负责在首次运行时建立基础环境并生成功能清单；以及一个编码智能体，负责在后续会话中进行增量开发并提交清晰可合并的代码。通过结构化的进度日志和Git历史等机制，引导智能体避免“试图一次性完成所有功能”或“过早宣布完成”的失败模式，从而实现跨会话的持续有效协作。
推荐理由：Anthropic 把 Claude Agent SDK 跑长任务踩过的坑全摊开了，初始化 agent + 增量进度文件这套方案不复杂但极实用，做 Agent 产品的团队可以直接抄作业。
连续批处理是优化大型语言模型推理吞吐量的核心技术，通过并行处理多个对话并在生成完成后动态交换任务，以最大化硬件利用率。从注意力机制和KV缓存的基础原理出发，文章推导了如何通过优化批处理提升性能。注意力层具有二次复杂度，但连续批处理允许查询、键和值张量容纳不同长度的令牌序列，从而同时处理预填充和解码阶段。该技术能显著降低生成每个令牌的计算成本，适用于高负载服务场景，提升响应速度。
推荐理由：深入理解LLM推理优化原理，助力高效模型部署。
Tavily团队因模型迭代重建了深度研究系统，核心是从工作流转向智能体架构，并聚焦上下文工程。通过Tavily Advanced Search进行上下文管理的网络检索，高效获取高相关度内容，避免信息过载。智能体设计模仿人类研究模式：收集信息、提炼要点、决策下一步，仅在生成最终交付物时引用原始资料，大幅减少令牌消耗，实现线性增长而非传统二次方增长。团队遵循简化编排逻辑、关注模型与工具优化方向、强化上下文工程等原则，以构建能随模型进化而持续改进的智能体系统。
推荐理由：分享构建高效 AI 代理的实战技巧，优化上下文工程以提升性能。
OpenAI 在 DevDay 推出 ChatGPT Apps 后发布开发者设计指南，说明 ChatGPT 应用本质是模型可调用的一组明确定义的工具，而非产品缩略版。
推荐理由：OpenAI 给出判断 ChatGPT 应用价值的 know/do/show 框架和设计清单，开发者可据此决定移植哪些能力、如何命名工具。
Eugene Yan 撰文总结构建产品评测的三个步骤：标注小数据集、对齐 LLM 评估器、随每次配置变更运行评测管线。建议使用二值标签、在 200+ 样本中保留 50-100 个真实失败案例、每个维度单独建评估器而非单一 God Evaluator，并以 Cohen's Kappa 衡量与人工标注的一致性，基准是而非完美。
OpenAI Developers 发布了一篇新的 Cookbook 教程，介绍如何使用带外（out-of-band）的 Realtime sessions 来转录用户音频。该资料仅提供了标题和链接，未包含具体的技术实现细节或代码示例。
OpenAI Developers 发布了一篇新的 Cookbook 教程，指导开发者如何使用 OpenAI Codex CLI 工具来现代化和重构遗留代码库。该资料主要提供了具体的操作指南和示例链接。
LlamaIndex 用 Agent Workflows 搭建金融文档分类与抽取流程，结合 OpenTelemetry 和 Jaeger 实现全链路追踪。Agent Workflows 的逐步事件驱动架构天然映射 OpenTelemetry 的 span 与 trace 模型，可追踪分类、抽取、验证、合成每一步，并支持派发自定义事件。
Hugging Face的kernels库简化了高性能深度学习内核的构建与共享，支持CUDA、ROCm等多种后端。本文以ROCm兼容内核为例，展示如何利用kernel-builder工具构建、测试并共享内核。以RadeonFlow的GEMM内核为具体案例，该内核是针对AMD Instinct MI300X GPU优化的FP8块状矩阵乘法实现，采用e4m3fnuz浮点格式和每块缩放因子以保持低精度计算准确性，并在2025年AMD开发者挑战赛中获最高奖。指南涵盖项目设置、构建配置及通过kernels社区分享的完整步骤。
推荐理由：AMD GPU开发者可快速上手构建高性能AI内核，提升部署效率。
Manus 推出结合工作上下文的 AI 演示文稿功能，可从 Mail Manus 邮箱、Slack 对话、Google Drive 或 Notion 中提取内容生成幻灯片，并支持导出为 PowerPoint、Google Slides 和 PDF。官方称大多数演示文稿可在 3-10 分钟内完成，案例中一份 12 张幻灯片的投资人路演 PPT 耗时不到 15 分钟。
Manus AI 与 Gamma AI 的对比显示，两者定位不同：Manus 是能研究数据、写代码并自动化多步骤工作流的通用 AI 智能体，Gamma 则专注快速生成视觉精美的交互式演示文稿。实测中 Manus 约七分钟生成 10 张幻灯片并附引用，Gamma 数秒出稿但需手动补充数据。Manus 免费版每日 300 点数，Gamma 免费版提供 400 一次性积分。
AI建议愈发关键，亟需建立系统化评估机制。通过工作面试般的严格测试，全面检验AI的实际能力与可靠性，确保其建议值得信赖。
推荐理由：Ethan Mollick 分享通过'工作面试'法系统评估 AI 能力的实用框架
LLM 生成界面常因"分布收敛"而陷入 Inter 字体配紫色渐变的同质化设计。Anthropic 建议通过 Skills 功能解决：将排版、动画、配色等设计规范存入独立 Markdown 文件，Claude 可在构建页面时动态加载，无需永久占用系统提示词。这种按需加载机制既保持上下文窗口精简以维持模型性能，又能让 AI 生成摆脱默认审美、更具品牌辨识度的定制化界面。
推荐理由：Claude官方分享通过Skills解决AI生成界面同质化问题的实践技巧，附字体与主题优化Prompt示例。
Manus 通过 Notion MCP 集成实现与 Notion 数据库的双向读写，将知识库变为执行引擎。社区案例显示，用户可让 Manus 自动生成并填充一个月 30 篇 Instagram 帖子到 Notion 内容日历，或每周一自动研究 TikTok 趋势并更新趋势库。该集成还支持将 Notion 页面转为带 AI 聊天机器人的全栈 Web 应用，并保持双向同步。
