There is a lot of news about compute being the bottleneck for AI. There is less visibility into the engineering it takes to make large-scale compute actually work reliably. In my view, this is one of the most interesting computer science problems in the industry right now. It is not just about getting more GPUs. It is about making every layer of the system work: networking, scheduling, hardware health, storage, orchestration, reliability, observability, security, and the developer experience for researchers. This blog gives a rare preview into the depth of engineering happening across the stack at OpenAI, starting with MRC and supercomputer networking. We're excited to start sharing more about designing, building, and operating compute at planet scale. https://openai.com/index/mrc-supercomputer-networking/ Join us: https://openai.com/careers/software-engineer-compute-infrastructure-san-francisco/
#教程/实践
Greg Brockman@gdbAI 评分4848引用Uday Ruddarraju@udayruddarrajuGitHub Blog精选AI 评分5656 Validating agentic behavior when “correct” isn’t deterministic
GitHub 探讨如何为 Copilot 编码智能体构建“信任层”。文章提出,在“正确”答案非确定性的场景下,可通过领域分析来验证智能体的自主行为,避免使用脆弱的脚本或黑盒判断。该方法旨在提升 AI 编码助手的可靠性与透明度,确保其行为符合预期标准。
推荐理由:做coding agent最头疼的就是如何验证产出质量,GitHub这篇把他们的内部方法论开源了,用dominance分析替代脆弱的脚本,对正在折腾AI编程工具的团队是实打实的参考,值得逐帧学习。
Hugging Face 社区博客精选AI 评分6565 vLLM V0 到 V1:在线强化学习中优先确保后端行为正确性
为确保 vLLM 从 0.8.5 到 0.18.1 的重大重写后,在线强化学习训练结果与 V0 参考运行一致,团队优先修复后端行为而非调整 RL 目标。关键修复包括:将日志概率模式设为 `processed_logprobs` 以匹配采样器分布;禁用 V1 特有的前缀缓存和异步调度等运行时默认值;调整权重更新路径以匹配 V0 的缓存保留行为;并确保 rollout 后端使用 fp32 精度的 `lm_head` 进行最终投影。这些措施消除了策略比率均值偏差,使 V1 在 KL 散度、熵等指标上与 V0 达成一致。
推荐理由:vLLM V1迁移时踩的四个坑全在这里,从logprob语义到fp32投影头,修完才调RL目标,做在线RL的团队可以直接抄这份配置清单。
Cursor BlogAI 评分5353 通过自动安装系统引导Composer开发
团队开发了Composer自动安装系统,利用早期模型(如Composer 1.5)为强化学习训练自动配置可运行环境。该系统分两阶段工作:先由智能体设定成功环境的目标命令与描述,再由另一智能体执行具体配置,包括安装依赖、模拟缺失组件并进行测试。在一项针对区块链项目Celo的真实实验中,该系统成功处理了稀疏文档和复杂依赖。采用此方法后,Composer 2在环境设置基准测试中的得分从47.9%提升至61.7%,为后续训练提供了更优基础。
Claude:Blog精选AI 评分7171 金融服务行业Claude部署指南发布
Anthropic发布金融服务行业Claude部署指南,详细介绍了Claude系列产品在金融研究、交易、承销、理赔及月末结算等场景的应用方案。指南包含产品矩阵、10个预置金融智能体模板(如招股书生成器、KYC筛查器等),并分享了AIG、澳大利亚联邦银行等机构的实践案例。同时,提供基础、试点、扩展三阶段实施路线图,旨在协助企业决策者与工程师规划AI落地路径,提升运营效率。
推荐理由:Claude 官方首次系统性给出金融行业的部署指南,从产品矩阵到预建代理模板再到三阶段路线图,做金融 AI 落地的可以直接拿过来对齐。
Runway:News精选AI 评分5555 60倍速冷启动:将同级GPU视为权重服务器
Runway平台团队开发的NCCLBack系统,通过P2P权重传输将模型冷启动时间从数分钟缩短至数秒。其核心创新在于让新启动的GPU推理节点直接从集群内已加载权重的同级GPU获取模型参数,而非从云存储重复下载。该系统利用GPU互连(如InfiniBand、NVLink)高达200-400 Gbps的带宽,相比传统存储下载的2-10 Gbps实现了数量级提升。通过Redis协调与NCCL广播原语,NCCLBack确保了数据传输的效率和正确性,使得大规模集群部署新模型时,冷启动时间不随节点数量线性增长,基本保持恒定。
推荐理由:Runway 工程师把 GPU 冷启动从分钟压到秒级,原理是让已加载权重的 GPU 直接「喂」给新同伴,而不是各自从存储下载。做大规模推理部署的团队值得细读。
LangChain:BlogAI 评分4545 LangChain:Agent 可观测性需要反馈来驱动学习
LangChain 提出 Agent 可观测性的深层作用是驱动学习,而仅有 trace 不够,还需附加反馈信号。学习可发生在模型、harness 和上下文三个层面,反馈来源包括用户显式评分、隐式行为信号、LLM-as-a-judge 和确定性规则。核心要求是把反馈与 Agent 可观测性数据一起存储。
OpenAI Developers精选AI 评分6969 OpenAI 发布 Realtime Prompting Guide:实时语音智能体提示指南
OpenAI 发布 Realtime Prompting Guide,指导如何为实时语音智能体编写提示词,涵盖 Realtime 2 推理、前置指令(preambles)、工具调用和精确实体捕获(exact entity capture)等关键功能。该指南旨在帮助开发者更有效地构建和优化基于语音的 AI 交互体验。
推荐理由:OpenAI官方出的实时语音代理提示指南,把preamble设计和工具调用讲透了,做语音应用的开发者可以直接照着调。
OpenAI Developers@OpenAIDevsAI 评分4343
OpenAI:官网动态精选AI 评分5858 OpenAI 如何大规模交付低延迟语音 AI
OpenAI 重建了其 WebRTC 技术栈,以支持实时语音 AI 服务。新系统实现了低延迟、全球规模扩展和无缝的对话轮转。此次重构旨在为 ChatGPT 的语音模式等产品提供更流畅、更自然的实时语音交互体验,解决了大规模部署时面临的延迟与稳定性挑战。
推荐理由:OpenAI 把语音 AI 的低延迟秘诀摊开了,做实时语音产品的可以看看他们的 WebRTC 优化思路,虽然不太能直接抄,但方向值得参考。
François Chollet@fchollet精选AI 评分7373推荐理由:Chollet 的《Deep Learning with Python》是无数人入行深度学习的启蒙书,现在免费在线阅读,新手不用再纠结买不买,直接看就完事了。
Simon Willison 博客精选AI 评分7575 Redis 数组类型交互式体验平台上线
Redis创始人Salvatore Sanfilippo提交了为Redis新增数组数据类型的PR,引入了包括ARCOUNT、ARDEL、ARGREP等在内的18个新命令。其中最引人注目的是ARGREP命令,它利用新集成的TRE正则表达式库,可直接在服务器端对数组值进行正则搜索。目前该功能已在一个分支中实现,开发者Simon Willison借助Claude Code构建了一个交互式在线沙盒,通过运行在浏览器中的WASM版Redis子集,供用户体验这些新命令。Salvatore还撰文详细介绍了在AI辅助下开发此功能的历程。
推荐理由:Redis 加数组类型可能改变很多缓存设计,Simon 这个 WASM playground 是把 PR 变成可试产品的最快路径,后端同学可以直接上手体会 ARGREP 的快乐。
Manus:BlogAI 评分4848 Manus Browser Operator 指南:如何用本地浏览器做深度研究
Manus 的 Browser Operator 让 AI 在你授权的本地 Chrome 或 Edge 会话中运行,从而读取登录后的订阅内容、企业内部系统和需身份验证的门户。它可通过 Manus API 触发端到端网页操作,遇到付款等敏感步骤会暂停等待确认,并支持跨设备接续任务和从手机端发起。启用需在设置中打开「My Browser」连接器并安装浏览器扩展。
Modal 官方工程博客AI 评分5151 Modal 用一个 Python 字典将 SGLang 多模态推理性能提升超 10%
Modal 通过缓存 CUDA IPC pool handle,将 SGLang 多模态推理的调度器开销大幅降低,改动已合入 SGLang v0.5.10。在 H100 上基准测试 Qwen2.5-VL-3B-Instruct,吞吐提升 16.2%,TTFT 均值下降 13.2%,TPOT 均值下降 17.2%。
Simon Willison 博客AI 评分5959 观察记录
作者购置新相机后,拍摄了更多鸟类照片并分享至iNaturalist平台。他利用Claude Code在手机上开发了一项新功能,成功将这些野生动物观察记录整合到个人博客的内容聚合系统中。该功能使观察记录能显示在博客首页、日期归档页和站内搜索结果里。作者已回溯导入了超过十年的iNaturalist数据,共计208条记录。因此,用户现在可以通过关键词(如“狐猴”)搜索到其2019年在马达加斯加拍摄的相关照片。这项开发是博客外部内容同步系统的一次扩展。
Eugene Yan:WritingAI 评分7171 Eugene Yan 详解如何与 AI 高效协作并让成果持续复利
Eugene Yan 发布长文,系统讲解如何与 AI 有效协作并让每次工作成果形成复利。核心原则包括提供良好上下文、把个人偏好编码为 CLAUDE.md 与 skills 等配置、降低验证成本以便委派更大任务、以及闭环更新。
PixVerse@PixVerse_AI 评分6363哇,这匹玻璃马简直达到了不同层次的超现实感 🐴🤯 顺便特别感谢 @MrDasOnX 在 PixVerse 上用 HappyHorse 完美创作了这件马主题作品!☺️
引用Mr Das@MrDasOnXFragments of glass collide and transform into a powerful cinematic horse, racing through light and shadow in a surreal void. Seedance 2.0 1080p on PixVerse | @PixVerse_ Prompt below 👇
Elon Musk@elonmuskAI 评分4343使用Grok Imagine制作的Grok Imagine教程。 这些都是AI生成的!

Simon Willison 博客AI 评分6060 iNaturalist 观察记录聚合浏览工具
作者在手机上利用 Claude Code 开发了 iNaturalist Sightings 工具,以可视化其两个 iNaturalist 账户的观察记录。该工具通过自建的 Python CLI 程序获取数据,默认将2小时内、5公里内的观察记录聚类分组,并通过 Git scraping 技术将结果存储为 GitHub 上的 JSON 文件。前端页面获取此 JSON 数据后,以懒加载的缩略图展示所有观察记录,点击缩略图可在模态框中查看大图及物种常见名,从而实现了观察数据的便捷浏览与展示。
OpenAI Developers@OpenAIDevsAI 评分6060
Claude:Blog精选AI 评分6464 零基础项目经理借助Claude Code,六周内独立开发并上线压力管理应用
毫无编程经验的项目经理Kostiantyn Vlasenko,借助Claude Code在72小时内独立开发出压力管理应用Respiro,并于六周后成功上线苹果应用商店。该应用能通过手机实时检测用户压力信号,并即时引导呼吸练习。其架构由15个以上并行运作的专用子智能体构成,涵盖设计、开发、审查等模块。Claude协助完成了从技术选型、代码重构到苹果账号注册、服务集成乃至界面调试等一系列复杂操作,甚至支持了后续的市场推广工作。
推荐理由:一个零编程经验的项目经理,用 Claude Code 六周做完压力管理 App 并上架。关键不在技术,而在「管人经验拿来管 AI agent」的思路,对非技术背景的创业者太有参考价值。
Greg Brockman@gdbAI 评分5151引用Simon Smith@_simonsmithI’ve never used an agent for the cliches of ordering food, grocery shopping, or booking travel. But I repeatedly use Computer Use in Codex to add things to my family calendar in Apple Calendar. Like, I gave it my son’s little league schedule for the next four months, and it added all the dates and diamonds. Then, screenshots of my daughter’s upcoming swim meet schedule, and it added all the times, events, and pools. Not revolutionary, but useful, and easily saved me a few hours of data entry.
Greg Brockman@gdbAI 评分5656引用ChatGPT@ChatGPTappPrompt: “Redraw the attached image in the most clumsy, scribbly, and utterly pathetic way possible. Use a white background, and make it look like it was drawn in MS Paint with a mouse. It should be vaguely similar but also not really, kind of matching but also off in a confusing, awkward way, with that low-quality pixel-by-pixel feel that really emphasizes how ridiculously bad it is. Actually, you know what, whatever, just draw it however you want.”
ChatGPT@ChatGPTapp精选AI 评分6363引用CHOI@arrakis_ai这个 GPT Image 2 提示词现在正疯狂刷屏。 “把附上的图片以最笨拙、最潦草、最可悲的方式重画一遍。用白色背景,让它看起来像是用鼠标在 MS Paint 里画的。它应该隐约相似但又不完全是,有点对得上但又以一种令人困惑、尴尬的方式偏掉,带着那种低质量的逐像素质感,真正强调出它有多荒唐地糟糕。其实,算了,随便吧,你想怎么画就怎么画。”
推荐理由:这 prompt 把 GPT Image 2 从「精美」逼成了「小学生涂鸦」,是近期最有网感的玩法,做内容的可以直接抄。
Claude:Blog精选AI 评分6464 构建企业级AI智能体:领先企业的转型指南
2025年数据显示,美国员工工作AI使用率已从2023年的20%升至40%。真正获得持续竞争优势的企业正将智能体AI深度嵌入工作流程,并将机构知识编码成可累积的系统。本指南以欧莱雅、Lyft和乐天为例,提出企业AI转型三大支柱:跨越“智能体思维鸿沟”、基于实际工作流程培训员工、在压缩信息密集型流程时保留人工判断,以及构建能创造收入的新产品能力。Claude Cowork平台为此提供了无需定制开发的团队级解决方案,并包含六个月的落地框架。
推荐理由:从 L'Oréal、Lyft 这些案例看,企业怎么把 AI 智能体扎进业务流程,比泛泛而谈的 AI 转型文章实在得多。
Suno@sunoAI 评分5656Genki 如何将一段 16 小节即兴演奏变成 2000 年代摇滚曲目

Claude:Blog精选AI 评分6464 Claude Code 构建经验:提示缓存的优化实践
Claude Code 团队分享了大规模优化提示缓存的核心策略。提示缓存基于前缀匹配工作,能显著降低延迟与成本,高命中率还能支持更宽松的订阅速率限制。关键实践包括:将静态系统提示和工具定义置于提示词前端以最大化共享前缀;通过消息而非修改提示词来传递更新信息,避免缓存失效;在会话中不切换模型、不增删工具,以维持缓存前缀稳定。此外,针对工具过多或“计划模式”等场景,可通过发送轻量存根或设计专用工具来规避缓存失效,从而在复杂功能中持续利用缓存优势。
推荐理由:Claude Code团队把提示缓存的坑和优化方法全盘托出,从提示顺序、工具加载到压缩技巧,每一个经验都是钱和延迟换来的,做agent的同行可以直接拿去做架构参考。
GitHub Blog精选AI 评分5959 GitHub Copilot CLI 入门指南:交互模式与非交互模式
GitHub Copilot CLI 提供了交互与非交互两种主要使用模式。交互模式允许用户通过对话式指令逐步构建和调整命令,适合探索性任务。非交互模式则支持直接输入完整指令快速执行,适用于自动化脚本或已知命令。理解这两种模式的区别能帮助开发者更高效地利用该工具,提升命令行工作效率。
推荐理由:如果你总在 Copilot CLI 的交互和非交互模式之间犯迷糊,这篇官方教程算是清晰的速查手册,初学者花五分钟就能搞清楚。
Greg Brockman@gdbAI 评分5656引用Andrew Ambrosino@ajambrosinoit's still experimental so we hide it a bit, but in the codex app, try: > what have i been doing very inefficiently on my computer (according to Chronicle). make some recommendations. be direct. tell me what i need to hear.
Anthropic:Claude.dev 开发者博客精选AI 评分7373 Claude Code 团队复盘构建经验:提示词缓存决定一切
Anthropic Claude Code 团队成员 Thariq Shihipar 发文分享该 Agent 围绕提示词缓存构建的经验:缓存按前缀逐字节匹配,前缀中任何改动都会使其后全部失效。
推荐理由:作者来自 Claude Code 团队,把缓存命中率当事故监控,给出的排序、fork 与工具加载模式可直接迁移到自己的 Agent 工程。
Cursor Blog精选AI 评分5555 持续优化智能体工具链:上下文演进与效果评估
Cursor团队以构建软件产品的方式迭代优化其智能体工具链,核心围绕上下文窗口的演进。早期模型能力有限,工具链依赖大量静态上下文和防护机制;随着模型能力提升,团队已转向提供更多动态上下文获取方式并移除限制。评估改进效果采用线上线下结合:通过CursorBench等基准测试进行标准化质量评估,同时进行线上A/B测试,使用“代码保留率”和用户反馈语义分析衡量真实场景表现。团队持续监控并修复工具调用错误,以应对日益复杂的工具链状态。
推荐理由:Cursor 这篇 agent harness 复盘是今年聊 agent 基础设施最好的文章之一,从上下文管理到多 agent 调度,全是实战迭代的血泪经验,做 agent 的团队该逐字读。
公众号:智谱AI 评分5858 智谱披露GLM-5系列Coding Agent推理“Scaling Pain”及修复
智谱披露GLM-5系列在超大规模Coding Agent推理中遭遇乱码、复读等异常,源于PD分离架构下KV Cache复用竞态及HiCache加载时序缺失两个底层Bug。修复后异常率降至万分之三以下,并推出KV Cache分层存储方案LayerSplit,Cache命中率90%时吞吐提升10%-132%,相关修复已提交至SGLang社区。
公众号:智谱AI 评分4747 Scaling Pain:智谱GLM超大规模Coding Agent推理实践
智谱GLM的超大规模Coding Agent推理实践,聚焦Scaling Pain(扩展痛点)及其应对经验。
Rohan Paul@rohanpaul_aiAI 评分5151非常不错的资源。 claude-code-best-practice 在 GitHub 上趋势热榜,拥有 49,500+ ⭐️

OpenAI DevelopersAI 评分5656 OpenAI Developers 插件上线 Codex、Claude Code 与 Cursor
OpenAI 推出 OpenAI Developers 插件,可在 Codex、Claude Code 或 Cursor 中安装使用。该插件用于设置 OpenAI API 访问、查阅最新 OpenAI 文档以及排查 OpenAI API 问题。
OpenAI Developers@OpenAIDevs精选AI 评分6363引用dominik kundel@dkundelhttp://x.com/i/article/2049579443216338944
推荐理由:OpenAI开发者官方转发了这篇‘直接构建web应用’的文章,说明这可能是他们认可的实践路径,对想用AI快速搭应用的开发者算是个值得收藏的参考。
Google AI Developers@googleaidevsAI 评分5555
Manus:Blog精选AI 评分6363 五大 Replit 替代方案实测:同一提示词对比 Manus AI、Lovable、Vercel v0、Base44 和 Hostinger Horizons
作者用同一个个人理财应用提示词实测 Replit 及五款替代工具。Lovable 约 5 分钟生成且最易上手,Vercel v0 输出设计质量最强,Base44 约 5 分钟交付最完整全栈功能,Manus 花 40 分钟、763 积分但成品精致,Hostinger Horizons 年付 6.99 美元/月起但构建多次出错、表现最弱;Replit 耗时约 16 分钟,结构扎实但视觉打磨不足。
推荐理由:作者用同一个理财应用提示词实测五款 AI 应用构建器,给出耗时、价格和真实短板,读者可据此按自身需求挑选工具。