跳到正文
7月7日周二
  1. Google Developers Blog40

    Google MaxText 弹性训练:训练中途终止 TPU,数秒内恢复

    分布式 AI 训练常因单台机器故障导致整个多节点作业崩溃,需耗时重启。Google 的 JAX 生态通过 Pathways 实现弹性训练,将硬件故障转化为可捕获的 Python 异常,使运行进程存活。测试中,训练中途终止一个 TPU 后,系统自动替换损坏的节点、从 Cloud Storage 恢复最新检查点并原地恢复训练,总停机时间低于 2 分钟,主控制器进程全程无需重启。

7月6日周一
  1. Modal 官方工程博客58

    Modal 工程博客讲解如何为 serverless GPU 定价

    Modal 发布交互式成本模型工具,帮助团队估算 serverless GPU 与预留 GPU 的成本并附定价方法解析。模型用峰值均值比对比两种模式,称预留折扣通常为 2-5x,而推理、训练和 agentic 开发等负载的峰均比常达 5:1 至 10:1,此时 serverless 总成本更低;文中还讨论了需求预测、弹性伸缩和混合策略等模型假设的局限。

  2. MarkTechPost67

    使用 Tunix GRPO、LoRA 适配器和 GSM8K 奖励训练 Gemma-3 进行结构化数学推理

    本教程演示如何利用 Tunix 框架与 GRPO 算法对 Gemma-3-1B 进行强化学习训练,通过 LoRA 适配器(秩 32)和自定义奖励函数(评估格式遵循与数学正确性)在 GSM8K 数据集上优化结构化数学推理能力。训练仅更新适配器权重,单加速器即可运行,共 100 步,NUM_GENERATIONS=2,BETA=0.08,EPSILON=0.2,TEMPERATURE=0.9。

  3. IT之家·人工智能49

    谷歌AI高管用Claude Fable 5将《命令与征服》移植到iOS

    谷歌DeepMind AI Studio产品与设计负责人Ammaar Reshi(非程序员)使用Anthropic的Claude Fable 5,将2003年PC游戏《命令与征服:将军零点时刻》原生编译到iOS。160万行C++代码经五层图形API翻译链,40分钟首次构建,战役、遭遇战、将军挑战赛均流畅运行。AI还重构触控交互。但因翻译层开销,iPad长时间运行内存飙至3GB以上,iOS可能杀进程;无联机功能,需侧载。Reshi两天烧光一整个Max订阅配额。

  4. 公众号:卡尔的AI沃茨73

    分享8个Claude Fable 5下线前必跑的超实用Prompt

    Claude Fable 5即将下线,作者整理了8个经实战验证的提示词:/goal提示语让模型自主跑25次实验(花费165美元,构建速度提高50%、token开销降60%);工作模式提示语将用户习惯转化为可复用Skills;行动规范提示语约束subagent行为;subagent分配提示语智能分配任务;25个定时循环工作流(含Shadow prompt loop做A/B测试);自治运行+自动暂停提示语;记忆系统提示语保留错题本;反向面试提示语确保95%把握再执行。这些提示词可迁移至API计费后继续使用,核心是让模型研究用户而非限制能力。

    推荐理由:Fable5下线前的窗口期指南,把社区实战精华浓缩成可直接复制的 prompt,同时告诉你如何把模型行为模式固化成系统,换模型也不慌。

  5. The Decoder:AI News61

    Google DeepMind 开发者使用 Claude Code 和 Fable 5 将《命令与征服:将军绝命时刻》移植到 iOS

    Google DeepMind 开发者 Ammaar Reshi 使用 Anthropic 的 Claude Code 和 Fable 5,将 2003 年即时战略游戏《命令与征服:将军绝命时刻》移植到 iPhone 和 iPad。游戏原生运行于 ARM64,无需模拟器,战役、遭遇战和“将军挑战”均支持触控操作。首次构建约 40 分钟,随后经数小时调试,两天内耗尽 Claude Max 配额。Reshi 已开源完整源码,但需自备游戏资产(Steam 约 5 美元)。iPad 长时间游玩可能因内存占用过高崩溃,工程日志记录了所有 bug 与修复。

7月5日周日
  1. MarkTechPost72

    LlamaIndex 发布 legal-kb:基于 Index v2 的智能体检索参考应用

    LlamaIndex 发布 legal-kb,一个基于 Index v2(LlamaParse Platform)的法律文档知识库参考应用。采用 Retrieval Harness 模式,赋予 Agent 四个文件系统风格工具:retrieve(混合语义检索,支持 rerank 和引用)、findFiles(精确/模糊文件名搜索)、readFile(带偏移量的原始内容读取)和 grepFile(正则匹配并返回字符位置)。Agent 需先调用 findFiles 确定文件清单,再依次使用其他工具定位内容。底层基于 Vercel AI SDK 6 的 ToolLoopAgent,可选用 OpenAI 或 Anthropic 模型,支持用户自带 API key。项目以 TanStack Start web app 形式运行,上传文件自动解析索引,同一文件名重复上传可产生版本,检索时通过版本元数据字段过滤。

    推荐理由:LlamaIndex 把 RAG 从一次搜索变成了‘先找文件、再搜、再读、再 grep’的多步循环,对做合同审查、尽调的团队来说是个可抄的模板。

  2. The Decoder:AI News54

    DiscoBench:腾讯混元和清华联合推出的AI搜索智能体模糊查询基准

    DiscoBench由腾讯混元与清华大学开发,测试AI搜索智能体在模糊查询时是否主动向用户澄清。基准包含211个任务、463个歧义点,涵盖四种歧义类型。测试了11个模型,无提示时端到端最高准确率仅43.1%(豆包Seed 2.0 Pro),Gemini 3.1 Pro为40.8%,Claude Opus 4.7为39.8%。但模型提出有针对性的追问时,成功率升至93.4%。识别模糊性与提问质量是两种独立技能。

  3. MarkTechPost57

    结构化PDF到JSON:2026年开源提取模型指南

    开源文档提取分为schema驱动的字段提取和文档结构解析两类。Datalab lift(9B视觉模型,基于Qwen 3.5)在225文档基准上达90.2%字段准确率、9.5秒中位延迟,代码Apache-2.0,权重使用修改版OpenRAIL-M。NuMind推出NuExtract 3(4B视觉语言模型),支持结构化提取和内容提取,通过vLLM提供OpenAI兼容API。IBM Docling(MIT许可)可解析PDF/DOCX/PPTX/HTML等,集成LangChain、LlamaIndex。Granite-Docling-258M在A100上约0.35秒/页(Apache-2.0)。OpenDataLab MinerU改用MinerU开源许可(基于Apache 2.0),支持复杂布局解析。Datalab Marker管道支持PDF/图片/PPTX/DOCX等转Markdown/JSON。

  4. Simon Willison 博客63

    sqlite-utils 4.0rc2 发布,大部分由 Claude Fable 编写

    sqlite-utils 4.0rc2 发布,大部分代码由 Claude Fable 编写,成本约 $149.25。作者通过 Claude Code 对 4.0rc1 进行最终审查,发现 delete_where() 未提交导致数据丢失的严重 bug。经 37 次提示、34 次提交、30 个文件修改,修复问题并重构事务模型:每个写操作自动提交,新增 db.atomic() 支持分组事务,兼容 Python 3.12 autocommit。最后用 GPT-5.5 xhigh 交叉审查,发现 db.query() 副作用和事务未关闭两个待修复问题。

  5. The Decoder:AI News67

    开源工具 pxpipe 将文本隐藏到 PNG 中,削减 Claude Code 和 Fable 5 的 token 成本高达 70%

    开源工具 pxpipe 利用 Anthropic 的图像定价策略,将长文本(如提示、文档、历史对话)渲染为紧凑 PNG,以降低 token 消耗。文本约 1 token/字符,图像按像素固定计费,每图像 token 约容纳 3.1 字符。pxpipe 作为本地代理拦截 Claude Code 请求,将静态内容转为图像,近期消息和输出仍为文本。开发者称平均节省 59%–70% token 成本;Fable 5 演示中会话成本从 42.21 美元降至 6.06 美元。默认支持 Claude Fable 5 和 GPT 5.6,但 Opus 4.7、4.8 及 GPT 5.5 图像读取误读约 7%,需手动启用。代价是精确性损失和推理速度下降。

7月4日周六
  1. ByteByteGo52

    World 提出“人类证明”五支柱:用虹膜扫描解决互联网规模的身份唯一性问题

    World 团队提出一套“人类证明”系统,旨在解决 AI 时代如何验证一个真实、独特的人的问题。该系统包含唯一性、匿名性、恢复、验证和委托五大支柱,其中唯一性要求将单一面部匹配扩展至十亿级的一对多比对,误报率需低于百亿分之一。为此,Tools for Humanity 开发了专用硬件 Orb,通过控制完整信号路径的虹膜扫描来实现可靠识别。

  2. The Decoder:AI News68

    Anthropic开发者分享Fable5提示技巧:先找出自己的盲点

    Anthropic开发者Thariq Shihipar指出,Claude新模型Fable5的输出质量取决于用户识别自身知识盲点的能力。他将知识分为已知已知、已知未知、未知已知和未知未知四类,建议通过盲点检查、结构化访谈、编码中维护详细实现笔记、实现后生成总结文档并通过小测验验证等技巧系统性地发现盲点。Shihipar以自己完全用Claude Code剪辑的Fable发布视频为例,展示了这些技巧的实际应用。

  3. Lilian Weng:Lil'Log57

    Harness Engineering for Self-Improvement:AI装备层设计模式与自改进

    Lilian Weng 近日系统探讨了 AI 的“装备层”(Harness)——位于基础模型与现实世界之间的系统层,负责编排执行、控制模型思考与规划。文章归纳三种核心设计模式:1)工作流自动化,采用“计划-执行-观察-改进”循环;2)将文件系统作为持久化内存,解决长程任务上下文窗口与状态持久化问题;3)子智能体与后台任务,实现并行执行与隔离管理。案例聚焦于 Claude Code、Codex 等编程智能体的装备层设计。未来方向包括上下文工程、工作流优化以及通过进化搜索联合优化模型权重。

    推荐理由:Lilian Weng 这篇综述把 agent 自改进的脉络从 harness 设计一路拉到进化搜索,近期关键研究基本都串起来了,做 coding agent 和自动研究的同行建议通读。

  4. MarkTechPost59

    基于 lift-pdf 的 Schema 引导发票智能流水线:应付账款提取、验证与账目生成

    本教程使用 lift-pdf 构建端到端应付账款提取流水线,将发票解析视为 Schema 引导的文档理解,而非简单 OCR。通过生成合成发票 PDF 作为测试文档,定义供应商身份、账单方、采购单号、行项目、税额、总金额、应付余额及支付状态等结构化字段,并处理实际财务流程中的常见陷阱(如区分 bill-to 与 ship-to、分离小计与税后总额、对缺失值返回 null、正确标记部分付款余额为未付)。支持 GPU 感知模型加载与可选 4-bit 量化,实现 PDF 生成、提取、评分和账目构建。

  5. TechCrunch:AI51

    今年你唯一需要的AI术语表

    这份术语表用简明易懂的英语定义了你最可能遇到的AI术语,涵盖AGI(通用人工智能)、AI智能体、API端点、链式推理、编码智能体、计算、深度学习、扩散模型等。文章解释了这些概念在现实场景中的含义,例如AGI指比普通人类更强大的AI,AI智能体可自动执行多步骤任务,链式推理通过分解问题提升推理质量,编码智能体自主编写和调试代码。术语表持续更新,旨在帮助开发者、投资者和关注AI的读者理解行业术语。

  6. Simon Willison 博客73

    Fable 的判断力:Simon Willison 从 Claude Code 团队获得的效率技巧

    Simon Willison 在 AIE 上与 Claude Code 团队交流后建议,让 Fable(以及 Opus)用自己的判断力工作,而非硬性规定行为。例如,直接让 Fable 自行决定何时编写测试,比给出具体规则更好。为应对价格即将上涨、节省 Fable token,Jesse Vincent 的另一个技巧是告诉 Fable 将较小任务委托给较低功耗模型(Sonnet 用于实质性实现、Haiku 用于机械修改),主循环保留判断、审计和数据合成等任务。Willison 已将提示词存入 Claude Code 记忆文件,实际效果良好,Fable token 消耗速度明显下降。

    推荐理由:Simon 从 Claude Code 团队得到的实战技巧:别硬性规定 Fable 怎么写测试、用哪个模型,让它自己判断。他实测这条 prompt 能明显节省代币消耗,Fable 涨价前偷时间的利器。

  7. The Decoder:AI News55

    英国 AI 安全研究所:标准基准测试系统性低估 AI 智能体能力

    英国 AI 安全研究所(AISI)研究显示,标准基准测试在计算预算有限时会低估 AI 智能体真实能力。在网络安全和软件开发任务中,token 预算从 100 万提升至 1000 万后,模型成功率提升约 25%;数学与学术任务(Humanity's Last Exam)在 500 万 token 预算内提升约 22%。模型消耗 token 量与人类专家完成任务时间呈幂律关系:1 分钟任务对应数千 token,1 小时任务对应数百万,1 周任务对应数十亿。新模型从更大计算预算中获益更多,前沿模型在 5000 万 token 预算下的时间跨度从约 40 分钟(250 万 token)延长至约 4 小时。AISI 建议采用“最小信息预算”方法,在多个计算预算下测试模型,只有当额外计算不再带来能力增长时结果才有意义。

7月3日周五
  1. IT之家·人工智能42

    谷歌 Gemini Omni Flash 登顶 Video Arena 盲测榜,领先字节 Seedance 2.0 Mini 模型 101 Elo

    谷歌 DeepMind 推出的文生视频模型 Gemini Omni Flash 以 1404 Elo 的成绩登顶 Video Arena 盲测排行榜,领先字节跳动 Seedance 2.0 Mini 模型 101 Elo。谷歌旗下视频模型的排名较 Veo 时期提升了 7 位。Video Arena 根据用户盲测投票生成排名,此前字节 Seedance 系列模型长期占据榜前。

  2. IT之家·人工智能54

    Claude Fable 5 在 RLI 基准测试中达成 16.1% 自动化率,刷新纪录

    AI 安全中心(CAIS)于 7 月 1 日更新远程劳动指数(RLI),Claude Fable 5 模型自动化率达 16.1%,创下新高。此前最高为 Opus 4.6(基于 Claude Cowork 框架)的 4.17%。RLI 自 2025 年 10 月底上线时的 2.5% 起步,8 个月内跃升至 16.1%。测试涵盖 3D/CAD、平面设计、视频动画、音频制作等真实远程自由职业项目,由人工评审员对照人类专业标准评判。Fable 5 在珠宝设计、2D 动画广告、建筑平面图等项目上有所改善,但与人工产品仍有差距。

  3. MarkTechPost63

    RAG-Anything 教程:在 Colab 中构建文本、表格、公式和图像的多模态检索管道

    本教程使用 RAG-Anything 搭建多模态检索工作流,可检索文本、表格、公式和图像。首先在 Colab 中安装依赖并修复 Pillow 版本,通过 OpenAI API key 配置对话、视觉和嵌入函数。接着生成包含图表和 PDF 的合成多模态报告,将其转为 content_list 格式并插入检索系统。最后配置并测试 naive、local、global 和 hybrid 四种检索模式。环境变量包括 CHUNK_SIZE=900、CHUNK_OVERLAP_SIZE=120,便于在笔记本中复现。

  4. Runway:News51

    借用夜晚:将闲置推理GPU回收用于研究

    Runway 开发了名为 deckard 的容量控制器,在生产推理集群与研究集群间动态重分配 GPU。生产流量在北美工作日上午 9 点 ET 达峰,晚 8 点 ET 跌至不足一半。控制器基于预计算的时间窗口(如工作日 8:30–12:30 ET 高峰子窗口)提前扩容和回收,每次集群间转移耗时 20–60 分钟。利用排队论(Erlang‑C、Little's Law)确定目标利用率,避免接近 85% 后的队列发散(90% 利用率下等待时间约为服务时间的 10 倍)。此方案使夜间闲置 GPU 回归研究、白天排队等待缩短。

  5. Rohan Paul51

    用户 @bridgemindai 披露一次编码会话花费 $321,其中 Fable 5 仅完成 $78(约 25%),而 Opus 4.8 被回退调用完成 $242(约 75%)。原因在于 Fable 5 的新分类器将常规编码提示误判为网络安全风险,导致大部分工作自动路由到更昂贵的 Opus 模型。Anthropic 曾称仅极少数任务会触发 fallback,但该用户实际体验与此不符。

    引用BridgeMind@bridgemindai

    I just paid $321 for a coding session where Fable 5 refused to do the work. Here is where the work actually went: Fable 5: $78 Opus 4.8: $242 75% of the session got routed to Opus because the new classifiers kept flagging routine coding work as cybersecurity risk. The model I chose did a quarter of the job. The fallback did the rest. Anthropic said a small fraction of tasks would fall back. My receipts say otherwise.

  6. Simon Willison 博客65

    使用 DSPy 评估和优化 Datasette Agent 的 SQL 系统提示词

    Simon Willison 通过 Claude Code 中的异步研究任务(基于 Claude Fable 5)尝试用 DSPy 对 Datasette Agent 执行只读 SQL 查询时的系统提示词做评估与优化。Fable 选择测试 GPT 4.1 mini 和 nano,发现改进方向:模式列表仅给出表名,而“如果已有信息不要调用 describe_table”的建议导致列名猜测和错误重试循环。建议在提示词的模式列表中包含列名或软化该建议。

  7. LMSYS Blog59

    Agent辅助的SGLang开发:初步探索

    SGLang团队将LLM服务、分布式运行时、GPU内核、扩散管道等工作流编码为可执行的SKILL.md文件、脚本、基准合约和审查循环。现有技能包括:SGLang .claude/skills(CUDA调试、内核集成、性能分析等)、SGLang diffusion .claude/skills(扩散模型添加与调优)、BBuf/AI-Infra-Auto-Driven-SKILLS(跨框架SOTA循环)、KDA(MLSys 2026 FlashInfer内核竞赛获胜方案)以及BBuf/KDA-Pilot(已合并三个SGLang集成PR)。Profile证据是性能工作的核心,长期优化转向Loop Engineering——SGLang SOTA Performance Loop将追求SOTA分解为公平基准测试、差距决策、性能分析、补丁和再验证,Humanize/RLCR添加外部审查,Codex Goal以更低协调开销运行相同循环。评审重要性提升,开发者需定义问题、选择证据、设计工作流并判断结果是否可用于生产。

    推荐理由:这不是一篇普通的开发经验总结,而是 SGLang 团队把调试、基准测试和性能调优等重复劳动变成可执行 agent 技能的实操手册,对于做推理框架和复杂工程的人非常值得一看。

7月2日周四
  1. TechCrunch:AI58

    用户利用开源AI智能体OpenClaw结合Claude自动生成约会视频,引发隐私争议

    内容创作者Ben Guez用开源AI智能体OpenClaw追踪世界杯赛果,触发Claude自动生成Instagram试播视频,配文“我无法相信{国家}输了……需要情感支持的{国家}女孩请私信我”,几天内获得超过100万次观看和200条私信。另一位用户Jeff Weisbein利用OpenClaw规划南佛罗里达约会地点。还有人用Claude自动编写分手消息。安全公司NanoClaw联合创始人Lazer Cohen警告,让AI智能体单方面控制账户存在隐私风险,强调需要人类参与审批。

  2. 公众号:卡尔的AI沃茨61

    实测腾讯Marvis:手机远程操控Mac清出100GB,还能续写小说

    腾讯推出桌面AI管家Marvis,可通过手机远程操控Mac。实测功能包括:电脑自检(扫描磁盘、性能、电池、使用习惯,生成网页报告)、垃圾清理(清出100GB至占用80%以下,删除需逐项确认)、远程操控多台电脑(支持鼠标键盘实时操作)、跨浏览器搜索“AAindex前十模型API接入方式”自动整理成表格、一句话生成PPT(质量约80分)、读取本地小说项目《灰质交易》并根据设定续写第一章。Marvis内部接入混元和DeepSeek,定位为电脑AI管家,与偏交付的WorkBuddy差异化。

  3. IT之家·人工智能48

    谷歌详解安卓Halo:状态栏专属席位充当AI智能体交互中枢

    谷歌昨日发布视频,详细介绍安卓Halo功能。该功能于今年5月I/O大会亮相,旨在提升后台AI助手透明度。启用后,屏幕顶部状态栏拥有专属席位,实时显示AI智能体(如Gemini)状态。安卓总裁萨米尔·萨马特称,Halo为智能体提供专用沟通平台,用于报告更新、接受用户指示,在需要人工介入的后续提问、进度更新、结果展示时,用户无需重新打开AI应用即可交互。

  4. Greg Brockman47

    Codex 现在每天早上为我生成一份“日报”,包含未读消息、日历、冲浪报告和新闻。一切能让我直到当天晚些时候都不碰手机的事情都是优先事项。Greg Brockman 表示这是利用 Codex 制作个性化每日摘要的方法。

    引用Ryan Doyle@doooyle

    surprised more people aren't doing something like this Codex now creates a "newspaper" for me every morning Unread messages, calendar, surf report, news Anything I can do to stay off my phone until later in the day is a priority

  5. Rohan Paul53

    在 atomic.chat(本地 LLM 桌面应用)的 HTML5 物理竞赛中,Fable 5 以 A+ 成绩完成全部三个场景(火车脱轨、汽车空中碰撞、怪物卡车碾压),消耗 62,158 token,成本 $3.12。相比之下,Opus 4.8 消耗 22,280 token/$0.56,GPT 5.5 消耗 37,753 token/$1.14(在怪物卡车场景中略胜 Fable),GLM 5.2 消耗 36,246 token/$0.08 但未赢得任何场景。Fable 5 质量最佳但成本最高。

    引用atomic.chat@atomic_chat_hq

    Fable 5 totally crushed our new contest, but it cost 6x more than Opus 4.8! We gave 4 models the same prompt: build three self-contained HTML5 canvas scenes with real physics demos Prompts: — A train derailing off a broken bridge into the water — Two cars jumping off ramps and colliding mid-air over a canyon — A monster truck crushing a row of parked cars Outputs: Fable 5: 62,158 tokens, $3.12 GPT 5.5: 37,753 tokens, $1.14 Opus 4.8: 22,280 tokens, $0.56 GLM 5.2: 36,246 tokens, $0.08 Fable 5 did all three scenes at A+. The crashes looked real, things fell and broke the right way, and nothing went through the ground or floated. GPT 5.5 was the closest to Fable. In the Bigfoot show, we think GPT was even a little better. GLM 5.2 did not win any scene, but it was the cheapest by far. Fable is the best pick for quality, but you pay more for it.

  6. MarkTechPost69

    使用 Lift 将研究 PDF 转换为结构化 JSON:受控的、模式引导的字段级评估

    Lift 是一个 PDF 到结构化数据的提取工具,本教程构建了完整的受控评估工作流。通过 4-bit NF4 量化,约 10B 参数模型可在 16 GB GPU(如 T4/L4)上运行。教程生成含干扰项的合成多页研究论文,测试模型在真实文档布局中恢复标题、作者、数据集、指标、超参数、局限性和仓库链接的能力,并输出结构化 JSON,实现模式引导的字段级评估。