Claude Code 会话如何最大化 token 价值
Claude Code 的 token 成本由模型、输入/输出 token 和提示缓存三因素决定,输出 token 价格约为输入的 5 倍。任务间运行 /clear 可减少无关上下文回传,降低 token 用量;会话中途切换模型或 effort 级别会破坏提示缓存,增加成本。
Claude Code 的 token 成本由模型、输入/输出 token 和提示缓存三因素决定,输出 token 价格约为输入的 5 倍。任务间运行 /clear 可减少无关上下文回传,降低 token 用量;会话中途切换模型或 effort 级别会破坏提示缓存,增加成本。
Anthropic 数据团队将 Claude Tag(公开测试版)作为 Slack 中数据分析智能体的基础,让非分析师也能用受治理的语义层提问并获得答案。团队分享了五项关键经验:将技能文件视为持续刷新的内容、为智能体配备预测/留存/漏斗等分析技能、接入内部知识索引而非仅连接数仓,并强调权限、数据新鲜度与可观测性的设计。
GPT-5.6 模型家族以更低成本实现前沿级智能体性能,并新增推理持久化、原生多智能体编排和程序化工具调用等 API 能力。在 ARC-AGI-3 上,启用保留推理和压缩后,Sol 得分从 13.3% 跃升至 38.3%,且输出 token 减少约 6 倍。Luna 在 BrowseComp 上以 84.04% 的得分追平 GPT-5.5(84.36%),成本从 $33.27 降至 $1.33。
推荐理由:最实际的改变在 API 原语,让同一模型在 ARC-AGI-3 上用约六分之一输出 token 拿到近三倍分数,影响开发者对推理成本和上下文架构的判断。
HeyGen 与 Google Cloud 合作,把其 180 亿参数以上的数字人视频扩散模型 Avatar IV 移植到八芯片 Trillium(v6e)TPU 主机上,相比首个可用版本提速 1.86 倍。
GitHub Secure Open Source Fund 第四期 50 个开源项目结合 AI 辅助工作流、维护者经验、GitHub 安全工具、专家指导与资金支持,系统性提升项目安全性。该计划展示了开源生态在 AI 时代应对安全挑战的实践路径,为维护者提供了可复用的安全加固模式。
蚂蚁百灵开发者博客介绍用 AReno 在 DGX Spark 上对 Ling-3.0-tiny 做井字棋 Agentic RL 后训练,验证一条基线评测、反馈定义、后训练、同环境复测的轻量任务适配路径。
推荐理由:原文给出完整的单机 Agentic RL 后训练路径和数据与 Reward 设计细节,开发者可按教程复现并迁移到自己的任务。
inclusionAI 在 GitHub 开源 Ling Cookbook,为 Ling 系列大语言模型提供部署与开发指南,目前仍在开发中。仓库包含已验证的硬件部署方案,如 Ling-3.0-flash 在单台 NVIDIA DGX Spark 上通过 SGLang(MXFP4/INT4)、vLLM(INT4)及 llama.cpp(GGUF)等框架的推理示例,并附有各方案的量化配置与部署文档。
OpenRouter 发布工具调用指南,展示如何用同一套代码在 Claude、GPT 和开源权重模型间切换,仅需更改模型字符串。指南涵盖定义工具、发送请求、读取 tool_calls 响应、执行函数并返回结果的完整循环,支持 OpenAI 兼容的 JSON schema,并提供 cURL、Python 和 JavaScript/TypeScript 示例。
AutoGPT 维护者发现,AI 智能体不会主动阅读文档,因此将指令放在 AGENTS.md 和技能文件中,并置于代码目录旁。他们通过强制 PR 模板、测试计划、CI 覆盖率门槛和 CLA 签名等门控机制,将智能体提交的 PR 从“不可用”转变为“可用但不符合路线图”。其中 CLA 签名因需浏览器和 OAuth 流程,被用作区分人类与智能体的“人类探测器”。
推荐理由:AutoGPT 的经验指出发现机制比文档完善度关键,agent 只读当前目录层级的指令,所以把 AGENTS.md 放在代码旁比继续写 wiki 更有效。
文章探讨从基础文本提取到生产级文档处理流水线的差距,指出传统 OCR 在复杂场景下准确率下降的问题。对比了规则型、API 型和基于 LLM 编排的 Agentic 解析方案(如 LlamaParse),强调输入质量(分辨率、倾斜度)、置信度阈值设定及直通率(STP)是决定生产环境准确性的关键因素。
Google 发布教程,讲解如何用 LiteRT 和 Gemma 在 Raspberry Pi 5 上实现完全离线的实时边缘 AI,并演示其驱动 Reachy Mini 机器人。
推荐理由:原文给出 LiteRT-LM 在树莓派 5 上运行 Gemma 的具体性能数字与 CPU/GPU 分工架构,还附完整部署命令,方法可直接迁移到自己的边缘部署。
Databricks 介绍如何让 Genie Agents 同时基于结构化数据与文档运行,且不牺牲治理能力。文章探讨了构建自动化简单业务任务的智能体虽易,但要在统一治理框架下融合两类数据源、确保安全合规地执行查询,仍需解决数据权限、血缘追踪与策略管控等关键问题。
推荐理由:教程提供了将 Genie Agent 同时接入结构化数据和文档的具体步骤,关键是把治理检查点嵌入数据源接入环节。
CMU 研究团队正式定义并系统评测了 forking-sequences 训练范式:它无需新增参数,在一次前向传播中跨所有预测创建日期编码解码整条序列。
Linear Agent 的价值在于完成未预设的工作,因此团队未为其编写固定路径,而是通过系统提示词、工具设计、产品模型、运行范围及底层自定义 harness 划定边界。系统提示词聚焦沟通风格、硬性边界与产品概念解释;工具设计将约束编码进参数,使无效操作难以执行。团队还引入系统技能作为组合单元,按需渐进加载,避免一次性暴露过多上下文。
Databricks 分享了规模化管控 AI 编程成本的方法,其智能体编程已带来可衡量的价值提升。文章重点探讨了在团队规模扩大时,如何通过成本追踪、工具选型与使用策略,在维持代码质量与开发效率的同时,控制 AI 编程工具带来的支出增长。
OpenRouter 提供 6 项控制措施来管理团队 AI 支出,涵盖预算、每密钥限额、模型/供应商白名单、Guardrails、工作区预算和 Activity 仪表盘。
OpenRouter 推出五项团队 AI 支出控制功能:组织共享信用池、预设模型范围、每密钥限额、护栏(成员预算和模型白名单)及活动仪表盘。本指南按顺序介绍设置流程,包括创建组织、配置预设、通过 Management API 密钥设置每日/每周/每月限额。组织默认支持最多 10 名成员,标准按需付费账户购买信用时收取 5.5% 平台费。
推荐理由:这份教程把团队支出控制拆解为可操作的五个步骤,并对限额、护栏的叠加逻辑给出了清晰定义,可缓解团队协作中支出归属与模型权限的常见混乱。
Tool calling 是 AI 模型调用外部工具和 API 的能力,让模型能突破自身局限、执行实时数据获取或具体操作。该机制通常涉及模型生成结构化请求、系统调度执行并将结果返回模型,从而完成更复杂的任务。Databricks 从概念、工作原理到应用场景对这一能力进行了系统说明。
智能体工作流正成为企业从单次提示词交互迈向多步骤自动化任务的关键范式。这类工作流让 AI 系统能够自主规划、调用工具并迭代执行复杂任务,而非仅生成单一回答。Databricks 从架构、应用场景与工程实践角度解析了智能体工作流的定义与落地路径。
GitHub Copilot 应用中的斜杠命令可帮助管理会话、导航项目和自定义 Copilot 工作流。与 CLI 版不同,应用版命令更侧重工作流,如 /plan 用于编码前规划、/spar 用于挑战方案假设、/autopilot 用于自动执行实现。/clear 和 /model 在 CLI 和应用中均可用。
推荐理由:文章不是罗列命令,而是提供了可复用的场景模板,为 /plan、/spar 等命令配好了规划、评审和实现的具体提示词,省去从零组织任务描述的时间。
LangChain 官方对比了 Deep Agents、LangChain 与 LangGraph 三种构建智能体的不同路径。文章梳理了三个开源框架的核心差异,并给出各自适用场景:LangChain 适合快速上手,LangGraph 适合精细控制,Deep Agents 则面向更自主的智能体设计。
LangChain 基于 Deep Agents 为 Kubernetes 部署构建了自主 SRE 智能体,可自动执行运维任务,并对变更操作引入人工审批机制。该智能体使用 LangSmith 进行全链路追踪,并通过 evals 评估系统性能,兼顾自动化效率与运维安全。
Claude 发布企业版成本控制指南,帮助 IT 管理员通过访问门控、模型权限、硬性支出上限等工具管理 Claude Enterprise 支出。指南建议以成本/成果而非 token 消耗衡量价值,并介绍了用量分析、数据导出、Analytics API 及分析聊天等监控功能。API 用户可通过提示词缓存(缓存命中成本为正常输入费率 10%)、批处理(半价)和 effort 参数等杠杆降低成本。
GitHub 法务团队的非工程师成员(律师、项目经理、业务人员)用 Copilot CLI 构建了内部工具。产品法律顾问 Ngandu Kasuku 创建了合同起草工具 terms-ai,将审查和起草时间缩短约一半;在线安全法律顾问 Jesse Geraci 构建了法律工作流桌面应用,涵盖合同审查、NDA 分类、风险评估等。工具核心指令以纯语言 Markdown 编写,便于非技术人员定制。
LangChain 官方博客介绍如何用 LangSmith 评估语音智能体,覆盖执行、结果与来电者体验三个层面。评估手段包括 LangSmith traces、代码评估器、LLM judges 和人工审查,帮助开发者系统化验证语音智能体的实际表现。
GitHub 介绍用堆叠式 Pull Request(stacked PR)解决 AI 编码智能体生成巨型代码难以审查的问题。通过将 1,000+ 行的大 diff 按数据、API、接线、UI 拆成 L1-L4 四个独立分层,每层可分配不同审查者。
推荐理由:详细演示了用 GitHub 堆叠 PR 将 AI 生成的大 PR 拆分为逻辑层,配合 gh-stack CLI 和技能,提供可立即采用的审查优化方案。
LangChain 梳理了 Lyft、Vodafone 和 LATAM Airlines 将客户体验(CX)智能体投入生产的实践。三家企业的共同经验是:先用小范围场景验证价值,再逐步扩展;同时需重视智能体与现有客服系统的集成、人工接管机制以及持续评估。文章还总结了避免过度承诺、明确智能体能力边界等关键教训。
SGL-Diffusion 通过三项 PR 将 AR+DiT 混合生成从单体架构重构为异构分布式系统。用 SRT 替换 HF 后端并解耦 AR 与 DiT,使 AR 阶段在 4 卡 TP 下延迟从 122.8 秒降至 26.1 秒(-78.8%),端到端延迟降低 77.2%。动态批处理与提前返回机制提升并发吞吐,DiT 采用每设备单去噪器的 SP 并行,并通过缓冲 AR 结果实现流水线重叠。
Databricks 为 dbt 管线引入基于 Query Tags 的细粒度用量归因,可精确追踪每个模型或任务的算力消耗。该方案帮助团队定位成本翻倍的具体模型,将仓库账单与 dbt 模型一一对应,从而优化资源分配与成本控制。
Cloudflare 自建 Codex 知识库,将工程标准以 RFC 格式结构化,供 AI 智能体在代码审查、设计审查等环节实时调用。过去四个月,AI 代码审查器标记近 23 万条违规并阻止约 1.6 万次合并;规范审查智能体在实现前评估了近 600 份技术设计。Codex 已收录 60 余份 RFC,采用 SHOULD/MUST 分级,仅强制状态条款可阻止合并。
Meta 通过内核、精度、并行、网络与内存的协同设计,将广告推荐基础模型 GEM 的端到端训练效率翻倍至 20–25% MFU,并在 12 个月内将训练 FLOPs 扩展 4 倍。
实时 AI 智能体依赖长连接、有状态的双向流,打破了传统请求-响应式负载均衡范式。开发者需在运行时内实现应用级会话跟踪,以准确测量活跃对话的并发工作负载。将精确的会话计数与标准 CPU 利用率指标一同输入混合路由算法,可有效分配有状态的 AI 流量并防止单个后端瓶颈。
Stripe 基于 LangChain、LangGraph 和 Deep Agents 构建了公司级 AI 智能体 Kai,约 4 周内用户数达到 5,000 人。该智能体从搭建到上线仅耗时一周,展示了 Deep Agents 框架在企业内部快速部署 AI 助手的可行性。
Cloudflare 在 Workers AI 上通过三项技术优化 Kimi K2.6 与 GLM 5.2 的推理效率:将 KV 缓存从 BF16 降至 FP8。
LlamaIndex 发布长文分析 LLM OCR 的核心风险:视觉证据弱时语言先验主导,模型会把读不清的数字替换成流畅但错误的值,或静默截断长表格,且没有逐字符置信度可供设阈值。
推荐理由:原文拆解了 LLM OCR 的静默失败模式,并给出字段级溯源、验证循环等可落地的系统设计方法。
AI 智能体是在大语言模型循环中自主运行的系统,通过反复调用模型、观察结果并调整下一步行动来完成复杂任务。工作流(workflow)则是对固定步骤的预编排,两者互补:工作流保证确定性,智能体提供灵活性。理解二者差异是构建可靠、可投入生产的自主系统的关键。
Together AI 发布 Kimi K3 开发者指南。K3 是月之暗面(Moonshot AI)2.8 万亿参数的开放权重模型,首个 3 万亿参数级的开源模型,Together 直接与 Moonshot 团队合作提供服务。
推荐理由:指南给出 KDA、Stable LatentMoE 架构要点和 API 用法、缓存与计费细节,开发者可据此判断如何在 Together 上落地这个模型。
GitHub 为代码搜索引擎 Blackbird 优化大小写折叠性能,该引擎索引超 1.8 亿个仓库、480TB 源码。团队发现移除提前退出分支比保留优化更快,最终在 Apple M4 上实现超 45 GiB/s 吞吐,接近内存带宽。结果已开源为 Rust crate `casefold`,仅实现简单(1 对 1)折叠,与 ripgrep 等工具保持一致。
Skyscanner 品牌团队在美加品牌广告拍摄中,使用 Runway 辅助艺术指导,在开拍前锁定镜头构图、灯光方向和演员站位,并在片场实时验证拍摄内容。团队将 Runway 生成的场景、道具和构图直接放入最终广告版式(OOH、Meta 广告等),将原本需要两周的构思过程压缩为可执行的预可视化方案,使拍摄现场反馈闭环从后期提前到实时。