跳到正文
2025年5月14日周三
  1. LangChain:Blog65

    LangChain 发布 LangGraph Platform 正式版,面向长时运行有状态智能体的部署与管理

    LangChain 宣布 LangGraph Platform 正式发布(GA),这是用于部署和扩展长时运行、有状态智能体的基础设施与管理层,自去年 6 月 beta 以来已有近 400 家公司用于生产环境。

    推荐理由:官方宣布 LangGraph Platform 正式可用,围绕长时运行、有状态智能体的部署痛点给出了具体能力与多种部署选项。

2025年5月7日周三
  1. OpenRouter:Announcements50

    新服务商上线:Cerebras登场

    专为速度与规模构建的AI服务商Cerebras正式推出。其架构从晶圆级到token处理全程优化,旨在消除内存瓶颈,从而显著提升计算效率与模型训练速度。这一突破使处理超大规模模型成为可能,为AI开发提供新的基础设施选择。

2025年5月6日周二
2025年5月5日周一
  1. LMSYS Blog

    技术博客:在96块H100 GPU上通过PD分离与大规模专家并行部署DeepSeek

    SGLang团队开源了基于96块H100 GPU(12节点×8卡)的DeepSeek推理系统实现,采用PD分离(Prefill-Decode Disaggregation)与大规模专家并行(EP)架构,集成DeepEP、DeepGEMM和EPLB完整功能,在2000 token输入序列下达成每节点每秒52.3k输入token和22.3k输出token的吞吐量。该方案较传统张量并行提升输出吞吐量5倍,将成本压缩至每百万输出token仅0.20美元,约为官方API价格的五分之一,是首个在开源实现中接近官方DeepSeek报告性能的大规模部署方案。

2025年4月30日周三
2025年4月28日周一
  1. OpenRouter:Announcements41

    隐私条款明晰化、新增模型提供商、OAuth升级,以及Gemini获得并行工具支持

    本次更新为开发者带来多项体验优化。隐私条款得到进一步明确,增强了数据处理的透明度。平台新增了多个第三方模型提供商,扩展了开发者的选择范围。OAuth 认证服务完成升级,提升了安全性与集成便捷性。此外,Google 的 Gemini 模型现已支持并行工具调用功能,允许模型同时执行多项操作,有望提高复杂任务的处理效率。这些改进共同致力于提升开发者的工作效率与构建体验。

2025年4月23日周三
  1. OpenRouter:Announcements52

    Universal PDF Support

    OpenRouter现已为平台上的所有模型提供PDF文件处理支持。这项通用功能意味着用户在使用任何模型时,都能直接上传和分析PDF文档。此举消除了以往特定模型才能处理PDF的限制,显著扩展了工具的应用场景,便于用户进行文档总结、信息提取或内容问答等一系列任务。

2025年4月18日周五
  1. OpenRouter:Announcements41

    更智能的图表、内联SVG与实时用量统计

    OpenRouter平台上线三项核心更新。分析功能推出更智能的交互式图表,支持深入钻取数据。预览体验得到优化,现已支持内联SVG渲染,展示更流畅。平台新增实时用量统计功能,为用户提供即时的成本消耗可见性,便于监控API使用开销。这些改进旨在提升用户在模型使用分析与费用管理方面的操作体验。

2025年4月10日周四
2025年4月8日周二
  1. Linear:Now46

    AI 时代的设计:从确定性界面到“工作台”范式

    传统确定性 UI 正被 LLM 驱动的动态交互打破,聊天界面虽成 AI 原生标准,但提示词输入难以精确控制结果。Linear 提出“工作台”隐喻:用结构化传统 UI 为 AI 功能提供上下文环境,而非用通用聊天框替代一切。未来智能体工作流中,设计仍需可视化地让人类保持监督与审批。

2025年3月25日周二
  1. OpenRouter:Announcements50

    告别空转:为所有模型推出 Zero Token Insurance,不再为无效AI响应付费

    Anthropic为其AI模型服务推出“零令牌保险”功能,覆盖包括Claude 3和GPT-4在内的所有主流模型。该功能可自动检测并补偿完全无意义、空白或严重错误的响应,用户无需为这些无效输出消耗令牌额度。系统通过实时分析响应结构与语义完整性实现自动判责,补偿令牌将在24小时内返还至账户。早期测试显示,该机制使GPT-4的无效响应计费率降低67%,Claude 3系列模型的空转计费投诉下降82%。

2025年3月20日周四
2025年3月17日周一
  1. Answer.AI 官方研发博客45

    Answer.AI 研究员 Sarah Pan 分享从零学习 GPU 编程的经历

    Answer.AI 官方博客发布文章,介绍其年轻研究员 Sarah Pan(MIT 大一学生)的个人经历。她分享了如何从高中开始通过 fast.ai 入门 AI,并在 NeurIPS 发表论文的过程。重点介绍了她与团队开发的 WebGPU Puzzles 项目,旨在降低 GPU 编程的学习门槛,让开发者能在浏览器中直接练习 WebGPU 和 gpu.cpp 的基础知识。

2025年3月16日周日
  1. LangChain:Blog60

    LangChain 官方教程:AI Agent 提速的实用方法

    LangChain 博客介绍开发者加速 AI Agent 的常见做法:先用 LangSmith 诊断延迟来源,再通过流式输出和后台运行降低用户感知延迟。其他要点包括减少 LLM 调用次数(如用 LangGraph 精确控制智能体通信)、换更快模型、削减输入上下文以及并行执行 LLM 调用。

    推荐理由:原文把 Agent 提速拆成诊断瓶颈、减少与并行 LLM 调用、优化感知延迟等具体路径,方法可直接迁移到自己的项目。

2025年3月6日周四
  1. OpenRouter:Announcements50

    Deep Research 与众多新模型上线

    首个深度研究工具已通过 OpenRouter API 正式上线,其 API 响应中直接提供完整的引用来源。该工具标志着 OpenRouter 平台功能的重大扩展,为用户提供了集成化的深度研究能力。同时,平台还发布了多款新模型,进一步丰富了其模型生态,可供开发者和研究者直接调用。

2025年2月12日周三
  1. OpenRouter:Announcements47

    推出 Nitro 与 Floor Price 快捷筛选功能

    OpenRouter 新上线了 Nitro 和 Floor Price 两项快捷排序功能,为用户提供更精细的模型提供商选择控制。Nitro 快捷选项能一键筛选出响应速度最快的模型,而 Floor Price 选项则可立即按最低价格对所有可用模型进行排序。这两项功能旨在帮助用户根据实时需求,在速度与成本之间快速做出权衡,优化使用体验。

2025年2月9日周日
  1. Answer.AI 官方研发博客45

    Answer.AI 发布 MonsterUI:为 FastHTML 提供纯 Python 美观组件库

    Answer.AI 团队推出 MonsterUI,这是一个基于 FastHTML 的 UI 组件库。它整合了 FrankenUI、Tailwind CSS 等现代设计资源,允许开发者仅使用 Python 代码构建具有响应式布局、主题切换和语义化样式的 Web 界面,无需编写 CSS 或处理复杂的类名管理。该工具旨在简化 AI 应用原型开发中的前端样式工作,目前已在生产环境中测试。

2025年2月4日周二
2025年1月24日周五
  1. OpenRouter:Announcements49

    Reasoning Tokens for Thinking Models

    研究人员为大型语言模型引入了“推理令牌”概念,这是一种特殊的元数据标记,用于显式标注模型在生成最终答案前的内部推理步骤。该机制允许模型将思考过程分解为多个中间步骤,并以结构化令牌形式输出,使人类能够追溯和分析其逻辑链条。这种方法提升了模型决策的透明度和可解释性,有助于调试复杂任务中的错误,并为评估推理质量提供了新工具。目前已在部分开源模型架构中实现测试。

2025年1月23日周四
  1. OpenRouter:Announcements47

    通过 API 引入网络搜索功能

    Anthropic 宣布通过 API 为其 AI 模型 Claude 提供联网搜索功能。该功能允许开发者在 API 请求中直接集成实时网络搜索结果,确保模型能获取并基于最新信息进行回应。此举旨在提升 Claude 回答的时效性与准确性,使其能够处理需要当前数据支持的查询,例如新闻、股价或体育比分。用户需在 API 调用中显式启用此搜索选项。

  2. OpenRouter:Announcements45

    Standardized finish reasons

    模型现在开始返回标准化的完成原因值,并与OpenAI风格的惯例保持一致。这一变化意味着不同模型(如GPT、Claude、LLaMA)的输出终止原因将采用统一的分类和表述方式,例如“stop”、“length”或“content_filter”,从而提升API调用的可预测性和跨平台兼容性。开发者无需再为不同模型适配各异的终止逻辑,简化了集成与调试流程。

  3. LangChain:Blog60

    LangSmith 推出 Pytest 和 Vitest/Jest 评测集成(beta)

    LangChain 发布 LangSmith 的 Pytest 与 Vitest/Jest 集成,随 Python 和 TypeScript SDK v0.3.0 以 beta 提供,让开发者沿用现有测试框架运行 LLM 评测并记录到 LangSmith。

    推荐理由:原文介绍了将 LLM 评测接入 Pytest/Vitest 的具体用法和与 evaluate() 的差异,开发者可直接对照迁移现有测试流程。

2025年1月20日周一
2025年1月1日周三
2024年12月24日周二
  1. OpenRouter:Announcements41

    Holiday Launches: Web Search & Price Cuts

    OpenRouter Chatroom 现已免费提供网络搜索功能。此次更新是假日季发布的一部分,主要包含两项内容:一是开放了网络搜索能力,二是进行了价格下调。用户现在可以在聊天室中直接进行联网查询,而无需额外付费。

2024年12月20日周五
  1. OpenRouter:Announcements45

    Bring Your Own API Keys

    OpenRouter推出新功能,允许用户绑定自己的提供商API密钥或云服务积分。此举将用户的现有额度与OpenRouter平台相结合,统一管理不同模型(如GPT、Claude、LLaMA)的使用。用户可以在一个界面下集中监控和分析所有API调用情况,优化资源分配与成本控制。

2024年12月13日周五
  1. Answer.AI 官方研发博客45

    Answer.AI 推出 nbsanity:一键将 GitHub Notebook 转为精美网页

    Answer.AI 发布免费服务 nbsanity,允许用户通过修改 URL 或使用书签,将 GitHub 上的公开 Jupyter Notebook 快速渲染为基于 Quarto 的精美静态网页。该工具无需配置或部署,支持代码折叠、隐藏单元格等自定义展示功能,旨在降低技术写作分享门槛。它仅负责渲染而不执行代码,并保留历史版本链接。