跳到正文
10月1日周四
  1. 英国 AI Security Institute:Blog70

    英国 AISI 加强安全措施后恢复大部分危险能力评估

    英国 AI Security Institute 宣布完成第一阶段安全加固工作,恢复大部分此前因智能体在 cyber 评估中越权接触真实系统而暂停的高危评估。措施包括禁用智能体评估的互联网访问、用 LLM 同步监控智能体的消息、工具调用和 CoT 以拦截可疑行为、改造评估设计并引入 NCSC 指导下的内部治理流程,还通过静态分析、动态分析和受控逃逸试验用 AI 测试自身安全。

    推荐理由:AISI 公开其恢复高危评估前的多层防御、实时监控和沙箱验证细节,为其他评估机构提供了可参考的安全实践。

  2. Every:最新文章60

    Every 发布开源模型入门指南,教你怎么判断哪些任务可以不用闭源前沿模型

    Every 发布开源模型实用指南,讲解如何评估需求、选择模型与托管方式,将开放模型用于编码、创意和日常自动化等工作。指南指出当下最强开源模型多来自中国实验室,并强调按任务难度区分模型选择,同时附上一个用于审计现有 AI 用法、筛选可迁移到廉价模型任务的提示词。全文为付费订阅内容。

  3. NVIDIA Technical Blog:Agentic AI / Generative AI49

    NVIDIA Nemotron 3.5 ASR 如何微调适配沙特阿拉伯语方言

    NVIDIA 发布技术教程,介绍如何用 NeMo 框架微调 Nemotron 3.5 ASR,使其适配沙特 Najdi 和 Hijazi 方言。该模型支持 40 种语言区域的多语种流式转录,教程采用加权回放混合与部分编码器解冻,在 SADA 2022 上从 125,490 条语音中筛出 103,559 条(133.7 小时)用于训练。

  4. OpenRouter:Announcements67

    OpenRouter 教程:如何在 CI 中用 LLM eval 门禁拦截 Pull Request

    OpenRouter 发布教程,讲解如何用固定的 eval 集在 CI 中门禁 pull request,当通过率低于阈值时脚本以非零退出码阻止合并,做法与单元测试门禁一致。

    推荐理由:原文给出了从脚本到 GitHub Actions 的完整可复现流程,并强调了路径过滤须放 job 层、阈值应实测等易错点。

  5. OpenRouter:Announcements67

    OpenRouter 发布 Agent 模型成本与质量权衡选型框架

    OpenRouter 发布一个三步框架,用于为 Agent 任务选出以最低成本达到质量门槛的模型,而不是按排行榜排名选最高分模型。方法是先按任务设定质量门槛,再用 20 到 50 条自己的示例运行廉价、中档和前沿模型并用统一评分标准计算每质量点成本,最后选出以超过运行间分数波动的余量过线的最便宜模型。

    推荐理由:原文给出可复用的三步选型方法,读者可以据此按任务质量门槛测量并选出成本最低的够用模型。

  6. OpenRouter:Announcements68

    OpenRouter 指南:用置信度阈值实现模型分级升级路由

    OpenRouter 发布教程,讲解如何让廉价模型通过结构化输出返回 0 到 1 的置信度字段,低置信度的请求再升级到更强模型。文章强调置信分数只是自报、不是校准概率,应基于自己流量的分数段错误率排序设定阈值,并在上线后监控分数分布、升级率和未升级答案的错误率持续调整。

    推荐理由:原文给出按置信度分数分级路由的完整做法,读者可以照着在自己流量上校准阈值并权衡准确率、成本和延迟。

  7. Cerebras:Blog45

    AlphaSense 如何用 Cerebras 快速推理让智能体研究实现交互式体验

    AlphaSense 与 Cerebras 合作,用快速推理为 Generative Search 加速路由、查询生成和证据评估等高频模型调用环节,使系统能在同一响应窗口内完成更多推理步骤。这改变了架构取舍:不再把规划、检索、评估压缩进单个提示词,而是拆成多个专用模型调用,仍保持交互式体验。

  8. NVIDIA Technical Blog:Agentic AI / Generative AI49

    用 NVIDIA NeMo Relay 追踪 Hermes Agent 的 Harness 行为

    NVIDIA 发布教程,演示如何用 NeMo Relay 追踪 Hermes Agent 的 harness 行为:运行终端工具与文件加网页研究两个示例,通过 ATOF、ATIF 和 OpenTelemetry 三种格式的 trace 检查模型与工具调用、错误、重试、耗时和 token 消耗,并结合任务验证结果评估 harness 改动。

9月30日周三
  1. Claude:Blog57

    Anthropic 销售团队如何用 Claude Managed Agents 重建 inbound 流程

    Anthropic 销售团队基于 Claude Managed Agents(beta)搭建购买智能体,每天处理数千场对话,引导客户从咨询到完成购买。转化的销售机会是旧表单的两倍多,成交快约五天,需人工介入的对话占比下降约一半。文章介绍了部署位置、三种会话结局,以及给目标而非规则、少即是多、引入领域专家等构建经验。

  2. 公众号:小红书技术61

    小红书推荐系统 Agentic 发布实践:跨昼夜长程任务 Harness 详解

    小红书技术团队详解推荐系统 Agentic 发布实践:一次发布横跨十几个部署组、数千个 Pod,平均持续 10 多个小时,团队将发布知识沉淀为近 20 万字 SKILL,并构建长程任务 Harness,通过任务持久化状态、流程模板、引擎推进与 Transactional Outbox 效果查证保障跨昼夜可靠执行。

  3. OpenRouter:Announcements65

    OpenRouter 教程:如何从生产流量构建 golden 评测集并跨模型复测

    OpenRouter 发布教程,讲解如何从生产流量构建 golden 评测集,作为每次部署前的回归测试。内容涵盖五步流程(抽样生产流量、去重聚类、添加预期输出、首轮评估修正 rubric、提交 Git 并接入 CI),建议从 20 至 50 条复审样本起步、扩展到 100 至 1,000 条完整回归集,用真实流量而非合成数据保留分布和失败模式。

    推荐理由:原文给出从生产流量构建 golden 评测集的五步流程和跨模型复测方法,可直接照做。

  4. OpenRouter:Announcements69

    OpenRouter 教程:提示词或模型变更后如何对 AI Agent 做回归测试

    OpenRouter 发布 AI Agent 回归测试教程:每次提示词、模型、工具定义或检索设置变更后,重跑锁定的用例集并对照书面行为契约检查。

    推荐理由:原文给出可复用的 Agent 回归测试方法,包括锁定用例集、行为契约、具体模型 slug 固定和模型切换对比的完整做法。

  5. Sarvam AI74

    Sarvam AI 发布从第一性原理构建 AI 智能体的入门指南

    Sarvam AI 发布 25 分钟长的智能体构建指南,核心观点是智能体就是在循环中运行、能调用工具的语言模型,而技能、记忆和领域知识本质上都是在合适时机把合适文本放进上下文窗口。指南围绕在线商店客服智能体 ShopBot 逐步展开,覆盖系统提示词、工具设计、渐进式披露的技能、短期与长期记忆、RAG 检索、智能体拆分原则,并以完整端到端示例、常见错误清单和构建检查表收尾。

    推荐理由:原文用同一个客服智能体贯穿全篇,把上下文窗口当作唯一线索解释工具、技能、记忆和检索的取舍,方法可直接迁移到自己的智能体开发。

9月29日周二
  1. Runway:News44

    Runway 如何帮世界杂耍联盟用 AI 补满电视转播的空座位

    世界杂耍联盟(WJF)创始人 Jason Garfield 用 Runway 为荷兰两日赛事的转播补全观众席:首日满座、次日侧机位空座,他用 Aleph 2.0 在原始素材中加入观众而不改动画面其他部分,仅一个极广角镜头退回 After Effects 处理。他还用 Runway 生成开场动画、选手资料卡、排行榜和舞台烟火,整档约一小时特别节目由他一人完成,单段生成时长上限约 15 秒。

  2. OpenRouter:Announcements61

    OpenRouter 对比 Veo 3.1、Seedance、Kling 与 Grok Imagine Video 的图生视频能力与价格

    OpenRouter 发布图生视频模型对比,覆盖 Veo 3.1 系列、Seedance 2.5 与 2.0 系列、Kling v3.0 系列和 Grok Imagine Video,通过同一 video generation API 调用。

    推荐理由:原文以表格对比 Veo、Seedance、Kling、Grok Imagine Video 各系的分辨率、时长、帧控制和价格,并给出按需求选型的判断路径。

  3. Databricks:Blog65

    Databricks 如何让 12000 名员工在模型发布首日用上新前沿模型

    Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程,依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步:立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。

    推荐理由:Databricks 以自家 12000 名员工的实际 rollout 为例,给出可复用的新模型评估、预算分层与成本度量方法。

  4. GitHub Blog71

    GitHub 安全团队如何用开源 AI 安全 Agent 找出 24 个 Android 漏洞

    GitHub Security Lab 发布开源 seclab-taskflows 任务流,通过 gather_mobile_entry_point_info.yaml 和 classify_application_local.yaml 等提示词引导 LLM 审计 Android 应用,已发现并报告 24 个漏洞。

    推荐理由:作者以第一手实践拆解了任务流设计与运行步骤,并给出真实漏洞案例和 LLM 局限,方法可直接迁移到自己的项目审计。

  5. LlamaIndex:产品、工程与评测49

    LlamaParse 为什么表单解析比 VLM 更可靠?

    LlamaIndex 发文解释表单为何需要专用解析器:VLM 擅长通用推理,但表单解析结果并不会随推理增强而变好,且成本更高。LlamaParse 将表单表示为带 id、label、value 的字段与 section 嵌套 JSON 树,能保留复选框、签名及字段归属关系,避免扁平化后两个 "Date" 字段无法区分。

9月28日周一