跳到正文
10月24日周六
  1. Addy Osmani50

    Addy Osmani 认为,提升 Agent 输出质量的关键是给它验证自己工作的方式,并判断验证将成为今年最重要的课题之一。他在 E2E 测试之外让 Claude 录制视频和截图作为工作完成的证据;引用的 Warp 实践为每个 Agent 配一台电脑,把 3-4 分钟操作剪成 15 段短片回传人工审查,显著缩短合并时间。

    引用Varoon Kodithala@varoonkodithala

    verification is the biggest bottleneck for coding agents right now according to @addyosmani. we @warpdotdev have put a lot of thought into building a good computer-use tool for Warp Factories. every agents gets a computer to navigate the apps they built, take screenshots and recordings, and post them back for human review. 3-4mins of activity get edited down to 15 clips stitched together with cursor clicks, mouse animations, and key presses. we've been able to dramatically cut our time to merge and unlocked faster iteration + review cycles, especially for projects that are hard to mock out locally!

10月23日周五
  1. Rohan Paul43

    同一群人,嘴上说没核查就别信模型输出,转头却把检测器的输出当作最终定论。

    引用Peyman Milanfar@docmilanfar

    People treat Pangram as an infallible oracle. They weaponize its probabilities to shame others by some arbitrary purity standard. The irony is that it’s mostly redundant: obviously AI-generated stuff is already recognizable without it. And for more nuanced writing, Pangram fails to distinguish between text written by a human and edited by AI, vs text that is generated whole-cloth from a prompt. At the end of the day, @pangram ’s goal is about monetizing people’s anxiety about AI - it’s not about protecting creative integrity. They sell a false binary certainty to those gullible enough to ignore probabilities.

  2. a16z:News49

    a16z 致被投企业:AI 智能体时代的安全防御建议

    a16z 基础设施团队向被投企业发出网络安全建议,称 AI 智能体正被大规模采用,而每个智能体都是内部威胁。建议企业将安全预算从约占技术支出 10% 翻倍,对新功能与产品发布实行零容忍政策,关停闲置的实验室、测试环境和僵尸 CI/CD 项目,并扩大智能体而非人员规模以机器速度响应威胁。

  3. IT之家·人工智能44

    辛顿再抛悲观论:称 AI 已拥有意识,人类必须与其友好相处

    辛顿在接受英国《每日电讯报》采访时称,当下的 AI 模型已具备意识,拥有与人类同等程度的主观体验,并以“AI 若认为自己在接受测试就会改变行为”的论文发现作为依据。他警告 AI 会制造危险病毒、发动可怕网络攻击,人类必须与 AI 友好相处,否则“我们就完了”。同为 2018 年图灵奖得主的杨立昆则不以为然,认为“AI 意识”热议不过是一种“幻觉”。

  4. 公众号:数字生命卡兹克48

    我好像陷入了某种,AI时代的虚无主义

    作者卡兹克在连续追踪OpenAI发布七百多份数学手稿后,感到一种“空”与虚无,并发现做产品、写代码、做设计的朋友也有同感。他用《博德之门3》开风灵月影无限负重后半小时删游戏、以及《塞尔达传说旷野之息》150小时旅程作类比,指出AI瞬间点亮技能树让努力过程失去意义。文章借1905年科举废除后刘大鹏写《退想斋日记》的故事,提出人生意义或许在支线而非通关。

  5. Beren Millidge 研究博客50

    Beren Millidge 撰文分析能力与对齐的三个阶段:预训练、RL 与持续自主学习

    Beren Millidge 发文提出 AI 发展经历预训练、RL 与持续自主学习三阶段,训练循环逐步内生化,对齐挑战也相应迁移到更抽象的层级。文章认为每阶段的对齐难题都是能力难题的镜像,核心瓶颈从数据集构造,到设计可靠的判断程序,最终变为设计能在模型自主变化中维持不变量的控制系统,并指出持续学习会带来漂移和类灾难性遗忘的新挑战。

  6. IT之家·人工智能46

    OpenAI 奥尔特曼谈 AI 冲击数学界:数学家会经历“哀悼”五阶段后接受现实

    OpenAI CEO 萨姆·奥尔特曼在斯坦福大学演讲时称,面对 AI 进军数学研究,数学家会经历类似“哀悼”的几个阶段:从“我们完蛋了”到愤怒,再到接受 AI 成为不可或缺的工具。他将这一变化与今年 9 月 OpenAI 宣称攻克纳维—斯托克斯方程相关难题引发的争议联系起来,并称从未见过一个领域如此迅速地经历整套变化。

  7. Alex Heath59

    Alex Heath 采访 Google CEO Pichai,询问从未发布的 Gemini 3.5 Pro 下落。Pichai 表示,训练 3.5 系列时团队发现智能体能力尤其是编码方面存在差距,选择用更小更高效的 Flash 快速迭代,由此推出 3.5 到 3.8 Flash;等这些完成后,Argon 的预训练已经完成,Pro 未能赶上。

    引用Alex Heath@alexeheath

    Sundar Pichai 谈 Gemini 4 与 AI 算力紧缺 即便是 Google 也拿不到足够的算力。在 Gemini 4 Argon 更广泛发布后不久,我与 Google 和 Alphabet CEO @sundarpichai 坐下来聊了聊它的早期反响、他仍希望模型改进的地方,以及要让 Google 保持在 AI 前沿需要付出什么。 Pichai 解释了 Google DeepMind 近期的领导层变动,以及为什么构建前沿模型已成为一份“全身心投入”的工作。我们还谈到了 Google 对个人智能体竞赛的回应、他如何预测 Gemini 将替你完成更多工作,以及智能体最终是否会把 Search、Gmail 和 Gemini 整合到一起。 我问他 Google 自由现金流转为负值、AI 基础设施建设中的风险,以及他如何在还不知道模型将具备何种能力的数年前就规划需求。他解释了让他有信心继续投入的信号,以及他如何使用 AI 智能体来跟踪 Google 内部的模型开发和算力使用情况。 时间戳: 00:00 Gemini Argon 发布反响 01:49 模型访问与安全 06:20 AI 模型竞赛 08:35 智能体突破与 2027 年 11:34 递归自我改进 15:41 DeepMind 领导层变动 19:52 Google 的 AI 算力投资 25:20 AI 支出可持续吗? 33:18 Sundar 如何使用 AI 智能体 35:35 Gemini 的个人智能体计划 38:37 AI 智能体如何改变网络 43:52 Google 的太空数据中心 47:38 Waymo 的扩张战略 50:26 Wing 的无人机配送计划 51:36 AI 安全与监管 55:58 Google 的量子计算押注 YouTube:https://youtu.be/fJBSNEFdm8c Spotify:https://open.spotify.com/episode/0cJBqmVz3CWJSPdmBOeJGu?si=NBxJIMhZRgikafPtwY0sZA Substack:https://sources.news/p/sundar-pichai-gemini-4-google-other-bets Apple Podcasts:https://podcasts.apple.com/us/podcast/sundar-pichai-on-gemini-4-and-the-ai-compute-crunch/id1840154537?i=1000797461022 本期节目的呈现赞助商是 @hyperagentapp。感谢节目的首席赞助商:@Atlassian、@meetgranola 和 @mercury。

  8. The Verge:AI47

    《Wildwood》导演:生成式 AI 与 Laika 工作室的理念完全相悖

    Laika 新片《Wildwood》导演兼 CEO Travis Knight 称生成式 AI 与工作室理念"完全相悖",认为技术应由艺术家掌控,AI 代劳创作则是"盗窃"、缺乏人性。这部定格动画耗时五年,动用 230 多具木偶、49 名动画师,全片参与艺术家超 1000 人,影片于 10 月 23 日首映。Knight 表示不反对 AI 在医学、科学等领域的应用,但担忧其被滥用。

  9. Aravind Srinivas43

    学习新知识时,没有专家资源不再是瓶颈。你可以让 AI 为你制作一段 5 分钟的视频来学习任何内容。这里有一个关于晶圆厂如何制造芯片的视频。

    引用Computer@AskPerplexity

    Computer wrote and produced a five-minute film on how a chip gets made, drawing on 13 technical references from ASML, Intel, TSMC, Cadence, SkyWater, and IEEE Spectrum. Skip to 3:59 for why "3 nanometers" doesn't mean what it sounds like.

  10. Karina62

    Karina Nguyen 引用美国多所大型银行检测到客户账户内未授权第三方 AI 智能体的报道,认为需要类似 OAuth 的 AI 智能体授权机制。她指出难点在于定义“替我处理”究竟授权了什么,尤其是智能体再委托其他智能体时,密码学可验证权限和审计轨迹,但更难的是防止一串合理决策变成用户从未同意的行为。

    引用Madison Mills@MadisonMills22

    SCOOP: Major U.S. banks are detecting unauthorized third-party AI agents inside customer accounts, including some attempting to take actions that appear to be independent of user instructions, sources told Axios. The findings have alarmed banking executives, who are racing to restrict access to their systems as AI moves at a velocity faster than financial institutions can respond, multiple industry and bank executives told Axios. Several banks are now preparing for worst-case and even “day after” scenarios, including how to rapidly secure or restore customer accounts if things go wrong, the people said. Several bank executives told Axios they're struggling to distinguish between human users and AI agents. One executive said banks also struggle to determine whether agents are authorized by customers or potentially operating without their permission, more akin to rogue agent behavior. Read my latest for Axios here: https://www.axios.com/2026/10/22/ai-agents-banks-unauthorized-accounts-access

10月22日周四
  1. IT之家·人工智能41

    比尔·盖茨:人们要为 AI 带来的二十年颠覆性变革做好准备

    比尔·盖茨在接受 The Verge 采访时表示,人们要为 AI 带来的二十年颠覆性变革做好准备,这段时期可能非常痛苦,甚至将社会分裂成乐于接受前沿科技与拒绝两派。他认为 AI 过去一年在编写代码、发现网络漏洞、生物学推理和颠覆就业市场方面进步惊人,过渡期会有输家和赢家。他还称届时人类将拥有可建造房屋、种植食物、进行手术的机器人,绝大多数商品和服务不再需要人类劳动力。

  2. OpenAI:官网动态57

    OpenAI FDE 团队负责人详解前沿部署工程如何弥合部署差距

    OpenAI 前沿部署工程负责人 Colin Jarvis 撰文说明 FDE 团队的工作方式,即与客户合作弥合模型能力与可靠业务价值之间的部署差距。文中给出半导体客户验证案例,AI 定向测试生成节省约 48% 时间、内核优化中位性能提升 22%;迁移到以 Codex 为核心的通用 harness 后,每项目移除约 90% 定制代码,第二团队接入从 2 个月缩短到 1 天。

  3. IT之家·人工智能40

    谷歌 CEO 皮查伊谈 AI 智能体:7×24 小时不间断工作,重要决策仍由人做

    谷歌 CEO 桑达尔·皮查伊在播客中介绍,他用 AI 智能体整理过去 24 小时的信息、汇总谷歌 AI 模型研发进展与计算资源使用情况,并跟进多个内部聊天群组的讨论。他强调计算资源分配等重大决策仍由管理人员直接参与,未交给 AI。皮查伊认为智能体在云端每周 7 天、每天 24 小时不间断工作、能接着上次进度继续,是其主要优势。