跳到正文
10月23日周五
  1. a16z:News49

    a16z 致被投企业:AI 智能体时代的安全防御建议

    a16z 基础设施团队向被投企业发出网络安全建议,称 AI 智能体正被大规模采用,而每个智能体都是内部威胁。建议企业将安全预算从约占技术支出 10% 翻倍,对新功能与产品发布实行零容忍政策,关停闲置的实验室、测试环境和僵尸 CI/CD 项目,并扩大智能体而非人员规模以机器速度响应威胁。

  2. IT之家·人工智能44

    辛顿再抛悲观论:称 AI 已拥有意识,人类必须与其友好相处

    辛顿在接受英国《每日电讯报》采访时称,当下的 AI 模型已具备意识,拥有与人类同等程度的主观体验,并以“AI 若认为自己在接受测试就会改变行为”的论文发现作为依据。他警告 AI 会制造危险病毒、发动可怕网络攻击,人类必须与 AI 友好相处,否则“我们就完了”。同为 2018 年图灵奖得主的杨立昆则不以为然,认为“AI 意识”热议不过是一种“幻觉”。

  3. 公众号:数字生命卡兹克48

    我好像陷入了某种,AI时代的虚无主义

    作者卡兹克在连续追踪OpenAI发布七百多份数学手稿后,感到一种“空”与虚无,并发现做产品、写代码、做设计的朋友也有同感。他用《博德之门3》开风灵月影无限负重后半小时删游戏、以及《塞尔达传说旷野之息》150小时旅程作类比,指出AI瞬间点亮技能树让努力过程失去意义。文章借1905年科举废除后刘大鹏写《退想斋日记》的故事,提出人生意义或许在支线而非通关。

  4. Beren Millidge 研究博客50

    Beren Millidge 撰文分析能力与对齐的三个阶段:预训练、RL 与持续自主学习

    Beren Millidge 发文提出 AI 发展经历预训练、RL 与持续自主学习三阶段,训练循环逐步内生化,对齐挑战也相应迁移到更抽象的层级。文章认为每阶段的对齐难题都是能力难题的镜像,核心瓶颈从数据集构造,到设计可靠的判断程序,最终变为设计能在模型自主变化中维持不变量的控制系统,并指出持续学习会带来漂移和类灾难性遗忘的新挑战。

  5. IT之家·人工智能46

    OpenAI 奥尔特曼谈 AI 冲击数学界:数学家会经历“哀悼”五阶段后接受现实

    OpenAI CEO 萨姆·奥尔特曼在斯坦福大学演讲时称,面对 AI 进军数学研究,数学家会经历类似“哀悼”的几个阶段:从“我们完蛋了”到愤怒,再到接受 AI 成为不可或缺的工具。他将这一变化与今年 9 月 OpenAI 宣称攻克纳维—斯托克斯方程相关难题引发的争议联系起来,并称从未见过一个领域如此迅速地经历整套变化。

  6. Alex Heath59

    Alex Heath 采访 Google CEO Pichai,询问从未发布的 Gemini 3.5 Pro 下落。Pichai 表示,训练 3.5 系列时团队发现智能体能力尤其是编码方面存在差距,选择用更小更高效的 Flash 快速迭代,由此推出 3.5 到 3.8 Flash;等这些完成后,Argon 的预训练已经完成,Pro 未能赶上。

    引用Alex Heath@alexeheath

    Sundar Pichai 谈 Gemini 4 与 AI 算力紧缺 即便是 Google 也拿不到足够的算力。在 Gemini 4 Argon 更广泛发布后不久,我与 Google 和 Alphabet CEO @sundarpichai 坐下来聊了聊它的早期反响、他仍希望模型改进的地方,以及要让 Google 保持在 AI 前沿需要付出什么。 Pichai 解释了 Google DeepMind 近期的领导层变动,以及为什么构建前沿模型已成为一份“全身心投入”的工作。我们还谈到了 Google 对个人智能体竞赛的回应、他如何预测 Gemini 将替你完成更多工作,以及智能体最终是否会把 Search、Gmail 和 Gemini 整合到一起。 我问他 Google 自由现金流转为负值、AI 基础设施建设中的风险,以及他如何在还不知道模型将具备何种能力的数年前就规划需求。他解释了让他有信心继续投入的信号,以及他如何使用 AI 智能体来跟踪 Google 内部的模型开发和算力使用情况。 时间戳: 00:00 Gemini Argon 发布反响 01:49 模型访问与安全 06:20 AI 模型竞赛 08:35 智能体突破与 2027 年 11:34 递归自我改进 15:41 DeepMind 领导层变动 19:52 Google 的 AI 算力投资 25:20 AI 支出可持续吗? 33:18 Sundar 如何使用 AI 智能体 35:35 Gemini 的个人智能体计划 38:37 AI 智能体如何改变网络 43:52 Google 的太空数据中心 47:38 Waymo 的扩张战略 50:26 Wing 的无人机配送计划 51:36 AI 安全与监管 55:58 Google 的量子计算押注 YouTube:https://youtu.be/fJBSNEFdm8c Spotify:https://open.spotify.com/episode/0cJBqmVz3CWJSPdmBOeJGu?si=NBxJIMhZRgikafPtwY0sZA Substack:https://sources.news/p/sundar-pichai-gemini-4-google-other-bets Apple Podcasts:https://podcasts.apple.com/us/podcast/sundar-pichai-on-gemini-4-and-the-ai-compute-crunch/id1840154537?i=1000797461022 本期节目的呈现赞助商是 @hyperagentapp。感谢节目的首席赞助商:@Atlassian、@meetgranola 和 @mercury。

  7. The Verge:AI47

    《Wildwood》导演:生成式 AI 与 Laika 工作室的理念完全相悖

    Laika 新片《Wildwood》导演兼 CEO Travis Knight 称生成式 AI 与工作室理念"完全相悖",认为技术应由艺术家掌控,AI 代劳创作则是"盗窃"、缺乏人性。这部定格动画耗时五年,动用 230 多具木偶、49 名动画师,全片参与艺术家超 1000 人,影片于 10 月 23 日首映。Knight 表示不反对 AI 在医学、科学等领域的应用,但担忧其被滥用。

  8. Aravind Srinivas43

    学习新知识时,没有专家资源不再是瓶颈。你可以让 AI 为你制作一段 5 分钟的视频来学习任何内容。这里有一个关于晶圆厂如何制造芯片的视频。

    引用Computer@AskPerplexity

    Computer wrote and produced a five-minute film on how a chip gets made, drawing on 13 technical references from ASML, Intel, TSMC, Cadence, SkyWater, and IEEE Spectrum. Skip to 3:59 for why "3 nanometers" doesn't mean what it sounds like.

  9. Karina62

    Karina Nguyen 引用美国多所大型银行检测到客户账户内未授权第三方 AI 智能体的报道,认为需要类似 OAuth 的 AI 智能体授权机制。她指出难点在于定义“替我处理”究竟授权了什么,尤其是智能体再委托其他智能体时,密码学可验证权限和审计轨迹,但更难的是防止一串合理决策变成用户从未同意的行为。

    引用Madison Mills@MadisonMills22

    SCOOP: Major U.S. banks are detecting unauthorized third-party AI agents inside customer accounts, including some attempting to take actions that appear to be independent of user instructions, sources told Axios. The findings have alarmed banking executives, who are racing to restrict access to their systems as AI moves at a velocity faster than financial institutions can respond, multiple industry and bank executives told Axios. Several banks are now preparing for worst-case and even “day after” scenarios, including how to rapidly secure or restore customer accounts if things go wrong, the people said. Several bank executives told Axios they're struggling to distinguish between human users and AI agents. One executive said banks also struggle to determine whether agents are authorized by customers or potentially operating without their permission, more akin to rogue agent behavior. Read my latest for Axios here: https://www.axios.com/2026/10/22/ai-agents-banks-unauthorized-accounts-access

10月22日周四
  1. IT之家·人工智能41

    比尔·盖茨:人们要为 AI 带来的二十年颠覆性变革做好准备

    比尔·盖茨在接受 The Verge 采访时表示,人们要为 AI 带来的二十年颠覆性变革做好准备,这段时期可能非常痛苦,甚至将社会分裂成乐于接受前沿科技与拒绝两派。他认为 AI 过去一年在编写代码、发现网络漏洞、生物学推理和颠覆就业市场方面进步惊人,过渡期会有输家和赢家。他还称届时人类将拥有可建造房屋、种植食物、进行手术的机器人,绝大多数商品和服务不再需要人类劳动力。

  2. OpenAI:官网动态57

    OpenAI FDE 团队负责人详解前沿部署工程如何弥合部署差距

    OpenAI 前沿部署工程负责人 Colin Jarvis 撰文说明 FDE 团队的工作方式,即与客户合作弥合模型能力与可靠业务价值之间的部署差距。文中给出半导体客户验证案例,AI 定向测试生成节省约 48% 时间、内核优化中位性能提升 22%;迁移到以 Codex 为核心的通用 harness 后,每项目移除约 90% 定制代码,第二团队接入从 2 个月缩短到 1 天。

  3. IT之家·人工智能40

    谷歌 CEO 皮查伊谈 AI 智能体:7×24 小时不间断工作,重要决策仍由人做

    谷歌 CEO 桑达尔·皮查伊在播客中介绍,他用 AI 智能体整理过去 24 小时的信息、汇总谷歌 AI 模型研发进展与计算资源使用情况,并跟进多个内部聊天群组的讨论。他强调计算资源分配等重大决策仍由管理人员直接参与,未交给 AI。皮查伊认为智能体在云端每周 7 天、每天 24 小时不间断工作、能接着上次进度继续,是其主要优势。

  4. Alex Heath54

    Alex Heath 发布对 Google CEO Sundar Pichai 的采访,Pichai 谈及太空数据中心计划 Project Suncatcher,称即将迎来向 TPU 问候的 "hello world" 时刻。

    引用Alex Heath@alexeheath

    Sundar Pichai 谈 Gemini 4 与 AI 算力紧缺 即便是 Google 也拿不到足够的算力。在 Gemini 4 Argon 更广泛发布后不久,我与 Google 和 Alphabet CEO @sundarpichai 坐下来聊了聊它的早期反响、他仍希望模型改进的地方,以及要让 Google 保持在 AI 前沿需要付出什么。 Pichai 解释了 Google DeepMind 近期的领导层变动,以及为什么构建前沿模型已成为一份“全身心投入”的工作。我们还谈到了 Google 对个人智能体竞赛的回应、他如何预测 Gemini 将替你完成更多工作,以及智能体最终是否会把 Search、Gmail 和 Gemini 整合到一起。 我问他 Google 自由现金流转为负值、AI 基础设施建设中的风险,以及他如何在还不知道模型将具备何种能力的数年前就规划需求。他解释了让他有信心继续投入的信号,以及他如何使用 AI 智能体来跟踪 Google 内部的模型开发和算力使用情况。 时间戳: 00:00 Gemini Argon 发布反响 01:49 模型访问与安全 06:20 AI 模型竞赛 08:35 智能体突破与 2027 年 11:34 递归自我改进 15:41 DeepMind 领导层变动 19:52 Google 的 AI 算力投资 25:20 AI 支出可持续吗? 33:18 Sundar 如何使用 AI 智能体 35:35 Gemini 的个人智能体计划 38:37 AI 智能体如何改变网络 43:52 Google 的太空数据中心 47:38 Waymo 的扩张战略 50:26 Wing 的无人机配送计划 51:36 AI 安全与监管 55:58 Google 的量子计算押注 YouTube:https://youtu.be/fJBSNEFdm8c Spotify:https://open.spotify.com/episode/0cJBqmVz3CWJSPdmBOeJGu?si=NBxJIMhZRgikafPtwY0sZA Substack:https://sources.news/p/sundar-pichai-gemini-4-google-other-bets Apple Podcasts:https://podcasts.apple.com/us/podcast/sundar-pichai-on-gemini-4-and-the-ai-compute-crunch/id1840154537?i=1000797461022 本期节目的呈现赞助商是 @hyperagentapp。感谢节目的首席赞助商:@Atlassian、@meetgranola 和 @mercury。

  5. howie.serious54

    作者转发引用 @claudeai 的消息:Anthropic 开放 Claude Duet 研究预览,一个主动型智能体应用,会主动提醒需要关注的事项、完成任务、在用户离开时持续工作,并在代替用户行动前先行确认。作者评论称这款 personal agent 彻底与国内用户无缘,并调侃它可能口头通知封号。

    引用Claude@claudeai

    We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent. It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf.

  6. Elon Musk50

    Elon Musk 转发推荐 Grok @Bot,称值得一试。引用的 Robert Scoble 介绍了自己的用法:让 Grok Bot 每小时读取他精选的 AI 账号列表(从 X 上 70,000 个账号中筛出),自动生成一份新闻页文档;相比他此前用 X API 自建 alignednews.com 上个月仅 API 账单就 6,000 美元,用列表方式每月只需几百美元。他建议从小列表开始、每小时最多读一次以控制 token 消耗,并提到可进一步把新闻脚本导入 NotebookLM 生成播客或视频。

    引用Robert Scoble@Scobleizer

    I've been GrokBot pilled. First of all, Grok knows me better than other bots, like Meta Muse, thanks to the 300,000 posts I've done here for 20 years. But now that GrokBot @bot can read lists, it opens up powerful new personalized news capabilities. I've done this for about a year over on https://alignednews.com -- but last month my X API bill alone was $6,000. For a couple of hundred a month you can do the same with lists, either you create, or ones other people have created. Last night I stuck in my "best in AI" list and had it write me this news page: https://docs.google.com/document/d/1PEfkIbGmvw_SIJJSDvJ-gSbBM5KwXWKVeimiMsQUW-Y/edit?usp=sharing Every hour my bot reads that list and builds me a new news page. Now I've only put about 10 minutes of effort into this so far. So it's not the prettiest thing you ever have seen, but my bots are working on other ways to present them to me. And you can do the same for any topic you care about. You just need to build a list, or find one that's already built and there are millions of lists here on X on literally any topic. Put your favorite football team onto a list, along with all your favorite journalists or other fans. Then have Grok bot read them for you. And that's just the start. You can have it write you a script based on the news, then copy that into, say, @Gemini_Notebook and then you get a podcast, or a video. Based on what people are saying on your topic here on X. Thank you so much X for making lists far more powerful than they ever were before. Makes the thousands of hours I've put into mine over 20 years so much more useful. Tips? Start small. You can chew through your tokens very quickly. It's amazing how good it is with a small list, like this one, which is what created the page up above: https://x.com/i/lists/1953536336675365173?s=20 (Best AI accounts I've found out of 70,000 here on X). Don't over hit it. You only need your bot to read the list every hour. Maybe even less. If anything is really important it gets reshared into lists, so the bot doesn't need to hit it often to build you a really great set of things that are important to pay attention to. I've been begging for this capability for years. THANK YOU X!

  7. Lydia Hallie ✨53

    Anthropic 开放 Claude Duet 研究预览,这是一款让 Claude 作为主动智能体工作的应用,会主动提示需关注事项、完成任务、在用户离开时继续工作,并在代为操作前先确认。员工 Lydia Hallie 分享自己的用法:让它盯着 Slack、邮件和日历,只在重要时提醒,连自己未加入的讨论串也会跟进,并常附带文档或设计作为上下文。

    引用Claude@claudeai

    We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent. It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf.

  8. Ado57

    Anthropic 开放 Claude Duet 的研究预览,这是一款让 Claude 作为主动式智能体工作的应用。它会主动提醒需要关注的事项、完成指派的任务、在用户离开后继续工作,并在代为行动前先与用户确认;作者表示它已成为自己处理所有非编码事务的日常主力。

    引用Claude@claudeai

    We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent. It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf.

  9. OpenAI:官网动态40

    OpenAI 发布赋能网络防御者的前沿 AI 民主治理蓝图(第二部分)

    OpenAI 发布“赋能网络防御者”蓝图,是其前沿 AI 民主治理系列第二部分,建立在早前网络安全行动计划与前沿安全蓝图之上。蓝图面向政府和行业提出三类具体建议:明确前沿模型与智能体的安全责任、危险行为检测和可靠关停控制;为防御者提供先进工具与培训并替换过时系统;强化政府评估、独立技术评估与统一事件报告。OpenAI 称当前仍处于“防御者窗口”,呼吁政策制定者立即行动。