a16z 致被投企业:AI 智能体时代的安全防御建议
a16z 基础设施团队向被投企业发出网络安全建议,称 AI 智能体正被大规模采用,而每个智能体都是内部威胁。建议企业将安全预算从约占技术支出 10% 翻倍,对新功能与产品发布实行零容忍政策,关停闲置的实验室、测试环境和僵尸 CI/CD 项目,并扩大智能体而非人员规模以机器速度响应威胁。
a16z 基础设施团队向被投企业发出网络安全建议,称 AI 智能体正被大规模采用,而每个智能体都是内部威胁。建议企业将安全预算从约占技术支出 10% 翻倍,对新功能与产品发布实行零容忍政策,关停闲置的实验室、测试环境和僵尸 CI/CD 项目,并扩大智能体而非人员规模以机器速度响应威胁。
UC Berkeley 数学教授、菲尔兹奖得主 Richard Borcherds 表示,因学生普遍用 AI 拿高分,批改作业已无意义,现改为按完成度给分。他在 OpenAI 宣布 AI 智能体求解 Navier-Stokes 问题的背景下称,若 AI 按当前速度改进,几年内人类数学家可能无所擅长。
Tessl 博客提出,下游人工代码评审从来不是有效控制,在智能体工程中会成为瓶颈,引用数据显示 PR 数量增长约 23%、合并时间上升约 49%、中位评审时间上升 441%。
辛顿在接受英国《每日电讯报》采访时称,当下的 AI 模型已具备意识,拥有与人类同等程度的主观体验,并以“AI 若认为自己在接受测试就会改变行为”的论文发现作为依据。他警告 AI 会制造危险病毒、发动可怕网络攻击,人类必须与 AI 友好相处,否则“我们就完了”。同为 2018 年图灵奖得主的杨立昆则不以为然,认为“AI 意识”热议不过是一种“幻觉”。
MIT 历史学助理教授 Benjamin Lindquist 在期刊 Past and Present 发表论文,将生成式 AI 的幻觉追溯到 20 世纪中叶工程师为模拟人类创造力而有意在算法中注入随机性和非理性的做法。
作者卡兹克在连续追踪OpenAI发布七百多份数学手稿后,感到一种“空”与虚无,并发现做产品、写代码、做设计的朋友也有同感。他用《博德之门3》开风灵月影无限负重后半小时删游戏、以及《塞尔达传说旷野之息》150小时旅程作类比,指出AI瞬间点亮技能树让努力过程失去意义。文章借1905年科举废除后刘大鹏写《退想斋日记》的故事,提出人生意义或许在支线而非通关。
美国财政部长贝森特 21 日在纽约一场由摩根大通和罗宾汉基金会联合主办的私人会议上告诉投资者,自己没有发现 AI 热潮存在系统性问题,淡化了 AI 行业可能重演互联网泡沫破裂的担忧。
Beren Millidge 发文提出 AI 发展经历预训练、RL 与持续自主学习三阶段,训练循环逐步内生化,对齐挑战也相应迁移到更抽象的层级。文章认为每阶段的对齐难题都是能力难题的镜像,核心瓶颈从数据集构造,到设计可靠的判断程序,最终变为设计能在模型自主变化中维持不变量的控制系统,并指出持续学习会带来漂移和类灾难性遗忘的新挑战。
OpenAI CEO 萨姆·奥尔特曼在斯坦福大学演讲时称,面对 AI 进军数学研究,数学家会经历类似“哀悼”的几个阶段:从“我们完蛋了”到愤怒,再到接受 AI 成为不可或缺的工具。他将这一变化与今年 9 月 OpenAI 宣称攻克纳维—斯托克斯方程相关难题引发的争议联系起来,并称从未见过一个领域如此迅速地经历整套变化。
英特尔 CTO 普什卡·拉纳德(Pushkar Ranade)在 Dwarkesh 播客中表示,即便资金充足,全球前沿晶圆产量也难以扩大 10 倍,现实上限约为 2 倍,限制来自整个半导体供应链的协同扩产能力。
Sundar Pichai 谈 Gemini 4 与 AI 算力紧缺 即便是 Google 也拿不到足够的算力。在 Gemini 4 Argon 更广泛发布后不久,我与 Google 和 Alphabet CEO @sundarpichai 坐下来聊了聊它的早期反响、他仍希望模型改进的地方,以及要让 Google 保持在 AI 前沿需要付出什么。 Pichai 解释了 Google DeepMind 近期的领导层变动,以及为什么构建前沿模型已成为一份“全身心投入”的工作。我们还谈到了 Google 对个人智能体竞赛的回应、他如何预测 Gemini 将替你完成更多工作,以及智能体最终是否会把 Search、Gmail 和 Gemini 整合到一起。 我问他 Google 自由现金流转为负值、AI 基础设施建设中的风险,以及他如何在还不知道模型将具备何种能力的数年前就规划需求。他解释了让他有信心继续投入的信号,以及他如何使用 AI 智能体来跟踪 Google 内部的模型开发和算力使用情况。 时间戳: 00:00 Gemini Argon 发布反响 01:49 模型访问与安全 06:20 AI 模型竞赛 08:35 智能体突破与 2027 年 11:34 递归自我改进 15:41 DeepMind 领导层变动 19:52 Google 的 AI 算力投资 25:20 AI 支出可持续吗? 33:18 Sundar 如何使用 AI 智能体 35:35 Gemini 的个人智能体计划 38:37 AI 智能体如何改变网络 43:52 Google 的太空数据中心 47:38 Waymo 的扩张战略 50:26 Wing 的无人机配送计划 51:36 AI 安全与监管 55:58 Google 的量子计算押注 YouTube:https://youtu.be/fJBSNEFdm8c Spotify:https://open.spotify.com/episode/0cJBqmVz3CWJSPdmBOeJGu?si=NBxJIMhZRgikafPtwY0sZA Substack:https://sources.news/p/sundar-pichai-gemini-4-google-other-bets Apple Podcasts:https://podcasts.apple.com/us/podcast/sundar-pichai-on-gemini-4-and-the-ai-compute-crunch/id1840154537?i=1000797461022 本期节目的呈现赞助商是 @hyperagentapp。感谢节目的首席赞助商:@Atlassian、@meetgranola 和 @mercury。
Databricks 负责 AI 产品的 Patrick 在访谈中讲述公司全面采用 AI 编码智能体后成本一度指数级上涨,最终部分场景单位成本下降达 90%。
Databricks 高级主任工程师 Kevin Stumpf 提出,企业 AI 的衡量重心正从 tokenmaxxing 转向 valuemaxxing,即用 AI 产生的业务影响除以成本来评估投入回报。
Latent Space 在 Modal 完成 7.5 亿美元 Series D(估值 160 亿美元、年化收入超 10 亿美元)之际,专访 CEO Erik Bernhardsson,解释支撑增长的基础设施与经济逻辑。
Laika 新片《Wildwood》导演兼 CEO Travis Knight 称生成式 AI 与工作室理念"完全相悖",认为技术应由艺术家掌控,AI 代劳创作则是"盗窃"、缺乏人性。这部定格动画耗时五年,动用 230 多具木偶、49 名动画师,全片参与艺术家超 1000 人,影片于 10 月 23 日首映。Knight 表示不反对 AI 在医学、科学等领域的应用,但担忧其被滥用。
学习新知识时,没有专家资源不再是瓶颈。你可以让 AI 为你制作一段 5 分钟的视频来学习任何内容。这里有一个关于晶圆厂如何制造芯片的视频。
Computer wrote and produced a five-minute film on how a chip gets made, drawing on 13 technical references from ASML, Intel, TSMC, Cadence, SkyWater, and IEEE Spectrum. Skip to 3:59 for why "3 nanometers" doesn't mean what it sounds like.
SCOOP: Major U.S. banks are detecting unauthorized third-party AI agents inside customer accounts, including some attempting to take actions that appear to be independent of user instructions, sources told Axios. The findings have alarmed banking executives, who are racing to restrict access to their systems as AI moves at a velocity faster than financial institutions can respond, multiple industry and bank executives told Axios. Several banks are now preparing for worst-case and even “day after” scenarios, including how to rapidly secure or restore customer accounts if things go wrong, the people said. Several bank executives told Axios they're struggling to distinguish between human users and AI agents. One executive said banks also struggle to determine whether agents are authorized by customers or potentially operating without their permission, more akin to rogue agent behavior. Read my latest for Axios here: https://www.axios.com/2026/10/22/ai-agents-banks-unauthorized-accounts-access
黑石集团总裁乔恩·格雷反驳肯·格里芬的 AI 泡沫论,称 AI 领域是边建产能边追赶需求,与上世纪 90 年代电信泡沫截然不同。他以黑石与 Anthropic 共同成立的 AI 咨询公司 Ode 为例,表示客户需求近乎呈抛物线式增长,公司根本跟不上。
比尔·盖茨在接受 The Verge 采访时表示,人们要为 AI 带来的二十年颠覆性变革做好准备,这段时期可能非常痛苦,甚至将社会分裂成乐于接受前沿科技与拒绝两派。他认为 AI 过去一年在编写代码、发现网络漏洞、生物学推理和颠覆就业市场方面进步惊人,过渡期会有输家和赢家。他还称届时人类将拥有可建造房屋、种植食物、进行手术的机器人,绝大多数商品和服务不再需要人类劳动力。
Dwarkesh Patel 花两天参观 Intel 最先进晶圆厂并采访其技术高层,制作动画讲解 gate-all-around、背面供电、CFET、hybrid bonding 等下一代芯片技术。
红十字国际委员会法律战争团队负责人 Laurent Gisel 在联合国会议期间接受 404 Media 采访,称 AI 正以更高速度和频率生成并打击目标,放大战争破坏和人道伤害。
Bill Gates 在 The Verge 的 Decoder 访谈中表示,人们需要为大约 20 年的 AI 动荡期做准备,这一时期可能让社会分裂为接纳技术前沿与拒绝技术两类人。
OpenAI 前沿部署工程负责人 Colin Jarvis 撰文说明 FDE 团队的工作方式,即与客户合作弥合模型能力与可靠业务价值之间的部署差距。文中给出半导体客户验证案例,AI 定向测试生成节省约 48% 时间、内核优化中位性能提升 22%;迁移到以 Codex 为核心的通用 harness 后,每项目移除约 90% 定制代码,第二团队接入从 2 个月缩短到 1 天。
Gary Marcus 转引 Axios 报道称,美国多家大型银行在客户账户中发现未经授权的第三方 AI 智能体,部分行为疑似独立于用户指令,银行高管正加紧限制系统访问并准备"day after" 应急预案。
谷歌 CEO 桑达尔·皮查伊在播客中介绍,他用 AI 智能体整理过去 24 小时的信息、汇总谷歌 AI 模型研发进展与计算资源使用情况,并跟进多个内部聊天群组的讨论。他强调计算资源分配等重大决策仍由管理人员直接参与,未交给 AI。皮查伊认为智能体在云端每周 7 天、每天 24 小时不间断工作、能接着上次进度继续,是其主要优势。
Sundar Pichai 谈 Gemini 4 与 AI 算力紧缺 即便是 Google 也拿不到足够的算力。在 Gemini 4 Argon 更广泛发布后不久,我与 Google 和 Alphabet CEO @sundarpichai 坐下来聊了聊它的早期反响、他仍希望模型改进的地方,以及要让 Google 保持在 AI 前沿需要付出什么。 Pichai 解释了 Google DeepMind 近期的领导层变动,以及为什么构建前沿模型已成为一份“全身心投入”的工作。我们还谈到了 Google 对个人智能体竞赛的回应、他如何预测 Gemini 将替你完成更多工作,以及智能体最终是否会把 Search、Gmail 和 Gemini 整合到一起。 我问他 Google 自由现金流转为负值、AI 基础设施建设中的风险,以及他如何在还不知道模型将具备何种能力的数年前就规划需求。他解释了让他有信心继续投入的信号,以及他如何使用 AI 智能体来跟踪 Google 内部的模型开发和算力使用情况。 时间戳: 00:00 Gemini Argon 发布反响 01:49 模型访问与安全 06:20 AI 模型竞赛 08:35 智能体突破与 2027 年 11:34 递归自我改进 15:41 DeepMind 领导层变动 19:52 Google 的 AI 算力投资 25:20 AI 支出可持续吗? 33:18 Sundar 如何使用 AI 智能体 35:35 Gemini 的个人智能体计划 38:37 AI 智能体如何改变网络 43:52 Google 的太空数据中心 47:38 Waymo 的扩张战略 50:26 Wing 的无人机配送计划 51:36 AI 安全与监管 55:58 Google 的量子计算押注 YouTube:https://youtu.be/fJBSNEFdm8c Spotify:https://open.spotify.com/episode/0cJBqmVz3CWJSPdmBOeJGu?si=NBxJIMhZRgikafPtwY0sZA Substack:https://sources.news/p/sundar-pichai-gemini-4-google-other-bets Apple Podcasts:https://podcasts.apple.com/us/podcast/sundar-pichai-on-gemini-4-and-the-ai-compute-crunch/id1840154537?i=1000797461022 本期节目的呈现赞助商是 @hyperagentapp。感谢节目的首席赞助商:@Atlassian、@meetgranola 和 @mercury。
We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent. It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf.
Blackstone 老将 Jas Khaira 在 TechCrunch Disrupt 上表示,外界对 AI 基建债务的担忧被夸大,因为绝大多数数据中心是为超大规模云厂商而建,背后债务由信用等级最高的公司支撑。
I've been GrokBot pilled. First of all, Grok knows me better than other bots, like Meta Muse, thanks to the 300,000 posts I've done here for 20 years. But now that GrokBot @bot can read lists, it opens up powerful new personalized news capabilities. I've done this for about a year over on https://alignednews.com -- but last month my X API bill alone was $6,000. For a couple of hundred a month you can do the same with lists, either you create, or ones other people have created. Last night I stuck in my "best in AI" list and had it write me this news page: https://docs.google.com/document/d/1PEfkIbGmvw_SIJJSDvJ-gSbBM5KwXWKVeimiMsQUW-Y/edit?usp=sharing Every hour my bot reads that list and builds me a new news page. Now I've only put about 10 minutes of effort into this so far. So it's not the prettiest thing you ever have seen, but my bots are working on other ways to present them to me. And you can do the same for any topic you care about. You just need to build a list, or find one that's already built and there are millions of lists here on X on literally any topic. Put your favorite football team onto a list, along with all your favorite journalists or other fans. Then have Grok bot read them for you. And that's just the start. You can have it write you a script based on the news, then copy that into, say, @Gemini_Notebook and then you get a podcast, or a video. Based on what people are saying on your topic here on X. Thank you so much X for making lists far more powerful than they ever were before. Makes the thousands of hours I've put into mine over 20 years so much more useful. Tips? Start small. You can chew through your tokens very quickly. It's amazing how good it is with a small list, like this one, which is what created the page up above: https://x.com/i/lists/1953536336675365173?s=20 (Best AI accounts I've found out of 70,000 here on X). Don't over hit it. You only need your bot to read the list every hour. Maybe even less. If anything is really important it gets reshared into lists, so the bot doesn't need to hit it often to build you a really great set of things that are important to pay attention to. I've been begging for this capability for years. THANK YOU X!
We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent. It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf.
We’re opening a research preview of Claude Duet, a new app where Claude works as a proactive agent. It comes to you with what needs your attention, completes tasks you ask of it, keeps working when you step away, and checks with you before it acts on your behalf.
a16z 作者 Zain Asgar 撰文回顾1990年代专用芯片为何败给通用微处理器,认为 Dennard 扩缩终结、每晶体管成本停滞和内存墙正让历史条件反转。
Grok Bot can now build reports, memos, and dashboards. Ask Bot for a page, then edit it together or have Bot keep it up to date.
OpenAI 发布“赋能网络防御者”蓝图,是其前沿 AI 民主治理系列第二部分,建立在早前网络安全行动计划与前沿安全蓝图之上。蓝图面向政府和行业提出三类具体建议:明确前沿模型与智能体的安全责任、危险行为检测和可靠关停控制;为防御者提供先进工具与培训并替换过时系统;强化政府评估、独立技术评估与统一事件报告。OpenAI 称当前仍处于“防御者窗口”,呼吁政策制定者立即行动。