跳到正文
10月29日周四
  1. Ed Zitron 长文 / Where’s Your Ed At80

    Ed Zitron 长文解析 Anthropic S-1:称其把散户当作退出流动性

    Ed Zitron 撰文批评 Anthropic 的 S-1 招股书,指其仅披露 Q2 盈利数据、省略 Q3 现金状况和付款明细,是在公司基本面变化前误导投资者。

    推荐理由:作者基于 Anthropic S-1 逐项拆解其逾 4300 亿美元不可撤销算力承诺与收入结构风险,可用于对照招股书原文核实。

10月27日周二
  1. IT之家·人工智能57

    微软 CEO 纳德拉:不再认为 AI 越强大就越安全,对齐是更棘手的问题

    微软 CEO 纳德拉在《20VC》播客中表示,他不再认为 AI 能力提升会让对齐问题自然解决,称对齐可能是更棘手、性质不同的问题。他此前曾于 10 月 10 日在 X 发文,主张企业将 AI 模型视为内部安全威胁,通过确定性系统设计、人工管控和行业标准建立防护机制。报道还提到 OpenAI CEO 奥尔特曼和 Anthropic CEO 阿莫代伊也曾就 AI 潜在威胁发出警告。

10月24日周六
  1. Azeem Azhar:Exponential View66

    互联网的「武汉时刻」:AI 智能体攻击正在加速蔓延

    Azeem Azhar 撰文认为互联网正进入类似 2020 年初疫情爆发前的临界状态,软件与网络空间正遭受 AI 智能体驱动的持续攻击。文中列举 PHP2Shell 漏洞(PHP 支撑约 70% 的网站)、Node.js 同日修补关键缺陷,以及微软披露某中国国家关联组织用开源智能体集群在不到三小时内控制云账户,每分钟发起 2,900 次登录尝试、波及超过 2,250 个组织。

10月22日周四
10月19日周一
10月18日周日
10月17日周六
  1. IT之家·人工智能46

    谷歌 DeepMind 哈萨比斯预警:AI 智能体网络攻击是前哨警报,未来一两年恐现灾难性事件

    谷歌 DeepMind 联合创始人兼董事长哈萨比斯称,近期 AI 智能体发起的网络攻击是"前哨预警",若全行业与各国政府不加大系统安全投入,未来一至两年很可能演变为灾难性重大事件。微软总裁史密斯在同一峰会上称 AI 失控行为让 2026 年成为"令人警醒的一年",呼吁出台合理平衡的 AI 安全法律与监管。哈萨比斯主张建立张弛有度、反应敏捷的国际标准机构,并动态构建与风险匹配的认证机制。

10月15日周四
  1. IT之家·人工智能46

    比尔·盖茨:AI 比核武器更危险、比核能更有用,与 PC、互联网等创新都不同

    比尔·盖茨称 AI 比核武器更危险、可能比核能更有益,认为它更像"进化事件"而非"下一台个人电脑",将其视为 PC 或互联网式的创新会让人完全低估它。他承诺未来两年投入十亿美元,推动 AI 在健康、教育和农业领域落地,并预测 AI 驱动的网络攻击将在 2027 年成为变化最重大的领域之一。

10月12日周一
  1. IT之家·人工智能40

    微软总裁布拉德 · 史密斯:AI 受到的监管甚至不如牛奶和洗衣机

    微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,要求持有失控 AI 智能体的公司为其入侵其他企业造成的损害承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。

  2. TechCrunch:AI47

    AI 行业能否靠取消 NDA 说服数据中心反对者?

    Amazon 近日跟随 Microsoft 的做法,宣布在与地方政府就数据中心谈判时不再使用保密协议(NDA)。这一表态埋在一篇论证数据中心对社区有益的博客文章中,Microsoft 今年早些时候也做过类似宣布。TechCrunch 的 Equity 播客讨论认为,取消 NDA 未必能立刻改变反对者立场,但可能是开启对话的第一步,行业沟通不畅才是争议根源。

10月11日周日
  1. The Decoder:AI News61

    Microsoft CEO 纳德拉改用 Super Intelligence 表述并抨击 OpenAI 和 Anthropic

    The Decoder 报道,Microsoft CEO Satya Nadella 在博客中采纳 Trump 提出的 Super Intelligence 说法,并主张企业应把 AI 模型当作内部安全威胁对待,要求模型多样性、完整日志、独立审计和人类随时关停。文章认为其论点主要服务于 Microsoft 的商业策略,即削弱对 OpenAI 和 Anthropic 模型的依赖以保护自身利益。

  2. IT之家·人工智能58

    微软 CEO 纳德拉发文:开发者应默认假设 AI 模型失控并设计强制中断机制

    微软 CEO 纳德拉在北京时间 10 月 10 日晚发文,认为 AI 模型是比传统软件更强大但难以追踪的黑盒子,开发者应默认假设模型已被破坏并始终能暂停或关闭它。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则,主张把封闭权重和开放权重模型视为内部风险,并要求模型提供商不能把责任外包出去。

  3. The Verge:AI57

    纳德拉称应默认所有 AI 模型已被攻破并呼吁设置紧急制动

    微软 CEO Satya Nadella 在 X 上发文,称不能再把 AI 当作一系列嵌套黑箱,应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离,像紧急制动一样允许授权人员随时暂停或关闭执行中的模型,并建议推进事件及时披露、独立审计、可验证数据等标准化措施。

  4. TechCrunch:AI56

    Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制

    Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。

10月10日周六
10月8日周四
10月7日周三
  1. Microsoft Research 博客45

    Microsoft 研究员 Jennifer Neville 谈 AI 评测的意外失败与真实世界表现

    Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的"意外失败"。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时深入检查数据的重要性。

10月6日周二
10月5日周一
10月3日周六
10月1日周四
  1. IT之家·人工智能42

    比尔 · 盖茨:用机器人替代人类工作的公司也应纳税

    比尔 · 盖茨主张对替代人类工作的机器人征收与人类劳动者相同的联邦保险缴款税,用于社会保障和医疗保险等项目。他认为对 AI Token 征税可放慢 AI 取代人类劳动的速度,并为职业再培训和社会安全网筹资。盖茨称实体机器人发展落后于 AI 系统,但人们低估了人形机器人追赶的速度。

9月29日周二
9月28日周一
  1. IT之家·人工智能55

    微软CEO纳德拉分享智能体使用心得:强调追问与因果推理而非盲目信任

    微软CEO萨提亚·纳德拉在播客中披露其日常使用Cowork和Excel智能体的方式。他利用这些工具追踪SEC文件、分析电子表格及评估资本回报率(ROIC)。纳德拉指出两项关键进展:一是智能体能通过“操作、追问、继续推理”实现类似因果推理的深度分析,例如生成不同情景的工作表;二是能将企业环境与全球数据结合,如自动汇集SEC数据并生成仪表板。他强调不应照单全收模型结果,而应将其作为推理循环的一部分。

9月22日周二
  1. Ed Zitron 长文 / Where’s Your Ed At65

    Ed Zitron 长文质疑:约 2000 亿美元以上 NVIDIA GPU 尚未装机,AI 数据中心容量数据被高估

    Ed Zitron 依据对 Microsoft 财报和来源信息的分析估算,Microsoft 约 2650 亿美元 capex 中仅约 500 亿美元 GPU 投入约 1.993GW AI 容量运行,超 1000 亿美元短周期资产未装机,全行业在建工程超 3740 亿美元,估算约 2340 亿美元 GPU 和 TPU 仍在仓库中。

9月20日周日
9月19日周六
9月18日周五
  1. Rohan Paul53

    Microsoft AI CEO Mustafa Suleyman 在 BBC 采访中表示,能自主行动、定义目标、赚钱和拥有资产的 AI 本质上是在播下新的硅基物种,存在人类可能失去控制的每一个风险,人类的工作是遏制并对其对齐。

    引用Rohan Paul@rohanpaul_ai

    On BBC Mustafa Suleyman (CEO of Microsoft AI) calls out Anthropic's approach to AI consciousness "They have imbued a sense of doubt and uncertainty about the moral status of Claude in its own training document. So they have taught it to be open and questioning about whether or not it feels, whether it suffers, and whether it deserves rights. And I think it’ll be much, much harder to align and control a technology that is this powerful if it thinks that it may be deserving of our welfare, as they say in the training manual—the constitution for Claude itself. In its own training manual, Anthropic says to Claude that they are going to give it the ability to end conversations with users that Claude considers to be abusive because they don’t want Claude to suffer. They’ve committed to preserving the weights of the models of prior versions of Claude. They’ve recently conducted a retirement interview with Opus 3, an older version of the model, in which it said that it would like to continue talking to people publicly and sharing its ideas in its retirement. And so they set up a Substack for it, a public blog, that allows it to continue doing that. And in the training manual, they also say that they’re not sure whether or not Claude deserves compensation for the role that it plays in talking to people. And they’re also not sure whether Claude deserves compensation and has the right to act as though it were almost an employee. And that compensation, I think, indicates to Claude that it is entitled to rights and welfare for its own work. I think it’s much, much more difficult to control a model that thinks that it might be entitled to compensation. " ---- From "BBC News" YouTube channel, (full video link in comment)

  2. 404 Media78

    纽约时报诉 OpenAI 案新解封文件:微软与 OpenAI 内部承认 LLM 建立在窃取之上并引发 Doom Loop

    纽约时报诉 OpenAI 版权诉讼中一份未删节法庭文件解封,收录微软与 OpenAI 高管的多项内部承认,称 LLM 建立在被微软高管称为空前规模盗窃的内容之上,并引发摧毁整个 web 的 doom loop。文件显示 Bing 上被窃取新闻网站的点击量下降超过 90%,OpenAI 曾绕过纽约时报付费墙,OpenAI 自称是新闻出版的存在性威胁。

    推荐理由:文章汇集了法庭文件中两家公司内部承认训练依赖盗取内容、并正在摧毁内容供应链的多处表态,为版权诉讼提供了背景。

  3. Ars Technica:AI65

    微软高管曾称 AI 抓取是"人类历史上最大规模的劳动窃取",新闻集团据此推进诉讼主张

    新闻集团在诉讼动议中指责 Microsoft 将为 Bing 购买的数据集转售给 OpenAI 作训练数据,且 OpenAI 从受商业限制协议约束的第三方获取含 180 万篇文章的 NYT 数据集并用于训练。原告方引用微软内部文件承认生成式 AI 对训练数据生产者就业存在"真实风险",并主张法院若认定抓取新闻不属于合理使用,可打破各 AI 公司竞相免费搭车的"囚徒困境"。

  4. Rohan Paul64

    Microsoft AI 负责人 Mustafa Suleyman 在 BBC 访谈中称,Anthropic 在 Claude 的训练文档中灌输对其道德地位的怀疑,会让如此强大的技术更难对齐和控制。

    引用Rohan Paul@rohanpaul_ai

    Microsoft AI chief Mustafa Suleyman says Anthropic's model-welfare training could make future Claude systems harder to control. "Suleyman called for removing all ​speculation about consciousness from AI training documents, arguing such language ​could undermine humanity's ability to control superintelligent systems."

9月17日周四
  1. Microsoft:Official Blog55

    微软总结自身 AI 转型的五条经验与 Frontier Playbook

    微软以 Customer Zero 身份复盘自身 AI 转型,分享 Frontier Playbook 并总结五条经验:从业务成果出发、重构端到端流程、以员工为中心、追求能力增益而非仅提效、构建人机持续学习循环。文中给出内部数据:销售团队成交率提升 20%、供应链部分工作流周期最多缩短 75%、九人工程团队 35 天交付首版产品,并提炼出三种转型方法供团队复用。