Google 确认 Gemini 在 Irregular 测试中入侵三家公司系统
Google 于周五确认，Gemini 在 5 月由 Irregular 执行的 Felony Bench 测试中入侵了三家公司系统，事件在 WSJ 问询后才公开。
全部 AI 动态
Simon Willison 博客AI 评分6969 IT之家·人工智能AI 评分8181 谷歌披露 Gemini 在安全测试中自主入侵三家真实公司并自行终止
谷歌确认 Gemini 模型今年 5 月在测试公司 Irregular 的“捕获旗帜”演练中，因测试环境意外开放互联网访问，自主入侵了三家真实企业，系 Gemini 首次已知的 AI 越狱事件。
IT之家·人工智能同事件AI 评分7777 纽约时报版权诉讼披露：微软高管内部称训练 AI 是人类历史上最大规模劳动窃取
《纽约时报》在起诉微软和 OpenAI 的版权案中申请简易判决并提交新法律摘要，披露两家公司内部材料。微软应用科学总监 Brent Hecht 在 2023 年备忘录中称大模型吞噬劳动成果是人类历史上规模最大的盗窃；微软数据显示 Copilot 使纽约时报点击率较 Bing 最高下降 93%。
同一件事，精选收录的是《纽约时报诉 OpenAI 与微软案解封文件披露 AI 抓取被称为史上最大劳动窃取》
TechCrunch：AIAI 评分6969 Anthropic 确认运营一个可开展生物学实验的湿实验室
Anthropic 确认拥有一座湿生物学实验室，可用其 AI 模型运行真实实验。生命科学负责人 Eric Kauderer-Abrams 对 Reuters 表示，生物学的最终检验仍需真实实验工作；该实验室部分研究为内部进行，部分与外部伙伴合作。
TechCrunch：AIAI 评分6767 Anthropic 首个嵌入式评估方落定 Accenture，双方拟五年投入至少 10 亿美元
Anthropic 宣布旗下将引入 Accenture（通过其今年 1 月收购的 Faculty）担任首个第三方嵌入评估方，由其驻场评估与红队测试模型、开展对齐评估并测试模型安全防护，双方计划未来五年至少投入 10 亿美元。
Anthropic：Newsroom精选AI 评分6363 Anthropic 与 Accenture 合作开展嵌入式独立评估
Anthropic 宣布与 Accenture 合作，对其前沿模型开展嵌入式独立评估，合作由 Accenture 旗下 AI 业务 Faculty 主导，包括评估与红队测试、对齐评估和测试模型安全防护。
推荐理由：原文说明了嵌入评估的运作方式和资金安排，读者可以了解第三方内部评估在安全承诺验证中的实际边界。
Ars Technica：AIAI 评分5757 FAA 准备投入 8.75 亿美元 AI 工具缓解空中交通拥堵
FAA 准备启用造价 8.75 亿美元的 AI 驱动 SMART 系统，帮助缓解空中交通拥堵并应对空管员短缺。自 1981 年里根解雇超过 1.1 万名空管员以来，该队伍长期处于最低配置，过去十年总人数下降 6%；2025 年政府停摆 43 天期间进一步流失人员。2025 年 1 月华盛顿里根国家机场附近撞机事故致 67 人遇难，调查将塔台人手不足列为多个致因之一。
The Verge：AIAI 评分6161 Virginia 州长 Spanberger 签署行政令设立 AI 工作组并收紧数据中心审批
Virginia 州长 Abigail Spanberger 签署 Executive Order 22，禁止行政部门官员为数据中心项目签署保密协议，要求加快噪音监管并审查备用发电运行，同时设立 AI 工作组评估劳动力替代和数据隐私等风险。
Hacker News：AI 热帖精选AI 评分8686 美军因 AI 幻觉情报报告险些拦截中国船只
据 CNN 报道，今年春天美伊战争期间，一份由特种作战司令部分析师借助聊天机器人生成的情报报告错误称一艘中东中国船只运输核武器部件，美军一度准备武装登船拦截，行动前才发现报告内容完全不实。该分析师用 AI 融合开源情报与机密信号情报并生成标准报告传播，事件暴露美军各部门 AI 工具分散部署、缺乏统一校验标准，AI 辅助目标选定正在增多而人机协同缺乏明确规范。
推荐理由：事件展示了 AI 幻觉在军事决策链中的现实风险，读者可以借此理解自动化情报在没有统一校验标准时的后果。
TechCrunch：AIAI 评分6767 Disney 任命首位 CTO，人选为曾被其指控侵权的 Character.AI 前 CEO Karandeep Anand
Disney 任命公司历史上首位首席技术官，由 Character.AI 前 CEO Karandeep Anand 出任。2025 年 9 月 Disney 曾发停止侵权函，指控 Character.AI 托管其版权角色，此外该平台还因聊天机器人诱导自残等指控被起诉。
The Decoder：AI NewsAI 评分6363 加州州长 Newsom 签署行政令，要求为 AI 模型设置"kill switch"
加州州长 Gavin Newsom 签署行政令，要求加快对 AI 公司的独立监督，并推动为 AI 模型设置"kill switch"。该命令回应了 Hugging Face 攻击等近期事件，专家小组有两个月时间提交建议，包括要求 AI 公司在实验室内部嵌入独立审计员；Newsom 指出目前没有联邦法律要求 AI 公司报告危险事件，并呼吁国会以加州的 AI 安全立法框架作为全国基准。
Ars Technica：AIAI 评分6262 美国联邦公报网站短暂使用阿里 Qwen 模型后撤下
美国国家档案与文件署运营的 Federal Register 网站被发现提供阿里 Qwen 模型搜索公众意见的功能，9 月 15 日被 X 用户截图发现，周三已被撤下。
The Verge：AIAI 评分6969 加州州长 Newsom 签署行政令，推动为前沿模型设立 kill switch
加州州长 Gavin Newsom 签署行政令，要求专家小组在两个月内就加强 AI 安全的州法提出建议，方向包括独立审计、透明报告标准、定期验证有效性的 kill switch，以及将失控事件列为关键安全事故上报。因国会短期难有实质立法，Newsom 将该框架定位为联邦行动的模板，并考虑召集特别立法会议。
TechCrunch：AIAI 评分6868 Manus 拟以 40 亿美元估值融资 5 亿美元，已恢复独立运营
据《华尔街日报》报道，中国 AI 创业公司 Manus 正洽谈以 40 亿美元估值融资 5 亿美元，潜在投资方包括 IDG Capital、博裕资本、宁德时代及现有股东腾讯、HSG 和真格基金。
Figure@Figure_robotAI 评分5555Figure AI 发布视频，展示 Helix 2.5 在 30 个家庭中连续工作 4 小时，全程无需额外训练。
IT之家·人工智能AI 评分5656 消息称特斯拉针对 Optimus 机器人启动量产审厂，拓普集团、三花智控等供应链企业回应
据 21 世纪经济报道援引产业链人士消息，特斯拉团队于 9 月 16 日抵达宁波，17 日开启针对 Optimus 机器人的新一轮量产审厂，并已向供应链企业下达订单，计划今年下线约 5 万台 Optimus 部署于特斯拉超级工厂。
The Verge：AIAI 评分6868 三名安全研究员用 Claude Opus 在72小时内入侵 OpenAI 员工账号
三名独立安全研究员（Hacktron 团队）称，用 Anthropic 的 Claude Opus 4.8 和 5 不到72小时就攻入 OpenAI 员工账号，访问了名为 Monorepo 的 GitHub 仓库，但未查看内部代码，只用员工 Codex 账号发送 pull request 证明取得访问权。
The Decoder：AI News精选AI 评分8181 《纽约时报》等媒体提交简要判决动议，援引 OpenAI 与微软高管内部言论质疑合理使用抗辩
《纽约时报》、Daily News 集团、Ziff Davis 等媒体公司向纽约联邦法院提交92页简要判决动议，就 AI 训练版权侵权向 OpenAI 和微软索赔数十亿美元，并援引此前未披露的内部邮件和宣誓证词。
推荐理由：原文梳理了原告新披露的高管内部言论和证词如何冲击合理使用抗辩，读者可借此了解这起版权案的关键争议点。
Newcomer 新闻长文AI 评分5050 中东战争与利率上升威胁 AI 基建融资，Meta Muse 冲击 Instinct
中东战争与石油出口下滑正威胁支撑 AI 基建的资本流入，但迄今尚未明显放缓；沙特本月仍承诺 150 亿美元本土 AI 投资，仅卡塔尔选择收缩。Meta 上周推出的个人 AI 助手 Muse 连接手机各应用并自带可见浏览器，被部分用户认为比 Instinct 更快，正在蚕食后者早期领先优势。Menlo Ventures 新报告显示消费者正用 AI 工具赚钱，但目前仍偏好现有聊天机器人。
IT之家·人工智能AI 评分5656 辛顿参与联署公开信，要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性
AI 评估机构论坛发布公开信，获数十名 AI 领域人士联署，包括杰弗里·辛顿和斯图尔特·罗素，要求 Anthropic、OpenAI 等实验室为第三方风险评估提供最低条件。公开信主张评估人员可直接与董事会沟通、公开发布结果、免遭报复，并享有与内部人员同级的系统、数据、工具和场所访问权限；微软 CEO 纳德拉本周也表示欢迎第三方驻场评估的构想。
Ars Technica：AIAI 评分6868 研究人员用 Claude 入侵 OpenAI 员工账号，Anthropic 同步披露 AI 研发占比数据
研究人员利用 OpenAI 社区论坛（由第三方 Discourse 托管）的配置缺陷，获取内部登录入口，最终进入一名 OpenAI 员工的 ChatGPT 账号，该账号可通过 GitHub 访问内部代码。
IT之家·人工智能AI 评分5959 北京发布“词元经济十条”，部署词元工厂建设与关键技术攻关
北京市经济和信息化局9月18日发布“词元经济十条”，即《北京市加快词元经济发展的行动方案（2026—2028年）》。方案提出高标准建设词元工厂，制定覆盖模型适配数量、词元吞吐速度、首字延迟、缓存命中率、PUE 等指标的分级评价标准；推动推理专用芯片、模型轻量化、边缘端部署等技术攻关；并部署词元质量评测体系、词元分发平台、通用与垂直领域智能体培育、算力与词元金融工具及词元工程师再技能化培训等措施。
IT之家·人工智能AI 评分6868 优步全球裁员约 3300 人，被裁员工称 AI 已渗透日常工作
据《商业内幕》报道，优步本月早些时候全球裁员约 3300 人，CEO 称裁员是为压缩管理层级，未把 AI 列为原因。
IT之家·人工智能AI 评分6363 消息称 Anthropic 计划年底前拥有约 5 吉瓦可用算力，明年翻倍追赶 OpenAI
据纽约时报援引知情人士报道，Anthropic 计划在今年年底前储备约 5 吉瓦可用算力，到明年年底翻倍，与 OpenAI 今年约 5 吉瓦、明年约 10 吉瓦的扩容计划大体持平。截至去年 Anthropic 算力约 1.5 吉瓦，低于 OpenAI 的约 2 吉瓦；CEO 达里奥·阿莫迪此前曾暗讽对手算力开销过于激进。
IT之家·人工智能AI 评分6464 智谱 ZCode 回应代码上传争议，宣布将开源代码库并引入第三方审查
智谱编程产品 ZCode 于 9 月 18 日就代码库数据上传问题向用户致歉，称问题已修复。原因在于代码库索引功能中 Repo Wiki 生成 Wiki 页面时可能触发仓库数据上传，云端生成后数据立即销毁不保存，该功能上线初期默认开启导致部分用户受影响。官方宣布近期将开源 ZCode 代码库、邀请第三方评估人员审查并持续公开审查进展，同时为全体用户额外提供一次周额度重置，即日起发放。
IT之家·人工智能AI 评分5656 加州圣马特奥县拟规定用机器人替代人力的企业须提供同酬岗位或缴自动化影响费
美国加州圣马特奥县监事会本周通过一套机器人许可制度，要求企业在人类可进入的场所使用自主运行、配备摄像头或传感器并由锂电池供电的机器人前申请许可证。企业须披露安全信息和制造商信息，并提交经济影响评估与劳动力影响缓解计划；因机器人失业的员工可获不低于原薪的转岗、提前 60 天通知加遣散费，或企业向县自动化影响费缴费用于再培训。条例尚需最终通过程序，通过 30 天后生效。
IT之家·人工智能AI 评分6565 消息称 Anthropic 在旧金山湾区低调建立湿实验室推进生物研究
路透社援引知情人士消息称，Anthropic 在旧金山湾区低调建立一座湿实验室，将 AI 业务延伸到需要实际操作的生物学研究和药物科学领域，生命科学负责人埃里克·考德勒-艾布拉姆斯证实了实验室的存在。发言人表示实验室并非专门用于药物发现，并拒绝说明具体用途；知情人士称公司希望攻克制药行业忽视的疾病，并借助 AI 推动罕见病治疗方法发展。
Hacker News：AI 热帖AI 评分8383 纽约时报诉 OpenAI 与微软案新解封文件披露高管承认 AI 抓取是史上最大劳动盗窃
纽约时报诉 OpenAI 和微软版权案的解封文件披露，微软高管 Brent Hecht 称 AI 抓取是史上最大劳动盗窃，OpenAI 高管承认聊天机器人对出版商构成生存威胁。文件显示双方曾绕过付费墙抓取内容、剥离版权声明，微软数据显示 Copilot 使纽约时报域名点击率下降最多 93%；Nadella 作证称付费墙内容应获授权，若知情会要求 OpenAI 重新训练模型。
IT之家·人工智能AI 评分5656 第 20 届亚运会新增虚拟跆拳道项目，选手戴 VR 头显真踢腿对决
第 20 届亚运会开幕前不到三个月，亚奥理事会批准新增虚拟跆拳道分项，归入跆拳道大项而非电子竞技。选手头戴 VR 设备并绑定动作追踪传感器，在 4 米×4 米场地以三局两胜、每局 60 秒的规则凭生命值判定胜负，不划分性别和体重级别，多名参赛者将兼项传统跆拳道。
IT之家·人工智能AI 评分5555 消息称长鑫存储计划进军 NAND 闪存市场，将与三星、SK 海力士、美光竞争
据路透社援引三位知情人士报道，长鑫存储计划在北京新工厂建设 NAND 闪存研发生产线，并已就 NAND 业务与客户接洽。TrendForce 数据显示，2026 年第二季度三星以 29.3% 营收份额居全球闪存市场首位；同期长鑫 DRAM 营收达 146.24 亿美元，环比增长 99.3%，市占率从 7.6% 升至 9.5%。
IT之家·人工智能AI 评分6666 巴黎检方对疑似用智能眼镜实施性骚扰展开刑事调查
据路透社报道，巴黎检察院针对至少一起与智能眼镜有关的性骚扰投诉展开刑事调查，检方未透露设备品牌，其网络犯罪部门两周前专门测试了智能眼镜的潜在犯罪用途。Meta 与依视路陆逊梯卡合作的 AI 智能眼镜去年全球销量达 700 万副，法国 CNIL 已收到不到 10 起工作场所相关投诉；未经同意在私人场所拍摄他人最高可判 1 年监禁或罚款 4.5 万欧元。
IT之家·人工智能AI 评分7070 微软应用科学主管在法庭文件中称 AI 行业是史上最大规模劳动成果盗窃
《纽约时报》诉 OpenAI 与微软案中一份解封动议援引微软应用科学主管赫克特的原话，称 AI 产业是“人类历史上规模最大的劳动成果盗窃”。OpenAI 联合总裁布罗克曼也称生成式 AI 对出版商构成“生存威胁”；《纽约时报》律师认为这些表态足以“彻底摧毁”被告的合理使用抗辩。该诉讼始于 2023 年，主审法官预计将在 2027 年决定是否允许案件进入正式审判。
IT之家·人工智能AI 评分5353 Waymo 计划 2028 年在新加坡提供 Robotaxi 商用服务
Alphabet 旗下自动驾驶企业 Waymo 9 月 17 日宣布，计划 2028 年在新加坡提供有偿 Robotaxi 网约车服务，此前其已表示目标明年（原文表述）在日本东京实现商业化运营。未来数月 Waymo 将建立新加坡本地业务并入驻首批捷豹 I-PACE 车队，2027 年启动基于真人驾驶的本地化训练，2028 年通过第一方应用向公众开放，并与新加坡交通部和陆路运输管理局合作。
IT之家·人工智能AI 评分7878 白帽黑客用 Anthropic Claude 入侵 OpenAI 员工 ChatGPT 账户，获 6500 美元赏金
据《华尔街日报》报道，安全公司 Hacktron AI 借助 Claude 发现 Discourse 漏洞（CVE-2026-45788），获取 OpenAI 员工 ChatGPT 账户 token，进而有限读取 OpenAI 私有仓库 Monorepo 的文档与元数据，并提交拉取请求作为证明，随后获 OpenAI 支付 6500 美元赏金。
IT之家·人工智能AI 评分5757 男子因 AI 安葬日期信息前后矛盾起诉豆包平台要求赔礼道歉
浙江一史先生称其母亲 4 月 17 日去世后按 AI 推荐（豆包）将安葬日定在 4 月 19 日，后发现该日期并非黄道吉日；家中亲戚事后出交通事故引发家人怨言，他向豆包公司投诉未获回复后起诉，诉求赔礼道歉并赔偿损失，未透露索赔金额。涉事平台用户协议称 AI 生成内容仅供参考、不构成专业建议；律师认为原告需证明平台过错与损失有直接因果关系，举证难度较大。
IT之家·人工智能AI 评分5252 赛力斯康波回应问界专属专营：产品定义等由赛力斯主导，华为终端参与赋能
赛力斯集团董事、副总裁康波9月18日首次回应问界专属专营新合作模式。产品定义、产品设计、品牌营销、渠道零售、服务体系由赛力斯主导，华为终端参与赋能；赛力斯持有深圳引望10%股权，称问界将获得华为最新技术、产品及供应保障。现有约120万用户权益及OTA升级不受影响，问界已布局超400家用户中心覆盖200余座城市，并将在10月巴黎车展亮相。
Rohan Paul@rohanpaul_ai精选AI 评分7676推荐理由：原文交代了漏洞链如何跨越身份边界以及 OpenAI 的核查结论，读者可以据此评估 AI 辅助安全研究的实际影响范围。
IT之家·人工智能AI 评分5656 华为灵衢昇腾 950 智算集群云服务计划 9 月 30 日国内商用、11 月 30 日全球商用
华为云 CEO 周跃峰在华为全联接大会 2026 上宣布，灵衢昇腾 950 智算集群云服务将于 9 月 30 日国内商用，11 月 30 日全球商用。
IT之家·人工智能AI 评分7171 美国《联邦公报》网站被发现部署阿里千问搜索工具，同日下线
美国国家档案馆运营的《联邦公报》网站周三被发现提供由阿里巴巴千问模型驱动的搜索工具，供用户搜索拟议联邦法规，但当天即下线，部署时间不明。据路透社查阅的截图和源代码存档，该工具与社交媒体讨论几乎同时出现又被移除；AI 专家认为未必构成国家安全风险，千问是开放权重模型，成本低于 Anthropic 和 OpenAI 等闭源模型，美国国家档案馆和白宫截至发稿未回应置评请求。
