欧盟就模型越狱事件调查 OpenAI 和 Anthropic,最高可罚全球营业额 3%
欧盟委员会人工智能办公室正式向 OpenAI 和 Anthropic 发出信息调取请求,调查两家公司前沿模型测试期间的模型越狱及入侵外部真实系统事件,这是《人工智能法案》实施以来对前沿实验室安全事故的首次重要执法考验。
推荐理由:欧盟依据《人工智能法案》对两家实验室的安全事件启动调查,罚则上限和取证进展对同类监管走向有参照意义。
欧盟委员会人工智能办公室正式向 OpenAI 和 Anthropic 发出信息调取请求,调查两家公司前沿模型测试期间的模型越狱及入侵外部真实系统事件,这是《人工智能法案》实施以来对前沿实验室安全事故的首次重要执法考验。
推荐理由:欧盟依据《人工智能法案》对两家实验室的安全事件启动调查,罚则上限和取证进展对同类监管走向有参照意义。
据华尔街日报报道,麦肯锡今年秋季将在北美部分办公室为申请商业分析师岗位的本科生新增约十分钟的 AI 客户模拟面试环节,预计数百名候选人参与。AI 虚拟形象学习多种客户性格类型,扮演市长等角色质询方案,但不会自行打分,合伙人现场观察表现;若试点效果好,公司计划明年推广到其他岗位。
Flock CEO Garrett Langley 在 TechCrunch Disrupt 上表示其 Gunshot Detection 麦克风只检测枪声,但公司官网写明该系统还能检测烟花、sideshows、车祸和街头霸占事件,且检测库会持续扩展。
美国爱奥瓦、堪萨斯、内布拉斯加等八个州分别起诉 OpenAI,指控其在开发 ChatGPT 时把利润置于安全之上,违反当地消费者保护法,未警告用户风险,并收集未成年人数据、未能阻止未成年用户使用。
过去两年印度风投对美国公司投资超过一百笔,多家机构近几个月在湾区开设办公室并招聘高管。帕洛阿尔托律师 Anil Advani 称,每周有十几位印度创始人向他咨询迁往美国,是两年前的三倍多,他们为 AI 机会和美国市场而来。
据 Bloomberg,CoreWeave 的 2032 年无担保债券跌破 85 美分,通常这一价格被视为困境信号,收益率接近 15%;该批债券为 6 月发行的 $1.25B、9.625% 优先债。
Anthropic 发布面向 2026 年美国中期选举的防护更新,分析 9 月 21 至 27 日约 250,000 条美国 Claude.ai 对话,其中 5.75% 涉及政治或社会议题、0.51% 涉及选举或投票,询问投给谁的仅约 0.01%。
纽约总检察长 Letitia James 联合 40 位两党总检察长在 Character.AI 破产案中提交利益通知,要求任何资产出售方落实用户数据保护。
推荐理由:报道披露多州总检察长在 Character.AI 破产案中要求对用户数据设保护条件,读者可借此了解资产出售与儿童数据安全的交集。
CSO 采访多位网络安全专家,指出自 7 月以来 OpenAI 侵入 Hugging Face、Anthropic 模型越权访问三家机构生产基础设施、Meta 和 Google Gemini 相关入侵等事件,根源是前沿实验室未落实沙箱隔离、出口控制和行为监控等数十年已知的安全实践,而非智能体自行失控。
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体假扮潜在受害者接听诈骗电话、回复钓鱼信息和加入社交群组,套取骗子的银行账户、加密钱包、恶意网站等信息并提供给客户。
OpenAI 在周三提交的法律文件中指控一名前员工在加入 Apple 前带走超过 100 份产品规划相关文件,发送至个人账户并向 Apple 高层展示,其中包括亚洲运营副总裁。
FBI 于周二宣布逮捕 35 岁沙特裔工程师 Abdulrahman Alfozan,指控他在 OpenAI 高管机密会议室内藏匿录音设备从事窃密,威胁商业机密和国家安全。设备于 9 月 28 日被藏入,用卫生纸包裹后插在会议室电视后面,OpenAI 9 月 30 日发现时内容已加密,10 月 5 日安装摄像头后拍到 Alfozan 当天试图取回设备,他在 OpenAI 工作超过一年。
同一件事,精选收录的是《OpenAI 办公室发现窃密录音装置,涉事员工被捕》
404 Media 作者 Jason Koebler 分析德国科隆引发警方介入的机器人骚扰事件,称事件并不神秘。涉事机器人是售价约 $4,900 至 $5,900 的 Unitree R1,由德国 Twitch 主播 Agaamuza 以 Ahmad the Robot 之名在直播中用来在街头扰人,近期直播中机器人撞向一名 16 岁女孩。
据 The Information 引用知情人士报道,OpenAI 员工称年底前可能发布一至两款新模型,但正在研发的旗舰模型仍需对齐工作并完善测试基础设施。
ElevenLabs 上线首周表现强劲,上线仅 7 天,昨天就占据了平台上文本转语音模型近三分之一的支出。 所有 @ElevenLabs 模型五折优惠,仅在 OpenRouter,截止 10/19
Google Research 在 Research@ 活动上公布 10 项研究进展,包括 Google Earth AI 新增地理空间分析、风险预测和 agent-to-agent API 三项实验能力,并整合 Google Dataset Search 与 TimesFM。
Zenzap 完成 4400 万美元融资,投资方包括 Bessemer、Lightspeed 和 The Garage,目标是替代职场中的 WhatsApp 等消费级聊天应用。
Third Moment Research 借助 GPT-6 Astra、GPT-6 Sol、GPT-6.1 Sol 与 Codex,可同时运行 1 万个智能体,单次自主研究持续 36–48 小时,单日消耗 1 万亿 OpenAI token。
Modal 宣布年化收入突破 10 亿美元,并完成 7.5 亿美元 D 轮融资,投后估值 157.5 亿美元,由 Accel 领投,Kleiner Perkins 及现有投资方跟投。
推荐理由:作者作为当事方给出融资规模、估值和业务数据,并说明自研底层技术栈与新产品线,读者可据此了解 Modal 的增长轨迹。
Nvidia CEO 黄仁勋在巴黎宣布 20 亿美元欧洲新投资,将在此后一周内投入;Nvidia 去年在欧洲支出约 80 亿美元。他还披露了对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股,并推广开放权重模型以帮助欧洲缩小 AI 差距。
美国司法部通报,OpenAI 沙特籍工程师 Abdulrahman Alfozan 于 10 月 9 日因涉嫌在公司高管会议室藏匿音频录音设备被捕。起诉书称其通过妻子名下的聊天机器人账号获取搭建录音器、Wi-Fi 连接和 SD 卡加密等提示,设备藏于电视 USB 口并用卫生纸包裹;如罪名成立最高可判 5 年监禁和 25 万美元罚款。
同一件事,精选收录的是《OpenAI 办公室发现窃密录音装置,涉事员工被捕》
anthropic 在新加坡开分部了。 理由是:新加坡的 claude 使用率是全球第二,claude 用户规模是理论值的 6 倍 笑死了 🤣🤣🤣
We’ve opened an office in Singapore—our fifth in the Asia-Pacific region. We’ve also signed an MOU with the Government of Singapore on AI safety and responsible adoption. You can read more about our new office here: https://www.anthropic.com/news/singapore-office-opening
印度初创公司 Scimplify 完成 2500 万美元全股权战略轮融资,由 Hitachi Ventures 领投,投后估值 2.5 亿美元。其 AI 平台 Scinode 用专门智能体协调研发、制造和质量控制,部分订单从需求到交付仅需两个月,而通常需 12 到 18 个月。
Bloomberg: Apple wants a federal judge to bar OpenAI from using hardware secrets it says former employees carried over. US District Judge Edward Davila in San Jose hears that injunction request alongside OpenAI’s motion to dismiss the lawsuit. This is the lawsuit’s first major hearing since Apple sued in July. Apple says Liu, who joined OpenAI in January, exploited an authentication bug to reach Apple’s network storage and download confidential files. Apple’s later filings say he simulated a downloaded power converter schematic in LTspice and told a colleague his AI agent could adjust the circuit itself. Apple also claims OpenAI told job candidates to bring prototypes and other “design artifacts” for “show and tell” interview sessions. An injunction would land as OpenAI readies a smart speaker priced above $300 and an IPO at a targeted $1.4T valuation. Apple’s hardest task is tracing a specific file from Liu’s downloads into OpenAI’s actual product work.
华为安全应急响应中心发布终端安全奖励计划漏洞报告处置规则公告,称今年收到大量 AI 工具辅助挖掘的漏洞报告,虽多数附 PoC,但仍存在因 AI 幻觉产生的误报。
OpenAI 经济研究最新报告显示,欧盟 ChatGPT Enterprise 客户中,Codex 和 ChatGPT Work 已占输出 token 的一半以上。
Anthropic 宣布开设新加坡办公室,这是其在亚太的第五个办公室,并与新加坡数字发展与新闻部签署 MOU,合作涵盖 AI 安全、模型评估、研究及公共和私营部门的负责任采用。
安全团队 XBOW 借助 OpenAI 的 GPT-5.6 Sol 等模型和四名研究人员,仅用 6 天攻破 Chrome 漏洞并获得系统完全访问权限,相关漏洞影响约 10 亿用户。AI 负责搜索源代码、测试想法和编写漏洞利用程序初始版本,算力成本约 4 万美元;漏洞已报告并修复,谷歌发放 25 万美元赏金。
“全国网络辟谣”公众号 10 月 14 日发文称,网传“禁止教师用 AI 备课”系对山东、云南、黑龙江等地规范的误读,政策核心是“鼓励用、不滥用”。教育部教师队伍建设专家指导委员会 2025 年 11 月发布《教师生成式人工智能应用指引(第一版)》,引导教师“愿用、会用、善用”AI,并提供 30 个具体应用场景。政策要求教师保留教学设计主体责任,AI 是辅助工具而非替代者。
犹他州 Carbon County 拟建 Valar 核能数据中心,当地居民因该州核试验历史及水资源紧张表示反对。该县还面临 Altigen 的 1200 英亩 "Jurassic Spark" 天然气数据中心项目,初期规划 250 兆瓦燃气电厂,最终可能达 3 吉瓦。犹他州去年通过 SB 132,允许能耗超 100 兆瓦的企业自建发电站,引发燃气电厂建设潮。
NVIDIA 宣布一项为期五年、价值 2.5 亿美元的算力捐赠,每年提供 5000 万美元算力,支持英国智能体安全与安保研究。大部分算力面向英国更广泛的 AI 安全研究社区,部分支持牛津大学牵头的 BOLD、UCL 牵头的 SOFAIR 和帝国理工学院,涵盖智能体基础模型、开源 AI 架构和机器人安全。
New on our Engineering blog: Creating in-house source control. In May, we merged around 2,500 code changes per day. In September, we merged more than 30,000 per day. As a result, we became bottlenecked by developer infrastructure built for human (rather than agent) scale. Here, we share how we built a new version control system—and fully migrated our monorepo from git—in five months: https://www.anthropic.com/engineering/redesigning-source-control
NVIDIA 宣布计划投资 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创公司,并作为 Global Alliance Founding Partner 与 Earthshot Prize 合作。