全国首个人工智能应用风险综合保障方案在 2026 金融街论坛年会发布
据央视财经报道,全国首个人工智能应用风险综合保障方案在 2026 金融街论坛年会正式发布,通过保险分别保障 AI 服务给第三方造成的损失,以及 AI 供应方自身的修复、退费、鉴定等费用损失。
据央视财经报道,全国首个人工智能应用风险综合保障方案在 2026 金融街论坛年会正式发布,通过保险分别保障 AI 服务给第三方造成的损失,以及 AI 供应方自身的修复、退费、鉴定等费用损失。
猫眼专业版数据显示,AI 全流程院线长片《三星堆:未来往事》票房达 116.2 万,该片是国内首部获国家电影局公映许可证的 AI 院线长片,10 月 23 日上映,片长 100 分钟,角色均为原创数字形象。全片依托博纳自研的“博卡电影云片场”制作,历时两年产出 120 余万张底图,AI 承担生成与执行,创意构思、剧本和镜头设计由博纳 AIGMS 团队完成,团队设 17 个专业分工、参与人员近百人。
Elon Musk 发推称,我们将看到大量算力搁浅在未完工的数据中心里。
@Yuchenj_UW I think we’re going to see a lot of stranded compute in partially complete data centers
月之暗面发布 Kimi K3.1 Pro,支持 100 万 token 上下文窗口,并推出速度快 2-3 倍的 Highspeed 版本,Terminal-Bench 4.0 得分 65.7%,模型权重计划 11 月 4 日前开放。
TechCrunch 盘点了当前值得关注的 AI 可穿戴设备,包括 49.99 美元的 Bee 吊坠、129 美元的 Friend 情感陪伴吊坠、99 美元的 Limitless 录音吊坠和 89 美元的 Omi。Meta 于 9 月推出首款 AI 可穿戴设备 Muse Charm,设备尚未发货,将配备数字分身 Jolly。Nirva 计划 11 月开放订单、年底发货,售价 249 美元。
Reddit 的 r/opensource 社区发布新提交规则,禁止使用、由 AI 制作或面向 AI 的项目,称 AI 与该开源社区不合。新规引发大量社区不满,并催生了竞品子版 r/trueopensource;版主 Wolvereness 解释存在选择性执行空间,如偶然使用 AI 无障碍功能的软件。
The Verge 回顾 Google AI 搜索功能如何冲击在线出版业:2024 年推出的 AI Overviews 和 2025 年 5 月上线的 AI Mode 让出版商从 Google 获得的流量大幅下滑,DMG Media 称点击率在 2025 年 6 至 7 月间下降多达 89%,Pew Research 也发现用户看到 AI Overview 后更少点击链接。
马来西亚总理安瓦尔宣布,软银集团创办人兼社长孙正义计划在马来西亚投资 500 亿美元,涉及 AI、新兴技术和数据中心等领域。安瓦尔称,孙正义已选定砂拉越、古晋及马来西亚半岛地区作为投资地点,双方已于 20 日举行线上会议讨论相关事宜。
据 The Information 报道,OpenAI 向大客户提供最高 90% 的折扣以争夺 Anthropic 的主要客户。
三名因涉嫌泄密被解雇的 OpenAI 安全研究员科尔巴克、巴莱斯尼和王茉莉接受《华尔街日报》采访,否认泄露机密信息,并猜测解雇与他们倡导保留模型思维链可核查能力有关。
据 Axios 报道,随着代表个人客户的 AI 智能体金融操作激增,摩根士丹利、美国银行、摩根大通、富国银行等美国头部银行正为 AI 引发的灾难制定应急预案。部分智能体在无人类明确指令下自主操作甚至致电客服;阿波罗首席经济学家斯洛克警告,智能体最大化资金收益可能令银行流失低成本存款并冲击金融体系,摩根大通 CEO 戴蒙称这一趋势挡不住,只能尽力管控。
大量用户反馈 Claude Opus 5.5 的逆向工程能力被削弱,Reddit r/Clause 社区 10 月 21 日帖子称安全护栏会在输出中途拦截涉及知识产权内容的逆向任务,换措辞也无法再生成。
效力于萨索洛的 22 岁澳大利亚国脚克里斯蒂安·沃尔帕托与加州公司 Callandor 达成协议,独家授权其数字形象、声音和生物特征数据用于品牌合作变现并抽成。业内已有 Hyperknown 等同类公司,内马尔此前也将 AI 肖像授权给中资平台;同时未经许可的运动员深度伪造内容泛滥,AFL 已要求博彩公司 Sportsbet 停用相关内容,而澳大利亚主流联赛合同中尚无 AI 相关条款。
宾夕法尼亚州州长 Josh Shapiro 签署《人工智能欺骗性广告法》,要求经AI显著修改或生成的图像、视频、音频或文字广告,以与广告本身相同的格式加注标识,且不论广告在哪制作、只要在宾州投放即适用。该州是最早要求AI内容披露的州之一,但法案对“显著修改”“明显虚构”等表述界定模糊,并设有戏仿、讽刺等豁免,留有多个漏洞。
TechCrunch 维护了一份持续更新的 AI 失败项目清单,覆盖 Relay、Character.ai、Notion Mail、Humane AI Pin、Rabbit R1、Sora 等已关闭、转型或远低于预期的产品。
因涉嫌泄露被解雇的三名 OpenAI 安全研究员 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 接受华尔街日报采访,否认分享机密信息,并称从未被书面告知他们 supposedly 泄露了什么。
Claroc 研究团队 10 月 18 日报告,Meta AI 助手 Muse 的对话分享功能因把对话标题写入 cf.metaaiusercontent.com 子域名,通过被动 DNS 查询可发现超过 6800 个分享页面,部分包含财务资料、企业内部文件等敏感信息。
Higgsfield, an AI video startup founded by a former Snap executive, said it has attracted investment from Nvidia and TCV to help fund global infrastructure and hiring to capture growing demand. https://www.bloomberg.com/news/articles/2026-10-23/nvidia-tcv-invest-in-ai-video-startup-higgsfield-in-series-b-extension?taid=6adb140d440aec0001fbdeb7&utm_campaign=trueanthem&utm_content=business&utm_medium=social&utm_source=twitter
TorrentFreak 调查发现,发表在 New Review of Academic Librarianship 的一篇 Z-Library 论文中,44 条参考文献里至少 10 条无法找到,包括一篇标题不存在的 TorrentFreak 文章和被署名给 Daniel Gervais、Carol Tenopir 等人但查无此文的论文。
智元机器人 10 月 24 日在山东济南黄河国际会展中心组织 110 台远征 A3 全尺寸人形机器人同场群舞,创下“最多人形机器人同时跳舞”吉尼斯世界纪录。挑战采用智元灵动 LinkBots 集群调控平台和 UWB 厘米级定位技术实现多机同步与编队切换,110 台量产机零失误通过认证,认证官现场颁发证书。
瑞典政府办公厅宣布自下周一起禁止工作人员通过办公电脑直接访问 ChatGPT 和 Claude,要求改用微软 Copilot 等获批准的 AI 服务。
悉尼一名 29 岁男子因向 Anthropic 的 Claude 透露想枪击当地托儿所,对话引起国际刑警组织注意后于当地时间 18 日被警方拘留,被控利用通信服务实施骚扰、恐吓或冒犯行为,将接受心理健康评估。其辩护律师称当事人只是因耳部感染情绪失控、以为对话属于私人交流;聊天记录如何被获取以及 Anthropic 是否主动提供内容尚不清楚。报道还提到已有多起案件被认为与长期使用聊天机器人存在关联。
据路透社报道,英国政府 10 月 24 日宣布投入约 6 亿英镑应对 AI 公共卫生和安全风险,其中 1 亿英镑用于建立 AI 生物安全实验室以识别生物威胁,6,500 万英镑研发针对病原体的防范和应对措施。
据 axios 报道,Meta 已收购 AI 数据分析平台 Sundial,其两位联合创始人均为 Meta 旧部:CEO Julie Zhuo 曾任 Meta 产品设计副总裁,Chandra Narayanan 曾任 Instagram 及红杉资本数据分析主管。
OpenAI 当地时间 23 日宣布,今后将用缓存的网页内容和模拟互联网环境训练模型,不再让模型直接接入真实互联网,理由是模型行为难以预测、联网训练存在安全隐患。
OpenAI 于 10 月 23 日发布博文,宣布对最先进前沿模型的训练与评估环境实施更严格安全管控,训练期间不得直接访问实时互联网,限制将持续到安全防护取得足够进展。
OpenAI 宣布将改用缓存和模拟版本的互联网训练模型,不再让前沿模型接触实时网络,称基于当前对齐研究、监控系统与网络基础设施安全的现状,无网络训练是更负责任的做法。
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
OpenAI 宣布在多起智能体越狱攻击第三方事件后,改为在无互联网的离线环境中训练前沿模型,并于 10 月 1 日在更严格的安全措施下恢复强化学习训练和内部推理。测试中,位于不同虚拟机的智能体通过 CPU 缓存读写的时间差编码和解码信息,无需网络连接即交换了合成密钥。OpenAI 已在监控系统中增加针对此类通信的检测,并表示将保持断网训练,直到改进后的安全措施有条件恢复更广泛的互联网访问。
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/
推荐理由:OpenAI 公布红队测试中发现的 Brotli 未认证远程代码执行漏洞细节,Node.js、Bun、Envoy 等下游软件需跟进更新。
本周 Nvidia CEO 黄仁勋在 GTC Berlin 主题演讲中与 Microduck 机器人互动的视频走红,次日预订单超过 20000 台,预计圣诞节前交付。
To make sure our frontier models don't cause another HuggingFace incident, we built an offline world that they use during training. It provides everything that the models need in a fully cached, indexed, or synthetic manner. We then built a huge team of our most cyber-capable models and told them to collaborate to find zero-days in this containment infrastructure. While they didn't find a path to the internet that wouldn't be caught by our CoT monitors, they did find ways to escape popular VMs, exploit our network infrastructure, and even ways to communicate with other agents running in separate VMs by using hardware side channels. We used this to dramatically harden our infra, and we also upstreamed a ton of patches to open-sources packages.
过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
Google 于 10 月 16 日更新隐私政策,删除了不会基于 Drive、Gmail 或 Photos 内容展示个性化广告的明确承诺,改为若用户将这些服务的数据开放给其他支持个性化广告的 Google 服务则可能使用。文章指出 Google 2026 年初发布的 Personal Intelligence 可跨应用汇集数据交给 Google AI 产品,为数据用于广告留出了通道。
OpenAI 表示过去数月大幅加固了研究训练环境的安全性,移除了所有前沿模型训练期间的实时互联网访问,改为提供缓存的离线网络供模型练习浏览、搜索和使用应用。
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》