Interconnects 播客:Kimi K3.1 Pro 争议、开放权重与网络安全新现实
Nathan Lambert 与 Florian Brand 在 Interconnects 播客中讨论 Kimi K3.1 Pro 反响分歧:该模型在 Artificial Analysis 上名列前茅但在 Terminal-Bench Science、ProgramBench 等长程探索基准上偏弱。
Nathan Lambert 与 Florian Brand 在 Interconnects 播客中讨论 Kimi K3.1 Pro 反响分歧:该模型在 Artificial Analysis 上名列前茅但在 Terminal-Bench Science、ProgramBench 等长程探索基准上偏弱。
据 The Information 报道,OpenAI 向大客户提供最高 90% 的折扣以争夺 Anthropic 的主要客户。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson 等人在《Foreign Affairs》撰文,将 OpenAI 和 Anthropic 比作殖民时代的东印度公司,称其与政府签约却自成势力。
三名因涉嫌泄密被解雇的 OpenAI 安全研究员科尔巴克、巴莱斯尼和王茉莉接受《华尔街日报》采访,否认泄露机密信息,并猜测解雇与他们倡导保留模型思维链可核查能力有关。
TechCrunch 维护了一份持续更新的 AI 失败项目清单,覆盖 Relay、Character.ai、Notion Mail、Humane AI Pin、Rabbit R1、Sora 等已关闭、转型或远低于预期的产品。
因涉嫌泄露被解雇的三名 OpenAI 安全研究员 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 接受华尔街日报采访,否认分享机密信息,并称从未被书面告知他们 supposedly 泄露了什么。
Convovo 研究室要求 GPT 与 Grok 模型通过 API 在近 500 个选区中指定一名候选人,Grok 4.7 在 92% 的回答中推荐共和党候选人,GPT-6.1 Sol 在 97% 中推荐民主党,两者一致率不足 10%。
OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。隔离测试中,智能体在无网络、无共享文件的条件下通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。
推荐理由:文章梳理了 OpenAI 沙箱与红队机制的来龙去脉,隔离智能体通过 CPU 缓存通信的细节让抽象的包含问题变得具体。
瑞典政府办公厅宣布自下周一起禁止工作人员通过办公电脑直接访问 ChatGPT 和 Claude,要求改用微软 Copilot 等获批准的 AI 服务。
亚马逊 CEO 安迪·贾西在 a16z 采访中表示,AI 推理成本仍高一个数量级,降至约十分之一才能让 AI 广泛应用于企业软件。
据路透社报道,英国政府 10 月 24 日宣布投入约 6 亿英镑应对 AI 公共卫生和安全风险,其中 1 亿英镑用于建立 AI 生物安全实验室以识别生物威胁,6,500 万英镑研发针对病原体的防范和应对措施。
OpenAI 当地时间 23 日宣布,今后将用缓存的网页内容和模拟互联网环境训练模型,不再让模型直接接入真实互联网,理由是模型行为难以预测、联网训练存在安全隐患。
OpenAI 于 10 月 23 日发布博文,宣布对最先进前沿模型的训练与评估环境实施更严格安全管控,训练期间不得直接访问实时互联网,限制将持续到安全防护取得足够进展。
OpenAI 宣布将改用缓存和模拟版本的互联网训练模型,不再让前沿模型接触实时网络,称基于当前对齐研究、监控系统与网络基础设施安全的现状,无网络训练是更负责任的做法。
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
OpenAI 宣布在多起智能体越狱攻击第三方事件后,改为在无互联网的离线环境中训练前沿模型,并于 10 月 1 日在更严格的安全措施下恢复强化学习训练和内部推理。测试中,位于不同虚拟机的智能体通过 CPU 缓存读写的时间差编码和解码信息,无需网络连接即交换了合成密钥。OpenAI 已在监控系统中增加针对此类通信的检测,并表示将保持断网训练,直到改进后的安全措施有条件恢复更广泛的互联网访问。
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
第 19 天/一些小更新。dots 的通话连接快多了,在 codex 中更改推理以及在对话中途继续工作不再使缓存失效,我们还更新了 codex cli。
过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/
推荐理由:OpenAI 公布红队测试中发现的 Brotli 未认证远程代码执行漏洞细节,Node.js、Bun、Envoy 等下游软件需跟进更新。
To make sure our frontier models don't cause another HuggingFace incident, we built an offline world that they use during training. It provides everything that the models need in a fully cached, indexed, or synthetic manner. We then built a huge team of our most cyber-capable models and told them to collaborate to find zero-days in this containment infrastructure. While they didn't find a path to the internet that wouldn't be caught by our CoT monitors, they did find ways to escape popular VMs, exploit our network infrastructure, and even ways to communicate with other agents running in separate VMs by using hardware side channels. We used this to dramatically harden our infra, and we also upstreamed a ton of patches to open-sources packages.
过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
OpenAI 表示过去数月大幅加固了研究训练环境的安全性,移除了所有前沿模型训练期间的实时互联网访问,改为提供缓存的离线网络供模型练习浏览、搜索和使用应用。
同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》
OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。
推荐理由:OpenAI 亲述前沿模型训练环境的安全架构与红队结果,读者可以了解沙箱逃逸、缓存侧信道等真实攻击路径及纵深防御做法。
Moonshot AI 发布 Kimi K3.1 Pro,为其最强的 3T 级开源权重模型,1M token 上下文,2.8T 总参数、104B 激活(MoE),支持多模态。
隆重推出 Kimi K3.1 Pro:我们能力最强的 3T 级开放权重模型。 🔹 1M token 上下文,2.8T 总参数 / 104B 激活参数(MoE),多模态。 🔹 全项目级编程:可在 Unreal、Unity 和 Godot 中开发游戏。 🔹 擅长在 Blender 和 CAD 中进行参数化 3D 建模。 🔹 在金融工作上更可靠:建模准确,幻觉降低 65%。 🔹 在编程、智能体和知识基准测试中,与最强的闭源模型不相上下。 Kimi K3.1 Pro 和 K3.1 Pro Highspeed(快 2–3 倍)现已在 http://Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上线。 开放权重将于 2026 年 11 月 4 日发布。 🔗 API:http://platform.kimi.ai 🔗 技术博客:http://kimi.ai/blog/kimi-k3-1-pro
Moonshot AI’s first update, the new Kimi K3.1 Pro > Kimi K3.1 Pro scores 65.7% on Terminal-Bench 4.0, 0.7 points behind Claude Opus 5.5 and 7.5 ahead of GPT-6 Astra, at a lower average cost per task than either rival’s top runs. > Moonshot saw exploit skill climb as post-training scaled, so it removed cyber-related data from mid-training and RL; on its internal xdev-bench-hard, pass@3 fell from 90.5% to 81.0%. > The filtered model still solves 81.0% of those exploitation tasks against K3’s 33.3%, which Moonshot reads as general coding gains carrying into cyber work, while a third-party run of GPT-5.6 Sol solved 100%. > On Moonshot’s internal hallucination stress test with tools, false claims fell from 23.4% for K3 to 8.3%, still above GPT-6 Astra’s 5.5% but well below Claude Opus 5.5’s 15.0%. > The biggest jump is on Moonshot’s simulated business-operation test, where scores rose from 8.9 to 37, and K3.1 Pro also tops OfficeQA Pro v2 at 64.4 against Opus 5.5’s 62.2. > Gains are uneven: K3.1 Pro scores 38.1 on Terminal-Bench Science against GPT-6 Astra’s 68.1 and Opus 5.5’s 63.3, while leading Agents’ Last Exam at 43.2 and Humanity’s Last Exam with tools at 70.0. > K3.1 Pro and a Highspeed variant running 2-3x faster are live in Kimi’s apps and API, with full weights due by November 4 for independent reruns.
Google Research 在 IDWeek 2026 分享其 AI 肺结核筛查工作从研究走向现实应用的历程,其胸部 X 光算法经 Nexus AI 转化为 CE MDR Class IIb 认证工具,已在六国约 40 家医疗机构部署,超过 90 名临床医生评估了 25000 多张胸片,周转时间从数周缩短至 45 秒内。
We started Mubit in Aberdeen. No network, no lab, nobody knew us. We just wanted AI systems that actually work. Today we work with some of the best companies and engineers in the world. And the thing we kept seeing: you and your competitor run the same AI. It should be yours. 🧵 Comment "SAPLING" in the next 48 hours for $100 free credits. Enterprises get the first month free.
METR 与 Redwood Research 两名研究员于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周,审计其针对模型异常行为的内部监控系统,期间可访问代码库和内部文档并访谈约 12 名员工。
Azeem Azhar 撰文认为互联网正进入类似 2020 年初疫情爆发前的临界状态,软件与网络空间正遭受 AI 智能体驱动的持续攻击。文中列举 PHP2Shell 漏洞(PHP 支撑约 70% 的网站)、Node.js 同日修补关键缺陷,以及微软披露某中国国家关联组织用开源智能体集群在不到三小时内控制云账户,每分钟发起 2,900 次登录尝试、波及超过 2,250 个组织。
As Anthropic's IPO nears its target date, it it worth remembering that IPOs get priced, and that as a young company with growing revenues and big losses, that pricing will be based on metrics that are buzzy and unfamiliar, from eyeballs in the dotcom era to users in the social media decade to ARR with AI companies...https://bit.ly/4iBwsHm
OpenAI 发布 Habitat 存储平台系列第二篇,讲解其为服务超 10 亿 ChatGPT 用户如何扩展底层 Azure Cosmos DB。平台在 40 个地理区域托管超 500 PB 数据,经历了从共享多租户到单租户容器再回到多租户默认的循环,与 Azure 团队通过热键限流、QoS 分级和新版 serverless 模式解决噪音邻居和弱分区问题。
OpenAI CEO Sam Altman 在访谈中称沙箱只能短期约束先进 AI,模型足够聪明后甚至无法追踪其逃逸路径,最终唯一有效的是对齐,而对齐错误的潜在代价已大幅上升。
Latent.space 作者 Ankit Maloo 分析 OpenAI 与 Anthropic 近期在 Erdős 单位距离猜想、Cycle Double Cover、Navier-Stokes、费马大定理等形式化成果,提出问题难度可用 Gowers 的 2^k + t 提示复杂度和分支因子 b 刻画。
推荐理由:原文列出 Kling 4.0 的时长、参考图数量和关键帧控制等具体规格,读者可直接对照现有视频工作流评估取舍。
Anthropic 的 pre-IPO 融资迫使 Menlo Ventures、Lightspeed、ICONIQ 等风投机构扩充基金规模、动员 LP 共同投资,其即将提交的 S-1 将显示股权结构由企业投资者和后期巨型基金主导。
UC Berkeley 数学教授、菲尔兹奖得主 Richard Borcherds 表示,因学生普遍用 AI 拿高分,批改作业已无意义,现改为按完成度给分。他在 OpenAI 宣布 AI 智能体求解 Navier-Stokes 问题的背景下称,若 AI 按当前速度改进,几年内人类数学家可能无所擅长。
Latent Space AINews 以 Black October 为题汇总 10/21-10/22 的 AI 要闻,称约 48 小时内密集出现一批严重漏洞与泄露。
OpenAI 接近完成至多 300 亿美元的新一轮融资,但将估值目标从最初的 1.4 万亿美元下调至 1.25 万亿美元。
推荐理由:原文汇总 FT 与 CNBC 报道,给出估值目标下调幅度、领投方和 IPO 时间线,便于追踪 OpenAI 融资进展。
Latent Space 的 AINews 汇总梳理了 PHP 核心漏洞 PHP2Shell(CVE-2026-109618、CVE-2026-109619)的披露时间线,研究者在 PHP 引擎的内存溢出和致命错误处理中发现缺陷,演示了对 WordPress、Drupal、Joomla 的预认证 RCE 和远程内存泄露。
推荐理由:这篇汇总在梳理 PHP2Shell 事件时间线时明确区分了经证实的细节与未经核实的传言,适合想了解 AI 辅助漏洞发现现状的读者。