#数据/训练

专业化为何不可避免

Dharma AI 团队引述 Goldfeder、Wyder、LeCun 和 Shwartz-Ziv 于 2026 年发表的论文，从优化理论、生物学和竞争市场论证专业化的必然性。Wolpert-Macready 无免费午餐定理表明，通用优化算法在所有问题上平均表现相同，实际优势来自专门适配；有限资源下，集中资源于有限任务集的系统必然优于平均分配的通用系统。生物学中的特化权衡与市场竞争也指向同一结论：最大化适应性在于精确拟合特定环境，而非追求通用性。

国产AI两个“万亿”里程碑：美团LongCat-2.0发布，寒武纪市值破万亿

今天，美团发布LongCat-2.0，1.6万亿参数、100万上下文，全流程在5万张国产算力卡上完成训练和推理，英伟达含量为零，是首个在纯国产算力集群上从零跑通的万亿参数大模型。同日，寒武纪市值突破1万亿人民币，成为科创板首家万亿市值公司。两个“万亿”里程碑叠加Claude封号背景。作者测试显示LongCat-2.0的Agent和Coding能力约在Claude Opus 4.6水平。

台检方搜查Super Micro办公室，调查Nvidia AI芯片走私中国

台湾基隆地检署周一突击搜查Super Micro及多家本地合作公司办公室，包括Chief Telecom和Albatron Technology，并搜查六人住所。调查聚焦于涉嫌通过Super Micro服务器将Nvidia AI芯片走私至中国。Super Micro股价当日下跌8%。今年5月已有三人因伪造出口文件、经日本向中国运送至少一批Nvidia芯片被捕。一位Super Micro联合创始人被起诉，公司本身未被指控。Super Micro表示正配合当局保护技术。台湾目前未将向中国出口AI芯片定为刑事犯罪，但正考虑修改以与美国规则对齐。

马斯克抽调 SpaceX 顶尖星舰和星链工程师，全力攻坚 Grok 大模型

马斯克透露，SpaceX 已抽调数十名星链和星舰核心工程师，将大部分精力转向 Grok 大模型迭代与算力适配。最新版 Grok 4.5 已在特斯拉和 SpaceX 内部测试。本月 SpaceX 以 600 亿美元收购 AI 代码初创公司 Cursor，其工程师也参与研发。马斯克称 SpaceX 今年将每月推出一款从零全新训练的大模型。此前 xAI 经历大规模重组，11 位联合创始人全部离职，Grok 整体性能落后于 OpenAI、Anthropic 等竞品。SpaceX 完成 850 亿美元 IPO 后，计划搭建百万个轨道数据中心，由星链提供基础设施、星舰送入太空，用于训练 AI 模型。

Meta AI 发布 Brain2Qwerty v2：非侵入式 MEG 脑到文本解码管线

Meta AI 近日发布 Brain2Qwerty v2，一种基于非侵入式脑磁图（MEG）信号的实时脑到文本解码管线，无需植入或手术。系统在 9 名志愿者约 22,000 句打字数据上训练（每人 10 小时），平均词准确率 61%（WER 39%），最高参与者达 78%，超过半数句子错误不超过一个词。管线由卷积编码器、Transformer 和字符级语言模型组成，并微调大语言模型提取语义表征，用 AI 智能体自动化改进解码流程但最终配置由人工选定。Meta 同时以 CC BY-NC 4.0 协议开源 v1 和 v2 训练代码。

Rohan Paul@rohanpaul_ai· 15:59AI 评分4545

推文展示贵州山区绵延至地平线的太阳能板群，将裸露岩体转化为太瓦时量级的电力。引用观点指出，AI规模化发展受制于电力、矿产与磁铁供应链等物理输入，而中国在电力冗余以及数据中心与芯片依赖的关键矿物和磁材供应链上拥有主导优势。这一基础设施差距正成为AI竞争的核心变量。

数字生命卡兹克@Khazix0918· 13:20AI 评分7373

全球高质量真实物理交互数据截至2026年初仅约50万小时，不足大语言模型训练数据的两万分之一，而训练通用机器人需千万小时级别，因此大量人工采集成为必需。该岗位无学历经验要求，面试先问身高体重（因手套固定规格），通过率极高。试岗需穿戴设备进行遥操作或示教采集，重复叠衣服、分拣积木等简单动作。兼职日结，吸引各行各业的人。作者小伙伴达达亲身体验，感叹其魔幻与现实。

美团发布并开源万亿参数模型 LongCat-2.0，五万卡国产算力完成全流程训练

美团正式发布并开源万亿参数大模型 LongCat-2.0，总参数 1.6T、平均激活约 48B，在五万卡国产算力集群上完成从预训练到推理的全流程。模型原生支持 1M 超长上下文，预训练数据超 30T tokens；训练月均日故障率降低 70% 以上，训练 MFU 提升 1.5 倍，稳态日吞吐超 1T tokens/day。

PromptArmor@PromptArmor· 09:57AI 评分5151

Labcorp 现在可以出售个人数据用于 AI 训练？这太疯狂了：

LangChain 发布结构化数据提取基准：GPT-4、Claude 与开源 LLM 对比

LangChain 发布了一项针对聊天日志结构化数据提取的基准测试，对比了 GPT-4、Claude 与开源大语言模型的表现。该基准包含评估指标与数据集创建方法，旨在衡量不同模型从非结构化对话中提取结构化信息的能力。

Thinking Machines Lab 用专家标注微调 Qwen3-235B，在金融判断任务上超越前沿模型

Thinking Machines Lab 与 Bridgewater AIA Labs 发布研究，用专家投资者标注的数据微调 Qwen3-235B，在六项金融信息筛选任务上平均准确率从最佳前沿模型的 78.2% 提升至 84.7%，推理成本降低 13.8 倍。

韩国将投入1万亿美元扩大存储芯片生产和发展人形机器人

韩国政府与三星、SK海力士等承诺1万亿美元实施三大旗舰项目。三星和SK海力士投资5850亿美元新建芯片工厂，目标五年内将DRAM产量翻倍；SK集团、GS集团和Naver投资3570亿美元在偏远省份建设AI数据中心；物理AI被指定为国家战略产业，现代汽车投资58亿美元建设机器人工厂和AI数据中心，计划到2028年每年生产3万台Atlas人形机器人，并在10大行业实现商业化。但现代汽车工会已批准罢工谈判，要求利润分享和岗位保护。

Anthropic：当AI成本超过工程师薪酬

Anthropic在算力上的支出达到每位工程师每年51.5万美元，是其完全薪资（22.4万美元）的2.3倍。相比之下，顶尖1%软件公司的算力支出为8.9万美元，中位数仅为1.37万美元。三个2029年情景预测了这一差距的缩小路径。

Rohan Paul@rohanpaul_ai· 02:28AI 评分5353

The Information报道，Meta已限制工程师使用Anthropic的Claude Code和OpenAI的Codex，原因是为防止竞争对手模型输出污染Meta自身AI训练数据，并引发合同纠纷。OpenAI和Anthropic的服务条款均禁止使用其输出来开发竞争模型。知识蒸馏风险在于即使意外复用竞品输出也可能被视为从竞争对手提取能力。建议的策略包括成分追踪：仅在不用于模型训练管线、评测集、基准生成、后训练数据、奖励模型数据及内部数据集时才使用竞品工具。典型防护措施有隔离规则、企业账户审批、训练数据溯源日志、数据集隔离及自动扫描“AI生成”标记等。

DiScoFormer：一个跨分布同时估计密度与分数的单一Transformer模型

DiScoFormer（Density and Score Transformer）是一个无需重新训练即可从数据点估计分布密度和分数的单一模型。它利用Transformer的交叉注意力机制，在单次前向传播中输出密度和分数，并通过一致性损失实现分布外自适应。在100维空间中，DiScoFormer比最优调参的核密度估计（KDE）降低分数误差约6.5倍、密度误差超过37倍，且随样本量增加持续提升，而KDE内存耗尽。模型基于高斯混合模型训练，可泛化至非高斯分布（如Laplace、Student-t）及未见过的多模态混合。

Arena（AI 模型排行榜平台）商业化 8 个月年化营收达 1 亿美元

源自 UC Berkeley 2023 年研究项目的 AI 模型排行榜平台 Arena，其付费服务上线仅 8 个月后年化营收达 1 亿美元（消费量计费）。Arena 以众包排行榜闻名，基于超 1000 万次用户评估生成排名。去年 9 月推出的付费服务 AI Evaluations 为模型实验室和企业提供深度性能分析。今年 1 月 Arena 完成 1.5 亿美元 A 轮融资，投后估值 17 亿美元。联合创始人兼 CEO Anastasios Angelopoulos 与 CTO Wei-Lin Chiang 均为 UC Berkeley 博士后，另一联合创始人是伯克利教授、Databricks 联合创始人 Ion Stoica。

防止蒸馏第三方模型，Meta限制AI工程师使用Claude与Codex

Meta已限制其AI工程部门工程师使用Anthropic的Claude Code与OpenAI的Codex，以防止无意间触发蒸馏行为——借助竞品模型输出训练自家AI模型，该操作违反用户协议。这份5月出台、目前仍在生效的内部规范警告，若竞争对手的AI输出渗入训练数据，可能引发与合作企业之间的严重纠纷。Meta发言人表示有明确政策规范团队以负责任方式使用AI工具。

Google Research 推出 TabFM：用于表格数据的零样本基础模型

Google Research 发布 TabFM，一种基于上下文学习（ICL）的零样本基础模型，专为表格数据的分类与回归任务设计。TabFM 将整个数据集（包含训练样本与待预测行）作为统一提示输入，在推理时直接从上下文中学习行列关系，无需模型训练、超参数调优或特征工程。与需大量人工调优的传统方法（如 XGBoost）不同，TabFM 通过单次前向传播即可在新表格上生成高质量预测。该模型已在 Hugging Face 和 GitHub 上开源。

Google Research 将建筑屋顶反射率数据集扩展至全球 50+ 城市

Google Research 发布扩展的建筑屋顶反射率数据集，覆盖全球 50 多个城市，旨在帮助城市规划者优先部署冷屋顶方案以缓解极端高温。该数据集融合 Sentinel-2 卫星数据与 30 厘米分辨率的 Airbus Pléiades Neo 卫星图像生成，可通过新的高分辨率 Heat Resilience Earth Engine App 开放获取。相关方法论发表于《Nature Communications》。此前 2024 年的试点已覆盖 14 个城市，其数据曾指导制定冷屋顶条例与适应计划。

如何优雅地给 MLA 加上 QK-Norm？

DeepSeek 的 MLA 通过只缓存低维潜向量压缩 KV Cache，但 QK-Norm 需归一化高维 Key，若缓存归一化结果则打破低维优势。文章提出数学等效变换：将 QK-Norm 中动态逆 RMS 标量和静态仿射权重合并到 Query 侧，推理时每个 token 只需额外缓存一个逆 RMS 标量，即可严格等价实现 QK-Norm，不牺牲显存效率。在 400M/1B 模型训练 100B tokens 实验中，QK-Normed MLA 相比 QK-clipping loss 更低（1B 模型 gap ~0.02），训练更稳定且收敛更快。

如何优雅地给 MLA 加上 QK-Norm？

针对 MLA 架构与 QK-Norm 的冲突，作者提出一种数学等效变换，将 QK-Norm 的静态仿射权重融合进 Query 投影，使推理时仅需额外缓存每个 token 的 1 个逆 RMS 标量，即可实现严密的 QK-Norm 数学等价，无需缓存高维 Key。

SK 集团会长崔泰源：到 2035 年建设 15GW AI 数据中心，总投资达 1000 万亿韩元

SK 集团会长崔泰源 6 月 29 日宣布，计划到 2035 年建成 15GW AI 数据中心容量，作为韩国国家级基础设施和实体 AI 时代核心底座。项目总投资 1000 万亿韩元（约 4.4 万亿元人民币），未来 10 年保持年均 100 万亿韩元以上国内投资，旨在实现从出口传统商品向智能服务的转变，构建韩国智能市场。此外，SK 海力士将向韩国西南部投资 400 万亿韩元，半导体供应项目总投资达 1100 万亿韩元（约 4.84 万亿元人民币）。

Rohan Paul@rohanpaul_ai· 13:27AI 评分5656

剑桥大学、NVIDIA等机构发表新论文《The Red Queen Gödel Machine》，提出让AI智能体与评估者协同进化，避免固定基准导致的分数停滞或易被利用。每轮训练中，评估者冻结，同时用留出的人类/客观答案单独训练更强评估者，在安全交接点更新。在编程任务上，系统以1.35×-1.72×更少token超越此前最佳自改进编程智能体；论文写作中，协同进化的写作者获得审稿小组约1.86倍的平均接收率提升。论文强调更强AI需要更强的评估者与之共同成长。

曝中国移动设立 Token 办公室，集团领导挂帅督战

中国移动近日设立 Token 办公室，级别高于算力办，由集团核心领导直接挂帅，战略发展部总经理担任常务副主任。该办公室旨在拉通“创造 Token、输送 Token、应用 Token”全流程，打破算力办、移动云公司、数智事业部等二级部门各管一摊的局面。今年 5 月，中国移动上线词元（Token）套餐，最低 5 元月包，可与云电脑、云手机等产品深度融合，用于 AI 应用。在 MWC26 上海上，中国移动提出“智为先”战略方向，探索 AI 手机、AI 眼镜和人形机器人等移动智能新形态。

Rohan Paul@rohanpaul_ai· 09:27AI 评分5757

OpenAI、Anthropic 和 xAI 三家公司在 2025 年底合计仅使用了全球约 21% 的运营 AI 算力，而当时全球部署的 H100 等效约 1600 万个，已销售的 H100 等效约 2000 万个。 数据来自 EpochAI epoch .ai/gradient-updates/frontier-labs-dont-use-most-ai-compute

国安部警示：某知名AR手游数据被用于军事目的，采集超300亿环境扫描数据

外媒披露，某知名AR手游旗下AI公司获取近300亿份用户环境扫描数据，或用于训练理解物理空间的AI模型，因与某国军工合作，可能用于军事目的。国家安全部指出，该游戏实质诱导玩家完成三维点云扫描，采集维度远超拍照，坐标绑定高精度GPS、海拔、朝向、时间戳。国安部重点提示三种风险：窃取隐私、透支行业信任、泄露地理信息危害国家安全，并建议用户权限管理“小气”、敏感区域“谨慎”、可疑任务“多想”。

Rohan Paul@rohanpaul_ai· 01:27AI 评分5353

中国开发者通过灰色市场API中转站以官方价格5%-10%购买Claude token。中转站利用免费额度、折扣账户、共享订阅、海外支付绕过、虚假验证及盗刷信用卡汇集多个账户，通过微信/支付宝收款。低价源于账户农场、免费额度滥用、未使用配额转售、订阅拆分及可能盗刷信用卡，并可能将用户提示词和输出用作训练数据创收。风险包括：中转站可能替换为更弱模型、虚报token用量、存储用户私有数据并出售或用于模型训练。这破坏了KYC、账户封禁和滥用监控的有效性——Anthropic只能封禁中转站，无法触及真实用户。

美光因AI内存短缺股价飙升236%，市值一度超越Meta和特斯拉

内存芯片制造商美光受益于AI数据中心建设导致的DRAM和NAND（尤其是HBM）供应短缺，股价过去一个月飙升236%，市值接近1.27万亿美元，一度超越Meta和特斯拉。第三季度营收同比增至414.5亿美元，利润从18.8亿美元暴涨至282亿美元，并预测第四季度营收490至510亿美元。美光已与英伟达、Anthropic等签订16项长期战略客户协议。分析认为需求增长持续超过新产线投产速度，缺货（RAMageddon）预计持续至2027年。

Elon Musk@elonmusk· 18:50精选AI 评分7070

Grok 4.5，基于我们的1.5T V9基础模型，并在补充训练中加入Cursor数据，现已在SpaceX和Tesla进入私测。初步评估显示其性能接近，或许超越Opus。 强化学习仍在持续显著改进模型，Grok Build工具链也在日益完善。 所有参与者的出色工作！ 今年，@SpaceX 将每月发布完全从头训练的新模型。

软银CEO并非唯一对马斯克轨道数据中心炒作有疑问的人

软银CEO孙正义在股东大会上批评马斯克的轨道数据中心构想，认为其成本高、周期长，而AI竞赛未来几年比十年后的可能性更重要。SpaceX目前占据全球发射市场80-90%份额，主要依赖Starlink业务；建设需要每隔几年更换卫星的轨道数据中心将为SpaceX带来更多发射业务。同期，芯片公司Groq完成6.5亿美元融资，OpenAI推进定制芯片计划。

Conno Christou用AI辅助决策治疗罕见淋巴瘤

Conno Christou被诊断出罕见非霍奇金淋巴瘤，肿瘤约11×11×8厘米。两位肿瘤专家给出不同化疗方案，较轻方案成功率约60%，较重方案约85%。他收集12位专家意见后选择后者。治疗期间，他用Whoop监测身体，并将血液结果、扫描数据、可穿戴设备输出和日志输入Claude，借助其分析辅助决策。治疗后PET扫描结果模糊，Claude指出该类型淋巴瘤治疗结束后的PET假阳性率约60%，并判断胸腺反弹概率约90%。第四位医生确认无需放疗，他最终痊愈。

Rohan Paul@rohanpaul_ai· 18:24AI 评分5050

论文提出RiVER方法，让LLM从没有已知标准答案的问题中学习编码行为。RiVER使模型编写多个程序，在相同隐藏测试上运行，奖励表现较优者。关键是对每个测试用例内的程序排序，给最优者额外权重，其他有效程序也获得较小分级反馈，避免因原始分数数值差异扭曲训练。在12个AtCoder Heuristic Contest任务上，RiVER同时提升了基于分数的竞赛表现和常规通过/失败编码基准测试。arXiv:2606.27369。

Rohan Paul@rohanpaul_ai· 15:24AI 评分5656

韩国银行刚发布了一份关于AI生产力的报告。 使用生成式AI的韩国工人将任务时间缩短了3.8%，按40小时工作制计算约为每周1.5小时，然而节省的时间与实际完成更多工作之间并无关联。 仅有4.4%的任务节省了超过20%的时间。 这造成了AI生产力脱节：更快的报告可能催生更多报告，更快的审查可能催生更多审查，节省的时间可能被组织习惯吸收，而非转化为更高的产出。

国家统计局：1-5月规上工业企业利润增18.8%，电子行业利润增103.9%贡献43.1%

1—5月全国规上工业企业利润同比增18.8%。电子行业利润增103.9%，贡献率43.1%，主因全球AI技术变革推动高端算力芯片和存储芯片需求爆发。原材料制造业利润增83.1%，其中有色增117.1%、化工增71.6%。高技术制造业利润增44.7%，电子专用材料制造增665.4%。企业每百元营收成本降0.59元，营收利润率5.56%，为2024年以来累计最高。

NVIDIA Open-SWE-Traces：构建监督微调数据——轨迹解析、补丁分析与 token 预算

本文介绍如何从 Hugging Face 流式加载 nvidia/Open-SWE-Traces 数据集，解析 openhands、sweagent 等智能体与 minimax_m25、qwen35_122b 模型的轨迹，标准化多轮对话，解析最终代码补丁并统计新增/删除行数、文件扩展名分布。构建分析 DataFrame 考察轨迹长度、工具调用、补丁规模、语言分布及解决结果。基于成功标签、MAX_SFT_TOKENS=32000 的 token 限制、语言过滤和补丁可用性，筛选高质量轨迹形成监督微调子集。

Dwarkesh Patel：下一个突破将是 AI 在工作中学习

Dwarkesh Patel 撰文提出，下一个重大突破将是 AI 在部署后从真实工作中持续学习，而非仅靠 RLVR 训练。

Microsoft Research@MSFTResearch· 23:24AI 评分4141

跟进我起草的社交文案：人们在工作中的 AI 到底用来做什么？一项对五百万次 M365 Copilot 对话的新分析给出了答案。Scott Counts 在一段新视频中进行了详细解读。 点击此处深入了解分析：https://msft.it/6015vUHsh

加州推出CAIT系统监测AI对就业市场冲击

美国加州州长纽森宣布推出“California AI-Unemployment Tracker（CAIT）”系统，每月将失业保险申领数据与各职业受AI影响程度交叉分析，作为早期预警工具。首份报告显示，截至今年5月，加州整体未出现AI导致失业保险申请大幅上升，但自2022年底ChatGPT 3.5推出以来，大学以上学历且从事易被AI替代职业的劳动者，失业保险申请持续上升，旧金山湾区最明显。专业服务业和信息产业变化突出，其中信息产业在2025年底回落至基准线附近。该系统旨在提前识别受冲击人群以便提供支持，并非直接证明AI导致失业的证据。

SenseTime@SenseTime_AI· 22:58AI 评分6060

商汤开源 SenseNova U1 完整训练代码，提供可检查、可修改、可重建的完整训练栈。同步发布 smoke-test 数据集，覆盖 t2i、it2i、多图输入、交错生成、多模态理解、视频理解、纯语言续写 7 种任务类型。用户可基于该 schema 用自有数据微调 U1，或验证数据格式及端到端测试 pipeline。数据集已上架 HuggingFace，代码托管于 GitHub。

François Chollet@fchollet· 22:26AI 评分4848

自主性不是在没有人类监督的情况下行动的能力。而是在过程中没有人类瓶颈的情况下*学习*的能力。一个完全依赖人类训练数据和RL环境的系统，只是人类知识的印记。