跳到正文
#数据/训练
10月16日周五
  2. Microsoft AI：官方博客66

    Microsoft AI 公布 MAI-Base-2 预训练细节，2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍

    Microsoft AI 宣布完成 MAI-Base-2 预训练，这是一个 800 亿激活、2.8T 总参数的 MoE 基础模型，在 held-out 评测中 BPB 低于所测全部开源权重模型，预训练 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4.2 至 12.3 倍。

    推荐理由：官方披露了 MAI-Base-2 的完整预训练方法，读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。

10月15日周四
  2. Rohan Paul55

    ETH Zurich 等机构团队提出 LLM-to-Flow Distillation（LFD），让科学生成模型直接追随自然语言发现目标，如设计具抗癌活性的多肽。

    引用Riccardo De Santi@r_de_santi

    We’re bringing natural-language control to any scientific generator. We are very excited to introduce LLM-to-Flow Distillation (LFD), a method to adapt scientific generators to high-level natural-language discovery goals. Starting from textual goals like “design peptides with promising anticancer activity” or “design small molecules binding to the D2 dopamine receptor”, LFD distills high-level goal-related knowledge from LLMs into scientific generators through iterative DPO on LLM-generated sub-goals. 🔥 LFD does not need task-specific proxy rewards, works with any frontier LLM via API-access, and outperforms state-of-the-art reward-guided methods such as FlowGRPO and DiffusionNFT on held-out computational evaluations. (1/6)

  5. Rohan Paul50

    Secludy 发布 Who Sells Data 免费目录，收录 159 家向 AI 开发者出售训练数据、RL 环境和评测的公司，每条事实均附来源与核查日期。目录另列出 38 个付费购买企业数据的项目，其中 14 个直接付费的项目有 8 个公开了金额区间，其余多为逐笔议定；未知信息一律标注而非猜测，不做排名。

    引用Ben Cerchio@ben_cerchio

    if you sell AI training data, see how you compare: we found 159 companies selling data, RL envs and evals, every fact sourced plus 38 programs that pay companies for their data: http://whosellsdata.com 8 of the 14 that pay companies directly publish a dollar range. most of the rest set terms per deal. unknowns are marked and nothing is ranked the other page: what each program wants, who qualifies and what it offers: http://whosellsdata.com/buying missing something, or something wrong? fix it on the site, a person reviews every change we built this at @Secludy. if you buy, broker or license company data and need the names out before it reaches a lab, dm me

10月14日周三
  2. MIT News42

    MIT 研究：人工神经网络如何自组织出学习机制

    MIT McGovern 研究所与 ICoN 中心在 PNAS 发文提出，判断人工神经网络是否具备生物合理性，关键看它能否在没有开发者干预下自组织出学习机制。他们用随机互连的神经元样单元和简单连接规则，构建出能识别模式、分类图像的自组织网络，性能与依赖反向传播的网络相当。研究认为，若大脑确实使用类似的突触基元完成反向传播的功能，将为机器与大脑在基本机制层面建立强关联。

10月13日周二
  1. Apple Machine Learning Research48

    Apple 研究：双语预训练混合数据优于超参数搜索，低资源语言预训练新发现

    Apple 研究团队在 150M 到 1.43B 四种模型规模、约 1000 次预训练实验中对比发现，混入高资源语言数据比超参数调优更有效，且优势随模型增大而扩大。混合数据带来的提升相当于 2–3 倍目标语言独有数据（验证损失）和 2–13 倍（下游任务准确率）。团队建议优先调整混合比例，并通过 μP 从小代理模型迁移超参数。

  2. LTX Product Updates51

    LTX Trainer 发布，在 LTX Explore 内一站式训练 LoRA

    LTX 发布 LTX Trainer，把 LoRA 训练压缩成 LTX Explore 内的单一引导流程。支持 Character LoRA 和 Style LoRA 两种类型，只需选择类型、命名并设一个触发词，无需配置文件；训练前自动 QC 检查上传素材并默认排除运动模糊、遮挡等劣质片段。素材最低五分钟、无上限，训练后台运行并邮件通知，完成后可在平台内测试 30 天或导出下载。

10月12日周一
  3. IT之家·人工智能52

    丘成桐数学与人工智能实验室联盟在清华大学成立

    10 月 11 日，丘成桐数学与人工智能实验室联盟在清华大学成立，将攻关数学科学专用大模型研发、AI 辅助数学形式化证明与猜想发现、可解释人工智能等领域。联盟发布 10 余项“AI+数学”重点成果和研究方向，已集结超 1000 位数学家和科研工作者，联合清华求真书院、丘成桐数学科学中心、北京雁栖湖应用数学研究院等多家机构，探索中国自己的数学大模型建设路径。

10月11日周日
  2. Rohan Paul45

    亚马逊新论文提出用 LLM 充当"研究世界模型"，在实验开跑前预测训练改动的收益。基于 9 个设置、2653 条真实实验记录测试，同设置历史记录将预测与实际结果的平均排名相关性从 0.506 提升至 0.774（5 个设置）；在 OLMo3-100M 上，低推理强度加记录得 0.892，最高推理强度无记录仅 0.648。作者建议研究智能体记录包括失败在内的每次实验，并喂给选下次运行的模型。

10月10日周六
  2. Rohan Paul46

    NYU与Amazon新论文提出SGUID方法，只保留训练早期和后期都持续提供有效信号的技能，蒸馏少量精选技能即可匹配甚至超越大11倍的技能库。在3个Qwen模型上，按主题匹配选出的技能中不到25%能提供有效信号；仅用6个精选技能，4个模型中有3个在数学竞赛测试上匹配或超越了30至71个技能的完整库。第二轮加入3个新技能后，Qwen3-8B从64.3%提升至66.3%。

10月9日周五
  3. Databricks：Blog42

    Databricks 推出 Funke：原生 HL7v2 解析

    Databricks 发布 Funke，一个 Python 和 PySpark 库加可部署 pipeline，可将 HL7v2 消息直接解析为原生 Spark 类型并保留完整层级结构。它是 2021 年开源的 Scala 数据源 Smolder 的继任者，支持所有 HL7 消息类型和版本，通过 Declarative Pipeline 摄取并存储在 Unity Catalog 中。

  4. Hugging Face 官方团队博客72

    Hugging Face 工程师用 ML Intern 以约 103 美元自制 7 个小模型

    Hugging Face 工程师 yuvraj sharma 用 HuggingChat 的 ML Intern 模式在几天内做出 7 个模型，包括可在 CPU 运行、99.7% 有效输出的 0.8B 提示词重写器，以及将柑橘病害识别准确率从 14.9% 提升到 52.8% 的 Qwen3.5-2B 微调模型等，全部计算成本约 103 美元。

    推荐理由：作者总结了预算控制、基线评测和冒烟测试等提示词写法，让 agent 自主完成数据构建、训练与发布，方法可直接迁移复用。

10月8日周四
  1. Rohan Paul57

    Evolvent AI 发布开源研究环境 RSIGym，让 AI 智能体在统一预算环境内重训练模型并改写 harness。

    引用Fanqing@FanqingMengAI

    💡Our view: RSI is a systems engineering problem, not just a model problem. Progress depends on the environment a research agent works in: what resources it can call, what it can change, and how it runs experiments. That environment should reflect real production workflows and be easy for agents to use. At @Evolvent_AI, we built RSIGym around Everything as a Service. Agents can call established research services and iterate on data, training settings, and harness code. We also introduce RSI-Index to measure how well frontier agents jointly improve a target model’s weights and harness. Across 6 research agents and 5 benchmarks, Opus 5 leads at 0.4809. 🧵 We’re releasing the code, experiment configurations, research trajectories, and evaluation logs. Try your own improvement methods with RSIGym. 🌐 Website: https://rsi-index.ai/ 💻 GitHub: https://github.com/evolvent-ai/RSIGym 📄 arXiv: https://arxiv.org/abs/2610.10310

10月7日周三
  1. François Chollet46

    Francois Chollet 提出疑问：AI 能力的"锯齿状前沿"是否主要来自数学和代码——这两者可通过 RLVR 无限推进，而其他领域因仍受限于人类生成数据而开始进入平台期。他指出，非可验证领域的模型表现虽持续提升，但远慢于数学和代码。这一提升究竟来自 RLVR 驱动的高 G，还是仅源于仍在海量注入的新人类数据，答案将决定很多事。

  2. IT之家·人工智能69

    消息称 SpaceX 计划募资 400 亿美元采购英伟达 AI 芯片

    据《金融时报》报道，SpaceX 计划募资 400 亿美元用于采购英伟达芯片，由阿波罗全球管理牵头，计划通过约 100 亿美元银行贷款和 300 亿美元投资级债券筹资，交易预计 2027 年完成。马斯克此前在业绩电话会议上表示将完全基于英伟达 Vera Rubin 架构开展建设；MarketAxess 数据显示 SpaceX 2056 年到期债券收益率已比美国国债高出约 2.27 个百分点。

  3. Rohan Paul55

    Overmind 发布一个可将代码与 traces 转为 context graph、构建训练与评测数据并微调小型专用模型的工具，代码开源于 github.com/overmind-core/overmind。

    引用Overmind@OvermindLab

    Overmind turns anyone into an AI lab. • Builds a context graph from code and traces • Curates training and eval datasets • Evaluates prompts and models • Trains smaller, specialized models https://github.com/overmind-core/overmind

10月6日周二
  1. ChinaTalk48

    为什么数据才是军事 AI 的硬骨头：Accenture 国防 AI 负责人谈 Project Maven 与自主坦克

    Accenture 国防 AI 与数据负责人 Bharat Patel 指出，数据永远不会"AI-ready"，真正的瓶颈是先用例驱动数据质量。他以 2017 年启动的 Project Maven 为例，称初期大量数据不含相关目标导致模型上线后表现不佳，只能持续采集有效数据。他还表示自主坦克比想象中更远，2035 年目标是让车辆理解环境并做决策，但自主系统仍会出错，需要人类在环验证。