跳到正文
今天10月30日周五1 条
  1. Figma AI / Agent / Make60

    Figma 讲解如何训练专用画布编辑模型

    Figma 介绍其为 agent 自研 Figma 编辑模型的训练方法,先用超过 25 万条合成样本做 SFT,让早期 Llama 3.3 70B 在编辑任务上接近当时顶级模型,后转向 RL 并结合确定性校验器与视觉评委做评测。

    推荐理由:原文拆解了 Figma 自研编辑模型从 SFT 到 RL 的训练路径与内部评测维度,可作专业领域后训练的参考方法。

10月29日周四
  1. Cartesia 产品与研究60

    Cartesia 发布 H-Net 扩缩律研究:字节级层级网络比 BPE 提升最高 3-5x 计算效率

    Cartesia 发布系列博客第一篇,报告其层级网络(H-Net)在字节级语言建模上的扩缩律结果:与严格匹配的 BPE Transformer 相比,1-stage H-Net 在验证损失上节省 1.28x 计算,下游评测约 2x,代码任务中位数 2.04x、分布外编程语言中位数达 3.10x(如 Prolog 5.37x)。

    推荐理由:Cartesia 原创研究给出 H-Net 替代 BPE 分词的对照实验与 3-5x 计算效率数据,可了解字节级学习的实际进展。

10月28日周三
  1. Google Research:Blog48

    Google Research 提出 sleep 框架:让 LLM 在持续学习中稳定保留知识

    Google Research 提出面向持续学习的 sleep 框架,让 LLM 在活跃交互与离线记忆巩固之间循环,把脆弱的短期上下文固化为长期参数。该框架结合 MoE 参数扩展、GKD 与 RL 模仿学习,可让模型持续习得新事实、保留最长 10M tokens 的长上下文知识并提升复杂推理。

10月27日周二
10月26日周一
  1. 英国 AI Security Institute:Blog60

    英国 AISI 实测 ESM-2 预训练数据过滤可削弱目标能力但约 80 美元算力即可恢复

    英国 AI Security Institute 的 Chem-Bio 团队从零预训练 8M 到 3B 参数的 ESM-2 蛋白质语言模型,测试预训练数据过滤对专业科学模型的效果。

    推荐理由:原文给出实验数据说明预训练数据过滤能选择性削弱蛋白模型能力,但约 80 美元算力即可恢复,需配合数据访问控制。

10月24日周六
10月22日周四
10月20日周二
10月17日周六
10月16日周五
  1. Microsoft AI:官方博客66

    Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍

    Microsoft AI 宣布完成 MAI-Base-2 预训练,这是一个 800 亿激活、2.8T 总参数的 MoE 基础模型,在 held-out 评测中 BPB 低于所测全部开源权重模型,预训练 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4.2 至 12.3 倍。

    推荐理由:官方披露了 MAI-Base-2 的完整预训练方法,读者可以从中了解 scaling ladder、Muon 优化和多轮 dropless MoE 等可借鉴的工程细节。

10月15日周四
10月14日周三
  1. MIT News42

    MIT 研究:人工神经网络如何自组织出学习机制

    MIT McGovern 研究所与 ICoN 中心在 PNAS 发文提出,判断人工神经网络是否具备生物合理性,关键看它能否在没有开发者干预下自组织出学习机制。他们用随机互连的神经元样单元和简单连接规则,构建出能识别模式、分类图像的自组织网络,性能与依赖反向传播的网络相当。研究认为,若大脑确实使用类似的突触基元完成反向传播的功能,将为机器与大脑在基本机制层面建立强关联。

10月13日周二
  1. Apple Machine Learning Research48

    Apple 研究:双语预训练混合数据优于超参数搜索,低资源语言预训练新发现

    Apple 研究团队在 150M 到 1.43B 四种模型规模、约 1000 次预训练实验中对比发现,混入高资源语言数据比超参数调优更有效,且优势随模型增大而扩大。混合数据带来的提升相当于 2–3 倍目标语言独有数据(验证损失)和 2–13 倍(下游任务准确率)。团队建议优先调整混合比例,并通过 μP 从小代理模型迁移超参数。

  2. LTX Product Updates51

    LTX Trainer 发布,在 LTX Explore 内一站式训练 LoRA

    LTX 发布 LTX Trainer,把 LoRA 训练压缩成 LTX Explore 内的单一引导流程。支持 Character LoRA 和 Style LoRA 两种类型,只需选择类型、命名并设一个触发词,无需配置文件;训练前自动 QC 检查上传素材并默认排除运动模糊、遮挡等劣质片段。素材最低五分钟、无上限,训练后台运行并邮件通知,完成后可在平台内测试 30 天或导出下载。

10月9日周五
  1. Databricks:Blog42

    Databricks 推出 Funke:原生 HL7v2 解析

    Databricks 发布 Funke,一个 Python 和 PySpark 库加可部署 pipeline,可将 HL7v2 消息直接解析为原生 Spark 类型并保留完整层级结构。它是 2021 年开源的 Scala 数据源 Smolder 的继任者,支持所有 HL7 消息类型和版本,通过 Declarative Pipeline 摄取并存储在 Unity Catalog 中。

  2. Hugging Face 官方团队博客72

    Hugging Face 工程师用 ML Intern 以约 103 美元自制 7 个小模型

    Hugging Face 工程师 yuvraj sharma 用 HuggingChat 的 ML Intern 模式在几天内做出 7 个模型,包括可在 CPU 运行、99.7% 有效输出的 0.8B 提示词重写器,以及将柑橘病害识别准确率从 14.9% 提升到 52.8% 的 Qwen3.5-2B 微调模型等,全部计算成本约 103 美元。

    推荐理由:作者总结了预算控制、基线评测和冒烟测试等提示词写法,让 agent 自主完成数据构建、训练与发布,方法可直接迁移复用。

10月7日周三
10月6日周二
10月3日周六
10月2日周五
10月1日周四
9月29日周二
9月28日周一
  1. MIT News78

    MIT利用AI算法优化RNA疫苗配方,实现室温稳定保存一年

    MIT研究人员借助AI算法优化脂质纳米颗粒(LNP)的辅料配比,成功开发出耐热性更强的RNA疫苗配方。该配方使疫苗在室温下可稳定保存一年,或在37摄氏度下保存两个月,且在小鼠实验中产生的免疫反应与Moderna类似。AI算法通过少量实验数据快速收敛至最优解,将原本需数月的筛选过程缩短至几周。相关成果发表于《Nature Biotechnology》。

    推荐理由:展示了AI在小数据集和复杂生物化学问题中的高效应用,显著加速了药物研发流程,具有明确的科学突破和实际应用价值。