跳到正文
5月20日周三
5月19日周二
  1. Hugging Face 社区博客67

    NVIDIA Cosmos Predict 2.5 微调:使用 LoRA/DoRA 生成机器人视频

    NVIDIA Cosmos Predict 2.5 是一个 2B 参数的世界模型,可根据文本、图像或视频片段生成物理合理的视频。通过 LoRA 或 DoRA 在 DiT 的注意力层(to_q, to_k, to_v, to_out.0)和前馈层注入可训练适配器,冻结全部基座权重,在单个 80GB GPU 上即可完成参数高效微调,避免了全量微调的高成本与灾难性遗忘。该流程使用 diffusers 和 accelerate 库,利用 92 个机器人操作视频训练集与 50 个 (prompt, image) 测试对进行微调,并展示如何用微调模型生成合成机器人轨迹以支持下游机器人学习任务。支持单 GPU 与多 GPU 训练,切换不同领域适配器无需重训。

    推荐理由:这篇教程把微调Cosmos Predict 2.5的方法从头到尾讲清楚了,做机器人合成数据的同行可以直接抄作业,LoRA/DoRA切换也很方便,值得收藏。

5月18日周一
  1. IT之家·人工智能55

    何小鹏:小鹏 Robotaxi 将在广州开启示范运营

    小鹏汽车首台前装量产的Robotaxi于广州工厂下线,计划未来数月内在广州启动示范运营。该车型基于旗舰平台GX打造,搭载4颗自研图灵AI芯片,算力达3000TOPS,为全球车端最高,并配备第二代VLA大模型以实现L4级自动驾驶。今年1月,小鹏已获广州智能网联汽车道路测试许可;3月成立Robotaxi业务部。车内提供隐私玻璃、重力座椅及后排娱乐屏等智能座舱体验。

  2. Prime Intellect63

    Prime Intellect 开源自进化合成智能体环境 general-agent

    Prime Intellect 开源 general-agent 环境 v1,通过 Synthesizer 与 Solver 双智能体博弈生成自进化任务语料,目前包含 4,504 个任务、1,040 个领域和 8,159 个独特工具,每个任务经求解器按难度带实证校准。

    推荐理由:原文给出了任务规模、难度校准方法和早期 SFT/RL 结果,读者可以评估这个自进化合成环境对智能体训练的参考价值。

5月17日周日
  1. Dwarkesh Patel:Podcast & Blog50

    关于预训练并行化与失败训练运行的笔记

    近期访谈揭示了大规模语言模型预训练中的并行化策略与失败案例。关键变化包括从数据并行转向更复杂的模型并行、流水线并行及混合策略,以应对万亿参数模型的内存与计算挑战。具体指标显示,某些失败训练运行因硬件故障或超参数设置不当,导致数百GPU小时损失。成功案例则通过优化通信开销与负载均衡,将训练效率提升约15-30%。这些经验为GPT、Claude、LLaMA等模型的稳定训练提供了重要技术参考。

5月16日周六
  1. IT之家·人工智能60

    我国科研团队“造”出 200 微米高质量单晶石墨,厚度为世界水平 3 倍以上

    上海人工智能实验室联合苏州国家实验室、清华大学等团队成功制备出厘米级尺寸、厚度超过200微米的高质量单晶石墨,该厚度达到世界水平的3倍以上。团队构建了亿级计算材料数据库,训练出高精度机器学习势函数模型,可模拟超过十万原子规模的体系动力学,揭示了单晶石墨的生长机制。基于模拟结果优化工艺后,最终实现这一突破,验证了AI驱动科学发现的智能化科研路径。

  2. OpenAI:官网动态66

    数据科学团队如何使用 Codex

    Codex 能够帮助数据科学团队根据实际工作输入,自动化生成根本原因简报、影响报告、关键绩效指标备忘录、范围分析以及仪表板规格文档。该工具将自然语言描述转化为结构化分析框架,提升了从数据查询到报告生成的工作流效率,使团队能更快速地将业务问题转化为可执行的数据分析方案。

    推荐理由:OpenAI Academy 手把手教数据科学团队用 Codex 产出分析报告,prompt 模板可以直接抄,但作为教程新信息不多,适合 Codex 用户按需参考。

  3. Rohan Paul55

    Elon Musk表示,Grok基础模型V8与V9之间存在巨大差距。内部开发的V9是一个1.5万亿参数模型,在数据质量、训练方法、规模等各方面均远超V8,并针对Blackwells架构优化,旨在与顶级编码智能体竞争。而当前公开的v4.2版本基于仅0.5万亿参数、在Hoppers上训练的V8基础模型,其训练数据在质量、全面性和均衡性上存在显著不足。

    引用Elon Musk@elonmusk

    The version numbers are a little confusing and deserve some explanation. Internally, we are working on version 9 of our new foundation model, which is 1.5T params. This is substantially better in every way than v8: data curation, training recipe, size, etc. It is also optimized to run on a Blackwells. The public facing v4.2 is based on foundation model v8, trained on Hoppers, with significant shortfalls in training data quality, comprehensiveness and proportionality. It is also only 0.5T in size. The difference between Grok foundation model 8 and 9 is gigantic.

5月15日周五
  1. SenseTime70

    主推文赞扬了创新者在前沿领域的探索。引用的推文具体指出,SenseNova-U1在空间智能能力上取得进展,其关键基准测试表现超越了Qwen3.5等强劲基线。同时,团队开源了目前最大的空间问答数据集SenseNova-SI-8M,并邀请业界在CVPR会议进行线下交流。

    引用Zhongang Cai@caizhongang

    很高兴为 SenseNova-U1 的空间智能能力做出了贡献,在 VSI-Bench 等关键基准上超越了 Qwen3.5 等强劲基线。 我们也很激动地开源了 SenseNova-SI-8M,这是目前最大的空间问答数据集。 今年六月 CVPR 见,很乐意当面交流! SenseNova-SI-8M: https://huggingface.co/datasets/sensenova/SenseNova-SI-8M

    推荐理由:商汤的 SenseNova-U1 在空间智能基准上压过 Qwen3.5,还顺手开源了目前最大的空间 QA 数据集 SenseNova-SI-8M,搞具身智能和多模态的可以直接抱走数据。

  2. Anthropic:Research58

    2028年全球AI领导地位的两种情景

    报告展望2028年中美AI竞争的两种前景。若美国及盟友维持并扩大在关键计算芯片上的优势,通过加强出口管制、遏制技术窃取并加速AI应用,民主国家可确立12-24个月的技术领先,主导AI规则制定。反之,若政策松动,中国可能借助人才优势、利用管制漏洞迅速逼近甚至反超,使威权政权获得大规模自动化压制能力。当前民主国家在计算领域优势显著,但窗口期有限,需立即行动锁定胜局。

    推荐理由:Anthropic直接下场画了两张2028中美AI路线图,核心就一句话——不堵死漏洞,中国的蒸馏攻击和芯片走私会让美国优势两年内消失。虽然是政策游说稿,但数据扎实,想理解AI地缘政治的必读。

5月14日周四
  1. The Decoder:AI News55

    包括字节跳动在内的约十家中国公司据称获美国AI芯片许可,但被禁止接收

    美国已批准阿里巴巴、腾讯、字节跳动等约十家中国公司,每家公司可购买最多7.5万颗英伟达H200 AI芯片。然而,至今没有一颗芯片完成交付。美国商务部长卢特尼克指出,中方为保护国内芯片产业,正在阻止这些采购交易。这一情况使得获批的许可在实质上无法执行。

  2. SenseTime77

    由联合创始人兼首席科学家李沐博士领导的团队发布了SenseNova U1技术报告,详细阐述了其架构、训练方案与创新突破。此次开源同步发布了基于混合专家模型(MoE)的新权重,旨在推动AI领域的透明度、可复现性与进一步创新。团队希望通过开放共享促进整个社区的技术发展。

    引用Dahua Lin@lindahua

    自豪地宣布发布 SenseNova U1 技术报告——以及一套基于 MoE 的全新模型权重。 我们希望这次开源发布能促进透明度、可复现性以及整个 AI 社区的进一步创新。 非常感谢团队让这一切成为可能。🚀

    推荐理由:商汤这次把SenseNova U1的MoE权重和完整技术报告一起开源,比常规PR多了些诚意,做模型选型和微调的值得翻翻。

  3. SiliconFlow63

    NousResearch发布了Token Superposition Training(TST),这是一种改进标准大语言模型预训练流程的方法。该技术无需改变模型架构、优化器、分词器或训练数据,即可在相同计算量(FLOPs)下实现2-3倍的训练时间加速。其核心是在训练的前三分之一阶段,让模型读取并预测连续的token包,对输入嵌入进行平均,并使用改进的交叉熵损失预测下一个token包;剩余训练时间则恢复为标准的下一个token预测。推理阶段的模型与传统预训练产生的模型完全相同。该方法已在270M、600M、3B的密集模型以及10B至1B的混合专家模型规模上得到验证。

    引用Nous Research@NousResearch

    Today we release Token Superposition Training (TST), a modification to the standard LLM pretraining loop that produces a 2-3× wall-clock speedup at matched FLOPs without changing the model architecture, optimizer, tokenizer, or training data. During the first third of training, the model reads and predicts contiguous bags of tokens, averaging their embeddings on the input side and predicting the next bag with a modified cross-entropy on the output side. For the remainder of the run, it trains normally on next-token prediction. The inference-time model is identical to one produced by conventional pretraining. Validated at 270M, 600M, and 3B dense scales, and at 10B-A1B MoE. The work on TST was led by @bloc97_, @gigant_theo, and @theemozilla.

5月13日周三
  1. IT之家·人工智能63

    市场监管总局:严查算法违规乱象,规范市场竞争秩序

    市场监管总局部署反不正当竞争专项执法,聚焦平台经济、民生和科技创新领域,整治“内卷式”竞争,推动良性市场秩序。行动将提升网络不正当竞争常态化监管,规制利用数据和算法等实施的违规行为;强化商业秘密保护,加强侵权案件查办并完善保护规则体系;深化宣传倡导,曝光典型案例,压实平台主体责任,构建社会共治格局。

  2. IT之家·人工智能61

    榨取员工数据?Meta 美国员工抗议公司采集键盘鼠标操作数据

    5月13日,Meta美国员工在公司多个办公室分发传单,抗议公司安装软件采集其键盘和鼠标操作数据。传单鼓励员工签署在线请愿书,并引用《国家劳工关系法》强调员工组织权。此次抗议正值Meta计划约一周后裁减10%员工之际,员工担忧数据将被用于训练AI,最终构建取代自身的自动化系统。Meta发言人回应称,收集真实操作数据是为开发能协助日常任务的AI智能体所需。与此同时,英国部分员工也已开始与工会合作,发起工会化运动以应对裁员与监控。

  3. Tomasz Tunguz 博客43

    Theory 2026年度市场进入策略调查启动

    Theory公司正式启动2026年度市场进入策略调查,旨在通过对比2022至2025年数据,分析初创企业在销售、营销等领域的演变。本次调查聚焦五个核心假设:人机协同的销售代表表现将优于纯AI或人类团队;AI可能拉大顶尖与末位团队的绩效差距;买方AI的采用比卖方AI更具颠覆性;AI效率提升可能主要导致人员编制缩减而非收入增长;创始人对AI的预期已随现实落地而下调。调查结果将在后续办公时间活动中公布,参与者可获得匿名原始数据。

5月12日周二
  1. IT之家·人工智能61

    孙正义豪赌 AI:软银拟投千亿美元在法国建晶圆厂与数据中心

    软银集团CEO孙正义正商讨在法国投资高达1000亿美元,建设专注于人工智能的半导体晶圆厂与数据中心。该计划是其“伊邪那岐计划”的延伸,旨在依托旗下Arm的芯片设计技术,打造独立的人工智能半导体生态体系。法国因其有利的监管环境和充足的核电产能被选为核心选址。软银预计自身出资约300亿美元,其余资金可能由中东主权财富基金支持。此举被视为孙正义构建AI商业帝国的关键一步,但也引发了市场对其财务风险的担忧。

  2. IT之家·人工智能65

    打破“技术黑箱”,上海 AI 实验室等攻克芯片核心材料光刻胶稳定制备难题

    上海人工智能实验室联合厦门大学、苏州国家实验室等单位,基于“书生”科学大模型与平台,构建了“AI决策+自动化合成”闭环研发体系,成功创制出高纯度、高一致性的KrF光刻胶树脂。该技术突破了长期依赖国外供应商“黑箱能力”的瓶颈,实现了成品树脂金属杂质含量稳定低于10ppb、分子量分布PDI稳定在1.3以下的关键指标。这为芯片材料领域提供了一条可标准化、快速迭代的新路径,相关成果产业指标已达预期,即将进入客户端验证阶段。

  3. Hugging Face 社区博客58

    在AWS上进行基础模型训练与推理的核心构建模块

    本文面向使用开源框架的机器学习工程师,阐述了AWS如何为大规模基础模型的全生命周期提供核心基础设施。其核心是三大紧密集成的组件:配备多代NVIDIA GPU(如H100、H200及新一代Blackwell B200/B300)的大显存加速计算实例;用于集体通信的高带宽、低延迟网络(节点内NVLink与节点间EFA);以及可扩展的分布式存储。这些基础设施与Slurm/Kubernetes等资源编排系统、PyTorch/JAX等ML框架协同,共同支撑预训练、后训练和推理工作负载,并可通过Prometheus/Grafana实现全栈可观测性。

    推荐理由:这篇把AWS上训大模型的全套基础设施串了一遍,从GPU选型到网络存储再到Slurm/K8s编排,是做云端大规模训练的工程师的必读参考。

  4. The Decoder:AI News66

    Baidu的Ernie 5.1在性能比肩顶尖模型的同时,将预训练成本削减94%

    百度发布其对话机器人Ernie的最新版本5.1。该模型采用“Once-For-All”方法,仅使用前代模型三分之一的参数量,其预训练成本仅为同类模型的6%,实现了94%的成本削减。在Search Arena排行榜上,Ernie 5.1位列全球第四,排名仅次于两个Claude Opus变体和GPT-5.5 Search。

5月11日周一
  1. IT之家·人工智能45

    影子图书馆再陷版权风暴,出版商要求彻底封杀安娜档案馆

    多家知名出版商正寻求对影子图书馆安娜档案馆作出1950万美元的缺席判决,并申请一项永久禁令,要求二十余家国际域名注册机构、服务器托管商及服务提供商封禁该网站仅剩的三个域名访问入口。该网站被指控助长大规模盗版,并将图书用作AI训练素材。此前音乐公司已赢得针对该网站3.22亿美元的缺席判决,但禁令效果有限。出版商此次希望通过对.GL、.PK、.GD域名的全面封禁,彻底关停其服务。

  2. IT之家·人工智能57

    消息称 AI 浪潮致互联网档案馆 / 维基百科维护成本暴涨:存储硬件涨价、爬虫持续消耗平台流量

    AI浪潮推高存储硬件价格,导致互联网档案馆与维基百科维护成本激增。互联网档案馆因硬盘缺货或价高,正寻求捐助者支持;维基百科基金会也表示内存与硬盘供应紧张,资源分配需极度谨慎。此外,两家平台持续遭受AI爬虫无休止抓取,进一步推高了流量与运营成本。

  3. IT之家·人工智能61

    消息称英伟达 Vera Rubin 平台 7 月向主要 AI 客户出货,下半年大规模量产

    据报道,英伟达已敲定Vera Rubin AI平台最终生产方案,将分阶段上市。试产将于下月启动,首批产品计划7月出货至北美大型AI数据中心及云服务商,微软、谷歌、亚马逊、Meta和甲骨文等预计成为首批客户。该平台芯片采用台积电3nm工艺制造,富士康、广达、纬创资通等合作伙伴将于下半年启动全面量产,并在第三季度大规模出货。据悉,单个Vera Rubin AI服务器机柜价值约1.8亿美元,并配备强大的软件生态系统。

5月10日周日
  1. IT之家·人工智能57

    Meta 拥抱 AI,员工遭监控与裁员双重压力

    Meta宣布将监控数万名员工的电脑操作行为以训练AI模型,并要求全员使用AI工具且纳入绩效考核。同时,为对冲AI领域投入,公司计划裁员约8000人。此举引发员工强烈反对,认为监控侵犯隐私,裁员加剧了职场焦虑与士气低落。公司高管解释数据仅用于AI学习并有严格保护,但员工普遍担忧技术可能最终取代自身岗位。

5月9日周六
  1. IT之家·人工智能62

    MiniMax 不认马嘉祺?稀宇科技公布大模型“失语”原因:特定词元后训练不足导致

    稀宇科技发布报告,解释其M2大模型无法正确输出“马嘉祺”的原因。问题根源在于分词器将该人名切分为“马”和“嘉祺”,而后者的训练数据极少,导致其参数被高频词元“挤压”,生成概率偏移。团队进一步扫描发现,约4.9%的词元存在类似退化,其中日语词元退化比例高达29.7%,这直接导致了模型在日语回答中混入俄语或韩语字符。修复方案是通过合成数据覆盖全词表进行强化训练,修复后模型参数稳定度显著提升,日语回答混入俄文字符的比例从47%降至1%。

  2. Apple Machine Learning Research66

    Velox:学习4D几何与外观的表示

    Velox提出一个学习4D对象潜在表示的框架,该表示具备描述性、压缩性与易获取性。它仅需非结构化动态点云作为输入,通过编码器将时空彩色点云压缩为动态形状标记,并利用两个互补解码器进行监督:4D表面解码器建模随时间变化的表面分布以捕捉几何信息,高斯解码器则负责外观重建。该方法在保持高保真度的同时提升了下游任务的效率。

    推荐理由:苹果把动态点云的几何和外观塞进一个可压缩的latent space,思路干净但领域垂直,做3D视觉和AR的可以跟一下,其他人不用急着读。

  3. Hugging Face 社区博客72

    EMO:为涌现模块化预训练的专家混合模型

    EMO是一种新型专家混合模型,通过端到端预训练使模块化结构直接从数据中涌现,无需依赖人类定义的先验。该模型允许在特定任务中仅使用12.5%的专家子集(即8个活跃专家中的部分),同时保持接近全模型的性能;当所有128个专家共同使用时,它仍作为强大的通用模型。EMO具有1B活跃参数和14B总参数,训练数据达1万亿令牌。与标准MoE相比,EMO通过文档级路由约束,鼓励专家形成领域专业化组,从而支持选择性使用而不导致严重性能下降,实现了可组合架构,优化了大型稀疏MoE的内存-准确性权衡。

    推荐理由:EMO 让 MoE 专家从按词法分散进化到按语义域自然模块化,仅用 12.5% 专家就能接近全模型性能,对需要按需加载的大模型部署是真正的突破。

5月8日周五
  1. Hugging Face 社区博客58

    MedQA:基于AMD ROCm与LoRA微调Qwen3-1.7B的临床问答模型

    该项目使用AMD Instinct MI300X(192 GB HBM3显存)和ROCm,通过LoRA微调Qwen3-1.7B模型实现医学问答。训练仅用2000条MedMCQA样本,约5分钟完成,仅更新约220万参数(占模型总参数的0.1443%),全程采用fp16精度,无需量化。HuggingFace生态(Transformers、PEFT、TRL、Accelerate)在ROCm上无缝运行,无需修改代码即可直接替代CUDA。模型已上传至HuggingFace Hub并提供在线Demo。

    推荐理由:一个月前的教程了,但如果你是 AMD 党想跑医疗微调,这篇把坑都踩完了,代码直接能复现,LoRA 适配器也挂在 Hub 上,拿来就能用。

  2. IT之家·人工智能61

    CoreWeave 2026 财年第一财季亏损 7.40 亿美元,同比亏损扩大 134.92%

    CoreWeave发布2026财年第一财季报告,营业总收入达20.78亿美元,同比大幅增长111.61%。然而,公司归母净利润亏损7.40亿美元,同比亏损扩大134.92%。尽管利润端承压,经营现金流大幅改善至29.84亿美元。公司收入积压订单高达994亿美元,并与Meta签署了价值210亿美元的新合作协议。为支持算力扩张,公司获得了英伟达20亿美元投资及85亿美元贷款融资。