LlamaIndex 教程：如何微调 Llama 2 用于 Text-to-SQL 应用
LlamaIndex 发布教程，展示如何用 text-to-SQL 数据集微调 Llama 2 并接入 LlamaIndex 对任意 SQL 数据库做结构化分析。
推荐理由：原文给出了微调 Llama 2 做 text-to-SQL 的完整技术栈和前后对比示例，可帮助读者评估微调对结构化分析场景的实际收益。
#数据/训练
LlamaIndex：产品、工程与评测精选AI 评分6262
LangChain：BlogAI 评分5959 LangChain 基准测试 CSV 数据问答：用 OpenAI functions 智能体结合 Python REPL 与检索器
LangChain 发布对 CSV 表格数据问答的基准测试复盘，最终方案是一个使用 OpenAI functions 的智能体，配备 Python REPL 和检索器两个工具。
Eugene Yan：WritingAI 评分6161 Eugene Yan 讲解如何将 LLM 模式匹配到实际问题
Eugene Yan 撰文讲解如何将 LLM 模式匹配到常见问题，先区分外部与内部 LLM、数据型与非数据型模式。
LangChain：BlogAI 评分5252 LangChain 推出 Airbyte 内的 LangChain destination，让数据摄取可用于生产环境
LangChain 宣布与 Airbyte 达成更深度集成，在 Airbyte 中新增 LangChain destination，帮助检索类应用把数据摄取逻辑从原型推进到生产。
LMSYS Blog LMSYS Org 发布 Chatbot Arena 人类偏好数据集
LMSYS Org 发布 Chatbot Arena 两大人类偏好数据集：33K 条真实对话（涵盖 GPT-4、Claude 等 20 个模型）及 3K 条 MT-bench 专家标注。平台上线三个月已收集 19K 独立 IP 的 53K 次投票，覆盖 22 个模型。最新排行榜新增 LLaMA 2、Claude 2 等模型。MT-bench 评估显示人类与 GPT-4 评判一致性超 80%。数据包含真实场景下的模型输出，可用于 RLHF 训练与模型安全研究。
EleutherAI：Blog Minetester：基于 Minetest 构建的完全开放 RL 环境
Minetester 是一个基于开源游戏 Minetest 构建的完全开放强化学习（RL）环境。该项目概述了 Minetest 平台的技术架构及早期开发工作，为研究人员提供了一个代码完全开放、可自由修改的 AI 训练与测试平台，填补了现有 Minecraft 类 RL 环境在开放性方面的空白。
LMSYS Blog 开源 LLM 的上下文长度承诺究竟能兑现多少？
LMSYS Org发布LongChat-7B与LongChat-13B模型，通过压缩旋转位置编码技术将LLaMA的上下文窗口从2K扩展至16K tokens。模型基于8万条（7B）和1.8万条（13B）curated对话数据微调，训练成本分别为300美元与700美元。评估显示，LongChat-13B的长程检索准确率较MPT-7B-storywriter等开源模型提升2倍，在MT-Bench基准测试中表现优异，显著缩小了与Claude-100K、GPT-4-32K等商业长文本模型的差距。
LlamaIndex：产品、工程与评测AI 评分4444 LlamaIndex 与 Weaviate：如何搭建 RAG 技术栈
LlamaIndex 与 Weaviate 组合可搭建 RAG 技术栈：Weaviate 作为向量数据库充当外部存储，LlamaIndex 负责数据管理与编排。
LMSYS Blog Chatbot Arena第8周榜单：推出MT-Bench与Vicuna-33B
Chatbot Arena发布第8周排行榜，新增Vicuna-v1.3系列开源模型（7B-33B参数）及MT-Bench评估基准。MT-Bench包含80道多轮题目，涵盖写作、推理等8类，由GPT-4评分。新榜采用三项指标：基于4.2万匿名投票的Arena Elo、MT-Bench分数及MMLU。结果显示，GPT-4以8.99分和1227分领先，Vicuna-33B获7.12分，性能接近Claude与GPT-3.5-turbo。
Anthropic：Transformer CircuitsAI 评分5858 分布式表征中的组合与叠加
本文探讨了分布式表征中“组合”与“叠加”两个核心概念的关系与权衡。作者认为，传统上被视为从“局部编码”到“分布式编码”的单一谱系，实际上可分解为叠加和组合这两个不同维度。组合式表征通过独立特征（如颜色、形状）的组合来表示对象，能显著提高编码效率；而叠加则允许单个神经元同时参与表示多个特征。两者在泛化能力和线性计算功能上存在根本性张力，无法同时最优。文章借用了Thorpe（1989）的二元神经元编码示例（局部、半局部、半分布式、高分布式）来具体阐述这一观点。
LlamaIndex：产品、工程与评测AI 评分5858 LlamaIndex 与 MongoDB 联合教程：用私有数据构建类 ChatGPT 问答
LlamaIndex 与 MongoDB 联合发布教程，讲解如何用 LlamaIndex 连接私有数据并结合 MongoDB 存储，构建可对自有文档进行英文问答的系统。
Anthropic：Transformer CircuitsAI 评分6363 2023年5月电路研究进展
Anthropic可解释性团队分享了多项关于“叠加”现象的研究思路与初步实验。团队目前正系统性地探索利用字典学习方法，从已训练稠密模型的激活中提取特征，以破解叠加问题，并为此构建了大规模研究基础设施。同时，团队提出了一个概念性框架，将“特征”定义为“激活的最简单分解”，通过在合成数据上测量分解所需的总信息量，初步验证该方法能有效指示真实特征数量。这些工作包含正在进行的研究方向和暂未计划成文的细节，旨在促进与活跃研究者的早期交流。
Eugene Yan：WritingAI 评分5959 Eugene Yan 详解机器学习系统的九种设计模式
Eugene Yan 总结九种机器学习系统设计模式：原始数据只处理一次、人在回路、数据增强、困难负例挖掘、问题重构、级联、数据飞轮、业务规则层和部署前评估。文章结合 Meta 搜索、Cloudflare、Stack Exchange、Tesla Autopilot 等案例说明各模式的优缺点，并提出这些模式同样适用于 LLM 系统，如为 LLM 输出加业务规则层、用数据飞轮收集用户反馈微调模型。
Hugging Face 社区博客精选AI 评分6464 StackLLaMA：用 RLHF 训练 LLaMA 的实战指南
Hugging Face 发布 StackLLaMA 教程，手把手讲解如何用 RLHF 方法训练 LLaMA 模型，覆盖完整训练流程。
推荐理由：这是一份手把手教程，讲解如何用 RLHF 训练 LLaMA，读者可跟随步骤复现完整训练流程。
EleutherAI：Blog 使用 TransformerLens 对 TRLX RLHF Transformer 进行探索性分析
该研究利用 TransformerLens 可解释性工具，针对 TRLX 框架训练的 RLHF Transformer 模型开展探索性分析，系统展示了对齐后模型的内部工作机制。通过逐层可视化与激活分析，揭示了人类反馈强化学习训练过程中形成的特定注意力模式与表征结构，为理解大语言模型在 RLHF 微调后的行为机制提供了实证观察与可视化证据。
Eugene Yan：WritingAI 评分5353 Eugene Yan 讲解如何撰写数据标注指南
Eugene Yan 撰文总结撰写数据标注指南的方法，提出指南应回答五个问题：任务为何重要、任务是什么、术语含义、如何决定标签、如何执行任务。文中引用 Google 和 Bing 的标注指南示例，并建议用 Cohen's kappa 衡量标注者一致性来迭代改进指南。
Hugging Face 社区博客精选AI 评分6666 Hugging Face 讲解如何在 24GB 消费级 GPU 上用 RLHF 微调 20B 大语言模型
Hugging Face 发布博客，讲解如何在 24GB 消费级 GPU 上用 RLHF 微调 20B 参数大语言模型，文中涉及 TRL 与 PEFT（见原文链接 https://huggingface.co/blog/trl-peft）。正文抓取失败，仅标题可用，更多细节以原文为准。
Eugene Yan：WritingAI 评分5757 Eugene Yan 总结提升机器学习项目成功率的四种机制
Eugene Yan 撰文介绍提升机器学习项目成功率的四种机制。包括为每个项目设 pilot 和 copilot（copilot 约投入 pilot 10% 的精力做评审）、项目前先做文献综述、对实验做方法论评审以排查数据泄漏和验证集划分错误，以及用三种方式设定 timebox，如文献综述两周、原型四到八周、生产落地三到六个月。
Anthropic：Transformer CircuitsAI 评分6666 叠加、记忆与双下降现象
本研究在有限数据集上训练简单神经网络，发现过拟合表现为模型在叠加中存储具体数据点而非抽象特征，形成两种机制：过拟合机制（记忆数据点）与泛化机制（学习特征），并在过渡期间出现双下降现象。实验采用稀疏高维输入（维度n=10,000）与二维隐藏空间，通过全批量更新进行训练。可视化结果表明，从特征视角看模型表现混乱，但从数据点激活视角看则呈现简单结构，提示叠加可能提升记忆效率。这项初步研究揭示了过拟合与叠加的关联，为机制可解释性提供了新视角。
Hugging Face 社区博客AI 评分5454 Hugging Face 发布音频数据集完整使用指南
Hugging Face 发布音频数据集完整指南，演示用 🤗 Datasets 库一行代码加载 GigaSpeech 等数据集并用 13 行代码完成重采样、预处理和过滤。指南还介绍了流式模式可绕过磁盘空间限制（GigaSpeech xl 配置需超 1TB 存储），并汇总了 Hub 上热门的语音识别、语音翻译和音频分类数据集。
Hugging Face 社区博客精选AI 评分6969 Hugging Face 图解 RLHF：用人类反馈强化学习微调语言模型的完整流程
Hugging Face 发布长文图解 RLHF，将其拆为预训练语言模型、训练奖励模型、用 PPO 强化学习微调三个核心步骤，并解释 KL 惩罚如何防止策略偏离初始模型产生胡言乱语。文章还盘点 TRL、TRLX、RL4LMs 等开源工具，指出人类偏好数据成本高、标注不一致以及 PPO 之外优化器等仍待探索的方向。
推荐理由：原文系统拆解 RLHF 三阶段流程与 KL 惩罚等细节，并盘点开源工具与局限，适合作为理解该技术的入门框架。
Hugging Face 社区博客精选AI 评分6969 Hugging Face 联合 Intel Labs 与 UKP Lab 发布少样本文本分类框架 SetFit
Hugging Face 与 Intel Labs、UKP Lab 发布少样本学习框架 SetFit，无需提示词即可微调 Sentence Transformer 做文本分类。
推荐理由：原文给出 SetFit 在少样本文本分类上的具体对比数字和训练成本，读者可以据此评估小样本场景下是否用它替代大模型微调。
Hugging Face 社区博客AI 评分5858 Hugging Face 教程：从零训练你的第一个 Decision Transformer
Hugging Face 发布教程，教读者从零训练一个离线 Decision Transformer 模型，让 MuJoCo HalfCheetah 环境中的半猎豹跑起来。
Hugging Face 社区博客AI 评分5050 Hugging Face 教程：如何用 Megatron-LM 训练 GPT2 语言模型并转换为 Transformers 格式
Hugging Face 博客发布教程，讲解如何在 NVIDIA GPU 上用 Megatron-LM 预训练 GPT2 模型，并以 110M 参数的 CodeParrot 为例给出环境搭建、数据预处理、8 卡训练（约 12 小时）到权重转换为 transformers 格式的完整流程。
Hugging Face 社区博客AI 评分5151 如何用 Hugging Face Transformers 和 Habana Gaudi 预训练 BERT-base
Hugging Face 发布教程，讲解如何在 AWS DL1 实例上用 Habana Gaudi 从零预训练 BERT-base，使用 Transformers、Optimum Habana 和 Datasets 库，通过 masked-language modeling 完成训练。
Hugging Face 社区博客AI 评分4343 Hugging Face 为 🤗 Datasets 新增音频与图像文档
Hugging Face 为 🤗 Datasets 补充了音频和图像数据集的文档，Quickstart 新增端到端加载与处理示例，并引入 to_tf_dataset 函数，可将数据集转换为 tf.data.Dataset 供 TensorFlow 或 Keras 训练。
Hugging Face 社区博客AI 评分5858 Hugging Face 解析 BLOOM 176B 训练背后的技术：384 张 A100 与 Megatron-DeepSpeed 3D 并行
Hugging Face 发布长文详解 176B 参数模型 BLOOM 的训练技术，训练在 Jean Zay 超算上使用 384 张 NVIDIA A100 80GB GPU，耗时约 3.5 个月、约 100 万计算小时。
OpenAI：官网动态AI 评分4242 OpenAI 谈大型神经网络训练技术
OpenAI 发布文章梳理大型神经网络的训练技术，指出训练这类模型是一项困难的工程与研究挑战，需要编排一整个 GPU 集群来完成单次同步计算。
Hugging Face 社区博客AI 评分4646 TAPEX：无需真实数据的高效表格预训练
微软提出 TAPEX，通过让 BART 学习执行合成 SQL 查询来实现表格预训练，无需真实标注数据。该方法在 WikiSQL、TabFact、SQA 和 WikiTableQuestions 四个基准上均取得 SOTA，其中 WikiSQL 准确率达 89.6%，WikiTableQuestions 达 57.5%。
Hugging Face 社区博客AI 评分5353 Hugging Face 深度强化学习课程第 2 单元第 1 部分：Q-Learning 入门
Hugging Face 深度强化学习免费课程第 2 单元第 1 部分讲解 value-based 方法、State-Value 与 Action-Value 函数及 Bellman 方程。
Hugging Face 社区博客AI 评分5151 Hugging Face 介绍用 Accelerate 结合 PyTorch FSDP 加速大模型训练
Hugging Face 发布教程，介绍如何通过 Accelerate 库无需改代码即可使用 PyTorch FullyShardedDataParallel（FSDP）训练大模型。
Anthropic：Transformer CircuitsAI 评分6363 上下文学习与归纳头
研究发现，Transformer语言模型中的“归纳头”可能是其实现上下文学习能力的主要机制。归纳头是一种能够识别并复制序列模式的内部电路，其功能是在序列中寻找当前令牌的先前出现，并预测相同的后续令牌。在训练早期，模型会经历一个“相位变化”，此时归纳头迅速形成，同时上下文学习能力显著提升。通过架构扰动、直接剔除等六条互补的证据链表明，这种电路不仅存在于小型模型中，也可能构成了大型模型上下文学习的核心机制。这一机制性解释为理解模型内部计算、系统化解决安全问题提供了新途径。
Lilian Weng：Lil'Log精选AI 评分5757 数据不足情况下的学习第二部分：主动学习
监督学习任务的性能依赖于高质量标注数据，但获取大量标注样本成本高昂。主动学习是一种在标注预算有限、但允许投入部分人工标注资源的条件下，应对标注数据不足的范式。其核心思路是智能地选择最具信息量的样本进行标注，以在有限预算内最大化模型性能的提升。该方法旨在解决当面临标注数据受限时，如何通过策略性采样来高效利用标注资源的问题。
推荐理由：这是 Lilian Weng 数据不足系列的第二篇，把主动学习的核心采样策略和实际权衡讲得很清楚，做数据标注和 ML 工程的同学值得复习一遍。
Lilian Weng：Lil'LogAI 评分4343 Learning with not Enough Data Part 1: Semi-Supervised Learning（数据不足时的学习第一部分：半监督学习）
监督学习任务的性能通常随高质量标签数量的增加而提升，但大规模标注数据的获取成本高昂。在标签稀缺的场景下，半监督学习作为一种有效的机器学习范式，通过同时利用大量无标签数据与少量标签数据来提升模型性能。面对有限的标注数据，本文重点探讨了四种常用的半监督学习方法，为数据受限条件下的模型训练提供了技术路径。
EleutherAI：Blog 语言模型评估中的多项选择归一化
自回归语言模型（GPT-3、GPT-Neo、GPT-J 等）的多项选择任务评估存在多种实现路径。文章系统梳理了当前主流的归一化（Normalization）方法，针对模型在不同选项上的概率计算方式、长度偏差修正及分数标准化技术进行详细阐述，为统一语言模型评测标准提供方法论参考。
Lilian Weng：Lil'LogAI 评分4747 如何在大量GPU上训练超大规模模型？
训练大型神经网络面临GPU内存需求巨大和训练时间漫长的双重挑战。文章系统梳理了多种主流的并行训练范式，以及模型架构与内存优化设计方案，为跨多GPU训练超大规模神经网络提供了可行路径。文中进一步补充了专家选择路由等新技术，并提及本文的精简升级版已作为《训练大型神经网络的技术》发布于OpenAI官方博客。
Eugene Yan：WritingAI 评分5959 Eugene Yan：机器学习的第一条规则是先不用机器学习
Eugene Yan 撰文提出解决新问题时应先不用机器学习，并引用 Google Rules of ML 第 1 条及 Tumblr、GitHub、Spotify 等公司 ML 工程师的相似建议。
EleutherAI：Blog RoPE 与 GPT 学习式位置编码的下游评估对比
该评估系统对比了旋转位置编码（RoPE）与 GPT 类学习式位置编码在下游任务中的性能表现，通过多维度基准测试分析两种位置编码机制的应用差异，为 Transformer 模型架构中位置编码方案的选择提供实证依据。
Eugene Yan：WritingAI 评分5555 Eugene Yan 详解如何用半监督、主动学习与弱监督为机器学习系统冷启动标签
Eugene Yan 撰文讨论训练标签缺失时如何收集标签，介绍半监督学习的伪标签、主动学习的不确定性与信息密度采样、弱监督的标注函数三类方法。
Anthropic：Transformer Circuits精选AI 评分7676 Transformer电路逆向工程练习题集
本练习集旨在通过动手编写注意力头的具体权重矩阵，从参数层面精确理解Transformer工作机制。内容涵盖：详解注意力头中W_Q、W_K、W_V、W_out矩阵的作用；分析读写子空间的控制矩阵及其乘积意义；探讨如何用两个矩阵等效表示注意力头及其秩的含义；研究跨层注意力头如何通过矩阵运算传递信息。并通过具体数值示例，演示多个“前词注意力头”如何协作实现“查看前两个词”的虚拟功能，以及手动构建实现“归纳头”的“指针算法”步骤。
推荐理由：帮助开发者亲手拆解Transformer内部机制，提升可解释性研究能力。