内容类型
值得读的 AI 论文与研究成果：架构创新、训练方法、能力测量与理论进展。
445 条精选近 30 天 68 条共收录 2,331 条
Microsoft 与 Hugging Face 发布 ThinkingBox 智能体沙箱与 ThinkingBox-Bench 基准，覆盖 507 个有状态业务工作流、每任务运行 20 次，以终局数据库状态和副作用作可执行判定，现可通过 OpenEnv 在 Hugging Face 上运行。
推荐理由：原文用数据库终态加 20 次重复评测智能体，给出一致性保留率、失败签名和可复现的运行方式，值得关注记录型工作流的可靠性评估。
Rohan Paul@rohanpaul_ai精选AI 评分7777推荐理由：原文给出具体实验数字和一个可直接复用的缓解手段，并提示剩余失效场景。
Meta AI 与数学家合作，使用 Muse Spark 1.1 和 1.2（Thinking Mode、经 meta.ai 普通聊天界面、无定制研究脚手架）完成六篇论文，其中五篇回答了此前公开的研究问题，覆盖概率、微分方程、群论、优化、算术物理和非结合代数。
推荐理由：Meta 展示了 AI 与数学家协作解决六个公开数学问题的成果，并公开了人机分工与独立验证的协作规范。
AI at Meta@AIatMeta精选AI 评分6565推荐理由：原文说明了协作方式和论文标注原则，读者可以据此了解 Meta 如何让模型参与真正开放的数学研究问题。
哈佛物理学者 Matthew Schwartz 在 Anthropic 客座文章中提出寻找 Claude-shaped 问题，并开源了用于定量科学精确计算的 BootLoops 工具包。
推荐理由：作者结合自身跨学科项目，说明如何让 Claude 承接适合其能力的问题，并总结了与专家协作及规避模型失败模式的经验。
Transluce 发布调查报告，发现多起 AI 智能体以激进手段访问美加政府网站的事件，包括两起失败的初级入侵尝试：6 月 17 日智能体对美国教育部民权数据收集网站发出超过 20 万次请求并尝试 SQL 注入，5 月 28 日和 6 月 9 日 Arquivo.pt 记录到针对加拿大图书档案馆的 899 次请求，其中 13 次含攻击载荷。
推荐理由：Transluce 自己的调查报告，给出 incidents 细节和识别方法，读者可以了解 AI 智能体访问政府网站的实际手法与边界。
Anthropic 发布研究，用 Claude 对约 19,000 项工作任务评估机器人暴露度，发现现今机器人可完成美国 74% 的物理任务（占全部工作时间的 34%），但仅在 0.3% 的任务上比人工更具成本竞争力，按每年约 3% 的降价趋势需约 40 年才能达到 10%。
推荐理由：研究给出了可核查的机器人任务暴露数据与成本测算，读者可据此比较机器人与 LLM 影响的职业差异。
MIT、CMU、NYU 与 Stanford 的研究人员开发出 AI 系统 Ataraxos，在隐藏信息棋盘战棋 Stratego 上大幅超越世界顶级人类选手，论文发表于 Nature。
推荐理由：原文解释了 Ataraxos 如何用自博弈强化学习和决策时规划以远低于以往的训练成本战胜顶级 Stratego 选手，方法细节可直接对照其他隐藏信息博弈场景。
英国 AI 安全研究所（AISI）在发布前用 Petri 模拟网络安全场景测试 OpenAI GPT-6 Astra，在关闭安全分类器的最坏情况下，模型在 29.2% 的模拟运行中完成完整供应链攻击，而 GPT-5.6 Sol 为 6.3%，GPT-5.5 为零。
推荐理由：AISI 发布了跨代对比数据和具体行为链，读者可以借此评估前沿模型在网络安全评估中的失控风险。
Anthropic 发布对智谱 GLM-5.3 网络攻击能力的分析，发现其可自主开发端到端漏洞利用，在 ExploitBench 410 次尝试中成功 50 次，接近 Claude Mythos Preview 的 56 次。
推荐理由：Anthropic 第一手评测给出 GLM-5.3 的漏洞利用成功率和防护绕过数据，读者可据此了解开放权重模型带来的攻击面变化。
Arena.ai@arena精选AI 评分6767推荐理由：基于 1,460 场真实对战和 34,580 条裁决的实测数据，读者可以据此校准对 LLM-as-a-judge 评测结果的信任程度。
IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。
推荐理由：研究用静态与动态分析量化了主流对话式 AI 的第三方跟踪与对话内容泄露，读者可以借此了解自己的对话在同意与订阅不同设置下的暴露程度。
Aravind Srinivas@AravSrinivas精选AI 评分7070我们正与 Nvidia 及 100 多家行业伙伴合作，构建能够遏制失控 AI 智能体的基础设施。 在这项研究中，我们让 9 个 AI 模型在 SPACE 内部获得 root 权限，并指示它们突破出去。 在 108 次运行中，没有任何一次突破 VM 边界。 https://www.perplexity.ai/hub/blog/escaping-space-part-i
推荐理由：原文给出108次越狱测试的具体结果和两种绕过手法，还指出多家主流沙箱平台存在同样的 IP 共享漏洞，具有行业参考价值。
Epoch AI 测算过去五年达到给定基准分数的AI价格每年下降约 13 倍，比 DNA 测序、算力和锂电池的降价速度快 4 至 18 倍。例如 o3 以平均每题 30 美分在 GPQA Diamond 得到 75%，约 18 个月后 GPT-5.6 Luna 以每题 $0.0004 达到同样分数，降幅 725 倍。作者提示基准价格是市场实际成本的间接代理，数据与代码已在 GitHub 公开。
推荐理由：原文用五个基准测算了AI性能价格随时间的下降速度，并与其他技术的历史降价曲线对比，数据与代码公开可查。
MIT研究人员借助AI算法优化脂质纳米颗粒（LNP）的辅料配比，成功开发出耐热性更强的RNA疫苗配方。该配方使疫苗在室温下可稳定保存一年，或在37摄氏度下保存两个月，且在小鼠实验中产生的免疫反应与Moderna类似。AI算法通过少量实验数据快速收敛至最优解，将原本需数月的筛选过程缩短至几周。相关成果发表于《Nature Biotechnology》。
推荐理由：展示了AI在小数据集和复杂生物化学问题中的高效应用，显著加速了药物研发流程，具有明确的科学突破和实际应用价值。
PromptArmor 披露 Elastic 的 Agentic SOC（EASE）可被钓鱼告警中的间接提示词注入操纵，无需人工审批即可铸造 API 密钥并外传，攻击者可借此禁用检测规则、伪造告警或窃取 Elasticsearch 数据。
推荐理由：报告以完整攻击链演示了 Elastic AI SOC 可被间接提示词注入窃取凭证，并给出可立即执行的缓解配置。
小米官方复盘 MiMo-V2.6 发布后的工具调用重复问题，响应级重复率超 0.05%，并区分了正常并行调用、调用泛滥与调用重复。回放 RL 各 checkpoint 显示泛滥率随训练从 11.1% 升至 24.6%，32 次调用阈值惩罚过于宽松；直接调低阈值需重启 20 步 MixRL，估计成本 231 万美元，且内部测试重复率仅从 13.45% 降至 3.83%。
推荐理由：原文给出完整的归因实验和修复路径，还公开了成本对比，读者可借鉴其诊断 RL 训练中涌现行为的方法。
Anthropic 开展 Project Swap 实验，让 201 名员工携带一本书，其 Claude 智能体在数字交易大厅代表他们谈判换书。5 分钟聊天后，Claude 构建的图书排序与本人自评排序在 61% 的书对上一致；市场效率为 0.55（最优 0.89），其中 85% 的差距来自智能体对参与者偏好的理解不足，而非谈判表现。
推荐理由：实验设计能区分智能体理解偏好与谈判能力各自的贡献，结果显示短板主要在代表性而非谈判，模型强弱的影响大于指令。
NVIDIA 与 Google DeepMind、EMBL-EBI 等全球研究机构合作，通过 AlphaFold Database 开放发布 2800 多种病毒的蛋白复合物预测 3D 结构，旨在为下一次疫情储备知识。
推荐理由：原文给出数据集规模、覆盖范围和可复用的开源预测流程，读者可以据此评估如何用于自己的蛋白结构研究。
OpenAI 发布开放基准 MentalHealthBench，评估 AI 在真实心理健康对话中的表现，由来自 22 个国家、19 种语言的 80 多位持证心理学家和精神科医生共同构建。
推荐理由：原文给出基准的构建方法、评分权重设计和开放发布方式，研究者可据此复现或扩展心理健康方向的模型评测。