OpenAI 谈 ChatGPT 的优化方向:情绪支持、休息提醒与生活建议
OpenAI 正在优化 ChatGPT 对用户困境时刻的支持,已上线休息提醒功能,并着手改进生活建议能力,整个过程由专家意见指导。这些改进围绕让 ChatGPT 帮助用户更好地生活这一目标展开。
OpenAI 正在优化 ChatGPT 对用户困境时刻的支持,已上线休息提醒功能,并着手改进生活建议能力,整个过程由专家意见指导。这些改进围绕让 ChatGPT 帮助用户更好地生活这一目标展开。
LlamaIndex 指出,直接用 OpenAI、Claude、Gemini 等 LLM API 截图解析文档仍会幻觉数值、丢失复杂结构,且缺少置信度分数、边界框和引用等企业级元数据。其 LlamaParse 通过混合文本解析与视觉模型,在基准测试中比纯截图方式准确率提升 5% 以上,并提供更便宜的纯 LLM 模式和自动升级的 auto-mode。
金融科技公司 Mercury 的工程师 Matt Russell 在三月内部黑客松中创建工具,将 Linear 任务分配给第三方 AI 智能体,后者返回拉取请求供人工审查。
LlamaIndex 发文回答 MCP 是否会取代向量搜索,核心论点是智能体仍需要预处理和索引层来做非结构化数据的快速语义检索。
Cognition 发文《Don't Build Multi-Agents》,提出上下文工程两条原则:共享完整 agent 轨迹的上下文,以及行动携带隐含决策、冲突决策导致糟糕结果。
推荐理由:Cognition 以自身 agent 构建经验提炼上下文工程两条原则,并解释为何多智能体架构在 2025 年仍然脆弱。
人类已越过AI发展的"事件视界"。2025年代理将承担真正认知工作,永久改变编程;2026年系统或能发现新见解,2027年机器人可能执行现实任务。科学家称生产力已提升2-3倍,递归改进正在加速。2030年代智能与能源将极大丰富,技术成本趋近电力。尽管就业结构剧变,但财富增长将带来前所未有的政策空间。人类正适应"温和的奇点":奇迹迅速变成常态,我们将很快测试智能能超越人类多远。
推荐理由:Sam Altman 谈温和奇点:AGI 已启动,预测 2025-2027 发展路线
OpenAI 发布博客,深入说明其在模型谄媚(sycophancy)问题上遗漏了什么,并介绍发现的问题、出错原因和计划进行的后续改进。
推荐理由:OpenAI 官方复盘模型谄媚问题的成因与整改方向,读者可以借此了解其后续调整思路。
AI发展已进入“下半场”。前半场的核心是开发新训练方法与模型,如Transformer、GPT等,其创新集中于搜索、深度强化学习、规模化和推理。后半场的重心将从解决问题转向定义问题,评估比训练更重要。当前的突破性进展是强化学习终于实现泛化,形成了一个通用方案,能统一解决软件工程、创意写作、高等数学等多种复杂任务。这标志着AI从专注于方法创新的阶段,转向以明确目标、定义评估标准为核心的新时期。
Answer.AI 官方博客发布文章,介绍其年轻研究员 Sarah Pan(MIT 大一学生)的个人经历。她分享了如何从高中开始通过 fast.ai 入门 AI,并在 NeurIPS 发表论文的过程。重点介绍了她与团队开发的 WebGPU Puzzles 项目,旨在降低 GPU 编程的学习门槛,让开发者能在浏览器中直接练习 WebGPU 和 gpu.cpp 的基础知识。
OpenAI 阐述关于 AI 经济学的三点观察:模型智能与训练资源的对数成正比,可预测扩展;AI 使用成本每 12 个月下降约 10 倍,远超摩尔定律速度;智能线性增长将产生超指数级社会经济价值。据此,AI 代理将如虚拟同事般渗透各领域,科学进步将大幅加速,虽然短期内生活照旧,但长期将深刻重塑社会经济结构,个人意志力和适应能力将成为关键价值。
推荐理由:Sam Altman 提出 AI 经济学三大观察,描绘 AGI 时代 Agent 工作图景
Answer.AI 团队对 AI 软件工程师 Devin 进行了为期一个月的深度测试。尽管早期在 API 集成等简单任务中表现尚可,但在扩展至新项目创建、研究及代码修改等 20 项真实任务时,结果令人失望:仅 3 项成功,14 项失败,且无法预测成败规律。Devin 常陷入技术死胡同、生成过度复杂的“面条代码”,或在面对不可行任务时产生幻觉并浪费大量时间。文章指出其实际表现远低于宣传预期,难以替代人类开发者。
推荐理由:来自知名 AI 评测机构的详实一手数据,揭示了明星产品 Devin 在真实工作流中的局限性,为评估当前自主编程 Agent 的实际成熟度提供了重要参考。
Sam Altman在ChatGPT两周年之际回顾OpenAI九年历程:从坚信AGI可能实现,到2022年意外推出ChatGPT并引爆前所未有的增长曲线。他坦承过去两年从零构建公司的混乱压力,以及被董事会突然解雇的危机教训。如今周活用户已达3亿,在迈向AGI的道路上,他既感激这段经历,也承认未来仍充满未知。
推荐理由:Sam Altman 反思创业历程,预测 2025 年 AI Agent 将实质性改变企业产出
Sierra 在博客中提出面向 AI 智能体的结果导向定价,即只在智能体完成特定业务结果(如解决客服对话、挽回取消、追加销售)时收费,多数情况下未解决的对话和升级案例不收费。文章将这种模式与传统的按席位计费和按用量计费进行比较,指出传统 CX 厂商因依赖席位收费存在利益冲突,并说明 Sierra 会预先给出明确的结果判定标准,不适合时也可采用混合计费方式。
ARC Prize 团队于 2024 年 10 月 24 日举办线上活动,说明为何单靠深度学习难以攻克 ARC-AGI,并提出结合深度学习与程序合成的技术路线。
推荐理由:Chollet 和 Knoop 系统论述 LLM 局限于记忆技能、需结合程序合成才能胜出 ARC-AGI 的技术路径,为理解智能与抽象层次提供了可迁移的分析框架。
前 OpenAI Reflection 团队和 DeepMind Scalable Alignment 团队负责人 Geoffrey Irving 加入英国 AI Security Institute(AISI),从事由政策驱动的技术工作,目标是向政府通报 AI 风险与缓解措施、提升社会在降低风险决策上的协调能力。
Microsoft AI CEO Mustafa Suleyman 发文阐述打造人人可用 AI 伴侣的愿景,称 Copilot 将始终与用户利益保持一致。Copilot 应用推出 discover feed 体验,融合学习、探索和放松功能;官方强调其理解生活上下文的同时保护隐私、数据与安全,并记住最有帮助的细节。
作者在书店偶遇计算器历史书籍,顿悟自己热爱这种零依赖的技术产品。计算器作为"大脑插件",仅需太阳能或电池即可工作,无需联网、账户或订阅,不收集数据,即买即用且完全私密。这与当下强制更新、订阅制、数据密集型的复杂科技形成鲜明对比。反思资本主义经济下公司追求股东价值最大化导致技术异化,呼吁开发者和消费者追求计算器式的技术理想——简单、独立、真正为用户服务。
推荐理由:Karpathy借计算器反思现代技术产品哲学,对AI产品设计有启发意义
英国 AI Security Institute 提出以"安全案例"(safety cases)作为前沿 AI 安全的结构化论证框架,即用证据支撑的论证说明系统在特定应用和环境中是安全的。
Suno 就 6 月 24 日 RIAA 代表主要唱片公司提起的版权侵权诉讼发布官方回应,称诉讼在事实和法律层面均有缺陷,并称诉讼发生时双方正在洽谈合作。Suno 表示其模型使用开放互联网上的中高质量音乐训练,与 Gemini、Claude、ChatGPT 等做法一致,并强调产品已内置防止复制版权内容的机制,包括检查音频上传和禁止按歌手描述生成音乐。
推荐理由:Suno 首次就 RIAA 诉讼公开回应,说明了训练数据来源和防止复制的具体机制,可帮助读者了解双方争议焦点。
OpenAI 分享了自定义语音生成模型 Voice Engine 小规模预览的经验教训。该模型可根据文本创建自定义语音,目前仍处于小范围测试阶段。
LlamaIndex 基于 Gemini 1.5 Pro 的 1M 上下文窗口初步测试,提出长上下文 LLM 会简化 RAG 的分块、检索与摘要等环节,但仍面临文档规模超窗、嵌入模型上下文落后以及成本与延迟等挑战。
Licklider 1960年论文《人机共生》提出"智能增强"(IA)是通向AI的过渡阶段,预测人机能力互补——计算机处理机械工作、人类负责思考,这一范式延续64年直至LLM打破界限。他预见云计算雏形,但误判技术路径:当时看好的逻辑推理AI成死胡同,而因缺乏数据被忽视的统计方法(LLM)终成主流。对交互预测也偏离现实:设想的多人协作大屏未普及,键盘鼠标仍是主导;对语音识别"5年实现"的乐观估计,实际耗时64年未成熟。
推荐理由:Karpathy 借 1960 年文献反思人机共生与 AI 发展路径,历史洞察深刻
Sam Altman 分享17条创业与管理建议:以乐观、信念和人际网络启动项目,用凝聚团队和长期主义推动落地;集中资源押注高信念项目,设计好激励机制,保持快速迭代;警惕官僚作风,重视人才招聘与复利效应,与优秀的人共事。
推荐理由:OpenAI CEO Sam Altman 的创业管理核心原则
LangChain 撰文认为 OpenAI 开发者日发布的 GPTs 和 Assistants API 代表对封闭式 agent 认知架构的押注,即由 LLM 全权决定状态转移。文章指出当前真正可靠的应用多采用复杂链或状态机架构,并强调推送而非拉取上下文能带来更高可控性,同时提出开源认知架构与闭源之争将比模型之争更值得关注。
推荐理由:文章把 GPTs 和 Assistants API 归纳为对封闭 agent 认知架构的押注,并结合 GPT-Researcher 等案例说明为何自定义架构更可控。
OpenAI 提出应从现在开始思考超级智能的治理问题,即未来能力远超 AGI 的 AI 系统。该表态未给出具体治理方案或时间表。
OpenAI 发文阐述其对 AGI 的规划,将 AGI 定义为"比人类更聪明的 AI 系统",并重申使命是确保其造福全人类。
OpenAI 正在澄清 ChatGPT 行为的塑造方式,并公布改进计划:让用户拥有更多定制空间,同时在这些决策领域引入更多公众意见。
曾与创始人合作、现与研究人员共事的作者发现,尽管两类人差异显著,但顶尖者都思考"领域内最重要的问题"、兼具短期专注与长期视野、极度坚持、偏向行动、创意丰富且重视自主,动机常源于好奇心。
推荐理由:Sam Altman深度剖析顶尖研究者与创始人的共同特质
YC 曾实验资助无想法的优秀创始人,结果全部失败,证明创始人必须自身擅长产生想法。要身处正确环境:周围需有对未来敏感、乐观、想法丰富的人,远离愤世嫉俗者。关注重大结构性转变,区分真实与虚假趋势。评估想法时考虑能否做大、创始人与公司是否匹配,以及能否解释为何大多数人认为是坏主意但你看到价值。
推荐理由:Sam Altman 分享识别技术趋势的方法论,称适用于 AI 发展
创业中最反直觉的秘密是,做困难的创业往往比容易的创业更易成功。容易启动的项目虽简单起步,却因缺乏使命感而难以吸引顶尖人才;反之,解决核聚变、基因编辑等难题虽需大量资源,却能靠"世界需要这个"的使命感招募人才,形成顺风。建议创业者设定宏大愿景但保持合理节奏,以10年而非3年的长期承诺建立复利优势。
Sam Altman 观察到,旧金山对争议话题的开放度已不及北京,过度政治正确正在扼杀创新。他指出,从牛顿研究炼金术到比特币的诞生,所有突破性想法最初都看似异端;当社会将持不同意见者视为异端而非辩论对象时,思想交流逐渐停滞,顶尖人才开始外流。警告称,若无法容忍"地球是圆的"这类曾经危险的观点,湾区将失去孕育 SpaceX 或比特币的土壤。
人类与机器的"融合"并非未来奇点,而是已悄然开始数年的渐进过程。智能手机、社交媒体算法和搜索引擎已在控制人类行为与思维,我们正与AI进入共同进化阶段:AI影响人类,人类改进AI。随着算力和AI人才呈双指数级增长,超级智能与脑机接口将比预期更快到来。与其对抗或被淘汰,深度融合或许是避免物种冲突的最佳路径,但全球需立即开始严肃协调应对。
推荐理由:Sam Altman 经典长文阐述人机融合已启动,AGI 时代需全球协调应对
OpenAI 表示其 Dota 2 结果显示,在足够算力下自我博弈(self-play)可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手,此后仍在继续提升;自我博弈系统中的数据会随智能体变强而自动改善,不受监督深度学习训练数据集质量上限的约束。
推荐理由:OpenAI 借 Dota 2 结果说明自我博弈为何能突破监督学习的数据上限,对理解强化学习路线有参考价值。
OpenAI 发布博文,探讨强化学习算法因奖励函数设定错误而出现意外、反直觉行为的一种失败模式,并计划具体展开该问题的表现方式。