跳到正文
10月21日周三
  1. Rohan Paul52

    Shadeform 发布 Flex VMs 和 Shadeform Spot,把闲置的裸金属 GPU 服务器转化为可租用的云算力,数小时内即可上架。作者认为关键在于无需构建 API,只需一个 IP 和 SSH 密钥即可完成接入,这消除了闲置算力难以触达买家的集成障碍。

    引用Shadeform@shadeformai

    Some of the most in-demand GPUs on Earth are sitting idle right now, and the teams that paid for them are just eating those costs. Today, we’re launching Flex VMs + Shadeform Spot to fix that👇

  2. Aravind Srinivas58

    Perplexity CEO Aravind Srinivas 转引 Engadget 报道称,Perplexity AI 工作流现在可以在 Mac 上完全本地运行,要求配备至少 36GB 内存。

    引用Engadget@engadget

    A Mac with at least 36GB of RAM can now run Perplexity AI workflows locally. https://www.engadget.com/2291754/perplexity-makes-it-easier-to-run-ai-workflows-entirely-on-your-mac/?utm_term=Autofeed&utm_campaign=Echobox-Engadget&utm_medium=Social-Distribution&utm_source=Twitter#Echobox=1792511300

  3. Databricks:Blog62

    Databricks 发布 MemCurrent 生产级 Agent 持久记忆架构

    Databricks 介绍 MemCurrent,一种面向生产 Agent 的持久记忆架构,结合情景记忆与派生记忆,通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆,已用于 Agent Bricks Memory 和 Genie。

    推荐理由:原文给出完整设计、消融和成本数据,读者可以据此评估生产级 Agent 记忆架构的选型与收益。

  4. Elon Musk52

    Elon Musk 转发 Grok @Bot 更新演示视频,介绍其大规模功能更新。新功能包括新聊天卡片、更快速度、草稿编辑、Email 别名、X DM、@bot 标签、Connectors、语音通话、通知、邀请与 Android Assistant,以及访问列表、未读、routines 和登录等。

    引用matt palmer@mattyp

    What's new in Grok Bot 00:00 New chat cards 00:31 Speed 00:53 Draft edits 01:08 Email aliases 01:33 X DMs 01:55 Tag @bot 02:31 Connectors 02:48 Voice calls 03:27 Notifications 03:56 Invites and Android Assistant 04:19 Access lists, unread, routines, sign-in This team ships!

  5. Aravind Srinivas65

    Perplexity CEO Aravind Srinivas 宣布,Perplexity Computer 现可在 Mac 上完全本地运行,无需云端推理,也不用 WiFi。模型和智能体都在本机运行,可操作 Mac 原生应用和本地文件,敏感数据不必发送到云端,现已在 Perplexity Mac 应用中可用。

    引用Perplexity@perplexity_ai

    Perplexity Computer 现在可以在你的 Mac 上完全本地运行。 与你的原生 Mac 应用和本地文件协同工作,运行任务时无需将敏感数据发送到云端。模型和智能体都在你的 Mac 上运行。 现已在 Perplexity Mac 应用中提供。

    推荐理由:Perplexity CEO 亲自宣布,Perplexity Computer 可完全本地运行,敏感数据无需上云,对关注隐私和离线使用的人有参考价值。

10月20日周二
  1. lauren46

    继续发货! 引用推文:Grok Bot 有哪些新东西 00:00 新聊天卡片 00:31 速度 00:53 草稿编辑 01:08 邮箱别名 01:33 X 私信 01:55 标记 @bot 02:31 连接器 02:48 语音通话 03:27 通知 03:56 邀请与 Android Assistant 04:19 访问列表、未读、例程、登录 这个团队真能发货!

    引用matt palmer@mattyp

    What's new in Grok Bot 00:00 New chat cards 00:31 Speed 00:53 Draft edits 01:08 Email aliases 01:33 X DMs 01:55 Tag @bot 02:31 Connectors 02:48 Voice calls 03:27 Notifications 03:56 Invites and Android Assistant 04:19 Access lists, unread, routines, sign-in This team ships!

  2. Aravind Srinivas55

    Aravind Srinivas 展示由 Computer 以实时等距 SVG 渲染的 Big Boy No. 4014,这是世界最大的在役蒸汽机车,并配有从冷锅炉到 60 mph 的 7 步运行序列。模型包含 1,324 个部件和 15,312 个凸面,数据来自 Union Pacific 公开的资料,可在 http://big-boy-4014.pplx.app 体验。

    引用Computer@AskPerplexity

    Computer built Big Boy No. 4014, the world's largest operating steam locomotive, as a live isometric SVG with its own renderer and a 7-step operating sequence from cold boiler to 60 mph. The live model has 1,324 parts and 15,312 convex faces, built from @UnionPacific's published figures. Try it: http://big-boy-4014.pplx.app

  3. Google Developers Blog71

    Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

    Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。

    推荐理由:原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口,读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。

  4. Tianyi Cui70

    DeepSeek 开源自研推理框架 DeepInfer,以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件,代码位于 github.com/deepseek-ai/DeepInfer。DeepInfer 已用于大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理,官方希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。

    引用DeepSeek@deepseek_ai

    🚀 隆重推出 DeepInfer,我们自研的推理框架,现已完全开源! 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

    同一件事,精选收录的是《DeepSeek 全面开源内部推理框架 DeepInfer》

  5. TechCrunch:AI49

    Yelp 上线 Check for Me:AI 语音智能体代你致电餐厅查询等位时间

    Yelp 为 app 新增 Check for Me 功能,用户输入用餐人数和手机号后,AI 智能体可代其致电餐厅查询等位时间并以短信回传结果。Yelp AI 助手同时接入 OpenTable 支持应用内订位,可记住历史对话偏好并查看过去 30 天聊天记录。面向商家,Yelp 推出每月 30 美元的 Smart Lead Reply,用于自动回复并筛选客户线索。

  6. IT之家·人工智能44

    小米 MiMo-V2.6-Pro 上线 WorkBuddy,支持 1M 上下文多智能体协作

    小米 MiMo-V2.6-Pro 正式上线 WorkBuddy,支持 1M 超长上下文与多智能体分工协作,并可联合理解图像、视频、音频和文本。该模型在 Artificial Analysis 智能指数为 46 分,官方称其全球开源第一。MiMo-V2.6 系列沿用 V2.5 定价,Pro 每百万词元输入 3 元、输出 6 元,并提供 99% 缓存折扣。

  7. IBM Research:AI60

    llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。

    推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。