跳到正文
10月20日周二
  1. lauren46

    继续发货! 引用推文:Grok Bot 有哪些新东西 00:00 新聊天卡片 00:31 速度 00:53 草稿编辑 01:08 邮箱别名 01:33 X 私信 01:55 标记 @bot 02:31 连接器 02:48 语音通话 03:27 通知 03:56 邀请与 Android Assistant 04:19 访问列表、未读、例程、登录 这个团队真能发货!

    引用matt palmer@mattyp

    What's new in Grok Bot 00:00 New chat cards 00:31 Speed 00:53 Draft edits 01:08 Email aliases 01:33 X DMs 01:55 Tag @bot 02:31 Connectors 02:48 Voice calls 03:27 Notifications 03:56 Invites and Android Assistant 04:19 Access lists, unread, routines, sign-in This team ships!

  2. Aravind Srinivas55

    Aravind Srinivas 展示由 Computer 以实时等距 SVG 渲染的 Big Boy No. 4014,这是世界最大的在役蒸汽机车,并配有从冷锅炉到 60 mph 的 7 步运行序列。模型包含 1,324 个部件和 15,312 个凸面,数据来自 Union Pacific 公开的资料,可在 http://big-boy-4014.pplx.app 体验。

    引用Computer@AskPerplexity

    Computer built Big Boy No. 4014, the world's largest operating steam locomotive, as a live isometric SVG with its own renderer and a 7-step operating sequence from cold boiler to 60 mph. The live model has 1,324 parts and 15,312 convex faces, built from @UnionPacific's published figures. Try it: http://big-boy-4014.pplx.app

  3. Google Developers Blog71

    Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

    Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。

    推荐理由:原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口,读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。

  4. Tianyi Cui70

    DeepSeek 开源自研推理框架 DeepInfer,以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件,代码位于 github.com/deepseek-ai/DeepInfer。DeepInfer 已用于大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理,官方希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。

    引用DeepSeek@deepseek_ai

    🚀 隆重推出 DeepInfer,我们自研的推理框架,现已完全开源! 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4

    同一件事,精选收录的是《DeepSeek 全面开源内部推理框架 DeepInfer》

  5. TechCrunch:AI49

    Yelp 上线 Check for Me:AI 语音智能体代你致电餐厅查询等位时间

    Yelp 为 app 新增 Check for Me 功能,用户输入用餐人数和手机号后,AI 智能体可代其致电餐厅查询等位时间并以短信回传结果。Yelp AI 助手同时接入 OpenTable 支持应用内订位,可记住历史对话偏好并查看过去 30 天聊天记录。面向商家,Yelp 推出每月 30 美元的 Smart Lead Reply,用于自动回复并筛选客户线索。

  6. IT之家·人工智能44

    小米 MiMo-V2.6-Pro 上线 WorkBuddy,支持 1M 上下文多智能体协作

    小米 MiMo-V2.6-Pro 正式上线 WorkBuddy,支持 1M 超长上下文与多智能体分工协作,并可联合理解图像、视频、音频和文本。该模型在 Artificial Analysis 智能指数为 46 分,官方称其全球开源第一。MiMo-V2.6 系列沿用 V2.5 定价,Pro 每百万词元输入 3 元、输出 6 元,并提供 99% 缓存折扣。

  7. IBM Research:AI60

    llm-d 1.0 发布:Kubernetes 原生分布式推理服务走向生产就绪

    IBM、Red Hat 和 Google 等主导的开源推理项目 llm-d 在 PyTorch Conference North America 上发布 llm-d 1.0,这是一个 Kubernetes 原生的分布式推理服务框架,支持任意模型、任意加速器和任意云。

    推荐理由:原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。

  8. ElevenLabs:Blog73

    ElevenLabs 发布 Eleven Realtime v1 Mini 与 v1 Max 语音智能体模型

    ElevenLabs 发布 Speech to Speech 级别的 Eleven Realtime 模型,含 v1 Mini(低成本自然对话)和 v1 Max(复杂多步任务),均支持 90 多种语言和 17,000+ 声音。

    推荐理由:原文给出两档模型的基准数据和与 OpenAI Realtime API 兼容的迁移方式,读者可据此判断是否替换现有语音智能体方案。

  9. IT之家·人工智能72

    DeepSeek 将内部推理框架 DeepInfer 全面开源

    DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,此前已开源大模型、TileLang 编译工具及推理算子库。DeepInfer 集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台,已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。

  10. OpenBMB43

    🚀 MiniCPM-V 4.7 现已获 vLLM v0.32.0 支持!感谢 @vllm_project 的支持。这让以高吞吐、低延迟方式部署 MiniCPM-V 4.7 变得更加容易。

    引用vLLM@vllm_project

    🚀 vLLM v0.32.0 is out! 814 commits · 363 contributors · 121 first-timers 🧭 New /v1/systemone structured-decision endpoint + generic hf tool/reasoning parser 🗜️ Low-precision KV everywhere: NVFP4 on SM8x/90/12x, FP8 KV default for GLM-5.x, 4-bit KV on ROCm 🛠️ Model Runner V2: GPU n-gram speculator, Elastic EP, PP+CP for MLA, now default on ROCm ⚡ Faster startup & serving: precompiled kernel downloads, autotune preload, +43–85% req/s with multi-API workers 🆕 EmbeddingGemma 2, MiniCPM-V 4.7, Nemotron 3.5 ASR 🔒 3 security fixes + CORS hardening Full notes → http://github.com/vllm-project/vllm/releases/tag/v0.32.0

  11. Ant Ling56

    蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持,让模型更易部署。据引用内容,蚂蚁百灵开源了 5 款语音模型,覆盖 TTS、音频理解和 ASR,参数规模从 0.5B 到 126B 总参数(激活 6.5B),可通过 vLLM-Omni 直接部署。

    引用vLLM@vllm_project

    Day-0 support for Ming-3.0 in vLLM-Omni @AntLingAGI just open-sourced 5 speech models spanning TTS, audio understanding, and ASR — ranging from 0.5B to 126B total parameters (6.5B active). Serve them today with vLLM-Omni. Congrats to the @AntLingAGI team!

  12. Cursor:Changelog65

    Cursor 正式推出 Agent SDK,可用代码文件夹定义并部署智能体

    Cursor 正式推出 Agent SDK,支持以代码文件夹形式定义智能体,用评估测试,并部署到 Cursor 或自有基础设施。运行 npx @cursor/agent-sdk init 即可初始化,agent-sdk deploy 会构建智能体并分配 URL;提供安全审查、PR 自动修复、Linear / Jira 分诊等模板。

    推荐理由:原文给出智能体即代码的项目结构和评估、部署命令,读者可以据此把 PR 审查、Slack 分诊等机器人跑起来。