DeepSeek 开源推理框架 DeepInfer,采用 Apache License 2.0
DeepSeek 在 X 上宣布以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架支撑其 V4.1-Flash 模型的大规模快速推理。
DeepSeek 在 X 上宣布以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架支撑其 V4.1-Flash 模型的大规模快速推理。
Professional Voice Clone on HeyGen sounds exactly like you. Upload 30 min to 2 hrs of audio and get a voice no one can tell apart from your own. Every breath, pause, laugh, and accent, preserved. Comment "PVC" for a free month. First 100, web subscriptions only, ends 11/19.
一个模型即可生成 3D 角色、动作和场景。 JST-2 现已在我们的 API 上线。 今天就开始构建:https://viggle.ai/developers
Today we are releasing JST-2, the world's first full-stack physics-native world foundation model. Many world models learn in pixel/video space. We went back to first principles and built the entire model stack in 3D. Generate a 3D scene in seconds and expand it in real time. Create characters with motion built in, all through one general architecture.
OpenAI 于周二宣布用户可锁定 ChatGPT 对话,通过四位 PIN 或 Face ID、Touch ID 保护敏感内容,锁定聊天会移入独立的 Locked Chats 区域并拥有独立记忆。
Google 于周二宣布其 PyTorch 版本 TorchTPU 以开源项目形式发布,让现有 PyTorch 应用只需简单配置改动即可运行在 Google TPU 和 Google Cloud 上。
Anthropic 的 Claude Opus 5.5 和 Claude Sonnet 5.5 已在 Google Antigravity 2.0 桌面端、CLI 及 VS Code、JetBrains、Visual Studio 的 IDE 扩展中正式可用。
Some of the most in-demand GPUs on Earth are sitting idle right now, and the teams that paid for them are just eating those costs. Today, we’re launching Flex VMs + Shadeform Spot to fix that👇
Perplexity CEO Aravind Srinivas 转引 Engadget 报道称,Perplexity AI 工作流现在可以在 Mac 上完全本地运行,要求配备至少 36GB 内存。
A Mac with at least 36GB of RAM can now run Perplexity AI workflows locally. https://www.engadget.com/2291754/perplexity-makes-it-easier-to-run-ai-workflows-entirely-on-your-mac/?utm_term=Autofeed&utm_campaign=Echobox-Engadget&utm_medium=Social-Distribution&utm_source=Twitter#Echobox=1792511300
Mistral AI 发布面向实时语音智能体的 Voxtral 3 模型家族,包含语音转文本模型 Voxtral Small Transcribe 3、文本转语音模型 Voxtral Mini TTS 3,以及基于 LiveKit 的语音智能体 SDK,将听、思考、工具调用和说话整合为单一流式管线。
Google 与 Meta 的 PyTorch 团队联合开发并在 PyTorch Conference 2026 上宣布开源 TorchTPU,让 PyTorch 通过 torch.device("tpu") 原生运行在 Cloud TPU 上,官方称其取代 PyTorch/XLA 并推荐用于所有新工作负载。
Introducing Voxtral 3: state-of-the-art Transcribe and Speech models powering Mistral’s new voice agents API. 🧵
vLLM 团队与 Inferact、Google 合作发布 vLLM TorchTPU(vllm-torchtpu),一个在 Google Cloud TPU 上运行 vLLM 的新后端插件,复用 vLLM 既有模型代码,无需改动模型定义即可部署大多数现有模型。
Databricks 在 Agent Bricks 平台推出 Agent Memory Beta,通过存储关键事实、偏好和工作流提升智能体质量并降低成本和延迟,底层由 Lakebase 提供、基于 Databricks 的 MemCurrent 记忆研究。
Databricks 介绍 MemCurrent,一种面向生产 Agent 的持久记忆架构,结合情景记忆与派生记忆,通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆,已用于 Agent Bricks Memory 和 Genie。
推荐理由:原文给出完整设计、消融和成本数据,读者可以据此评估生产级 Agent 记忆架构的选型与收益。
What's new in Grok Bot 00:00 New chat cards 00:31 Speed 00:53 Draft edits 01:08 Email aliases 01:33 X DMs 01:55 Tag @bot 02:31 Connectors 02:48 Voice calls 03:27 Notifications 03:56 Invites and Android Assistant 04:19 Access lists, unread, routines, sign-in This team ships!
Perplexity Computer 现在可以在你的 Mac 上完全本地运行。 与你的原生 Mac 应用和本地文件协同工作,运行任务时无需将敏感数据发送到云端。模型和智能体都在你的 Mac 上运行。 现已在 Perplexity Mac 应用中提供。
推荐理由:Perplexity CEO 亲自宣布,Perplexity Computer 可完全本地运行,敏感数据无需上云,对关注隐私和离线使用的人有参考价值。
Mistral 发布 Voxtral 3,包含语音转文本、文本转语音模型和基于 LiveKit 的语音智能体 SDK,将听、推理、工具调用和说话整合为单一实时流式管线,每轮对话可在一秒内完成。
RadixArk 的 SGLang 团队与 Google、Meta 合作开源 SGLang-TorchTPU,基于 Google 的 TorchTPU 让同一 SGLang 引擎可在 GPU 和 TPU 上提供生产级服务。
同一件事,精选收录的是《Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎》
Google 与 Meta 联合开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,模型只需把 .to("cuda") 改成 .to("tpu") 即可开箱运行,无需 JAX 依赖。
推荐理由:原文详述架构、精度模式与多个训练推理案例,读者可据此评估把 PyTorch 工作流迁移到 TPU 的成本。
据 9To5Mac 报道,Mac 版 Perplexity Computer 新增端侧模式,可完全在设备端运行 AI 模型和智能体,无需联网即可完成任务规划、推理和文件处理,用户批准后文件才上传云端。
What's new in Grok Bot 00:00 New chat cards 00:31 Speed 00:53 Draft edits 01:08 Email aliases 01:33 X DMs 01:55 Tag @bot 02:31 Connectors 02:48 Voice calls 03:27 Notifications 03:56 Invites and Android Assistant 04:19 Access lists, unread, routines, sign-in This team ships!
Computer built Big Boy No. 4014, the world's largest operating steam locomotive, as a live isometric SVG with its own renderer and a 7-step operating sequence from cold boiler to 60 mph. The live model has 1,324 parts and 15,312 convex faces, built from @UnionPacific's published figures. Try it: http://big-boy-4014.pplx.app
OpenAI 宣布 ChatGPT 的 team tasks 现可自动化周期性工程工作,例如每周五汇总已发布内容和受阻事项。团队成员可以查看结果并调整下次更新的覆盖范围,无需个人单独维护。
Hugging Face 宣布通过 PyTorch 原生后端 TorchTPU 支持 TPU,Transformers、Diffusers 和 Kernels 可原生运行,模型加载只需 device_map="tpu",不再需要 torch_xla 或 Optimum TPU。
DeepSeek 以 Apache 2.0 许可证开源了支撑其生产服务的 DeepInfer 推理框架,并另以 MIT 许可证发布词元编解码层 deepseek-recipe。
Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。
推荐理由:原文给出两套 PyTorch 原生 TPU 推理引擎的功能清单、公开基准成本和开源入口,读者可据此评估把现有 PyTorch 服务栈迁到 TPU 的可行性。
AnyLanguageModel 1.0 正式发布,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Adobe 宣布 iOS、iPadOS 和 Android 版 Lightroom 移动版新增 Open Eyes Quick Action,检测到照片中有人闭眼时一键用生成式 AI 打开眼睛,并参考 Lightroom 库中同一人的其他照片匹配颜色、大小和形状。
🚀 隆重推出 DeepInfer,我们自研的推理框架,现已完全开源! 以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享生产环境技术栈,帮助社区降低计算成本、减少能源消耗,让 AI 更可负担。 🔗 http://github.com/deepseek-ai/DeepInfer 1/4
同一件事,精选收录的是《DeepSeek 全面开源内部推理框架 DeepInfer》
Yelp 为 app 新增 Check for Me 功能,用户输入用餐人数和手机号后,AI 智能体可代其致电餐厅查询等位时间并以短信回传结果。Yelp AI 助手同时接入 OpenTable 支持应用内订位,可记住历史对话偏好并查看过去 30 天聊天记录。面向商家,Yelp 推出每月 30 美元的 Smart Lead Reply,用于自动回复并筛选客户线索。
Google 宣布 Coral NPU 32 位架构全部四个里程碑完成,新增 Matrix Execution Unit 可配置至 1 TOPS、目标推理平均功耗 10mW,完整 RTL 已在 GitHub 开源。
火山引擎 Seedance Managed Agent 上线,是基于 Seedance、Seedream 构建的视觉创作 Agent,通过自研 Harness 与视觉模型联合调优,把模型、Skills 与工具组织成完整创作链路。
Cloudflare 发布文档数据抽取模型 Clairic,已在 Workers AI 开放预览,开放权重即将推出。用户指定所需字段后,模型单次调用即返回格式化值和置信度,缺失值返回 null,不做逐 token 生成,还可处理简单计算、估算和预测。