跳到正文
2024年11月7日周四
  1. Mistral AI:News48

    Mistral 推出 Batch API,批量推理成本降低 50%

    Mistral 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。该 API 面向优先考虑数据量而非同步响应的场景,用户上传批处理文件后即可下载输出结果,适用于情感分析、文档批量翻译、向量嵌入和数据标注等任务。目前支持 La Plateforme 上所有模型,每个工作区限制 100 万个进行中的请求,即将登陆其云服务合作伙伴。

2024年11月4日周一
  1. xAI:News

    Grok API 公测版发布

    xAI 启动 Grok API 公测,发布新模型 grok-beta,支持 128k 上下文、函数调用及系统提示,视觉版本下周上线。开发者每月可获 $25 免费额度至年底,已购预付额度可叠加。API 兼容 OpenAI 与 Anthropic 格式,修改 base_url 即可迁移。

    推荐理由:xAI开放Grok API公测,每月送$25额度且兼容OpenAI接口,开发者可立即体验

2024年11月1日周五
  1. LlamaIndex:产品、工程与评测51

    LlamaParse 新增多页表格 Continuous Mode(Beta)与 Excel 表格输出

    LlamaIndex 为 LlamaParse 推出两项新功能:Continuous Mode(Beta)可将跨页表格合并为单一表格,目前主要在 10 页以内、格式较简单的文档上测试,速度较慢,解析 80 页 10K 报告约需 30 分钟;Excel 输出可在 Accurate、Premium 或 Continuous Mode 下解析后选择 XLSX 格式导出。两个功能可结合使用。

2024年10月31日周四
  1. OpenAI:官网动态81

    OpenAI 推出 ChatGPT search

    OpenAI 推出 ChatGPT search,为 ChatGPT 增加搜索功能,可提供快速、及时的答案,并附上相关网页来源链接。

    推荐理由:原文信息过少,无法给出具体阅读价值。

  2. Suno:Blog58

    Suno 推出 Personas 功能,可保存歌曲风格并复用到新作品

    Suno 发布 Personas 功能,可将一首歌的人声、风格和氛围保存为可复用的创作资产,并应用到新作品中。该功能以早期测试版向 Pro 和 Premier 订阅用户开放,赠送 200 首用 Personas 制作的歌曲,之后每首消耗 10 credits;Personas 可设为公开供他人使用,团队征集用户反馈。

2024年10月23日周三
2024年10月22日周二
2024年10月16日周三
2024年10月9日周三
  1. Sierra:Blog47

    Sierra 为 AI 智能体新增语音通话能力

    Sierra 宣布其 AI 智能体现在可以接听电话,将对话式 AI 从聊天扩展到语音渠道。该语音能力可接入现有呼叫中心平台与 IVR 系统,支持实时情绪识别、必要时转接人工,并在每次转接时附上 AI 生成的摘要。Sierra 称其聊天智能体的客户满意度评分多在 4.5/5 以上。

2024年10月3日周四
2024年10月1日周二
  1. OpenAI:官网动态62

    OpenAI 在 API 中推出模型蒸馏功能

    OpenAI 在其平台上推出 API 模型蒸馏功能,允许用大型前沿模型的输出来微调成本更高效的模型。

    推荐理由:官方宣布 API 上线模型蒸馏功能,读者可据此了解用大模型输出微调低成本模型的路径。

2024年9月19日周四
2024年9月17日周二
  1. Mistral AI:News68

    Mistral 发布 Mistral Small v24.09,la Plateforme 推出免费层并全系列降价

    Mistral 发布 Mistral Small v24.09(220 亿参数,MRL 许可),并在 la Plateforme 推出免费层,全系列模型降价,Mistral Small 和 Codestral 输入价格降幅达 80%。Pixtral 12B 现已在 le Chat 上免费提供视觉能力,该模型基于 Apache 2.0 许可,支持任意尺寸图像且不损失文本性能。

    推荐理由:官方一次列出免费层、全系列降价、Mistral Small v24.09 和 Pixtral 12B 视觉能力,适合对照选型和部署成本。

2024年9月16日周一
  1. Runway:News

    Runway 推出 Gen-3 Alpha Turbo API

    Runway 正式发布 Gen-3 Alpha Turbo API,开发者可将其视频生成能力集成至各类应用。目前采取分阶段开放策略,已向 Omnicom 等战略合作伙伴提供访问权限,现阶段主要面向大型团队和组织,未来几周将逐步扩大开放范围。

2024年9月12日周四
  1. Suno:Blog61

    Suno 推出早期测试版翻唱功能 Covers

    Suno 推出早期测试版新功能 Covers,可将语音备忘录或成品曲目转换为全新风格,同时保留原始旋律。功能目前面向 Pro 和 Premier 订阅用户开放,提供 200 次免费使用,之后每次生成消耗 10 credits,官方通过应用、Discord 或邮箱收集 beta 反馈。

    推荐理由:原文给出 Covers 的操作步骤、200 次免费额度和 10 credits 定价,读者可据此评估是否把翻唱功能纳入创作流程。

2024年9月10日周二
2024年9月6日周五
  1. Modal 官方工程博客44

    Modal 产品更新:应用回滚、动态批处理、Sandbox 隧道与 OpenTelemetry 集成

    Modal 本月新增应用回滚功能,可在 dashboard 或 CLI 中将应用即时回滚到旧版本;@batched 装饰器支持动态批处理,在延迟与吞吐、GPU 利用率之间做权衡。Sandbox 现可将 TCP 端口转发到公网并 exec 内部进程,同时支持将日志导出到 OpenTelemetry,CPU 核与高端 GPU 价格下调。

2024年9月5日周四
2024年9月4日周三
2024年8月22日周四
2024年8月20日周二
2024年8月7日周三
2024年8月6日周二
  1. OpenAI:官网动态69

    OpenAI API 推出 Structured Outputs 功能

    OpenAI 在 API 中推出 Structured Outputs 功能,模型输出现在能够可靠地遵循开发者提供的 JSON Schema。

    推荐理由:OpenAI 官方宣布 API 输出可遵循开发者提供的 JSON Schema,对需要稳定结构化输出的工程场景有直接参考价值。

2024年8月1日周四
2024年7月30日周二
  1. LlamaIndex:产品、工程与评测48

    LlamaParse 推出文件级检索,支持动态路由的检索智能体

    LlamaIndex 为 LlamaParse 发布文件级检索 API,与原有的 chunk 级检索并列,可按元数据或内容检索整份文档(如完整的 SEC 10K 文件或幻灯片),并支持切换检索模式、调整 top-k 和元数据过滤。官方还提供 Jupyter notebook,演示如何构建在 chunk 级与文件级检索之间动态选择的智能体,例如摘要类问题走文件级、具体数据问题走 chunk 级。

2024年7月25日周四
  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 推出 LlamaExtract Beta:从非结构化文档抽取结构化数据

    LlamaIndex 发布 LlamaExtract beta,这是一个托管服务,可从非结构化文档中抽取结构化数据:能从候选文档集推断 schema(用户可后续编辑),并按指定 schema 抽取字段值。

    推荐理由:原文来自 LlamaIndex 官方,介绍了从文档推断 schema 并抽取结构化数据的用法,读者可以评估它在 RAG 数据处理管线中的适配性。

  2. DeepSeek:API 更新日志62

    DeepSeek API 更新:/chat/completions 新增 JSON 输出、Function 调用与 8K 最长输出(Beta)

    DeepSeek 更新 /chat/completions 接口,新增 JSON 输出、Function 调用、对话前缀续写(Beta)及 8K 最长输出(Beta)。同时新增 /completions 接口,支持 FIM 补全(Beta)。

    推荐理由:DeepSeek API 这次更新补上了 Function calling 和 JSON 模式,加上 FIM 补全,让开发者的工具调用和代码补全场景有了更完整的方案,虽然都是 Beta 但方向很对。

2024年7月19日周五
2024年7月11日周四
2024年7月9日周二
2024年7月1日周一
  1. Suno:Blog53

    Suno 发布 iOS 移动应用

    Suno 宣布推出移动应用,支持文字生成歌曲、录音转成歌曲,以及收听和整理其他创作者的音乐。已有 1200 万人使用过 Suno,目前先面向美国 iOS 用户开放,后续将推出 Android 版本并进行全球推广。