如何在 AWS 上基于 Cartesia 构建超低延迟语音 AI 应用
Cartesia 联合 AWS 介绍了基于状态空间模型(SSM)与 AWS 基础设施构建首字节延迟低于 100ms 的实时语音 AI 方案。该方案涵盖首音频字节响应约 90ms 且支持超 44 种语言的文本转语音模型 Sonic,以及具备原生轮换检测的流式语音转文本模型 Ink,均支持 API 调用与 AWS 部署。
Cartesia 联合 AWS 介绍了基于状态空间模型(SSM)与 AWS 基础设施构建首字节延迟低于 100ms 的实时语音 AI 方案。该方案涵盖首音频字节响应约 90ms 且支持超 44 种语言的文本转语音模型 Sonic,以及具备原生轮换检测的流式语音转文本模型 Ink,均支持 API 调用与 AWS 部署。
NVIDIA 工程师展示了基于 Nemotron 开源模型搭建的万圣节互动投影装置 MonsterHouse,在单台工作站上实现了本地实时的语音、视觉与面部动画交互。
推荐理由:原文拆解了将端侧小模型、语音流式生成与三维面部动画串联的工程管线,为实时交互式数字人搭建提供了完整落地方案。
Granite Switch 4.1.1 作为补丁版本发布,完全向后兼容 4.1 且无需重新计算基座模型。该版本更新了支持 10 种语言并自带标点与大小写的 Granite Speech ASR 模型,同时升级了 granitelib-core 中的 Decision 适配器以提升 Jev Decision Index 表现。官方正筹备教程与 Adapter SDK,以支持开发者构建自有适配器。
NVIDIA 宣布搭载 Blackwell 与 Grace 超级芯片的 RTX Spark Windows 笔记本已由华硕、戴尔、联想等厂商正式发售,起售价 2,599 美元,统一内存最高达 128GB。
推荐理由:文章汇总了 RTX Spark 笔记本的落地规格与配套软件,读者可以了解本地端侧高显存环境如何调度大模型与后台智能体。
Mistral AI 正式推出 Voxtral 3 语音模型系列及语音 Agent SDK,将语音识别、大模型推理、工具调用与语音合成整合为端到端流式管线。
推荐理由:该系列将流式语音识别、LLM 推理和情感语音合成整合为单一管线,为构建企业级低延迟语音智能体提供了可私有化部署的全栈方案。