NVIDIA 演示基于 Nemotron 开源模型构建万圣节互动怪兽屋
NVIDIA 工程师展示了基于 Nemotron 开源模型搭建的万圣节互动投影装置 MonsterHouse,在单台工作站上实现了本地实时的语音、视觉与面部动画交互。
推荐理由:原文拆解了将端侧小模型、语音流式生成与三维面部动画串联的工程管线,为实时交互式数字人搭建提供了完整落地方案。
技术方向
文字之外的能力:看懂图片、图文混合理解、音视频输入输出的模型与产品进展。
4 条精选近 30 天 4 条共收录 7 条
NVIDIA 工程师展示了基于 Nemotron 开源模型搭建的万圣节互动投影装置 MonsterHouse,在单台工作站上实现了本地实时的语音、视觉与面部动画交互。
推荐理由:原文拆解了将端侧小模型、语音流式生成与三维面部动画串联的工程管线,为实时交互式数字人搭建提供了完整落地方案。
Mistral 发布多模态 MoE 架构大模型 Mistral Large 4 并上线 Hugging Face,模型总参数约 1T、激活参数 49B,具备 1M tokens 上下文窗口。
推荐理由:原文给出了该稀疏大模型的架构细节与多框架部署基准,读者可据此评估其在安全防御与私有化落地中的实际可行性。
Google DeepMind 宣布推出新一代世界模型 Genie 4,支持高真实度的实时交互式环境模拟,并能同步原生生成环境音、背景音乐和角色对话。该模型结合 Gemini 模型的推理与规划能力以维持多步因果连贯性,允许用户通过自然语言和键盘实时干预场景走向。目前 Genie 4 已作为研究预览版向受信任测试人员开放,后续将逐步推向 Project Genie 和 Gemini API。
推荐理由:该模型结合 Gemini 推理能力实现了包含原生音频的实时交互模拟,为具身智能训练与互动原型开发提供了新的实验环境。
Google Research 总结了将基础模型应用于全球结核病(TB)一线筛查的实践进展,展示了从胸部 X 光算法到临床认证工具的转化路径。
推荐理由:原文梳理了医疗模型从算法验证、监管认证到端侧落地的完整路径,为公共卫生场景下的 AI 工程化提供了参考。