跳到正文

技术方向

多模态 最新动态

文字之外的能力:看懂图片、图文混合理解、音视频输入输出的模型与产品进展。

4 条精选近 30 天 4 条共收录 7 条

更新

多模态的精选

10月31日周六第 1–4 条
  1. Hugging Face Blog61

    NVIDIA 演示基于 Nemotron 开源模型构建万圣节互动怪兽屋

    NVIDIA 工程师展示了基于 Nemotron 开源模型搭建的万圣节互动投影装置 MonsterHouse,在单台工作站上实现了本地实时的语音、视觉与面部动画交互。

    推荐理由:原文拆解了将端侧小模型、语音流式生成与三维面部动画串联的工程管线,为实时交互式数字人搭建提供了完整落地方案。

10月29日周四
10月28日周三
  1. Google DeepMind75

    Google DeepMind 发布新一代交互式世界模型 Genie 4

    Google DeepMind 宣布推出新一代世界模型 Genie 4,支持高真实度的实时交互式环境模拟,并能同步原生生成环境音、背景音乐和角色对话。该模型结合 Gemini 模型的推理与规划能力以维持多步因果连贯性,允许用户通过自然语言和键盘实时干预场景走向。目前 Genie 4 已作为研究预览版向受信任测试人员开放,后续将逐步推向 Project Genie 和 Gemini API。

    推荐理由:该模型结合 Gemini 推理能力实现了包含原生音频的实时交互模拟,为具身智能训练与互动原型开发提供了新的实验环境。

10月24日周六
  1. Google Research71

    Google 分享结核病筛查 AI 落地进展:推动基础模型进入临床一线

    Google Research 总结了将基础模型应用于全球结核病(TB)一线筛查的实践进展,展示了从胸部 X 光算法到临床认证工具的转化路径。

    推荐理由:原文梳理了医疗模型从算法验证、监管认证到端侧落地的完整路径,为公共卫生场景下的 AI 工程化提供了参考。