跳到正文
今天11月4日周三3 条
  1. AWS Machine Learning Blog43

    如何使用 EDB Postgres AI 与 Amazon Bedrock AgentCore 为智能体 AI 构建语义层

    结合 EDB Postgres AI 的 AIDB 扩展与 Amazon Bedrock AgentCore,可在数据库内构建语义层以支撑智能体完成客户 360 查询。该方案通过标准 Postgres COMMENT 语句与外键建立语义知识库,并利用内置 MCP 端点对接外部智能体。数据治理完全由底层 Postgres GRANT、列级权限与行级安全实现,无需依赖提示词即可为不同角色隔离数据。

  2. AWS Machine Learning Blog48

    如何在 AWS 上基于 Cartesia 构建超低延迟语音 AI 应用

    Cartesia 联合 AWS 介绍了基于状态空间模型(SSM)与 AWS 基础设施构建首字节延迟低于 100ms 的实时语音 AI 方案。该方案涵盖首音频字节响应约 90ms 且支持超 44 种语言的文本转语音模型 Sonic,以及具备原生轮换检测的流式语音转文本模型 Ink,均支持 API 调用与 AWS 部署。

11月3日周二
  1. Hugging Face Blog63

    Hugging Face 推出 Transformers 模型集成契约 MIC 与测试工具 tmic

    Hugging Face 推出模型集成契约 transformers-mic 及 CLI 工具 tmic,通过将大模型缩减为轻量 fixture,在 CPU 上低成本运行集成测试以提前拦截代码回归缺陷。

    推荐理由:原文展示了如何将超大模型缩减为保留关键算子的微型结构并在廉价硬件上运行,为模型库持续集成提供了可迁移的测试方法。

10月31日周六
  1. Hugging Face Blog61

    NVIDIA 演示基于 Nemotron 开源模型构建万圣节互动怪兽屋

    NVIDIA 工程师展示了基于 Nemotron 开源模型搭建的万圣节互动投影装置 MonsterHouse,在单台工作站上实现了本地实时的语音、视觉与面部动画交互。

    推荐理由:原文拆解了将端侧小模型、语音流式生成与三维面部动画串联的工程管线,为实时交互式数字人搭建提供了完整落地方案。

10月30日周五
  1. NVIDIA Blog60

    SETI 研究所与 NVIDIA 将智能体 AI 引入地外信号搜寻

    Breakthrough Listen 与 SETI 研究所将智能体 AI 引入地外文明信号搜寻,研究人员通过自然语言提示即可控制艾伦望远镜阵列并实时分析数据。系统依托 NVIDIA Holoscan 平台和 RTX PRO 6000 Blackwell GPU,支持将每秒 2.4 Tb 的传感器数据直接输入 GPU 显存进行实时流处理,已在蟹状星云完成了首次脉冲星实时 AI 探测。

    推荐理由:介绍了如何用智能体配合 GPU 实时流处理框架编排射电望远镜,为高吞吐传感器数据处理提供了工程参考。

10月23日周五
10月14日周三
  1. GitHub Blog · AI & ML68

    GitHub 推出基于 ModernBERT 的轻量级密钥检测管线

    GitHub 升级密钥检测系统,采用正则表达式粗筛结合微调 ModernBERT 分类器的两阶段架构,替代原有的远程 LLM 调用管线。该方案在离线测试中将精度和召回率分别提升 13% 与 19%,实际生产中使扫描中位耗时降低 86%,服务成本降低超 98%,并成功将通用密钥检测扩展至推送前阻断流程。

    推荐理由:原文对比了轻量编码器与远程大语言模型在敏感信息检测中的表现,为工业级实时高吞吐任务提供了工程落地参考。

9月10日周四
  1. Mistral AI43

    Cloudera 与 Mistral 达成合作,为企业数据引入专业化主权 AI

    Mistral 与 Cloudera 宣布达成合作,将其模型集成至 Cloudera 混合数据平台,为企业数据提供专业化主权 AI。企业可在公有云、私有云、本地及完全物理隔离环境中部署模型并运行推理,完全掌控数据与运算。双方还支持企业利用 Cloudera 平台托管的 30 exabytes 专有数据训练定制模型并保留所有权。

7月29日周三
  1. Berkeley AI Research60

    UC Berkeley 与 IBM 扩展 K-Search:将 CUDA 算子优化经验自动迁移至 Apple Silicon MLX

    UC Berkeley Sky Lab 与 IBM Research 研究人员扩展了进化式算子搜索框架 K-Search,通过构建结构化 CUDA-to-MLX 翻译层,将成熟的 CUDA 优化经验自动迁移至 Apple Silicon 的 MLX 框架。

    推荐理由:该工作展示了如何通过结构化映射层将成熟算子优化规则迁移到新芯片,为非英伟达硬件生态自动生成高性能算子提供了可复用路径。

7月7日周二
  1. Berkeley AI Research69

    BAIR 展望智能廉价化时代:面向、支撑与由 AI 智能体构建的数据系统

    UC Berkeley 研究团队探讨了推理成本大幅下降进入“智能几乎免费”时代后,数据系统正在经历的三重系统性重塑。研究指出,数据系统需要重构以应对智能体高频探索带来的冗余查询,建立支撑数千智能体协作与结构化记忆的运行底座,并探索利用智能体端到端自动合成特定工作负载的专用数据引擎。随着智能体与数据系统深度融合,传统数据库正从被动执行查询转向具备主动反馈与自我优化的架构。

    推荐理由:文章系统梳理了推理成本骤降如何倒逼数据系统演进,为理解智能体工作负载对存储与计算架构的重塑提供了清晰框架。

5月8日周五
  1. Berkeley AI Research60

    BAIR 解析自适应并行推理范式与推理时扩展架构设计

    BAIR 发文系统综述自适应并行推理(APR)研究进展,探讨大语言模型如何自主决定子任务分解、并发线程数与编排机制,以解决串行链式推理导致的延迟增长与上下文退化问题。

    推荐理由:原文系统梳理了模型动态控制并发分支的机制,并对比了修改引擎与客户端编排两种 KV cache 处理路径的工程权衡。