跳到正文
  1. Berkeley AI Research69

    BAIR 展望智能廉价化时代:面向、支撑与由 AI 智能体构建的数据系统

    UC Berkeley 研究团队探讨了推理成本大幅下降进入“智能几乎免费”时代后,数据系统正在经历的三重系统性重塑。研究指出,数据系统需要重构以应对智能体高频探索带来的冗余查询,建立支撑数千智能体协作与结构化记忆的运行底座,并探索利用智能体端到端自动合成特定工作负载的专用数据引擎。随着智能体与数据系统深度融合,传统数据库正从被动执行查询转向具备主动反馈与自我优化的架构。

    推荐理由:文章系统梳理了推理成本骤降如何倒逼数据系统演进,为理解智能体工作负载对存储与计算架构的重塑提供了清晰框架。

  1. Berkeley AI Research60

    BAIR 解析自适应并行推理范式与推理时扩展架构设计

    BAIR 发文系统综述自适应并行推理(APR)研究进展,探讨大语言模型如何自主决定子任务分解、并发线程数与编排机制,以解决串行链式推理导致的延迟增长与上下文退化问题。

    推荐理由:原文系统梳理了模型动态控制并发分支的机制,并对比了修改引擎与客户端编排两种 KV cache 处理路径的工程权衡。

已经到底了