跳到正文
  1. Simon Willison77

    Parameter Labs 披露接管 ChatGPT 账户的漏洞利用链

    Parameter Labs 披露了针对 ChatGPT HTML 预览功能的漏洞利用链,攻击者可通过恶意分享链接窃取受害者私有数据并代其执行操作。该攻击利用 MathLive 库的 postMessage 机制向父页面注入无沙箱 iframe,并借助 YouTube oEmbed 端点绕过 CSP 执行 JavaScript,从而调用 API 获取隐私数据。

    推荐理由:梳理了通过沙箱逃逸和 CSP 绕过接管账户的完整攻击链细节,有助于排查富文本与 iframe 隔离场景下的安全隐患。

  1. Mistral AI86

    Mistral AI 开源发布 1 万亿参数多模态模型 Mistral Large 4 权重

    Mistral AI 正式开源发布其 1 万亿参数原生多模态旗舰模型 Mistral Large 4(代号 Le Chonk)的权重。该模型在欧洲基础设施上从头训练,重点强化了智能体编码与防御性网络安全能力,并提供三种推理模式以平衡性能与推理成本。

    推荐理由:原文给出了万亿参数开源权重的编码评测与部署细节,读者可以据此评估私有化主权部署与推理成本。

  1. Google DeepMind60

    Google DeepMind 联合新加坡政府推出端侧防诈骗 AI 模型

    Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于 Gemma 微调了一款在手机端侧运行的防诈骗 AI 模型。该模型采用轻量分类器初筛加微调 Gemma 上下文分析的两阶段管线,识别出欺诈会话时会在本地实时触发预警。由于推理完全在端侧执行,无需将聊天数据上传云端,政府与 Google 均无法获取用户对话内容。

    推荐理由:原文给出了端侧防诈骗模型的两阶段管线设计,展示了兼顾设备功耗与端到端隐私保护的工程方案。

  2. GitHub Blog · AI & ML68

    GitHub 推出基于 ModernBERT 的轻量级密钥检测管线

    GitHub 升级密钥检测系统,采用正则表达式粗筛结合微调 ModernBERT 分类器的两阶段架构,替代原有的远程 LLM 调用管线。该方案在离线测试中将精度和召回率分别提升 13% 与 19%,实际生产中使扫描中位耗时降低 86%,服务成本降低超 98%,并成功将通用密钥检测扩展至推送前阻断流程。

    推荐理由:原文对比了轻量编码器与远程大语言模型在敏感信息检测中的表现,为工业级实时高吞吐任务提供了工程落地参考。

已经到底了