跳到正文
只看行业#安全/对齐
  1. Simon Willison77

    Parameter Labs 披露接管 ChatGPT 账户的漏洞利用链

    Parameter Labs 披露了针对 ChatGPT HTML 预览功能的漏洞利用链，攻击者可通过恶意分享链接窃取受害者私有数据并代其执行操作。该攻击利用 MathLive 库的 postMessage 机制向父页面注入无沙箱 iframe，并借助 YouTube oEmbed 端点绕过 CSP 执行 JavaScript，从而调用 API 获取隐私数据。

    推荐理由：梳理了通过沙箱逃逸和 CSP 绕过接管账户的完整攻击链细节，有助于排查富文本与 iframe 隔离场景下的安全隐患。

  1. Google DeepMind60

    Google DeepMind 联合新加坡政府推出端侧防诈骗 AI 模型

    Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于 Gemma 微调了一款在手机端侧运行的防诈骗 AI 模型。该模型采用轻量分类器初筛加微调 Gemma 上下文分析的两阶段管线，识别出欺诈会话时会在本地实时触发预警。由于推理完全在端侧执行，无需将聊天数据上传云端，政府与 Google 均无法获取用户对话内容。

    推荐理由：原文给出了端侧防诈骗模型的两阶段管线设计，展示了兼顾设备功耗与端到端隐私保护的工程方案。

已经到底了