Mistral AI 开源发布 1 万亿参数多模态模型 Mistral Large 4 权重
Mistral AI 正式开源发布其 1 万亿参数原生多模态旗舰模型 Mistral Large 4（代号 Le Chonk）的权重。该模型在欧洲基础设施上从头训练，重点强化了智能体编码与防御性网络安全能力，并提供三种推理模式以平衡性能与推理成本。
推荐理由：原文给出了万亿参数开源权重的编码评测与部署细节，读者可以据此评估私有化主权部署与推理成本。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
3 条精选近 30 天 3 条共收录 9 条
更新
安全对齐的精选
Mistral AI精选AI 评分8686
Google DeepMind精选AI 评分6060 Google DeepMind 联合新加坡政府推出端侧防诈骗 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于 Gemma 微调了一款在手机端侧运行的防诈骗 AI 模型。该模型采用轻量分类器初筛加微调 Gemma 上下文分析的两阶段管线，识别出欺诈会话时会在本地实时触发预警。由于推理完全在端侧执行，无需将聊天数据上传云端，政府与 Google 均无法获取用户对话内容。
推荐理由：原文给出了端侧防诈骗模型的两阶段管线设计，展示了兼顾设备功耗与端到端隐私保护的工程方案。
GitHub Blog · AI & ML精选AI 评分6868 GitHub 推出基于 ModernBERT 的轻量级密钥检测管线
GitHub 升级密钥检测系统，采用正则表达式粗筛结合微调 ModernBERT 分类器的两阶段架构，替代原有的远程 LLM 调用管线。该方案在离线测试中将精度和召回率分别提升 13% 与 19%，实际生产中使扫描中位耗时降低 86%，服务成本降低超 98%，并成功将通用密钥检测扩展至推送前阻断流程。
推荐理由：原文对比了轻量编码器与远程大语言模型在敏感信息检测中的表现，为工业级实时高吞吐任务提供了工程落地参考。