OpenAI 展示自主发现并修复 Linux 内核 948 个提权漏洞的流水线
OpenAI 构建了一个自主流水线，成功发现、验证并为 Linux 内核中的 948 个本地权限提升漏洞生成了补丁。该成果展示了利用 AI 自动化处理大规模系统安全漏洞的能力。
推荐理由：OpenAI 展示了自主发现并修复 Linux 内核大量提权漏洞的流水线，体现了 AI 在系统安全领域的自动化能力。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
5 条精选近 30 天 5 条共收录 14 条
更新
安全对齐的精选
OpenAI News精选AI 评分8282
Ars Technica · AI精选AI 评分8080 Anthropic 官方 VS Code 扩展在 Cursor 市场遭后门攻击近12小时
Anthropic 官方的 Claude VS Code 扩展在 Cursor 应用市场被植入后门，恶意版本 2.1.313 通过官方账号分发，最多影响 5,000 名开发者的机器。
推荐理由：文章披露了官方扩展被植入后门的具体版本、受影响用户规模及供应链攻击细节，为开发者提供了关键的安全预警和排查依据。
Google DeepMind精选AI 评分6363 Google DeepMind 与新加坡 GovTech 联合发布端侧 AI 诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一种注重隐私保护的端侧诈骗检测模型。
推荐理由：原文详述了基于 Gemma 的端侧诈骗检测模型架构及隐私保护机制，展示了政府与科技公司在平衡安全与加密方面的合作范式。
Google DeepMind精选AI 评分8484 Google DeepMind 发布 Gemini 4 Argon 并详解其安全与对齐措施
Google DeepMind 宣布开始广泛推出 Gemini 4 Argon，该模型在编码、金融、法律及网络安全等领域具备前沿能力。为应对高风险场景，官方实施了多层实时保护，包括通过激活探针读取内部神经信号以识别恶意意图，以及在代理执行任务时监控其思维链以防止越界行为。
推荐理由：原文详细披露了 Gemini 4 Argon 在网络安全与生物领域的防护机制，包括实时内部信号监测和提示词注入防御数据。
GitHub Blog · AI & ML精选AI 评分6868 GitHub 发布基于 ModernBERT 的密钥保护新模型以应对 AI 生成代码激增
GitHub 推出由 Microsoft Applied Sciences 协助构建的 ModernBERT 微调分类器，用于扩展 Push Protection 对非结构化密钥的检测能力。
推荐理由：GitHub 引入基于 ModernBERT 的新分类器，将非结构化密钥检测延迟降至 2ms 以下并提升拦截率，展示了 AI 在代码安全防护中的工程化落地。