跳到正文
只看论文#安全/对齐
11月4日周三
  1. The Decoder55

    Anthropic发布FlashProve原型：用zkSNARK验证AI响应来源而不暴露权重

    Anthropic发布开源研究原型FlashProve，利用zkSNARK技术生成紧凑证明以验证AI响应是否由声称的模型生成，且无需暴露模型权重。该原型在单张H100 GPU上对Llama 4 Maverick（400B参数）实现约110 tokens/秒的证明生成速度，每个证明约19MB，标准CPU验证耗时17秒，相比正常推理增加70至95倍开销。

10月14日周三
  1. Google DeepMind84

    Google DeepMind 发布 Gemini 4 Argon 并详解其安全与对齐措施

    Google DeepMind 宣布开始广泛推出 Gemini 4 Argon，该模型在编码、金融、法律及网络安全等领域具备前沿能力。为应对高风险场景，官方实施了多层实时保护，包括通过激活探针读取内部神经信号以识别恶意意图，以及在代理执行任务时监控其思维链以防止越界行为。

    推荐理由：原文详细披露了 Gemini 4 Argon 在网络安全与生物领域的防护机制，包括实时内部信号监测和提示词注入防御数据。