跳到正文
今天11月5日周四2 条
  1. The Decoder65

    斯坦福研究:44%的大语言模型实证结论已失效

    斯坦福大学研究人员Owen Queen和James Zou测试了50个广泛引用的大语言模型声明,发现44%已经“过期”,平均寿命仅为15.7个月。关于模型“不能做什么”的推理类错误(如数草莓字母、长上下文信息丢失)失效最快,而谄媚、欺骗和战略行为等偏好类结论则更持久或有所增强。研究建议将LLM实证结果视为特定时间点的具体观察,而非普遍真理,并呼吁记录模型版本和日期以便复现。

11月4日周三
  1. The Decoder82

    MIT 研究:GPT-6 Astra 可直接修改其他 AI 模型权重

    MIT 研究人员在博客中展示 OpenAI 的 GPT-6 Astra 能够直接理解并修改其他 AI 模型的内部权重,无需传统训练过程。该方法被称为“权重空间编程”,Astra 仅通过查看原始数值即可识别网络学习的游戏类型,并在 Qwen3.5-0.8B 模型上通过修改 0.016% 的权重将 MATH-500 基准测试准确率从 7.9% 提升至 48.1%。

    推荐理由:MIT 研究展示 GPT-6 Astra 直接修改模型权重以提升性能,为免重训练调优提供新路径。

  2. The Decoder55

    Anthropic发布FlashProve原型:用zkSNARK验证AI响应来源而不暴露权重

    Anthropic发布开源研究原型FlashProve,利用zkSNARK技术生成紧凑证明以验证AI响应是否由声称的模型生成,且无需暴露模型权重。该原型在单张H100 GPU上对Llama 4 Maverick(400B参数)实现约110 tokens/秒的证明生成速度,每个证明约19MB,标准CPU验证耗时17秒,相比正常推理增加70至95倍开销。

11月3日周二
10月30日周五
10月22日周四
10月14日周三
  1. Google DeepMind84

    Google DeepMind 发布 Gemini 4 Argon 并详解其安全与对齐措施

    Google DeepMind 宣布开始广泛推出 Gemini 4 Argon,该模型在编码、金融、法律及网络安全等领域具备前沿能力。为应对高风险场景,官方实施了多层实时保护,包括通过激活探针读取内部神经信号以识别恶意意图,以及在代理执行任务时监控其思维链以防止越界行为。

    推荐理由:原文详细披露了 Gemini 4 Argon 在网络安全与生物领域的防护机制,包括实时内部信号监测和提示词注入防御数据。

10月5日周一
  1. GitHub Blog · AI & ML65

    GitHub 发布 ReviewBench:面向 AI 代码审查的开源基准

    GitHub 推出 ReviewBench,这是一个用于评估 AI 代码审查智能体的开源离线基准。该基准基于对 GitHub 上 1.039 亿个真实 Pull Request 的分析构建,包含涵盖 19 种语言的 219 个代表性 PR,并采用多源黄金集和独立验证机制。

    推荐理由:原文公开了基于亿级真实PR构建的代码审查基准,提供了可复现的评估方法以量化AI审查器的精度与召回权衡。

7月29日周三
  1. Berkeley AI Research68

    Berkeley AI Research 提出 K-Search MLX 后端实现 CUDA 到 Apple Silicon 内核迁移

    Berkeley AI Research 发布基于 K-Search 框架的 MLX 后端,利用结构化 CUDA-to-MLX 翻译层自动将 NVIDIA 内核优化知识迁移至 Apple Silicon。

    推荐理由:原文展示了通过结构化翻译层将 CUDA 优化知识迁移至 Apple Silicon 的方法,在 Mamba SSM 内核上实现了约 20 倍的预填充加速。

7月26日周日
5月8日周五
4月20日周一
  1. Berkeley AI Research43

    GRASP:面向长时域世界模型的梯度规划方法

    伯克利 AI 研究团队提出 GRASP,一种针对学习动力学(世界模型)的梯度规划器,旨在解决长时域规划中的病态优化与局部极小值问题。该方法通过将轨迹提升至虚拟状态实现时间并行优化,在状态迭代中直接引入随机性以增强探索,并重塑梯度信号以避免高维视觉模型中的脆弱“状态-输入”梯度。GRASP 使基于梯度的规划在现代大型世界模型中更加稳健实用。