跳到正文
今天11月5日周四1 条
  1. The Decoder65

    斯坦福研究:44%的大语言模型实证结论已失效

    斯坦福大学研究人员Owen Queen和James Zou测试了50个广泛引用的大语言模型声明,发现44%已经“过期”,平均寿命仅为15.7个月。关于模型“不能做什么”的推理类错误(如数草莓字母、长上下文信息丢失)失效最快,而谄媚、欺骗和战略行为等偏好类结论则更持久或有所增强。研究建议将LLM实证结果视为特定时间点的具体观察,而非普遍真理,并呼吁记录模型版本和日期以便复现。

11月4日周三
  1. The Decoder82

    MIT 研究:GPT-6 Astra 可直接修改其他 AI 模型权重

    MIT 研究人员在博客中展示 OpenAI 的 GPT-6 Astra 能够直接理解并修改其他 AI 模型的内部权重,无需传统训练过程。该方法被称为“权重空间编程”,Astra 仅通过查看原始数值即可识别网络学习的游戏类型,并在 Qwen3.5-0.8B 模型上通过修改 0.016% 的权重将 MATH-500 基准测试准确率从 7.9% 提升至 48.1%。

    推荐理由:MIT 研究展示 GPT-6 Astra 直接修改模型权重以提升性能,为免重训练调优提供新路径。

11月3日周二
10月14日周三
  1. Google DeepMind84

    Google DeepMind 发布 Gemini 4 Argon 并详解其安全与对齐措施

    Google DeepMind 宣布开始广泛推出 Gemini 4 Argon,该模型在编码、金融、法律及网络安全等领域具备前沿能力。为应对高风险场景,官方实施了多层实时保护,包括通过激活探针读取内部神经信号以识别恶意意图,以及在代理执行任务时监控其思维链以防止越界行为。

    推荐理由:原文详细披露了 Gemini 4 Argon 在网络安全与生物领域的防护机制,包括实时内部信号监测和提示词注入防御数据。