斯坦福研究:44%的大语言模型实证结论已失效
斯坦福大学研究人员Owen Queen和James Zou测试了50个广泛引用的大语言模型声明,发现44%已经“过期”,平均寿命仅为15.7个月。关于模型“不能做什么”的推理类错误(如数草莓字母、长上下文信息丢失)失效最快,而谄媚、欺骗和战略行为等偏好类结论则更持久或有所增强。研究建议将LLM实证结果视为特定时间点的具体观察,而非普遍真理,并呼吁记录模型版本和日期以便复现。
斯坦福大学研究人员Owen Queen和James Zou测试了50个广泛引用的大语言模型声明,发现44%已经“过期”,平均寿命仅为15.7个月。关于模型“不能做什么”的推理类错误(如数草莓字母、长上下文信息丢失)失效最快,而谄媚、欺骗和战略行为等偏好类结论则更持久或有所增强。研究建议将LLM实证结果视为特定时间点的具体观察,而非普遍真理,并呼吁记录模型版本和日期以便复现。
MIT 研究人员在博客中展示 OpenAI 的 GPT-6 Astra 能够直接理解并修改其他 AI 模型的内部权重,无需传统训练过程。该方法被称为“权重空间编程”,Astra 仅通过查看原始数值即可识别网络学习的游戏类型,并在 Qwen3.5-0.8B 模型上通过修改 0.016% 的权重将 MATH-500 基准测试准确率从 7.9% 提升至 48.1%。
推荐理由:MIT 研究展示 GPT-6 Astra 直接修改模型权重以提升性能,为免重训练调优提供新路径。
Latent Space 报道了一项名为“Weight Space Programming”的研究,显示前沿 LLM 能够直接读取和编辑较小模型的权重张量,无需梯度下降训练。
Google DeepMind 宣布开始广泛推出 Gemini 4 Argon,该模型在编码、金融、法律及网络安全等领域具备前沿能力。为应对高风险场景,官方实施了多层实时保护,包括通过激活探针读取内部神经信号以识别恶意意图,以及在代理执行任务时监控其思维链以防止越界行为。
推荐理由:原文详细披露了 Gemini 4 Argon 在网络安全与生物领域的防护机制,包括实时内部信号监测和提示词注入防御数据。