Anthropic 研发 FlashProve 系统以验证 AI 模型身份
Anthropic 正在开发名为 FlashProve 的开源系统,旨在提供“可证明推理”功能,让用户通过数学保证确认输出确实来自特定模型。该系统要求实验室发布不包含模型权重的“指纹”,从而在保护商业机密的同时防止公司秘密替换更便宜或更昂贵的模型以操纵成本或性能结果。目前相关代码和技术规范已在 GitHub 公开,但 Anthropic 表示这仅是中间进展分享,暂无实际部署计划。
Anthropic 正在开发名为 FlashProve 的开源系统,旨在提供“可证明推理”功能,让用户通过数学保证确认输出确实来自特定模型。该系统要求实验室发布不包含模型权重的“指纹”,从而在保护商业机密的同时防止公司秘密替换更便宜或更昂贵的模型以操纵成本或性能结果。目前相关代码和技术规范已在 GitHub 公开,但 Anthropic 表示这仅是中间进展分享,暂无实际部署计划。
LLM CLI 工具与 Python 库发布 v0.37 版本,新增 gpt-6.1-sol 和 gpt-6.1-terra 模型支持及 llm openai endpoint add 命令。