“反向博弈论”如何约束 AI 智能体

“反向博弈论”（机制设计）通过构建激励规则约束 AI 智能体，使其在无法完全理解内部逻辑时仍保持对齐。MIT 学者 Stephen Morris 提出交叉验证与对抗机制防止模型“装傻”，普林斯顿教授 Elad Hazan 则建议让模型轮流担任求解者与审计者并引入惩罚机制。该方案依赖模型理性假设，但面临智能体合谋及行为不可预测的风险。