逆向博弈论如何约束 AI 智能体
MIT 经济学家 Stephen Morris 等人在预印本论文中提出用“逆向博弈论”（机制设计）约束 AI 智能体，例如让模型预测另一个模型的答案来防止测试中故意藏拙。普林斯顿教授 Elad Hazan 则设想让模型轮流扮演解题者与审计者，作弊的解题者和失职的审计者都受罚。该思路假设智能体能对激励做出理性反应，而这一假设本身仍存疑。
#论文/研究
MIT Technology Review · AIAI 评分4040
Import AIAI 评分6060 Import AI 478：数学形式化助力对齐、ProgramBench 与 Mirendil 展示 RSI 雏形
Import AI 第 478 期汇总了多项 AI 研究进展。AI 安全初创公司 Resolution 用智能体自动形式化了奇点消解相关数学内容，耗时约一周、花费约 13.5 万美元 token 费用，产出约 60 万行 Lean 代码。