逆向博弈论如何约束 AI 智能体
MIT 经济学家 Stephen Morris 等人在预印本论文中提出用“逆向博弈论”(机制设计)约束 AI 智能体,例如让模型预测另一个模型的答案来防止测试中故意藏拙。普林斯顿教授 Elad Hazan 则设想让模型轮流扮演解题者与审计者,作弊的解题者和失职的审计者都受罚。该思路假设智能体能对激励做出理性反应,而这一假设本身仍存疑。
MIT 经济学家 Stephen Morris 等人在预印本论文中提出用“逆向博弈论”(机制设计)约束 AI 智能体,例如让模型预测另一个模型的答案来防止测试中故意藏拙。普林斯顿教授 Elad Hazan 则设想让模型轮流扮演解题者与审计者,作弊的解题者和失职的审计者都受罚。该思路假设智能体能对激励做出理性反应,而这一假设本身仍存疑。
特朗普签署行政令,要求政府机构把“人工智能”改称“Super Intelligence”,并已出现在 ICE 的“SI-powered”监控招标和多数政府网站上。
MIT Technology Review 梳理了从 Berners-Lee 的语义网愿景到当下智能体网络的演变,指出 Meta 的 Muse、OpenAI 的 Dots、Anthropic 的 Claude Duet 等智能体已获得邮箱和银行账户访问权限。
Import AI 第 478 期汇总了多项 AI 研究进展。AI 安全初创公司 Resolution 用智能体自动形式化了奇点消解相关数学内容,耗时约一周、花费约 13.5 万美元 token 费用,产出约 60 万行 Lean 代码。