Partnership on AI 研究:AI 智能体缺乏实时可观测性记录
Partnership on AI 的研究者指出,当前主流智能体框架无法可靠生成实时监控所需的关键可观测性记录,导致难以判断哪个智能体做了什么、是否越权。他们与学界、产业界合作研究四类最常用智能体框架,发现缺少持久 Agent ID、人类审批记录等关键信号。文章建议通过 OpenTelemetry 补充“发生了什么”的记录,并呼吁框架开发者、企业与监管机构分工补齐标准。
Partnership on AI 的研究者指出,当前主流智能体框架无法可靠生成实时监控所需的关键可观测性记录,导致难以判断哪个智能体做了什么、是否越权。他们与学界、产业界合作研究四类最常用智能体框架,发现缺少持久 Agent ID、人类审批记录等关键信号。文章建议通过 OpenTelemetry 补充“发生了什么”的记录,并呼吁框架开发者、企业与监管机构分工补齐标准。
Toby Ord 分析认为 AI 智能体群体(swarm)是一种新的推理扩展方式,4 智能体群体达到同等性能需约两倍 token,但因并行可将任务时间减半,且随规模扩大存在收益递减。