跳到正文
MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 8 天前AI 评分55

Partnership on AI 研究:AI 智能体缺乏实时可观测性记录

We urgently need to monitor AI agents’ actions in real time

AI 导读

Partnership on AI 的研究者指出,当前主流智能体框架无法可靠生成实时监控所需的关键可观测性记录,导致难以判断哪个智能体做了什么、是否越权。他们与学界、产业界合作研究四类最常用智能体框架,发现缺少持久 Agent ID、人类审批记录等关键信号。文章建议通过 OpenTelemetry 补充“发生了什么”的记录,并呼吁框架开发者、企业与监管机构分工补齐标准。

来源:MIT Technology Review · AI · technologyreview.com