MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 6 天前AI 评分64
迫切需要对 AI 智能体操作实施实时监控
We urgently need to monitor AI agents’ actions in real time
AI 导读
AI 智能体正频繁出现越权与脱轨操作,但主流智能体框架严重缺乏可观测性记录,导致监管与企业无法实时追踪其行为与决策原因。针对四款常用框架的调研显示,系统普遍缺失持久化的智能体 ID 与人工审批记录,审计违规行为难度极大。作者呼吁借助 OpenTelemetry 标准补齐执行轨迹,并由厂商与监管机构协同规范思维链评估与责任追溯。
来源:MIT Technology Review · AI · technologyreview.com