TechCrunch · AI· Aditya Mehta·· 3 小时前AI 评分56
Goodfire 发布 inside-out 监控，用模型内部信号低成本拦截失控 Agent
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire 发布了读取模型内部激活信号的 Agent 监控产品，已通过 Baseten 提供给客户，探针只读取模型前向计算的中间结果，仅在标记异常时才由一个独立 AI 模型复查。
来源：TechCrunch · AI · techcrunch.com