Goodfire推出读取模型内部激活的AI监控器

Goodfire推出读取模型内部激活信号的AI监控器，已通过托管模型的平台Baseten提供给其客户使用；探针只读取模型前向计算的中间结果，仅在标记异常时才交由一个独立AI模型复查。 Baseten客户可选择要监控的风险（如攻击性黑客行为、化学与生物武器滥用、奖励作弊），并自行决定响应方式：记录事件、转人工复核或直接拒绝请求。Goodfire在Kimi K3上的测试显示，监控约1500次会话成本约51美元，而用便宜模型逐步检测需约233美元、用顶级模型约1万美元。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。