DeepMind 研究者提出人工共生智能以取代奇点论
DeepMind 研究者提出以人工共生智能取代奇点论,主张智能是社会现象,AI 研究应转向协调人、智能体与连接系统构成的网络。
DeepMind 研究者提出以人工共生智能取代奇点论,主张智能是社会现象,AI 研究应转向协调人、智能体与连接系统构成的网络。
Google 研究者在新论文中提出 RRSI(智能体 harness 的正则化递归自我优化),通过收缩编辑预算和严格的批评器,防止让语言模型反复改写 harness 的自我优化过拟合测试任务。
Berkeley AI Research 提出 ABBEL 框架,用自然语言信念状态取代完整交互历史作为智能体工作上下文,并通过信念评分监督摘要内容。
Google DeepMind 发布 AI Control Roadmap 框架,用纵深防御方式管理内部部署的先进 AI 智能体,并同步发布面向政策制定者的技术框架 Three Layers of Agent Security。
推荐理由:原文给出把不可信智能体视作内部威胁的整套做法,以及按模型能力分级的检测与响应指标,对建设智能体安全体系有直接参考价值。