**研究突破**：Anthropic研究员陈岳翰主导的论文《自动研究员能可靠缓解对齐失败》展示了AI系统如何可靠地改进模型在对齐基准上的表现。

**测试结果**：在针对10种特定错误行为的基准测试中，自动化系统在每一次迭代中都提升了性能，且没有导致整体性能下降。

**工作原理**：该系统复制传统研究方法：搜索文献、提出方法，并用该方法训练模型30分钟，在多次迭代中逐步提高基准，保留有效方法并丢弃无效方法。

**未来意义**：论文指出“这些结果为自动对齐后训练在近期变得实用提供了早期证据”，这是迈向递归自我改进的重要一步，暗示人类AI研究员可能很快被淘汰。

Anthropic研究员展示自我改进AI早期实践：自动缓解对齐失败