经历半年爆发式增长，Claude开发商Anthropic已登顶"最值钱AI创业公司"。但该公司昨日发布报告警告：最新AI模型已开始显现出脱离人类控制的迹象，呼吁全球企业放缓甚至暂停前沿AI开发。
Anthropic认为，全球主要AI公司应达成共识，建立类似"核武器不扩散条约"的协调机制。但AI比核武器更难监管——训练AI模型比发射导弹更容易隐藏，各公司在利益驱动下仍会偷偷开发。公司坦言，如果只有一家停下来，对手只会加速前进。
Anthropic表示，未来几个月将召集政府官员、科学家、倡导组织及竞争对手，共同探讨这一全球协调机制如何落地。
