全世界把AI往前推得最猛的两家公司，在一周之内先后说了同一句话：该有人来踩刹车了

@Steed的围脖：全世界把AI往前推得最猛的两家公司，在一周之内先后说了同一句话：该有人来踩刹车了。

本周一，OpenAI发布了一篇博客，呼吁成立一个国际组织来监督AI发展，必要时采取协调行动，让最前沿的AI研发慢下来。文章署名是CEO山姆·奥特曼和首席科学家雅库布·帕霍茨基。一周前，它最大的对手Anthropic刚说过几乎同样的话：如果可能，单方面给全球AI发展踩一脚刹车，“很可能是件好事”。

赛道上跑得最快的两辆车，主动要求给比赛装限速器。这事不寻常。

Anthropic给出的理由，与递归自我改进有关，意思是AI模型开始有能力参与训练下一代更强的AI，徒弟出师就带徒弟，而且每代徒弟都比师傅强。Anthropic说，公司内部已经看到了这种迹象的证据。

这条路一旦走通，AI进步的速度就不再受人类研究员数量的限制。OpenAI在博客里把话说得更直接：未来几年，AI做AI研究将成为决定行业进展速度的关键因素。OpenAI已经排进了时间表：到2028年3月，OpenAI相当一部分研究可能由AI系统和人类研究员共同完成。离现在，只有21个月。

担心这件事的远不止这两家。2023年，马斯克和图灵奖得主、“AI教父”约书亚·本吉奥等人联署过一封公开信，呼吁把最前沿的AI模型研发暂停6个月。理由是同一个：商业竞争压过安全考量，可能引爆一场“智能爆炸”，AI改进AI，越改越快，快到人类来不及确认方向盘还在不在自己手里。

那封信没拦住任何人。3年过去，喊暂停的人从旁观者，变成了开车的人。而开车的人，油门一点没松。OpenAI在同一篇博客里写下两个目标：造出自动化AI研究员，以及让地球上每个人都拥有一个“个人AGI”。

AGI，也就是通用人工智能，大致指在任何脑力活上都不输普通人的AI系统。说大致，是因为整个行业至今没有公认的定义，连现在这套大语言模型的技术路线能不能造出它，业内都还在争论。这并不妨碍OpenAI多年来拿它当招牌融资，而且融得很成功：直到上个月之前，它一直是全世界估值最高的AI创业公司。把它挤下王座的，正是Anthropic。

更关键的时间点还在后面：两家公司都预计在今年上市。上市意味着要对股东的回报负责，而安全投入恰恰是财报上最容易被砍的那一栏。外界的担心由此而来：等股价开始说话，安全还排得上号吗？

把这些拼在一起，两家公司的呼吁不是因为觉悟高，而是因为时间紧，得有人把缰绳接过去，因为用不了多久，这事就不在我们手里了。