原创 这是吓人，还是噱头？全球最大AI公司：AI自我进化，脱离人类控制
最近几年以来，整个全球的科技界，AI是发展最快的。
各大巨头，都是不遗留余力发展AI，催生了5万多亿美元市场的英伟达，也让全球的内存供不应求，一年涨三四位。
也诞生了OpenAI、Anthropic这样的估值万亿美元的AI新贵。
大家都认为，未来AI或将颠覆整个科技行业，所以各大巨头们的竞争还在继续。
但让人没有想到的是，近日，全球估值最高的AI企业Anthropic（估值近万亿美元，已超过OpenAI，全球第一）却发布了一个很惊人的观点，他们称，最新 AI 模型已开始显现脱离人类控制的迹象，后续可能会自我进化。
他们认为，如果AI再发展下去，很可能会自主设计和改进自身，人类就控制不住了。
大家看过很多的科幻片吧，如果AI脱离了人类控制，将会是一件非常可怕的事情。在科幻片里，AI发展到最后，会将人类视为敌人，进行清除，然后引发了AI与人类的大战。
或许也正因为这样，所以他们呼吁全球所有的AI企业应该考虑放缓乃至暂停开发先进 AI 系统。
不过他们也表示称，必须是所有的AI企业都停下来，如果只有一家停下来，别的企业不停，那就没有意义，反而会因为一家停下来，竞争对手加速前进了。
对于Anthropic的说法，有人表示了担忧，称或许这件事情在未来是极有可能发生的，所以确实应该好好思考一下，让社会制度建设和AI的发展速度对齐，这样才能避免风险。
也有人表示，主要是因为现在Anthropic全球领先了，很多的对手已经落后于他们于，于是他们要求大家都停下来，以让他们继续保持这种领先优势，不过是一个噱头而已。
但不管怎么样，对于AI的风险防范，还是非常有必要的，不管Anthropic的警告是何种目的，是真的发展了这种不可控的矛头，还是想借机延续对手的前进速度，但这事情，我们还真的不能不防。
毕竟谁也无法保证，科幻片的场景，会不会在现实中发生，一旦AI真的不可控了，后果还是挺让人害怕的，真走到哪一步，人类不一定能胜AI，就算胜了也会是惨胜，所以提前做好预防是有必要的。