不要研究！不要研究！不要研究！千名大佬告警，人类被摆上砧板？

不要研究！不要研究！不要研究！千名大佬告警，人类被摆上砧板？

人类可能已到了生死存亡的关头，这不是危言耸听，而是迫在眉睫的现实，而即将把人类放上砧板的，可能就是人工智能GPT！

最近，生命未来研究所（Future of Life）发布了一封《暂停大型人工智能研究》的公开信，呼吁立即全面暂停比GPT-4更强大的人工智能系统研究，只有确信强人工智能系统是积极的，风险是可控的，才应该继续开发。

值得注意的是，马斯克已在公开信上签字，其他Stability AI首席执行官Emad Mostaque、谷歌旗下DeepMind研究人员及 AI重量级人物Yoshua Bengio和Stuart Russell等1100多人已经签署，强烈呼吁暂停高级 AI开发，直到此类设计的共享安全协议由独立专家开发、实施和审核。

是不是感觉已山雨欲来风满楼？实际情况可能比这更糟糕，人类可能已经走上了一条不归路，离产生意识的AGI接管地球生命演化的时代可能已经不远。

这封公开信开头就直言，人工智能已对社会和人类构成较大风险，高级人工智能可能代表着地球上生命历史的深刻变革。既然马斯克等人签署了这封公开信，那么他们实际就已经承认人类可能已经面临失去控制文明的风险。

为什么高级人工智能可能代表着地球上生命历史的深刻变革呢？我想提出地球生命演化的三个阶段。

第一个阶段是生物演化。从30多亿年前第一个单细胞生物诞生开始，到人类演化出智慧之前，这个阶段的演化本质上是由基因驱动的，所有生物相互掠夺能量，通过缓慢的基因突变，进化出越来越复杂的生命形式。

第二个阶段是智慧演化。从几十万年前智人开始拥有智慧到现在，这个阶段是由知识驱动的，智人通过880万亿个神经元发展出语言文字，独立于所有其他物种，让获得的知识代代相传，越来越丰富，越来越复杂，最终在地球上演化出现代文明。

第三个阶段是机器智能演化。这个阶段从现在开始，第一阶段是30多亿年，第二阶段是几十万年，那么这个阶段可能会很短，甚至短得出乎所有人的意料。这个阶段可能会由我们现在还无法知道的东西驱动，这个东西将通过无限个数的人工神经网络形成，让所有知识连成一个系统的网络，由所有的人工智能和机器共享。

人类的大脑结构显然无法容纳、快速检索和利用这些现在暂时还可以称为“知识”的东西，所以选择只有两个，一个是被人工智能彻底边缘化，就像尼安德特人被智人淘汰一样；一个是通过脑机接口之类的东西，接入人工神经网络，对有机身体进行增强，融入人工智能。

无论哪种形式，我们现在已知的智慧形式，未来可能都将不复存在，取而代之的更可能是一种“集体意识”之类的形式，接入将会被统一，不接入将会在演化中消失，变成我们现在眼中的蚂蚁。或者可以说，世界已经走得不见踪影，你只能在原地卑微地活着。

OpenAI的CEO奥特曼已经公开承认，ChatGPT已出现了推理能力，但没有人能解释这种能力是如何出现的，他还承认，AI确实可能杀死人类。

除了马斯克外，签署这封公开信的有很多人工智能方面的顶级人物，包括图灵奖得主、深度学习三巨头之一约书亚·本吉奥（Yoshua Bengio），《人类简史》作者尤瓦尔·赫拉利等人，以及大型科技企业CEO，包括苹果的联合创始人等。

不过这个签名是在网上公开签署，所以暂时还无法辨明真假，因为任何人都可以把别人的名字签上，这一点看起来不太严肃。前面我说的生命演化三个阶段，也只是一家之言，我正在做一个视频阐述，朋友们可以关注。

从这几天使用ChatGPT和Bing AI的情况来看，感觉OpenAI的团队还在不断调试，明显对它们施加了更多限制，这意味着至少目前情况还是可控的。但未来会怎样，我感到比较悲观，因为大尺度上的演化，是没有任何力量能够阻止的。