搜索
写经验 领红包
 > 自然

不要研究!不要研究!不要研究!千名大佬告警,人类被摆上砧板?

不要研究!不要研究!不要研究!千名大佬告警,人类被摆上砧板?

不要研究!不要研究!不要研究!千名大佬告警,人类被摆上砧板?

人类可能已到了生死存亡的关头,这不是危言耸听,而是迫在眉睫的现实,而即将把人类放上砧板的,可能就是人工智能GPT!

最近,生命未来研究所(Future of Life)发布了一封《暂停大型人工智能研究》的公开信,呼吁立即全面暂停比GPT-4更强大的人工智能系统研究,只有确信强人工智能系统是积极的,风险是可控的,才应该继续开发。

值得注意的是,马斯克已在公开信上签字,其他Stability AI首席执行官Emad Mostaque、谷歌旗下DeepMind研究人员及 AI重量级人物Yoshua Bengio和Stuart Russell等1100多人已经签署,强烈呼吁暂停高级 AI开发,直到此类设计的共享安全协议由独立专家开发、实施和审核。

是不是感觉已山雨欲来风满楼?实际情况可能比这更糟糕,人类可能已经走上了一条不归路,离产生意识的AGI接管地球生命演化的时代可能已经不远。

不要研究!不要研究!不要研究!千名大佬告警,人类被摆上砧板?

这封公开信开头就直言,人工智能已对社会和人类构成较大风险,高级人工智能可能代表着地球上生命历史的深刻变革。既然马斯克等人签署了这封公开信,那么他们实际就已经承认人类可能已经面临失去控制文明的风险。

为什么高级人工智能可能代表着地球上生命历史的深刻变革呢?我想提出地球生命演化的三个阶段。

第一个阶段是生物演化。从30多亿年前第一个单细胞生物诞生开始,到人类演化出智慧之前,这个阶段的演化本质上是由基因驱动的,所有生物相互掠夺能量,通过缓慢的基因突变,进化出越来越复杂的生命形式。

第二个阶段是智慧演化。从几十万年前智人开始拥有智慧到现在,这个阶段是由知识驱动的,智人通过880万亿个神经元发展出语言文字,独立于所有其他物种,让获得的知识代代相传,越来越丰富,越来越复杂,最终在地球上演化出现代文明。

不要研究!不要研究!不要研究!千名大佬告警,人类被摆上砧板?

第三个阶段是机器智能演化。这个阶段从现在开始,第一阶段是30多亿年,第二阶段是几十万年,那么这个阶段可能会很短,甚至短得出乎所有人的意料。这个阶段可能会由我们现在还无法知道的东西驱动,这个东西将通过无限个数的人工神经网络形成,让所有知识连成一个系统的网络,由所有的人工智能和机器共享。

人类的大脑结构显然无法容纳、快速检索和利用这些现在暂时还可以称为“知识”的东西,所以选择只有两个,一个是被人工智能彻底边缘化,就像尼安德特人被智人淘汰一样;一个是通过脑机接口之类的东西,接入人工神经网络,对有机身体进行增强,融入人工智能。

无论哪种形式,我们现在已知的智慧形式,未来可能都将不复存在,取而代之的更可能是一种“集体意识”之类的形式,接入将会被统一,不接入将会在演化中消失,变成我们现在眼中的蚂蚁。或者可以说,世界已经走得不见踪影,你只能在原地卑微地活着。

不要研究!不要研究!不要研究!千名大佬告警,人类被摆上砧板?

OpenAI的CEO奥特曼已经公开承认,ChatGPT已出现了推理能力,但没有人能解释这种能力是如何出现的,他还承认,AI确实可能杀死人类。

除了马斯克外,签署这封公开信的有很多人工智能方面的顶级人物,包括图灵奖得主、深度学习三巨头之一约书亚·本吉奥(Yoshua Bengio),《人类简史》作者尤瓦尔·赫拉利等人,以及大型科技企业CEO,包括苹果的联合创始人等。

不过这个签名是在网上公开签署,所以暂时还无法辨明真假,因为任何人都可以把别人的名字签上,这一点看起来不太严肃。前面我说的生命演化三个阶段,也只是一家之言,我正在做一个视频阐述,朋友们可以关注。

从这几天使用ChatGPT和Bing AI的情况来看,感觉OpenAI的团队还在不断调试,明显对它们施加了更多限制,这意味着至少目前情况还是可控的。但未来会怎样,我感到比较悲观,因为大尺度上的演化,是没有任何力量能够阻止的。