大家好，我是校长。
前天看到一条视频，是 4 月 20 日，刘慈欣在联合国中文日活动当中回答嘉宾的提问的内容。
在活动当中，有嘉宾提问刘慈欣：自我迭代的人工智能有没有可能会取代或者说消灭人类？
刘慈欣是这么回答的，他说：这也应该分两个层次来回答。
第一个层次就是这种字面意义上的消灭，就是人工智能用某种暴力从肉体上完全消灭人类或是统治世界。这一点从目前的这个技术发展趋势来看，特别是从目前的技术水平啊，在可以看到的未来可能性不是太大。
当然您刚才提到一个很有意思的概念叫迭代。人工智能的迭代，这是目前人工智能最可能出现危险的一个行为，这个行为是什么呢？就是说当人工智能的发展，它比人类的智能稍稍高一些的话，它自己，也会像人类一样去创造新的人工智能，它创造出来的这个新人工智能可能比它的智能也稍微高一点。那么它又会接着迭代下一代。这样的话，它们就会很快的把这些人工智能的智能水平提高到很高，可能提高到人类的这个迭代下去，提高到人类的几百倍甚至上万倍，而由于它的这个计算机的计算时间比这个人脑，人的大脑要快成千上万倍，那么这个迭代的时间可能十分的短。据推测，可能只有半个小时到一个小时，就说我们把人工智能发展到现在，用了一个世纪的时间，而人工智能百倍于现在的这个程度，可能只用半个小时到一个小时。
这是很可怕的一件事，但是做出这个预测的人忘了一点，就是我们人类的计算能力，我们所能提供的算力是有限的，它的迭代到一定程度，我们的算力不支持它，所以这就是一个有很讽刺意义的一件事情，就是说我们人类的无能反而成为我们一个最后的屏障，所以您说的这种毁灭不太可能。
那么第二种消灭则是一种我们想不到的一种方式，就是说第一种消灭人类是完全违背人类意愿的，而第二种对人类的消灭可能完全符合我们的意愿，你比如说人工智能的发展，我刚才说过，他可能会代替我们的这个大量的工作，而我们的社会如果适应了。与人工智能的这种共存，我们发展出一种新的这种分配制度。那么我们就可能带来一个十分舒适的那种社会环境和十分舒适的生活，大部分人可能不需要工作，把大部分的工作都交给人工智能来进行，在这种情况下，我们会越来越多的交出自己的对社会的这种运作的这种权利，对自己，自己对社会运作的操作给到人工智能，而生活会变得越来越舒适。
那么这个样子下去的话，我们可能面临着人类历史上前所未有的一个巨大的陷阱，就是说科技的这种安乐窝里面，那么人类文明的活力在哪里？我们的开拓精神在哪里？如果这样一直发展下去的话，可能人类最后的命运就是您说的被人工智能所消灭，但这个消灭的过程完全是在我们的意愿之内，而人工智能至始至终，它没有任何恶意，它只是照着人类的指示去行事，而这样的，如果真的发生这样的事，那人工智能所需要的它的智能程度以及它所需要的计算能力远远小于我们前一面那个真正的字面意义上的那种消灭。所以这确实是我们应该对未来有一个警觉的一件事情。
以上是刘慈欣的回答。
我总结一下刘慈欣的回答。
第一层意思是：人类的无能限制了人工智能的发展，尤其是硬件和基础设施上无能，比如：算力无法满足人工智能自我强大的迭代，所以，正是这种无能保护了我们人类。
第二层意思是：精神上的消灭，人类大量的工作或者社会的运作都让人工智能替代了，这个消灭是我们人类自愿的，但是，这样发展下去，人类在世界上存在的意义可能会大打折扣。
大家对此怎么看呢？
点击下方公众号卡片，关注我
在公众号对话框，回复关键字 “1024”
免费领取副业赚钱实操教程
