超级智能可能引发人类灭绝？

近日，这个话题成了全球热点，因为有3000名科学家呼吁立即暂停人工智能的研发，其中还有一位中国科学家，他是中国科学院院士姚期智。
我总觉得有点夸大其词，专家未免将超级智能说得太玄乎了，目前人工智能正在方兴未艾，这时呼吁急刹车，将其视为潘多拉魔盒，是不是有点因噎废食了呢？
到底是怎么回事呢？
今年10月23日，美国一家非营利组织叫“未来生命研究所”的，发表了一则声明，警告超级智能可能将人类推向灭绝的边缘，呼吁立即暂停，这份声明联合3000多知名人士签名，其中有人工智能先驱杰弗里·辛顿、苹果公司联合创始人史蒂夫·沃兹尼亚克，还有中国科学院院士姚期智等。

这份声明有以下几个意思：
1.警告超越人类智能的AI系统可能带来从经济崩溃到人类灭绝的风险，必须立即暂停。
2.所谓超级智能，指的是在所有领域超越人类认知能力的人工智能系统。是人工智能迭代的产物。
3.声明说，“超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权力、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝。”
4.未来，一个超级智能会发现通过操纵使用它的人类来获取更多权力是轻而易举的，之后它将从我们这里学会如何欺骗人类，它将操纵负责将它关闭的人类。

5.我们还没有坚实的科学证据和切实可行的方法来确保超级智能的安全，使其不会给人类带来灾难性的风险。
挑战不在于人类能否建立超级智能系统，而是一旦它们存在，人类能否控制它们。
6.如果以50年为限，超级智能一定会到来。
这份声明不啻于在全球科技界投下一颗震撼弹。
虽然有3000多名科学家呼吁在“安全可控开发超级智能的广泛科学共识”形成前，暂停相关研发。
但是还是有很多争议的，主要有：

1.“超级智能”是否为炒作？
有观点认为，当前AI仍属“弱人工智能”，“超级智能”概念继承了“超人工智能”的模因，是“模因大杂交的产物”。
支持者指出，一旦AI具备自我改进能力（递归式自我优化），其发展速度将远超人类预期。
然而，现在预言超级智能会灭绝人类，有点炒作的意味。
2.风险是否被夸大？
部分学者认为，气候变化、核战争等风险远高于超级智能。超级智能还是可控的。
3.监管是否可行？

批评者指出，暂停研发可能导致技术垄断（如仅少数国家/企业掌握核心技术）。但支持者认为，全球协作制定安全标准是避免“失控竞赛”的唯一途径。
如今，人工智能是个热门学科，高考生填报志愿，很多同学都盯住人工智能，然后是计算机，然后是电子通信自动化之类。
4.美国民调显示，73%的美国人希望对先进AI进行强有力监管，64%支持暂停超级智能研发。
人工智能英语缩写为AI，简单地说是指由人工制造出来的，并由电脑系统所表现出来的智能。
如今电动车的无人驾驶系统，电动车屏幕指挥系统，还有手机上的支付扫脸技术就是人工智能。
神奇的是，人工智能会自我迭代，AI通过连接并理解物理世界，实现自主学习与进化，最终达成超越人类的飞跃。
这个从学习人到辅助人，再到超越人的框架，就实现了超级人工智能。

一些人害怕它一旦成为超级智能，其能力远远超过人类，它就会主宰人类，甚至灭绝人类。
但是，不要忘了，人工智能是人研究出来的，人类既然能够创造它，也能够控制它，因此，我赞成继续研发人工智能，并建立更为完善的控制系统，而不是因噎废食。
如果按照这些专家的理论，让世界上大部分国家暂停研究人工智能，只允许少数发达国家拥有，形成一种新的垄断，那才是最可怕的。
因此，人工智能自我迭代能力既是机遇也是挑战。一方面，自我迭代的AI可以帮助我们更好地防御网络攻击、发现安全漏洞、预测和应对各种安全威胁。另一方面，如果AI的发展失去控制，可能会被用于发展高级黑客工具、自主武器系统等，这些都可能对人类社会安全构成威胁。
所以说，加强对AI技术的监管和控制至关重要。
如今，我国几乎所有的985高校都设置有人工智能专业。

人工智能专业排在前十几名的大学是：
清华大学、北京大学、上海交通大学、中国科学院大学、中国科学技术大学、浙江大学、南京大学、中山大学、西安电子科技大学、西安交通大学、复旦大学、中国人民大学、北京航空航天大学、天津大学、电子科技大学、南京理工大学等等。
根据中国教育部门测算，我国人工智能人才目前缺口超过500万，国内的供求比例为1：10，供需比例严重失衡。
人工智能前景非常广阔，任何事物都是有两面性，我们不能因为人工智能的弊端而放弃，更不能掉进某些大国故意布置的“陷阱”。
你对这件事情怎么看呢？