主题:方向盘被拆掉了?全球AI竞赛疯狂踩油门,安全投入仅占百分之一!
24年拿诺贝尔奖时,他在领奖台上呼吁重视AI安全。2025年他在多个场合反复强调监管的紧迫性。到了2026年,他的措辞变得更具体了。而他在技术讨论中展现的另一面同样值得注意。这个78岁的老人,在聊完AI末日风险之后,能立刻切回去讲受限玻尔兹曼机为什么是正确的贝叶斯推理、为什么当前的图像生成模型只用了醒-睡算法的一半、怎么把生成模型和识别模型结合起来才是下一步正确方向。他同时住在两个世界里——一个在思考AI怎样变得更强大,一个在思考人类怎样不被更强大的AI毁灭。这两件事在他的大脑里并行运转,互不矛盾。这大概就是为什么他的警告格外有分量。这是亲手造出这个东西的人在说:我知道它能做什么,所以我知道该怕什么。而Hinton提到的那辆车,现在油门已经踩到底了,4.8万亿美元的引擎在轰鸣。方向盘在不在,取决于接下来的几年里,坐在驾驶座上的人——不管是政府、企业还是科学家愿不愿意伸手。如今,我们正站在一个极其特殊的时间节点上。在AI变得比我们聪明之前,是人类唯一还能决定游戏规则的窗口。Hinton三年前从谷歌辞职时说的那番话,当时很多人觉得是杞人忧天。三年过去了,他还在说同样的话。不过,现在已经有很多人,真实地理解了他的担忧。只是,那辆没有方向盘的车,还在加速。
回帖(3):全部回帖(3)»