suu3.jp
返回

summary

如果创造出超级智能的人工智能,人类将灭绝

如果创造出超级智能的人工智能,人类将灭绝 的照片

・25亿年前,发生了一起名为 “大氧化事件” 的事件,蓝藻这种新的生命形式学会了如何通过利用太阳能从大气中吸收宝贵的二氧化碳来进行光合作用。在此过程中作为废物排放的现在是 “氧气” 化学物质。氧气毒性极大,对当时的大多数生物都有毒性。然后,当大气中的氧气浓度开始升高时,包括这种一直在排出氧气的细菌在内的大多数生物无法应对氧化而死亡。应用了少数幸运的细胞谱系,最终演变为使用氧气作为燃料的有氧生物,但事物从未恢复到以前的状态(p15)

・在1930年代,有迹象警告犹太家庭,德国的危险迫在眉睫,尽管一些少数民族感觉到了危险并立即逃离,但大多数人仍留在那里。然后,纳粹政府剥夺了他们的公民身份和护照,并切断了逃跑的机会。几年后,他们立即被围捕并送往灭绝营。许多家庭之所以留下来,不是因为他们没有注意到警告信号,而是因为他们相信自己的生活将在最坏的情况发生之前恢复正常(p16)

・曾几何时,人类离创造ASI(人工超级智能 = AI,它会思考、从经验中进行概括、发明新技术、制定计划、策略和概念,并检查和改善自己的生活方式)又近了一步,正常条件总是走到尽头,但它们不一定会变成不好的状态,结果可能会或可能因行动而改变,但是 “事实并非如此最糟糕的情况。”抱着这种希望根本无济于事(p16)

・人类似乎仍然在所谓的 “多功能性” 领域保持优势,而智力更 “多功能” 意味着能够在更广泛的领域进行预测和转向。人类不一定是所有领域中的佼佼者,但人类可以在更广泛的领域进行通用思考。可以在更广泛的领域实现成功的预测和转向(p28)

・人脑大约有1000亿个神经元和100万亿个突触,就存储容量而言,这超过了大多数笔记本电脑。但是,当前的数据中心在可以在 5 毫秒内访问的地方存储 400 PB 的数据,这是人脑存储容量的 1000 倍以上。此外,现代人工智能是使用所有人类知识的很大一部分进行训练的,并拥有这些知识的很大一部分。这是一种没有人能做到的休息技巧(p31)

・一旦人工智能达到先进的技术水平,人类就会变成净化箱;曾几何时,人类依赖马;饲料成本昂贵,但即便如此,他们还是养马。这是因为他们没有发明可以变成汽车或装甲坦克来取代骑兵的汽车,但是一旦他们发明了替代马匹的技术方案,他们就停止饲养马匹了。与优质鸡不同,它们仍在大量繁殖和饲养,但这是因为人类技术尚未达到用其他廉价方法培育肉类的水平(p96)

・经济学家经常问的问题是,对于超级智能来说,使用人类作为贸易伙伴比杀死他们更有价值。这可能是因为存在比较优势原则,当一个高科技国家与一个低技术国家进行贸易时,双方总体上可以获得更多的利润。不幸的是,只有低科技国家和高科技国家继续存在并在未来创造劳动力,这一原则才成立。移动一个人所需的热量至少需要 100 W。人类使用 100 瓦特可以生产的商品和服务会超过机器超级智能使用相同的 100W 所能生产的商品和服务,这是完全不可思议的(第 97 页)

・正如人类不局限于大脑一样,人工智能不会 “被困在计算机中”。人类的思想是由流经大脑的电信号组成的,从大脑发出的神经电信号通过脊髓传递到肌肉时会引起连锁反应,导致肌肉收缩,从而以正确的方式切断手柄。同样,计算机内的电信号也对整个世界产生连锁效应。人类能做什么取决于他们能否用手或身体来移动东西。人工智能能做什么取决于它可以使用 “设备”(例如连接到互联网的人)进行什么操作。互联网是一个丰富而复杂的环境,数十亿部手机、智能手机、计算机和人类相互连接。有很多机会影响全球 A(第 109 页)

knowledge map 浏览与本书相关的语音演示 查看关联图谱