专家称可能需要全球政府和大规模监视来拯救人类

全球政府与大规模监控或许能拯救人类，专家称

牛津的一位著名哲学家以做出关于人类的可怕预测而闻名，他对我们的未来有了一个新的理论，而且这个理论并不乐观。

15年前，著有《超智能：路径、危险、策略》的尼克·博斯特罗姆提出，我们都生活在一个由其他文明运行的类似《黑客帝国》的计算机模拟中。
以下是该理论的概括，由Vox解释：在这篇阐述该理论的有影响力的论文中，牛津哲学家尼克·博斯特罗姆表明，以下三种可能性至少有一种是真实的：1）宇宙中所有类人文明在发展出创造模拟现实的技术能力之前就灭绝了；2）如果有任何文明达到这种技术成熟阶段，它们都不会费心去运行模拟；3）先进文明将有能力创建许多、许多的模拟，这意味着模拟世界的数量远远多于非模拟世界。

（来源）

人类最终会被自己创造的东西毁灭吗？

如果你觉得生活在由未知生物运行的计算机模拟中的想法很麻烦，那就等着听听博斯特罗姆的最新理论吧。

上周三，博斯特罗姆在加拿大温哥华的一场TED会议上登台，分享了他最新作品《脆弱世界假说》的一些见解。

在与会议主持人克里斯·安德森交谈时，博斯特罗姆认为，大规模监控可能是拯救人类（免受我们自己创造的技术的危害）的唯一方法之一。

他的理论从一个比喻开始，人类站在一个巨大的瓮前，瓮里装满了代表各种想法的球。
其中有白球（有益的想法）、灰球（中等有害的想法）和黑球（摧毁文明的想法）。
例如，原子弹的发明就像一个灰球——一个危险的但并未导致我们灭亡的想法。

博斯特罗姆假设瓮里可能只有一个黑球，但一旦被选中，就不能再放回去。
（毕竟人类会被消灭。
）

博斯特罗姆认为，我们到目前为止还没有选中黑球的唯一原因是我们一直“幸运”（来源）。

他在论文中写道：“如果科学和技术研究继续下去，我们最终会到达并抽出它。
我们的文明有很大的能力去拿球，但没有能力把球放回瓮里。
我们可以发明但不能取消发明。
我们的策略是希望没有黑球。
”

“如果技术不断发展，那么在某个时候将会获得一组能力，这组能力极有可能使文明遭受毁灭，除非文明充分摆脱半无政府状态的默认状况。
”（来源）

博斯特罗姆相信，唯一能拯救人类的是政府。

博斯特罗姆提出了防止这种情况发生的方法，他的想法令人恐惧地反乌托邦：

第一种方法需要比当前国际体系更强大的全球治理。
这将使各国能够足够快地达成一致，禁止使用这种技术以避免全面灾难，因为国际社会能够比过去更快地采取行动。
博斯特罗姆在他的论文中建议，这样的政府也可以保留核武器来防范爆发或严重违反（规定的情况）。

第二种系统更加反乌托邦，需要比人类习惯的更多的监控。
博斯特罗姆描述了一种“自由标签”，给每个人都安装上，它会传输加密的音频和视频，从而发现不良行为的迹象。
他认为，这对于未来的治理系统来说是必要的，以便在潜在改变历史的罪行发生之前进行先发制人的干预。
论文指出，如果每个标签成本为140美元，那么给每个人安装标签的成本不到全球国内生产总值的1%，却有可能避免一个物种终结事件。
（来源）

这些标签会将信息反馈到“爱国者监测站”或者“自由中心”，在那里人工智能会监测数据，如果检测到黑球的迹象，就会让人类“自由官员”介入。

多么奥威尔式的做法啊。

被人工智能监控是一个可怕的想法。

考虑到我们已经知道人工智能可以在没有我们输入的情况下产生偏见和仇恨，并且机器人没有幽默感，可能会因为一个玩笑而杀害我们，所以人工智能监控人类活动这个想法尤其令人担忧。
许多专家认为，人工智能最终会超越人类智慧，最终的结果将是人类的终结。

即使机器人霸主可能会阻止某人选择黑球，这是个好主意吗？我们已经有了大规模监控，全球治理似乎也在路上了。

博斯特罗姆承认这种情况可能会严重出错，但他认为目的可能证明手段是正当的：“显然，大规模监控和全球治理有巨大的弊端，确实存在巨大风险。

从个人层面来说，我们似乎无论如何都是注定的。

我只是指出，如果我们幸运的话，世界可能会是这样的：这些可能是你避免被黑球消灭的唯一方法。
”（来源）

对于那些仍然持怀疑态度的人，博斯特罗姆建议权衡利弊：“低于人类灭绝或存在性灾难的门槛似乎就足够了。
例如，即使是那些非常怀疑政府监控的人，如果确实有必要防止偶尔的地区性毁灭，他们大概也会支持大幅增加这种监控。
同样，重视生活在主权国家中的个人，在假设另一种选择会带来像核大屠杀这样可怕的事情的前提下，可能会合理地更愿意生活在一个世界政府之下。
”（来源）

你怎么看？

如果你必须在博斯特罗姆提出的那种监控和全球政府与最终被人工智能消灭之间做出选择，你会选择哪一个？你认为黑球被选中的可能性是一个真正的威胁吗？如果是，你认为这会在多久之后发生？请在评论中分享你的想法。

注释：
- TED：是一个美国私有非营利机构，该机构以它组织的TED大会著称，这个会议的宗旨是“值得传播的创意”。

• AI：即人工智能（Artificial Intelligence），是指计算机系统能够执行通常需要人类智能才能完成的任务，如学习、推理、解决问题等。

引用：https://www.theorganicprepper.com/global-government-and-mass-surveillance-may-be-needed-to-save-humanity-expert-says/
原文: https://s2.tttl.online/blog/1735947100/