禁止任何可能运行类似人类水平智能的计算机。”
“因此,除了合成智能不会消灭智慧物种,只会取代它们这一事实之外,没有理由认为这种情况总会发生,也没有理由认为这种情况会以某种方式使它们不具扩张性。”
“所以,非排他性再次发挥作用,儘管除非你认同社会会进步到一种单一的、必然的行为方式。”
“4b:动物园假说或隔离。这两个概念是分开的,但本质上是一样的,只是动机略有不同。”
“在这个我要向大家提出的假说中:地球是一个巨大的动物园,它们不与我们交谈是为了不干扰我们的行为,並在我们的星球周围设置了某种偽装,让我们看不到它们。在隔离假说中,它们认为我们很危险,但也做了同样的事情。”
“这些假说有什么问题呢它们和类別 1c 一样,让我们感知到一个虚假的现实,一个拥有远超我们资源和智慧的群体或个体在向我们灌输谎言,我们完全无法证明这一点。”
“但还有其他问题。对於动物园假说,我们实际上確实会与动物园里的动物互动,这原本就是动物园的全部意义 —— 让动物在你眼前活动,让你能近距离看到它们。”
“请注意,这並不一定是善意的行为。动物园的另一个意义是保护那些稀有的动物,並欣赏它们,我们会与它们互动,並不认为这必然会伤害它们。”
“对於隔离假说,有人可能会问,它们害怕我们什么 —— 无论是生物上的还是心理上的 —— 以至於需要隔离我们,为什么它们不能直接解决这个问题,而不是把我们关起来。”
“如果它们不能解决这个问题,为什么要冒险让我们继续存在並发展出越来越多的技术,成为一个潜在的威胁。”
“这涉及到我有时称之为 “愚蠢的外星人” 的问题 —— 这种假说假设外星人的行为,经仔细审视,要么完全愚蠢,要么极度邪恶。”
“有人可能会说,它们可能在观察我们,等我们达到一定的技术水平,防止我们被其他文明打扰,有点像《星际迷航》中的 “最高指导原则”。但问题是,如果你是 “最高指导原则” 的接受者,一旦发现外星人的震惊消退,你很可能会