超级智能

超级智能是一个假设的代理是拥有智慧远远超过了最有天赋的人的头脑。“超级智能”还可以指解决问题系统（例如，超级智能语言翻译器或工程助理）的属性，无论这些高级智力能力是否体现在在世界上行动的代理中。超级智能可能由也可能不是由智能爆炸产生并与技术奇点相关联。

牛津大学哲学家尼克·博斯特罗姆（NickBostrom）将超级智能定义为“在几乎所有感兴趣的领域中大大超过人类认知能力的任何智力”。Fritz程序不具备超级智能——尽管它在国际象棋方面比人类好得多——因为Fritz在其他任务中无法超越人类。继Hutter和Legg之后，Bostrom将超级智能视为目标导向行为的普遍支配地位，对于人工或人类超级智能是否具有诸如意向性（参见中文房间论证）或xxx人称意识等能力尚待定论（参见该意识的难题）。

技术研究人员不同意超越当今人类智能的可能性。一些人认为，人工智能(AI)的进步可能会导致缺乏人类认知限制的通用推理系统。其他人则认为，人类将进化或直接修改他们的生物学，以实现更高的智力。许多未来研究场景结合了这两种可能性的元素，表明人类可能会与计算机交互，或将他们的思想上传到计算机，从而实现实质性的智能放大。

一些研究人员认为，超级智能很可能会在通用人工智能发展后不久出现。xxx个普遍智能的机器可能至少在某些形式的心理能力方面立即拥有巨大的优势，包括完美回忆的能力、极其优越的知识库，以及以生物实体不可能的方式处理多项任务的能力。这可能让它们有机会——无论是作为一个个体还是作为一个新物种——变得比人类强大得多，并取代它们。

由于此类技术的潜在社会影响，许多科学家和预测者主张优先考虑人类和机器认知增强可能带来的好处和风险的早期研究。

哲学家大卫查尔默斯认为，通用人工智能很可能是通向超人智能的途径。查尔默斯将这一主张分解为一个论点，即人工智能可以实现与人类智能相当的程度，可以扩展到超越人类智能，并且可以进一步放大以在任意任务中完全支配人类。

关于人类水平的等效性，查尔默斯认为人类大脑是一个机械系统，因此应该可以通过合成材料进行模拟。他还指出，人类智能能够在生物学上进化，这使得人类工程师更有可能重现这项发明。特别是进化算法应该能够产生人类级别的人工智能。关于智能扩展和放大，查尔默斯认为，新的人工智能技术通常可以改进，尤其是当该发明可以帮助设计新技术时。

如果对强人工智能的研究产生了足够智能的软件，它就能够重新编程和改进自己——这一特性被称为“递归自我改进”。然后它会更好地改进自己，并且可以在一个快速增长的周期中继续这样做，从而导致超级智能。这种情况被称为智能爆炸。这样的智能不会有人类智力的限制，并且几乎可以发明或发现任何东西。

计算机组件在速度上已经xxx超过了人类的表现。Bostrom写道，“生物神经元以大约200Hz的峰值速度运行，比现代微处理器（~2GHz）慢了整整七个数量级。”此外，神经元以不超过120m/s的速度跨轴突传输尖峰信号，“而现有的电子处理核心可以以光速进行光学通信”。因此，超级智能最简单的例子可能是在比大脑更快的硬件上运行的模拟人类思维。在大多数推理任务中，尤其是那些需要仓促或一连串动作的推理任务，一个类人推理器的思考速度比当前人类快数百万倍，将具有显着优势。

计算机的另一个优点是模块化，即可以增加它们的大小或计算能力。像许多超级计算机一样，非人类（或改良的人类）大脑可能会变得比当今的人类大脑大得多。Bostrom还提出了集体超级智能的可能性：足够多的独立推理系统，如果它们的沟通和协调得足够好，可以以比任何子代理都大得多的能力共同行动。

也可能有一些方法可以从质量上改进人类的推理和决策。人类似乎与黑猩猩的不同之处在于我们思考的方式，而不是大脑大小或速度的差异。人类胜过非人类动物在很大程度上是因为新的或增强的推理能力，例如长期规划和语言使用。（请参阅人类智能和灵长类动物认知的进化。）如果推理方面还有其他可能的改进会产生类似的巨大影响，那么就更有可能构建出超越人类的智能体，就像人类超越黑猩猩一样。

上述所有优势都适用于人工超级智能，但尚不清楚有多少适用于生物超级智能。生理约束以许多不适用于机器智能的方式限制了生物大脑的速度和大小。因此，超级智能的作者们更加关注超级人工智能场景。

卡尔萨根建议的出现剖腹产和体外授精可以允许人类进化较大头部，导致通过改进自然选择在遗传的部件人类智能。相比之下，杰拉尔德·克拉布特里（GeraldCrabtree）认为，选择压力的降低会导致人类智力缓慢、长达数百年的下降，而这一过程可能会持续到未来。关于这两种可能性都没有科学共识，在这两种情况下，生物变化都会很慢，尤其是相对于文化变化的速度而言。

选择性育种、益智药、NSI-189、MAOIs、表观遗传调节和基因工程可以更快地提高人类智力。博斯特罗姆写道，如果我们开始了解智力的遗传成分，可以使用植入前遗传诊断来选择智商增加高达4点的胚胎（如果从两个胚胎中选择一个），或者增益更大的胚胎（例如，如果从1000个胚胎中选出一个，则智商最高可提高24.3分）。如果这个过程迭代多代，收益可能会大一个数量级。Bostrom建议，从胚胎干细胞中衍生出新配子可用于非常快速地迭代选择过程。一个组织良好的此类高智能人类社会可能会实现集体超级智能。

或者，可以通过在目前的个人智能水平上更好地组织人类来构建集体智能。许多作者提出，人类文明或其某些方面（例如，互联网或经济）正在像一个全球大脑一样运作，其能力远远超过其组成部分。然而，如果这种基于系统的超级智能严重依赖人工组件，它可能有资格成为人工智能而不是基于生物学的超级有机体。阿预测市场有时被认为是工作集体智慧系统中，仅由人类的示例（假设算法不用于通知决策）。

智力放大的最后一种方法是直接增强个体人类，而不是增强他们的社会或生殖动力。这可以通过使用益智药、体细胞基因疗法或脑机接口来实现。然而，Bostrom对前两种方法的可扩展性表示怀疑，并认为设计超级智能机器人界面是一个完全人工智能的问题。