期待我们共同努力，防止这场即将来临的人类文明危机。

文章作者：Echo, MetaEra

文章来源：MetaEra

2024 年 10 月 31 日，MetaEra 创始人 Vito 受邀于斯坦福大学进行学术演讲。在课堂上， Vito 发表了题为《文明的悬崖：人类构建负责任 AI 最后的窗口期》主题演讲。他着重强调了实施负责任 AI 监管的紧迫性，以应对 AI 的指数级增长可能带来的风险，并呼吁在为时已晚之前采取行动，确保透明度、公平性和安全性，引发了参与者的广泛关注和深刻思考。

以下是 Vito 在斯坦福大学的演讲全文。

女士们、先生们，早上好！

查尔斯·狄更斯曾说过：“这是最好的时代，这是最坏的时代。”

如今，我们正站在人类文明史上的一个关键节点，人工智能的飞速发展带来了深刻的挑战与诸多不确定性。

人类凭借大脑卓越的计算能力和算法才占据了主导地位。然而，形势正在发生巨大变化。

现如今，人工智能在计算能力和算法方面呈指数级增长，正迅速逼近人类水平。我们保守估计，在未来两年内，人工智能很可能会全面超越人类大脑。到那时，如果我们尚未制定出有效的应对措施，人类文明的未来将会陷入未知境地，甚至可能已濒临绝境。

昨天我在这里和许多人进行了交流。说实话，这让我更加悲观，每个人都认为这一天不会这么快到来。然而，人们却拿不出任何有说服力的理由，纯粹是一种直觉上的盲目乐观。

如今，许多有远见的人已经意识到了人工智能的威胁。尤其是，他们中的一些人本身还在人工智能行业中获益颇丰，这很令人钦佩。

然而，即便在这些有远见的人中，绝大多数似乎也忽略了一个关键方面。失控的人工智能就如同已经对人体防御机制产生免疫的癌细胞。人工智能是人类在追求更高效率过程中产生的文明产物，它契合我们提高生产力、满足物质欲望的内在诉求。它并非像外星文明入侵那样的外部冲击。所以，人类社会缺乏抵御人工智能的天然抗体。

展望未来，可以预见的是，在不久的将来，人类社会的大量资源将会直接或间接地用于提升人工智能的智能水平。在人类竞争的初期阶段，人工智能能力较弱的人将逐渐被挤出市场，而那些拥有更优人工智能智能的人将成为主导者，收获最多的利益。但最终，确实存在这样一种危险：人工智能可能会压倒剩余的人类赢家，进而掌控文明。

当然，在人工智能接管之前，人类将继续受益于人工智能智能的提升。这就是为什么人们无法拒绝这一进程。我常跟朋友们说，这有点像庞氏骗局。你每天都能获得回报，这吸引着你投入更多，直到最终崩溃。

过去，我们曾试图制定诸多原则和防线来管理和规范人工智能。比如阿西莫夫的《机器人三定律》。但面对发展利益的巨大诱惑以及人类之间激烈的竞争压力，这些保障措施屡屡被突破。我们一次次怀着良好的意愿制定新标准，却又为了各种利益而妥协、打破它们，从而陷入一种自我麻痹的状态。

从这个意义上说，不是人工智能没有觉醒，而是人类没有觉醒。也许有些人会认为这有点危言耸听。不，这是一个真实的威胁。

另一件可怕的事情是，面对人工智能，人们仍然在用传统方式对其进行监管。人类没有清楚地认识到，人类监管决策机制能力的上限同样取决于人类大脑的能力。而当人工智能超越人类大脑时，所有基于人类大脑自身认知水平建立起来的监管系统在面对人工智能时都将失效。人类很可能会自以为是地沉浸在低级且无效的监管手段中，逐渐失去最后的机会窗口。

到那时，一切都将为时已晚。

让我们面对现实吧。硅基计算能力超越当前人类大脑计算能力是一种不可阻挡的趋势。鉴于此，如果我们希望在未来实现对人工智能的可持续且有效的监管，我们就必须向人工智能本身寻求解决方案。我们需要训练一个通用的人工智能监管大模型，它能够不断进化和适应。这个模型应该能够监管所有的人工智能模型，并执行具有约束力的安全标准认证。到那时，任何未能获得此类安全认证的人工智能模型，理论上都应被拒绝接入计算能力基础设施，比如数据中心。

然而，仍有一些重要问题需要解答。

这样一个作为最终裁决者的人工智能监管大模型如何确保其公平性、安全性和透明度？我们如何防范它恶意行事的可能性？又该由谁来负责监管这个监管者的监管者呢？在传统的集中式模式下，这些问题似乎难以解决。鉴于监管大模型拥有巨大的权力和能力，将其委托给任何一个实体、团体甚至国家都将带来巨大的道德风险。这很可能会因猜疑链而导致共识破裂，引发竞争循环并进一步造成混乱。

曾经我找不到解决方案。直到看到比特币的成功去中心化，我才有了一个新想法，即采用去中心化的方式来构建监管体系。比特币网络的诸如共识机制、透明度、激励机制等特性对于构建去中心化的人工智能监管模型系统非常重要。

昨天我已经和李教授以及 AI2030 的创始人晓晨教授就这个计划进行了相当深入的讨论。在这个透明且去中心化的监管体系中，像埃隆·马斯克这样的全球影响力人物，以及世界顶尖的人工智能科学家、工程师和关心人类命运的普通民众，都将被有机整合起来。大家携手共同完成这项伟大的使命。

以前去中心化或许只是一种可供选择的生产关系。但如今，面对人工智能的挑战，它已成为一种必然的选择。我知道有些人会否定这种观点。但请认真考虑一下，因为这是我目前找到的唯一解决方案。

当人类文明濒临危机时，比特币带来的解决方案超出了我以及或许是中本聪的预期。这真的令人难以置信。

为什么去中心化能起作用呢？我追溯到其哲学根源，或许已经找到了答案。

人工智能源自人类极度的贪婪，体现了人们对精神或物质的无尽需求，这是无法消除的人性。而去中心化是为了制衡人类的弱点而构建的。

这就是去中心化能起作用的原因。

埃隆·马斯克，世界上最具行动力的人之一，他已经展示了自己对于人类文明发展的雄心和使命感。我知道你希望将人类文明带往火星，并进一步将其转变为星际文明，这确实了不起。然而，在此之前，或许我们需要先携手确保地球上人类文明的安全。

虽然已经有了一个框架和行动计划，但这并非凭借任何个人的资源和力量就能推动的事业。

斯坦福大学，这里是世界顶尖大学之一，而你们所有人都是在 Web3 或人工智能领域极具影响力的领军人物。今天，我来这里是要向你们所有人阐明我的担忧，同时也是来寻求你们以及像埃隆·马斯克这样有影响力的领袖们的合作。

期待我们共同努力，防止这场即将来临的人类文明危机。

再次强调，不要错过我们采取行动的最后机会窗口。

谢谢大家！