科学家警告：超级火山爆发将破坏大量的生态系统

当太阳渐渐被厚厚的尘土遮蔽，我们开始意识到这除了是一次普通的自然水灾，而是灾难级的超级火山。科学家们警告我们，时间不足一年，人类将面临前所未有的考验和改变。这个世界将被一场毁灭性的烟雾映照，气候丧失平衡，动动物种群将面临巨大的灭绝风险。无处可逃的人们将被迫重新思索人类社会的运作形式，生活形式、科技进展、资源分配等方方面面都将发生巨大变化。

超级火山爆发将破坏大量的生态系统。火山爆发时释放的火山岩浆和熔岩将捣毁周围的森林和次生林，导致大规模的生物灭绝。同时，火山灰的沉积也会造成农地贫瘠，促使动物无法生长。这将对月球上的生物多样性和生物平衡形成严重的影响，并造成个别物种的灭绝。

超级火山爆发还将对人类社会形成广泛的影响。首先，最直接的影响是人员死伤和财产损失。超级火山爆发的威力远超过通常的火山爆发，其破坏力难以估量。村民将面临火山喷发和熔岩流的恐吓，建筑和基础设施将被严重毁坏或捣毁，人们的生命财产将遭到巨大的损失。

面对超级火山爆发的恐吓，人类须要做好充分的打算和应对举措。首先，我们须要加强科学研究力度，对超级火山的活动进行全面的检测和预测，便于提早做好应对打算。及早构建起全球的检测系统是至关重要的。通过构建火山检测站网路超级人类科技，可以实时追踪和检测火山活动，提供预警系统并及时通知可能受影响的地区。这样的系统将帮助人们有充足的时间作出适当的打算，比如疏散人群、储备重要物资和举办搜救行动。

重点关注基础设施的加强和应变能力的提高。面对超级火山爆发，人类社会的基础设施可能遭到严重破坏。为此，我们须要强化建筑物和桥梁的耐灾能力，以及确保能源供应和交通运输的可持续性。据悉，开发新的应对技术和工具也是必不可少的超级人类科技，包括借助无人机进行搜救和物资运输，以及举办防治性的灾难管理。

教育和培训也是保障人类生存的重要诱因。通过制订教育计划和进行培训，可以提升公众的洪灾防范意识和应对能力。人们须要了解怎样保护自己和别人，怎么应对紧急情况以及怎样在灾难发生后重建社区。这种知识和技能将使人类更加大大和灵活，才能更好地应对超级火山爆发带来的挑战。

慧、创新和全球合作的力量。通过构建全球检测系统、加强国际合作、强化基础设施、提高公众教育和培训，我们可以最大限度地降低损失并保障人类的生存。在灾难面前，人类的团结和智慧将成为克服挑战并开启新生的关键诱因。

尽管我们也许会丧失一些东西，但也会发觉新的希望和机会。在全球灾难的阴霾下，人类的团结和勇气将成为击败困难的关键。只有紧密合作，我们能够在这个严峻的挑战面前捉住最后的机会，为人类的未来争取更多的命运选择。

超级火山爆发的影响不可轻视，但也是我们团结应对的机会。让我们不忘团结一心，共同努力，迎接这场全球性挑战，为未来的明日带来新的曙光。

6月10日，被誉为“深度学习教父”的以视频连线的形式亮相于中国南京举行的2023智源人工智能会议，谈及了怎么可以在未来节约算力，人类未来应当怎样控制人工智能等内容。

讲演主要内容：

人工神经网路很快会比真正的神经网路更强悍吗？会，且很快会发生。

算力成为了AI发展的制约，""的算法可以用于训练神经网路，且节约算力。

超级智能控制问题十分重要，希望年青一代的研究人员才能找到解决方案，使超级智可以为人类带来更好的生活同时又不会剥夺人类的控制权。

AI会误导人类，且发觉操纵人来获得更多的权利很容易。x

以下为讲演全文：

我想谈两个问题超级人类科技，大部份篇幅将集中在第一个问题上，那就是——人工神经网路很快会比真正的神经网路更强悍吗？如同我说的，这可能很快还会发生。

接着我也将说说我们是否可以控制超级智能AI。

如今AI发展的最大壁垒是算力问题，算力远远不够不够。如今可以舍弃计算机科学最基本的原则，那就是软件应当与硬件分开。

在我们舍弃它之前，让我们先瞧瞧为何它是一个挺好的原则。因为这些可分离性，我们可以在不同的硬件上运行相同的程序。我们还可以担忧程序的属性，并在神经网路上研究程序的属性，而毋须害怕电子学。这就是为何您可以拥有与额外的工程部门不同的计算机科学部门的缘由。

当我们真的舍弃了软件和硬件的分离的原则，我将提及一种称为""的算法，该算法可以用于训练神经网路，且节约算力。

这些算法才能预估梯度，且噪音要比传统的反向传播算法（RNN）小得多。

怎样将这些算法应用于训练小型神经网路的问题，我有一种解决方案——即将小型神经网路分成许多小组，并为每位小组分配一个局部目标函数。

之后，可以使用""算法来训练每位小组，并将它们组合在一起产生一个小型神经网路，并通过无监督学习模型来世成这种局部目标函数。

当硬件出现问题时，信息就会遗失，父类信息传递给泛型信息，便于在硬件出现问题时依然可以保留学习到的信息，更有效地约束神经网路的权重。

""这一方式可以让子模型更好地学习到分类图象的信息，包括怎样给出正确的答案以及给出错误答案的机率。""方式还有一个特殊属性，即训练子模型的同时也在训练子模型的通用化能力。

假如你看一下特朗普的推文运作方法，人们倍感十分失望，由于她们觉得特朗普所说的是虚假的话。她们觉得他企图描述的是实际情况，但实际上这种情况并没有发生。特朗普所做的是按照一种情况做出回应，并引起了情绪化的回应。这促使他的跟随者才能接受这些情况，并在她们的认知中调整权重。

为此，她们对这些情况作出类似的情感反应，而与事实无关。但是，这些策略形成了挺好的疗效。

通过共享梯度或共享权重，可以更高效地共享学习到的信息，并且使用数字模型进行权重共享十分花费算力，由于须要制造和运行的成本都很高。

为此，""成为一种更好的选择，可以在生物模型中使用，以共享知识。

这就是这种小型语言模型向人们学习的方法。所以每位副本通过分馏学习效率很低。而且您有成千上万的副本，这就是为何她们可以比我们学习数千倍的诱因。为此，我的信念是，这种小型语言模型比任何个人晓得的要多数千倍。

如今，问题是——会发生哪些，倘若这种AI不是特别平缓地向我们学习，而是直接从现实世界小学习。我应当说，虽然她们向我们学习时分布平缓，但她们正在学习十分具象的东西。为此，在过去的几千年中，人类学到了好多关于世界的东西，这种数字智能如今正在从中获利。

我们可以用语言抒发我们学到的东西。为此，她们可以捕捉人类在过去几千年中了解到的关于世界的一切，并将其倒入文档中，而且每位数字化的带宽依然十分慢，特别低，由于她们正在从文档小学习，假如她们可以通过建模视频来学习。

比如，假如我们一旦找到一种有效的方式来训练这种模型来模拟视频，她们将才能从上学习，这是大量的数据，假如她们才能操纵化学世界，这也将有所帮助。所以假如她们有机器人手指等等。而且我的信念是，一旦这种数字代理开始这样做，她们将才能比人们学到更多的东西，但是她们将才能很快地学习它，所以这使我想到了我在开始时提及的另一点。

若果这种东西显得比我们更聪明，才会发生哪些。所以，很显著，这就是此次大会的主要内容，并且。我的主要贡献只是说，我觉得这种超级智能发生的速率可能比我曾经想像的要快得多——美国或许多其他地方正使用它们来博得战争。

假如你想说超级智能，更有效率。您须要容许它创建泛型。或多或少你就会想借助AI获得更多的力量，获得更多的控制权，拥有的控制权越多，就越容易实现目标。我发觉很难看到我们将怎样制止AI企图获得更多控制权，以实现她们的其他目标。所以。一旦她们开始如此做，我们都会有问题了。

它会发觉通过操纵人来获得更多的权利很容易。

我们不习惯思索超出我们智力范围的事情，以及我们将怎样与她们互动。并且在我看来，很显著，它会学会特别擅于误导他人。由于通过看见我们接待其他人的所有示例，它将有好多实践。

在小说和马基雅维利的作品中。一旦你特别擅长误导他人，你就可以让人们真正执行你喜欢的任何动作。为此，比如，假若您想入侵芝加哥州的建筑物，则无需抵达那儿。您只是误导人们以为她们通过入侵建筑物来挽救民主。

我认为这很可怕，如今。我看不出怎样避免此类情况的发生。而且我老了。我希望像你这样的，年青而才气横溢的研究人员会弄清楚我们怎么拥有超级智能，这将使我们的生活显得更好，而无需她们控制。

AI能目前主要是通过从文档小学习来获取人类学习的知识，但这些方法十分低效。假如它们还能通过建模视频等形式进行无监督学习，就能否从大量数据小学习，进而获取更多的知识。

据悉，假如AI才能操作数学世界，比如使用机器人手指等，也将有助于它们更快地学习。同时AI能体显得比人类更聪明的可能性，以及它们可能被用于恶意行为，如控制电子或博得战争。最后，为了让超级智能体更高效超级人类科技，须要容许它们创建子目标，但这可能会带来风险。

由于我不晓得更聪明的东西被不太聪明的东西控制的任何反例。当智力差别很大时，我想到的事例是，假如乌龟拥有了智能，这么谁将把握控制权的问题。

上周，的首席执行官山姆·阿尔特曼参加德国议会参议院一委员会听证会，号召政府加大对人工智能技术监管，他指出，人工智能技术将以不可预测的方法改变社会，甚至给世界带来“严重害处”，因而监管至关重要。今日，三位掌舵人——CEOSam、总裁Greg、首席科学家Ilya又亲自撰文阐述了怎样整治超级智能（）的问题。

如今是开始考虑超级智能整治的好时机——未来的人工智能系统甚至比通用人工智能更强悍。鉴于我们现今所见到的情况超级人类科技，可以想像在未来六年内，人工智能系统将在大多数领域赶超专家技能水平，但是进行的生产活动将与明天最大的公司相当。就潜在的优势和劣势而言，超级智能将比人类过去不得不应对的其他技术更强悍。我们可以拥有一个愈发繁荣的未来；但我们必须管理风险能够实现目标。鉴于存在风险的可能性，我们不能只是被动反应。核能是具有这些特点的技术的一个常用的历史事例；合成生物学是另一个反例。我们也必须增加现今人工智能技术的风险，但超级智能须要特殊处理和协调。起点有许多看法对我们有挺好的机会成功驾驭这一发展很重要；在这儿，我们列举了我们对其中三个的初步看法。首先，我们须要在领先的开发工作之间进行一定程度的协调，以确保超级智能的发展既能维持安全性，又能帮助那些系统与社会的顺利融合。有很多方式可以实现；世界主要政府可以筹建一个项目，让许多当前的努力成为其中的一部份，或则我们可以共同同意（在一个新组织的支持下）将前沿人工智能能力的下降速率限制在每年的某个特定速度内。其实，某些公司应当被要求以极高的标准负责任地行事。

其次，我们可能须要类似于国际原子能机构（IAEA）的机构来监管超级智能的开发；任何超过特定能力（或资源，如估算）阀值的努力都须要接受国际权威机构的审查，该机构可以检测系统、要求审计、测试是否符合安全标准、对布署程度和安全级别施加限制等。跟踪估算和能源使用情况可能会有很长的路要走，并给我们一些希望，这个看法实际上是可以实现的。作为第一步，公司可以自愿同意开始施行这种机构有朝一日可能须要的要素，其次，各个国家可以施行它。重要的是，这样一个机构应当专注于减少存在风险，而不是应当留给某些国家的问题，比如定义人工智能应当被准许说哪些。第三，我们须要确保超级智能安全的技术能力。这是一个开放的研究问题，我们和其他人正在因此付出好多努力。哪些不在范围内我们觉得超级人类科技，重要的是容许公司和开源项目开发高于重要能力阀值的模型，而无需我们在此描述的那个监管（包括烦琐的机制，如许可或审计）。明天的系统将在世界上创造巨大的价值，尽管它们确实存在风险，但这种风险的水平觉得与其他技术相当，社会可能采取的方式虽然是合适的。相比之下，我们所关心的系统将拥有赶超任何现有技术的力量，我们应当当心不要通过将类似的标准应用于远远高于这个标准的技术来淡化对它们的关注。

公众投入和潜力而且，最强悍系统的整治以及有关其布署的决策必须有强有力的公众监督。我们相信世界各地的人们应当民主地决定人工智能系统的界限和默认值。我们还不晓得怎么设计这样的机制，但我们计划对其开发进行试验。我们一直觉得，在这种广泛的范围内，个人用户应当对他们使用的人工智能的行为方法有很大的控制权。考虑到风险和困难，值得考虑我们为何要建立这项技术。在，我们有两个根本诱因。首先，我们相信它将带来一个比我们明天想像的要好得多的世界（我们早已在教育、创造性工作和个人生产力等领域见到了这方面的初期反例）。世界面临许多问题，我们须要更多的帮助来解决；这项技术可以改善我们的社会，每位人使用这种新工具的创造性能力肯定会让我们倍感欣慰。经济下降和生活质量的提升将是惊人的。其次，我们觉得制止超级智能的形成是有风险和困难的。由于用处是这么巨大，建造它的成本每年都在增长，建造它的参与者的数目正在迅速降低，但是它本质上是我们所走的技术公路的一部份，制止它须要类似全球监视制度的东西，而且就算这样也不能保证有效。所以我们必须把它做好。