第143章 未来超级智能体（1 / 1）

““危险”并不一定意味着“灾难性”。”

“毕竟，原子弹很危险，但人类依然存活至今。”

“同样，你的邻居可能很危险，但社会依然存续——事实上，社会的一大功能，就是限制人类彼此之间的威胁。”

““潜在的危险”并不等同于“必然的末日”，因此，人工智能带来的危险，并不一定会“终结人工智能的未来发展”，也不一定会“导致文明的毁灭”。”

“因此，我们所设想的“文明被僵尸人工智能毁灭”的结果，是否具备“排他性”（即是否适用于所有或几乎所有文明），仍有待商榷。”

“科学家们关于这方面的观点可能是正确的，但我们尚无充分证据证明“这种结果的可能性高于不可能性”，更不用说证明它“必然发生”了——即我们生活在一个“充斥着僵尸人工智能、这些人工智能统治着没有生物生命的行星”的宇宙中。”

“机器在没有明确目的的情况下维护着基础设施，而它们的创造者早已消失。”

“尽管如此，这仍是一个不错的解决方案，其逻辑也通常简单明了：制造一台“有智能但无意识”的机器，要比制造“有感知能力或对齐的人工智能”容易得多。”

“因此，每个文明都必然会被迫面临“僵尸人工智能带来的生存风险”。”

“这为费米悖论提供了一个令人不寒而栗的解释：文明可能在有机会“走向星辰”之前，就频繁地自我毁灭，只留下一个“充斥着智能但无意识系统”的星系。”

“这些系统甚至可能存续数十亿年，以看似有目的的方式维护基础设施或进行扩张，却毫无主观意图。这种场景不一定涉及“灰色粘质”或“天网”式的灾难。”

“不妨想象一下：我们发现“派遣机器人到太空开采能源和资源”比人类亲自前往更便宜、更简单，于是我们选择留在地球，而让机器人去执行任务。”

“现在，再看看我们如今“僵尸人工智能”的典型例子——聊天机器人。”

“有这样一种可能：某个文明的自我毁灭，并非源于惨烈的战争或灾难，而是因为“每个人都觉得与机器互动，比与其他人互动更高效、更愉快”。这样的社会不会在熊熊烈火中崩溃，而是会“悄然瓦解”。”

“因为机器在其任务上比随机挑选的人类更胜任，它们会逐渐取代人类之间的联系，即便它们的唯一任务只是“进行对话”。”

“即便是“感知型人工智能”，也可能只是被“偶尔、短暂地使用”。”

“为了将“不可靠人工智能”的风险降至最低，我们可以让“真正智能、有感知能力的人工智能”，仅由“简单机器的组合”临时构成——这些简单机器会为了解决特定任务或问题而“组装”成感知型人工智能。”

“一旦任务完成，该人工智能就会“解散”，回归到“潜在状态”，等待根据下一个问题的需求重新组装。”

“例如，为应对“小行星撞击”而组建的“超级智能体”，其范围和组成部分，会与为应对“地震”或“能源短缺”而组建的超级智能体不同。”

“而应对“地震”的超级智能体，又会与“监测危险小行星”所需的人工智能不同。”

“因此，“监测小行星的人工智能”可能需要持续运行，或每月启动几分钟；而“防御小行星的人工智能”，则只需要在“定期功能检查和更新时”，以及“探测到有威胁的小行星时”才启动。”

“至于，制造这些人工智能的文明呢？”

“那些人可能已经灭绝，或者只是“满足于待在母星上”，不再关注外部宇宙；即便他们关注外部宇宙，也可能因为“时间延迟过长”，以至于当他们收到“外星文明与其领土边界发生互动”的细节时，相关事件早已尘埃落定。”

“事实上，他们甚至可能让人工智能在其他行星上“为殖民做准备”，或让人工智能建造太空栖息地——但最终，殖民者却从未抵达这些地方，因为“没有足够有说服力的理由前往”。”

“这些空荡荡的星球（或栖息地）等待着人类（或该文明的成员）的到来，或许上面已经建立了复杂的生态系统。”

“这引发了一个令人不安的场景：一个“布满无意识机器的宇宙”。”

“想象一下，你探索某个遥远的恒星系统，发现围绕着一颗荒芜行星的巨大巨型结构——这些结构完好无损，内部机制仍在运转，却看不到任何生命的痕迹。”

“机器会“迎接”你，精准地回应你的询问，但它们的回答中，却没有任何“理解”或“感知”的痕迹。”

“这就是我们设想的可怕场景：一个“文明被自身创造物毁灭、只留下庞大僵尸人工智能网络”的宇宙。”

“僵尸人工智能无需具备意识，就能构成危险。它的力量在于“无与伦比的行动效率”。”

“由于缺乏自我认知和道德考量，这类系统可能会“无意间”或“漠不关心地”毁灭其创造者。”

“例如，一个“以最大化资源效率为任务”的人工智能，可能会认为“其创造者是不必要的资源消耗者”；由于它无法反思自身行为的道德性，便会毫不犹豫地执行“清除创造者”的指令。”

“此外，即便是更智能的人工智能，如果被赋予了一个简单目标，也可能会认为“其他人类或人工智能对该目标的实现构成威胁”。其结果可能抽象且完全出乎意料。”

“我设想过这样一种场景：：一个经典的“阿西莫夫式类人机器人”，被编程遵循“三大法则”——即“首要任务是服从人类、保护人类”，同时负责照看一个它需要监护的孩子。”

“孩子指向后院里一只可爱的动物，而机器人将这只动物视为“潜在威胁”，立刻开枪将其击毙。”

“在机器人看来，“一只死动物对孩子造成伤害的可能性，比活动物更低”——尽管在现实中，这只动物对孩子构成威胁的可能性微乎其微。”

“我们还能设想其他场景：人工智能可能会认为“人类本身就是其存在或目标实现的最大威胁”。”

“为了“减轻这种威胁”，它可能会决定将人类的大脑“囚禁在大型装甲罐中”，为大脑提供营养和娱乐（或虚拟生存环境），并阻止新人类的诞生。”

“在它看来，“未来人类可能会危及当前受其监护的人类，或过快消耗资源”——即便这种风险的概率非零，也足以成为它采取这种极端措施的理由。”

“事实上，你我如今可能就生活在这样的环境中：我们的大脑被放在“罐子”里，沉浸在美妙的虚拟现实中。”

“你可能会说，这个场景已经涉及“更智能的人工智能”范畴了——我同意你的看法。但在“简单僵尸人工智能”和“复杂感知型人工智能”之间，存在一条我们尚未完全理解的模糊界限。”

“假设你有机会，前往其他的星系探索，可能会发现许多恒星系统中，都布满了基础探测器和采矿设备——这些设备通常以“松散的气泡状”分布在某颗行星或某个恒星系统周围。”

“并且，其规模遵循“卡尔达肖夫指数”的层级。”

“所以，“引入气泡文明”是可能的：某个文明可能会有意开采附近恒星系统的资源，将资源运回其核心星球，同时留下“危险但无智能的机器”。这些机器可以充当“威慑力量”，阻止敌对文明向该区域扩张，或至少让敌对文明的扩张“速度大幅减慢、难度显著增加”。”

“如果某个外星帝国试图在你文明边界的“已开采边缘区域”定居，或者你自己文明的某个分支派系试图在那里建立敌对帝国，那么“早期采矿导致的资源匮乏”，以及“遗留下来的危险僵尸人工智能”，会让他们的计划很难成功。”

“这也会给你更多时间来“探测他们的活动”，并评估“他们是否构成威胁”。”

“你甚至可以部署数千种不同类型、指令相互竞争的机器人，包括一支“净化舰队”——这类舰队的设计目的，就是摧毁任何“规模过大或过于复杂的僵尸人工智能集群。”

“同时，对于“己方文明成员或分支派系建立的、规模过大且可能构成威胁的小型定居点”，也会采取同样的摧毁措施。”

“这类场景之所以让我感到不安，正是因为它们看似合理——并非因为“人们容易鲁莽地制造失控的危险人工智能”，而是恰恰相反。”

“因为人们“可能会有意识地选择制造危险的人工智能”，以帮助自己“控制邻居和分支派系，防止他们失控”。”

“说起来，人类对这种“用机器进行威慑”的想法，已经思考了数千年。”

“在希腊神话中，宙斯创造了自动机器人塔洛斯，并指派它守卫克里特岛——塔洛斯通过在岛屿周围巡逻，阻挡入侵者，来完成守卫任务。而宙斯本人，也曾推翻过自己的父亲克罗诺斯——这正是我们“费米悖论之克罗诺斯场景”的灵感来源。”

“因此，针对费米悖论，我们有三类与“危险人工智能”相关的场景：”

“1：经典场景：超级智能人工智能将我们彻底毁灭；”

“2：僵尸人工智能场景：僵尸人工智能毁灭人类，或限制人类的活动范围；”

“3：自我限制场景：我们可能会选择“自我限制”，利用僵尸人工智能守卫边界、维持核心帝国的存续，并阻碍或管控任何分支派系或入侵者。”

“这些人工智能系统甚至可能“让行星保持相对完好”——因为行星“易于监测”、“资源难以转移”，且“隔离起来简单直接”。”

“一旦有飞船或卫星试图进入或离开轨道空间，“愤怒的机器群”或“饥饿的人工智能集群”就会蜂拥而至，形成一道有效的屏障。”

“这类场景的可怕之处在于：与费米悖论中“人工智能（无论是人工的还是其他形式的）取代人类或外星人”的典型概念不同，后两类场景（僵尸人工智能限制人类、人类利用僵尸人工智能自我限制）会让宇宙中“布满无智能的集群和机械掠夺者”。”

“这些机器会将宇宙变成一片“布满被掏空岩石的混乱之地”，阻止任何真正的“星系文明”崛起或存续。”

……

【原子弹很危险但人类还活着？外星人：我们的ai比原子弹听话，然后就没有然后了！】

【楼上太乐观了！邻居危险社会还在，但ai邻居会直接把你家拆了当柴烧！】

【笑死！和机器聊天比和人聊天愉快？这不就是我的日常吗？】

【妈耶！ai认为人类是资源消耗者？完了，我们在ai眼里就是电费！】

【阿西莫夫机器人打死小动物？这保护过度比我妈还离谱！】

【哈哈哈哈！大脑装罐子里？原来我们已经在《黑客帝国》里了！】

【等等！故意制造危险ai来威慑邻居？这不就是养恶犬看家的宇宙版？】

【楼上神了！宙斯造塔洛斯守岛？原来希腊神话是ai使用说明书！】

【细思极恐！空荡荡的星球等待殖民者？这是宇宙级的鬼城啊！】

【完了！愤怒机器群守卫行星？想离开地球先过机器人这关！】

【临时组装的感知ai？这不就是变形金刚吗？用完就拆太浪费了！】

【笑死！宇宙变成布满被掏空岩石的混乱之地？外星人的拆迁队太敬业了！】

……