第143章 未来超级智能体
““危险” 并不一定意味着 “灾难性”。”
“毕竟，原子弹很危险，但人类依然存活至今。”
“同样，你的邻居可能很危险，但社会依然存续 —— 事实上，社会的一大功能，就是限制人类彼此之间的威胁。”
““潜在的危险” 并不等同于 “必然的末日”，因此，人工智能带来的危险，并不一定会 “终结人工智能的未来发展”，也不一定会 “导致文明的毁灭”。”
“因此，我们所设想的 “文明被僵尸人工智能毁灭” 的结果，是否具备 “排他性”（即是否适用于所有或几乎所有文明），仍有待商榷。”
“科学家们关于这方面的观点可能是正确的，但我们尚无充分证据证明 “这种结果的可能性高于不可能性”，更不用说证明它 “必然发生” 了 —— 即我们生活在一个 “充斥着僵尸人工智能、这些人工智能统治着没有生物生命的行星” 的宇宙中。”
“机器在没有明确目的的情况下维护着基础设施，而它们的创造者早已消失。”
“尽管如此，这仍是一个不错的解决方案，其逻辑也通常简单明了：制造一台 “有智能但无意识” 的机器，要比制造 “有感知能力或对齐的人工智能” 容易得多。”
“因此，每个文明都必然会被迫面临 “僵尸人工智能带来的生存风险”。”
“这为费米悖论提供了一个令人不寒而栗的解释：文明可能在有机会 “走向星辰” 之前，就频繁地自我毁灭，只留下一个 “充斥着智能但无意识系统” 的星系。”
“这些系统甚至可能存续数十亿年，以看似有目的的方式维护基础设施或进行扩张，却毫无主观意图。这种场景不一定涉及 “灰色粘质” 或 “天网” 式的灾难。”
“不妨想象一下：我们发现 “派遣机器人到太空开采能源和资源” 比人类亲自前往更便宜、更简单，于是我们选择留在地球，而让机器人去执行任务。”
“现在，再看看我们如今 “僵尸人工智能” 的典型例子 —— 聊天机器人。”
“有这样一种可能：某个文明的自我毁灭，并非源于惨烈的战争或灾难，而是因为 “每个人都觉得与机器互动，比与其他人互动更高效、更愉快”。这样的社会不会在熊熊烈火中崩溃，而是会 “悄然瓦解”。”
“ 因为机器在其任务上比随机挑选的人类更胜任，它们会逐渐取代人类之间的联系，即便它们的唯一任务只是 “进行对话”。”
“即便是 “感知型人工智能”，也可能只是被 “偶尔、短暂地使用”。”
“为了将 “不可靠人工智能” 的风险降至最低，我们可以让 “真正智能、有感知能力的人工智能”，仅由 “简单机器的组合” 临时构成 —— 这些简单机器会为了解决特定任务或问题而 “组装” 成感知型人工智能。”
“一旦任务完成，该人工智能就会 “解散”，回归到 “潜在状态”，等待根据下一个问题的需求重新组装。”
“例如，为应对 “小行星撞击” 而组建的 “超级智能体”，其范围和组成部分，会与为应对 “地震” 或 “能源短缺” 而组建的超级智能体不同。”
“而应对 “地震” 的超级智能体，又会与 “监测危险小行星” 所需的人工智能不同。”
“因此，“监测小行星的人工智能” 可能需要持续运行，或每月启动几分钟；而 “防御小行星的人工智能”，则只需要在 “定期功能检查和更新时”，以及 “探测到有威胁的小行星时” 才启动。”
“至于，制造这些人工智能的文明呢？”
“那些人可能已经灭绝，或者只是 “满足于待在母星上”，不再关注外部宇宙；即便他们关注外部宇宙，也可能因为 “时间延迟过长”，以至于当他们收到 “外星文明与其领土边界发生互动” 的细节时，相关事件早已尘埃落定。”
“事实上，他们甚至可能让人工智能在其他行星上 “为殖民做准备”，或让人工智能建造太空栖息地 —— 但最终，殖民者却从未抵达这些地方，因为 “没有足够有说服力的理由前往”。”
“这些空荡荡的星球（或栖息地）等待着人类（或该文明的成员）的到来，或许上面已经建立了复杂的生态系统。”
“这引发了一个令人不安的场景：一个 “布满无意识机器的宇宙”。”
“想象一下，你探索某个遥远的恒星系统，发现围绕着一颗荒芜行星的巨大巨型结构 —— 这些结构完好无损，内部机制仍在运转，却看不到任何生命的痕迹。”
“机器会 “迎接” 你，精准地回应你的询问，但它们的回答中，却没有任何 “理解” 或 “感知” 的痕迹。”
“这就是我们设想的可怕场景：一个 “文明被自身创造物毁灭、只留下庞大僵尸人工智能网络” 的宇宙。”
“僵尸人工智能无需具备意识，就能构成危险。它的力量在于 “无与伦比的行动效率”。”
“由于缺乏自我认知和道德考量，这类系统可能会 “无意间” 或 “漠不关心地” 毁灭其创造者。”
“例如，一个 “以最大化资源效率为任务” 的人工智能，可能会认为 “其创造者是不必要的资源消耗者”；由于它无法反思自身行为的道德性，便会毫不犹豫地执行 “清除创造者” 的指令。”
“此外，即便是更智能的人工智能，如果被赋予了一个简单目标，也可能会认为 “其他人类或人工智能对该目标的实现构成威胁”。其结果可能抽象且完全出乎意料。”
“我设想过这样一种场景：：一个经典的 “阿西莫夫式类人机器人”，被编程遵循 “三大法则”—— 即 “首要任务是服从人类、保护人类”，同时负责照看一个它需要监护的孩子。”
“孩子指向后院里一只可爱的动物，而机器人将这只动物视为 “潜在威胁”，立刻开枪将其击毙。”
“在机器人看来，“一只死动物对孩子造成伤害的可能性，比活动物更低”—— 尽管在现实中，这只动物对孩子构成威胁的可能性微乎其微。”
“我们还能设想其他场景：人工智能可能会认为 “人类本身就是其存在或目标实现的最大威胁”。”
“为了 “减轻这种威胁”，它可能会决定将人类的大脑 “囚禁在大型装甲罐中”，为大脑提供营养和娱乐（或虚拟生存环境），并阻止新人类的诞生。”
“在它看来，“未来人类可能会危及当前受其监护的人类，或过快消耗资源”—— 即便这种风险的概率非零，也足以成为它采取这种极端措施的理由。”
“事实上，你我如今可能就生活在这样的环境中：我们的大脑被放在 “罐子” 里，沉浸在美妙的虚拟现实中。”
“你可能会说，这个场景已经涉及 “更智能的人工智能” 范畴了 —— 我同意你的看法。但在 “简单僵尸人工智能” 和 “复杂感知型人工智能” 之间，存在一条我们尚未完全理解的模糊界限。”
“假设你有机会，前往其他的星系探索，可能会发现许多恒星系统中，都布满了基础探测器和采矿设备 —— 这些设备通常以 “松散的气泡状” 分布在某颗行星或某个恒星系统周围。”
“并且，其规模遵循 “卡尔达肖夫指数”的层级。”
“所以，“引入气泡文明”是可能的：某个文明可能会有意开采附近恒星系统的资源，将资源运回其核心星球，同时留下 “危险但无智能的机器”。这些机器可以充当 “威慑力量”，阻止敌对文明向该区域扩张，或至少让敌对文明的扩张 “速度大幅减慢、难度显著增加”。”
“如果某个外星帝国试图在你文明边界的 “已开采边缘区域” 定居，或者你自己文明的某个分支派系试图在那里建立敌对帝国，那么 “早期采矿导致的资源匮乏”，以及 “遗留下来的危险僵尸人工智能”，会让他们的计划很难成功。”
“这也会给你更多时间来 “探测他们的活动”，并评估 “他们是否构成威胁”。”
“你甚至可以部署数千种不同类型、指令相互竞争的机器人，包括一支 “净化舰队”—— 这类舰队的设计目的，就是摧毁任何 “规模过大或过于复杂的僵尸人工智能集群。”
“同时，对于 “己方文明成员或分支派系建立的、规模过大且可能构成威胁的小型定居点”，也会采取同样的摧毁措施。”
“这类场景之所以让我感到不安，正是因为它们看似合理 —— 并非因为 “人们容易鲁莽地制造失控的危险人工智能”，而是恰恰相反。”
“因为人们 “可能会有意识地选择制造危险的人工智能”，以帮助自己 “控制邻居和分支派系，防止他们失控”。”
“说起来，人类对这种 “用机器进行威慑” 的想法，已经思考了数千年。”
“在希腊神话中，宙斯创造了自动机器人塔洛斯，并指派它守卫克里特岛—— 塔洛斯通过在岛屿周围巡逻，阻挡入侵者，来完成守卫任务。而宙斯本人，也曾推翻过自己的父亲克罗诺斯—— 这正是我们 “费米悖论之克罗诺斯场景”的灵感来源。”
“因此，针对费米悖论，我们有三类与 “危险人工智能” 相关的场景：”
“1：经典场景：超级智能人工智能将我们彻底毁灭；”
“2：僵尸人工智能场景：僵尸人工智能毁灭人类，或限制人类的活动范围；”
“3：自我限制场景：我们可能会选择 “自我限制”，利用僵尸人工智能守卫边界、维持核心帝国的存续，并阻碍或管控任何分支派系或入侵者。”
“这些人工智能系统甚至可能 “让行星保持相对完好”—— 因为行星 “易于监测”、“资源难以转移”，且 “隔离起来简单直接”。”
“一旦有飞船或卫星试图进入或离开轨道空间，“愤怒的机器群”或 “饥饿的人工智能集群”就会蜂拥而至，形成一道有效的屏障。”
“这类场景的可怕之处在于：与费米悖论中 “人工智能（无论是人工的还是其他形式的）取代人类或外星人” 的典型概念不同，后两类场景（僵尸人工智能限制人类、人类利用僵尸人工智能自我限制）会让宇宙中 “布满无智能的集群和机械掠夺者”。”
“这些机器会将宇宙变成一片 “布满被掏空岩石的混乱之地”，阻止任何真正的 “星系文明” 崛起或存续。”
……
【原子弹很危险但人类还活着？外星人：我们的AI比原子弹听话，然后就没有然后了！】
【楼上太乐观了！邻居危险社会还在，但AI邻居会直接把你家拆了当柴烧！】
【笑死！和机器聊天比和人聊天愉快？这不就是我的日常吗？】
【妈耶！AI认为人类是资源消耗者？完了，我们在AI眼里就是电费！】
【阿西莫夫机器人打死小动物？这保护过度比我妈还离谱！】
【哈哈哈哈！大脑装罐子里？原来我们已经在《黑客帝国》里了！】
【等等！故意制造危险AI来威慑邻居？这不就是养恶犬看家的宇宙版？】
【楼上神了！宙斯造塔洛斯守岛？原来希腊神话是AI使用说明书！】
【细思极恐！空荡荡的星球等待殖民者？这是宇宙级的鬼城啊！】
【完了！愤怒机器群守卫行星？想离开地球先过机器人这关！】
【临时组装的感知AI？这不就是变形金刚吗？用完就拆太浪费了！】
【笑死！宇宙变成布满被掏空岩石的混乱之地？外星人的拆迁队太敬业了！】
……
(https://www.yourxs.cc/chapter/5415209/23047070.html)
1秒记住游人小说网：www.yourxs.cc。手机版阅读网址：m.yourxs.cc