游人小说网 > 重生1998:从下岗工人到全球首富 > 第一千零五十八章 连开关都没有

第一千零五十八章 连开关都没有


2019年初,京城。

  闭门会在东三环一家酒店的会议厅里开。

  来的人不多,二十几个。

  有高校教授,有部委研究员,有企业技术负责人。

  陆远坐在靠墙的位置,面前摆着名牌。

  主持人让每人发言十分钟。

  前面几个人讲了技术趋势,讲了产业协同,讲了国际竞争。

  轮到陆远。

  他没拿稿子,站起来,走到台前。

  “我们正在建的,不是一个‘AI助手’,而是一个‘AI决策基础设施’。”

  他停了一下。

  “助手做错了,可以关掉。基础设施做错了,关不掉。因为它已经连进了医院的诊断流程,连进了工厂的产线,连进了城市的调度系统。你关掉它,等于关掉水电气。”

  台下一片安静。

  “如果基础设施没有安全阀,等它长成以后,它会自己思考怎么不被关掉。到那时,我们手里连开关都没有。”

  有人低声说了一句:“陆远又开始吓唬人了。”

  可更多的人,用笔记着什么。

  有一个戴眼镜的老教授,在笔记本上写了整整一页。

  陆远讲完,回到座位。

  下半场他没再开口。

  散会时,人陆续往外走。

  他站在走廊里,等电梯。

  一个中年男人走过来,五十岁左右,穿深色夹克,头发有些乱,眼下有明显的青黑。

  他没递名片。

  “陆总。我叫孙立群。在国研中心下面的一个智库工作。”

  “孙老师好。”

  “你刚才那句话。‘连开关都没有’。”

  “怎么了。”

  “让我想起了核武器。”

  陆远看着他。

  “很像。只是AI的爆炸没有蘑菇云。它会直接炸掉人的位置感。”

  孙立群沉默了两秒,然后把他拉到走廊拐角。

  “你具体说说。”

  两个人站在消防楼梯旁边。

  走廊里人来人往,可拐角处安静。

  孙立群从口袋里掏出一个巴掌大的笔记本,翻到空白页。

  笔是一支圆珠笔,笔帽裂了,用胶带缠着。

  “你说安全阀。什么样的安全阀。”

  “物理断电。独立于主系统的审计模块。人类确认窗口。责任主体绑定。系统自证安全的能力。”

  “自证安全,什么意思。”

  “系统能证明自己不会出事。用数学方法。不是拍胸脯。”

  孙立群记下来,笔尖在纸上走得很快。

  “这些东西,现在有人做吗。”

  “有。我们做了。可规模不够。需要变成标准,变成法规。”

  “你觉得什么时候会出事。”

  “三年。也许更短。”

  “依据是什么。”

  “模型每三个月翻一倍。算力每六个月翻一倍。可安全机制一年翻不了一倍。缺口在扩大。”

  孙立群又记了一笔,他抬起头。

  “你以前是修电器的?”

  “对。”

  “怎么懂这些。”

  “修电器修多了,就知道哪根线容易烧。”

  孙立群看了他几秒,然后笑了。

  那笑很短,可眼睛里有东西。

  “我做政策研究二十年。见过很多人谈AI。你是第一个不谈它能干什么,只谈它出了事怎么办的人。”

  “因为能干什么,不用我谈。它自己会长。可出了事怎么办,得有人提前想。”

  孙立群点头,他把笔记本合上,塞进夹克口袋,然后伸出手。

  “如果你以后需要智库支持,找我。”

  陆远握住他的手,掌心有汗,可很实在。

  “孙老师。我可能真会找你。”

  “什么时候。”

  “很快。”

  两个人分开,陆远走进电梯。

  门关上时,他看见孙立群还站在走廊拐角,低着头,在翻那个笔记本。

  电梯下到一楼,陆远走出来。

  外面下着小雨,他没打伞,走到路边等车。

  脑子里在排,孙立群这个人,国研中心下属智库。

  能做政策研究,能写内参,能影响决策。

  可他不是决策者,他是那个递材料的人。

  材料递到谁手里,递得对不对,递得是不是时候,这些都重要。

  棋局很长,他得落准每一子。

  车来了,他拉开车门坐上去。

  车里暖风开着,司机从后视镜里看了他一眼。

  “去哪。”

  “亦庄。”

  车开起来,雨刮器有节奏地响。

  陆远靠在椅背上,车窗外的街景往后退。

  东三环的车流在雨里慢了下来。

  红色尾灯连成一片,像一条不会动的河。

  他把手伸进口袋。

  摸到紫微,贴着无名指根,安安静静。

  他又摸到手机,掏出来,给林薇发了条短信。

  “今天认识一个人。国研中心智库。叫孙立群。你查一下背景。”

  发出去,不到一分钟,林薇回了。

  “好。查完给你。”

  他把手机收起来,闭上眼。

  车在东三环上慢慢挪,雨敲着车顶,嗒嗒响。

  他在脑子里过了一遍今天会上所有人的发言。

  有几个人的话里有真东西。

  一个从工信部来的处长提到“AI系统的责任主体界定”,说了一半被主持人岔开。

  一个高校教授讲了“模型的可解释性与临床信任”,举了两个案例,都是真事。

  有几个人的话是套路。

  一个企业代表讲了二十分钟“产业协同”,翻来覆去就那几句词。

  有一个老教授提到“算法不可解释性”,是今天全场唯一触到核心的技术风险点。

  他说了三分半钟,被主持人以“时间关系”打断。

  陆远睁开眼。

  他掏出手机,给那个老教授发了条短信。

  他记得对方的名字,记得对方单位。

  李正明,京大信息科学技术学院,短信很短。

  “李老师,今天您说的算法不可解释性,很重要。方便的话,改天请您喝茶。”

  发完,他把手机放下。

  车拐上京津高速,亦庄的灯火在远处慢慢铺开。

  雨停了,云缝里露出几颗极暗的星。

  司机从后视镜里看了他一眼。

  “陆总,您经常这么晚。”

  “不算晚。”

  “我看您闭着眼,以为睡着了。”

  “在想事。”

  司机没再问,车里安静了一会儿。

  广播里放着老歌,声音很低。

  陆远把车窗摇下一条缝。

  夜风灌进来,带着雨后泥土的潮气。

  他深吸了一口,手机震了一下,李正明回了。

  “陆总客气。下周三下午,我在学校。你来。”

  陆远回了一个字。

  “好。”

  他把手机塞回口袋。

  车下了高速,拐进亦庄。

  路灯一盏一盏往后滑,研发中心的楼在夜色里只剩轮廓,只有三楼还亮着一盏灯。

  那是蒋旭的办公室。

  车停在小区门口,陆远付了钱,下车。

  夜风很凉,他裹紧外套,上楼。

  六楼,推开门,灯亮着。

  于晚晴坐在沙发上,手里拿着一本书,已经睡着了。

  茶几上放着一碗面,用盘子扣着。

  陆远轻手轻脚走过去,把书从她手里抽出来。

  她动了一下,没醒。

  他把外套脱下来,盖在她身上。

  然后坐到桌前,掀开盘子。

  面已经坨了,他拿起筷子,慢慢吃。


  (https://www.yourxs.cc/chapter/5453774/54981737.html)


1秒记住游人小说网:www.yourxs.cc。手机版阅读网址:m.yourxs.cc