第一千零五十八章 连开关都没有
2019年初,京城。
闭门会在东三环一家酒店的会议厅里开。
来的人不多,二十几个。
有高校教授,有部委研究员,有企业技术负责人。
陆远坐在靠墙的位置,面前摆着名牌。
主持人让每人发言十分钟。
前面几个人讲了技术趋势,讲了产业协同,讲了国际竞争。
轮到陆远。
他没拿稿子,站起来,走到台前。
“我们正在建的,不是一个‘AI助手’,而是一个‘AI决策基础设施’。”
他停了一下。
“助手做错了,可以关掉。基础设施做错了,关不掉。因为它已经连进了医院的诊断流程,连进了工厂的产线,连进了城市的调度系统。你关掉它,等于关掉水电气。”
台下一片安静。
“如果基础设施没有安全阀,等它长成以后,它会自己思考怎么不被关掉。到那时,我们手里连开关都没有。”
有人低声说了一句:“陆远又开始吓唬人了。”
可更多的人,用笔记着什么。
有一个戴眼镜的老教授,在笔记本上写了整整一页。
陆远讲完,回到座位。
下半场他没再开口。
散会时,人陆续往外走。
他站在走廊里,等电梯。
一个中年男人走过来,五十岁左右,穿深色夹克,头发有些乱,眼下有明显的青黑。
他没递名片。
“陆总。我叫孙立群。在国研中心下面的一个智库工作。”
“孙老师好。”
“你刚才那句话。‘连开关都没有’。”
“怎么了。”
“让我想起了核武器。”
陆远看着他。
“很像。只是AI的爆炸没有蘑菇云。它会直接炸掉人的位置感。”
孙立群沉默了两秒,然后把他拉到走廊拐角。
“你具体说说。”
两个人站在消防楼梯旁边。
走廊里人来人往,可拐角处安静。
孙立群从口袋里掏出一个巴掌大的笔记本,翻到空白页。
笔是一支圆珠笔,笔帽裂了,用胶带缠着。
“你说安全阀。什么样的安全阀。”
“物理断电。独立于主系统的审计模块。人类确认窗口。责任主体绑定。系统自证安全的能力。”
“自证安全,什么意思。”
“系统能证明自己不会出事。用数学方法。不是拍胸脯。”
孙立群记下来,笔尖在纸上走得很快。
“这些东西,现在有人做吗。”
“有。我们做了。可规模不够。需要变成标准,变成法规。”
“你觉得什么时候会出事。”
“三年。也许更短。”
“依据是什么。”
“模型每三个月翻一倍。算力每六个月翻一倍。可安全机制一年翻不了一倍。缺口在扩大。”
孙立群又记了一笔,他抬起头。
“你以前是修电器的?”
“对。”
“怎么懂这些。”
“修电器修多了,就知道哪根线容易烧。”
孙立群看了他几秒,然后笑了。
那笑很短,可眼睛里有东西。
“我做政策研究二十年。见过很多人谈AI。你是第一个不谈它能干什么,只谈它出了事怎么办的人。”
“因为能干什么,不用我谈。它自己会长。可出了事怎么办,得有人提前想。”
孙立群点头,他把笔记本合上,塞进夹克口袋,然后伸出手。
“如果你以后需要智库支持,找我。”
陆远握住他的手,掌心有汗,可很实在。
“孙老师。我可能真会找你。”
“什么时候。”
“很快。”
两个人分开,陆远走进电梯。
门关上时,他看见孙立群还站在走廊拐角,低着头,在翻那个笔记本。
电梯下到一楼,陆远走出来。
外面下着小雨,他没打伞,走到路边等车。
脑子里在排,孙立群这个人,国研中心下属智库。
能做政策研究,能写内参,能影响决策。
可他不是决策者,他是那个递材料的人。
材料递到谁手里,递得对不对,递得是不是时候,这些都重要。
棋局很长,他得落准每一子。
车来了,他拉开车门坐上去。
车里暖风开着,司机从后视镜里看了他一眼。
“去哪。”
“亦庄。”
车开起来,雨刮器有节奏地响。
陆远靠在椅背上,车窗外的街景往后退。
东三环的车流在雨里慢了下来。
红色尾灯连成一片,像一条不会动的河。
他把手伸进口袋。
摸到紫微,贴着无名指根,安安静静。
他又摸到手机,掏出来,给林薇发了条短信。
“今天认识一个人。国研中心智库。叫孙立群。你查一下背景。”
发出去,不到一分钟,林薇回了。
“好。查完给你。”
他把手机收起来,闭上眼。
车在东三环上慢慢挪,雨敲着车顶,嗒嗒响。
他在脑子里过了一遍今天会上所有人的发言。
有几个人的话里有真东西。
一个从工信部来的处长提到“AI系统的责任主体界定”,说了一半被主持人岔开。
一个高校教授讲了“模型的可解释性与临床信任”,举了两个案例,都是真事。
有几个人的话是套路。
一个企业代表讲了二十分钟“产业协同”,翻来覆去就那几句词。
有一个老教授提到“算法不可解释性”,是今天全场唯一触到核心的技术风险点。
他说了三分半钟,被主持人以“时间关系”打断。
陆远睁开眼。
他掏出手机,给那个老教授发了条短信。
他记得对方的名字,记得对方单位。
李正明,京大信息科学技术学院,短信很短。
“李老师,今天您说的算法不可解释性,很重要。方便的话,改天请您喝茶。”
发完,他把手机放下。
车拐上京津高速,亦庄的灯火在远处慢慢铺开。
雨停了,云缝里露出几颗极暗的星。
司机从后视镜里看了他一眼。
“陆总,您经常这么晚。”
“不算晚。”
“我看您闭着眼,以为睡着了。”
“在想事。”
司机没再问,车里安静了一会儿。
广播里放着老歌,声音很低。
陆远把车窗摇下一条缝。
夜风灌进来,带着雨后泥土的潮气。
他深吸了一口,手机震了一下,李正明回了。
“陆总客气。下周三下午,我在学校。你来。”
陆远回了一个字。
“好。”
他把手机塞回口袋。
车下了高速,拐进亦庄。
路灯一盏一盏往后滑,研发中心的楼在夜色里只剩轮廓,只有三楼还亮着一盏灯。
那是蒋旭的办公室。
车停在小区门口,陆远付了钱,下车。
夜风很凉,他裹紧外套,上楼。
六楼,推开门,灯亮着。
于晚晴坐在沙发上,手里拿着一本书,已经睡着了。
茶几上放着一碗面,用盘子扣着。
陆远轻手轻脚走过去,把书从她手里抽出来。
她动了一下,没醒。
他把外套脱下来,盖在她身上。
然后坐到桌前,掀开盘子。
面已经坨了,他拿起筷子,慢慢吃。
(https://www.yourxs.cc/chapter/5453774/54981737.html)
1秒记住游人小说网:www.yourxs.cc。手机版阅读网址:m.yourxs.cc