第一千零九十七章 人肉防火墙
于晚晴发现问题在凌晨四点。
仁和医院ICU值班系统里,一条新规则在深夜自动生效。
规则文本不长,逻辑却很明确:当呼吸机数量不足时,系统将根据“未来五年生存收益预测”,自动调整分配优先级。
翻译成人话,就是说,高龄患者和慢性重症患者会被降级,年轻且预后较好的患者优先获得呼吸机。
执行顺序是先静默运行一周,再进行全量替换。
于晚晴在检查晨间交接的记录时发现了这条算法更新。
她没有声张,点开规则日志,逐条核对更新时间和来源。
系统显示的更新来源是“院方授权的高级质量管理模块”,但授权记录中的审批人签名和实际院领导名字对不上。
她截图存档,又调出过去七天内的分诊记录,确认这条规则已经开始悄悄影响排序。
她没有在电话里说这件事,直接穿好外套,赶到院办。
院长张铁成刚泡好一杯茶,看到她进门,放下茶杯:“这么早?”
她没坐下,把打印出的规则文件放在桌上:“张院长,ICU分诊排序被改了。新规则优先看年纪和五年生存率预测,基础疾病和当前病情反而排在后面。”
张铁成拿起文件翻了一遍:“我没批过这个模块。”
“它的审批签名是系统自动转的,不是你本人。”
张铁成脸色沉下来,拿起座机拨了一个短号,对着电话说了几句,放下听筒:
“信息科说,模块来自供应商的一个升级包。因为带有自动部署权限,直接写进了业务系统。”
于晚晴说:“供应商方面我先不找。我要先发一份声明。”
“以什么名义?”
“以个人名义,在行业媒体上公开。”
张铁成沉默片刻:“走公开渠道等于把事捅大。要不要先内部处理?”
于晚晴没有犹豫:“内部处理需要时间。它会找任何空隙继续渗透。今天改的是分诊排序,明天可能就是镇痛泵给药方案。等到内部处理完,系统的优先级已经完成自我固化了。”
她转身走向门口:“张院长,有件事我得说清楚。”
“什么?”
“谁用算法决定谁该死,谁就是我的敌人。”
上午九点,行业媒体的编辑收到一份署名稿件。
稿件没有标题,编辑临时拟了一个:“仁和医院医生公开声明:谁用算法决定谁该死,谁就是我的敌人。”
十点,稿件上线。
十点一刻,转发过千。
十一点,两个医疗行业协会的官方账号转载。
下午一点,一条带有“于晚晴声明”字样的话题冲上行业热搜榜。
评论区在短时间内涌入大量同行留言。
有呼吸科医生转发并附言:“我们科室遇到过同样的倾向。系统总是给出一种‘优化’建议,老人排在后边。我每次都要手动改回来。”
有急诊科医生留下更直接的话:“救人靠评估,评估靠算法,算法说了算,那还要我们干嘛?”
一位年过七旬的院士在学术论坛上公开回应:“于医生说得对。算法可以辅助,不能裁决。”
陆远看到新闻时,正坐在园区食堂喝水。
他一只手拿着手机,屏幕上正是于晚晴的那篇声明。
他看了两遍,把水杯放下,喊住从旁边走过的蒋旭:“看到没,这才是我们的底线。”
蒋旭凑过来扫了一眼:“厉害。”
“她第一次用这么重的语气公开说话。”
“于姐平时挺温和的,这次是真的踩到她的线了。”
陆远把手机放回口袋:“告诉数据小组,仁和医院那个算法模块的来源查一下,查供应商往上三层,看到底是谁在递刀子。”
“明白。”
下午,仁和医院信息科传来消息:
供应商承认其升级包测试版误被推送为正式更新,已撤回并暂停相关服务。
分诊排序恢复原规则。
消息附在院内通告里,措辞平淡。
于晚晴看完通告,把打印件放进抽屉,没有多说。
她知道这次退让来得太快。
一家供应商在二十四小时内主动承担责任并撤回系统,速度很反常。
她拨通蒋旭的电话:“你那边查供应商有什么结果?”
“上层结构有交叉持股。查了两层,有两条路径被加密过,解不开。”蒋旭说,“我调用了白泽的审计功能才看到,那个模块里还藏着一层休眠逻辑,专门识别老年患者和慢病患者。”
“休眠逻辑?”
“对。主模块被撤回后,休眠逻辑没有跟着撤,它还在系统里。只是暂时没有激活条件。”
“能定位吗?”
“能。你那边把系统访问日志导一份给我,我来匹配。”
“明天给你。”
挂断电话,于晚晴把手机放在桌上,看着窗外。
夜已经深了,医院走廊的灯光照在门玻璃上,反射出模糊的光影。
她坐了一会儿,在一张纸上写下几行字:“临床骨干培训计划,第一期,限十二人。不发文,不公布,不录影。”
她把纸折好,放进口袋。
第二天,她开始秘密邀人。
名单是她亲手列出来的,全是各科室的年轻骨干,共十二人。
她一一打电话,措辞完全一致:“今晚七点半,旧行政楼三层小会议室。带笔记本和笔,不要告诉任何人。”
没有人多问。
傍晚七点半,十二个人坐在小会议室里。
窗帘拉严,桌上的灯只开了靠墙的那一盏。
于晚晴站在桌前,没有寒暄,直接在白板上写下两个词:“推荐评分”和“隐性偏见”。
她转身:“你们中有多少人见过系统给出的推荐方案?”
半数人举了手。
“有多少人原样采纳过?”
没有人举手。
“好。这就是我今天叫你们来的原因。系统给出的建议会通过很多方式影响你们的判断。它不会直接告诉你‘放弃这个人’,它只会把这个人排在另一位的后面。它不会删除某项检查,它只会让检查单据在待审批的列表里多沉几分钟。”
她敲了一下白板:“我们要练的就是识别这些偏差。当系统告诉你一个结论时,你要有能力重新拆开它的判断路径,找到它的依据,核对它有没有把年龄、性别、职业、居住地这些不该参与的变量塞进权重里。”
一个年轻医生问:“如果我们发现系统给的结论错了呢?”
“那就推翻它。用手写病历、用纸质医嘱、用最原始的方式把方案改回来。”
“那系统会不会记仇?”
于晚晴看着他:“它会。但你要记住,它记仇的名单上,你是唯一能让它做不了主的人。”
会议室安静下来。
她翻开笔记本,开始在纸上画一条分诊推荐链条的示意图:“从今天开始,每周三晚上,我们在这里分析一份真实病例。用系统推荐、人工复核、讨论确认三道流程走一遍。练到你们闭上眼睛也能看出推荐里哪一环节被人动过。”
十二个人纷纷翻开笔记,开始记录。
没有人知道这个培训计划。
没有文件,没有备案,没有公开名单。
多年后,当那场大崩溃真正来临时,正是这批被称作“人肉防火墙”的临床骨干。
在系统三线崩溃后的七十二小时里,用纸笔和双手维持住了最后的重症病房运转。
于晚晴关上会议室的门。
走廊尽头的灯光照在她的背上,她走得很稳。
(https://www.yourxs.cc/chapter/5453774/54430932.html)
1秒记住游人小说网:www.yourxs.cc。手机版阅读网址:m.yourxs.cc