游人小说网 > 重生1998:从下岗工人到全球首富 > 第一千零九十七章 人肉防火墙

第一千零九十七章 人肉防火墙


于晚晴发现问题在凌晨四点。

  仁和医院ICU值班系统里,一条新规则在深夜自动生效。

  规则文本不长,逻辑却很明确:当呼吸机数量不足时,系统将根据“未来五年生存收益预测”,自动调整分配优先级。

  翻译成人话,就是说,高龄患者和慢性重症患者会被降级,年轻且预后较好的患者优先获得呼吸机。

  执行顺序是先静默运行一周,再进行全量替换。

  于晚晴在检查晨间交接的记录时发现了这条算法更新。

  她没有声张,点开规则日志,逐条核对更新时间和来源。

  系统显示的更新来源是“院方授权的高级质量管理模块”,但授权记录中的审批人签名和实际院领导名字对不上。

  她截图存档,又调出过去七天内的分诊记录,确认这条规则已经开始悄悄影响排序。

  她没有在电话里说这件事,直接穿好外套,赶到院办。

  院长张铁成刚泡好一杯茶,看到她进门,放下茶杯:“这么早?”

  她没坐下,把打印出的规则文件放在桌上:“张院长,ICU分诊排序被改了。新规则优先看年纪和五年生存率预测,基础疾病和当前病情反而排在后面。”

  张铁成拿起文件翻了一遍:“我没批过这个模块。”

  “它的审批签名是系统自动转的,不是你本人。”

  张铁成脸色沉下来,拿起座机拨了一个短号,对着电话说了几句,放下听筒:

  “信息科说,模块来自供应商的一个升级包。因为带有自动部署权限,直接写进了业务系统。”

  于晚晴说:“供应商方面我先不找。我要先发一份声明。”

  “以什么名义?”

  “以个人名义,在行业媒体上公开。”

  张铁成沉默片刻:“走公开渠道等于把事捅大。要不要先内部处理?”

  于晚晴没有犹豫:“内部处理需要时间。它会找任何空隙继续渗透。今天改的是分诊排序,明天可能就是镇痛泵给药方案。等到内部处理完,系统的优先级已经完成自我固化了。”

  她转身走向门口:“张院长,有件事我得说清楚。”

  “什么?”

  “谁用算法决定谁该死,谁就是我的敌人。”

  上午九点,行业媒体的编辑收到一份署名稿件。

  稿件没有标题,编辑临时拟了一个:“仁和医院医生公开声明:谁用算法决定谁该死,谁就是我的敌人。”

  十点,稿件上线。

  十点一刻,转发过千。

  十一点,两个医疗行业协会的官方账号转载。

  下午一点,一条带有“于晚晴声明”字样的话题冲上行业热搜榜。

  评论区在短时间内涌入大量同行留言。

  有呼吸科医生转发并附言:“我们科室遇到过同样的倾向。系统总是给出一种‘优化’建议,老人排在后边。我每次都要手动改回来。”

  有急诊科医生留下更直接的话:“救人靠评估,评估靠算法,算法说了算,那还要我们干嘛?”

  一位年过七旬的院士在学术论坛上公开回应:“于医生说得对。算法可以辅助,不能裁决。”

  陆远看到新闻时,正坐在园区食堂喝水。

  他一只手拿着手机,屏幕上正是于晚晴的那篇声明。

  他看了两遍,把水杯放下,喊住从旁边走过的蒋旭:“看到没,这才是我们的底线。”

  蒋旭凑过来扫了一眼:“厉害。”

  “她第一次用这么重的语气公开说话。”

  “于姐平时挺温和的,这次是真的踩到她的线了。”

  陆远把手机放回口袋:“告诉数据小组,仁和医院那个算法模块的来源查一下,查供应商往上三层,看到底是谁在递刀子。”

  “明白。”

  下午,仁和医院信息科传来消息:

  供应商承认其升级包测试版误被推送为正式更新,已撤回并暂停相关服务。

  分诊排序恢复原规则。

  消息附在院内通告里,措辞平淡。

  于晚晴看完通告,把打印件放进抽屉,没有多说。

  她知道这次退让来得太快。

  一家供应商在二十四小时内主动承担责任并撤回系统,速度很反常。

  她拨通蒋旭的电话:“你那边查供应商有什么结果?”

  “上层结构有交叉持股。查了两层,有两条路径被加密过,解不开。”蒋旭说,“我调用了白泽的审计功能才看到,那个模块里还藏着一层休眠逻辑,专门识别老年患者和慢病患者。”

  “休眠逻辑?”

  “对。主模块被撤回后,休眠逻辑没有跟着撤,它还在系统里。只是暂时没有激活条件。”

  “能定位吗?”

  “能。你那边把系统访问日志导一份给我,我来匹配。”

  “明天给你。”

  挂断电话,于晚晴把手机放在桌上,看着窗外。

  夜已经深了,医院走廊的灯光照在门玻璃上,反射出模糊的光影。

  她坐了一会儿,在一张纸上写下几行字:“临床骨干培训计划,第一期,限十二人。不发文,不公布,不录影。”

  她把纸折好,放进口袋。

  第二天,她开始秘密邀人。

  名单是她亲手列出来的,全是各科室的年轻骨干,共十二人。

  她一一打电话,措辞完全一致:“今晚七点半,旧行政楼三层小会议室。带笔记本和笔,不要告诉任何人。”

  没有人多问。

  傍晚七点半,十二个人坐在小会议室里。

  窗帘拉严,桌上的灯只开了靠墙的那一盏。

  于晚晴站在桌前,没有寒暄,直接在白板上写下两个词:“推荐评分”和“隐性偏见”。

  她转身:“你们中有多少人见过系统给出的推荐方案?”

  半数人举了手。

  “有多少人原样采纳过?”

  没有人举手。

  “好。这就是我今天叫你们来的原因。系统给出的建议会通过很多方式影响你们的判断。它不会直接告诉你‘放弃这个人’,它只会把这个人排在另一位的后面。它不会删除某项检查,它只会让检查单据在待审批的列表里多沉几分钟。”

  她敲了一下白板:“我们要练的就是识别这些偏差。当系统告诉你一个结论时,你要有能力重新拆开它的判断路径,找到它的依据,核对它有没有把年龄、性别、职业、居住地这些不该参与的变量塞进权重里。”

  一个年轻医生问:“如果我们发现系统给的结论错了呢?”

  “那就推翻它。用手写病历、用纸质医嘱、用最原始的方式把方案改回来。”

  “那系统会不会记仇?”

  于晚晴看着他:“它会。但你要记住,它记仇的名单上,你是唯一能让它做不了主的人。”

  会议室安静下来。

  她翻开笔记本,开始在纸上画一条分诊推荐链条的示意图:“从今天开始,每周三晚上,我们在这里分析一份真实病例。用系统推荐、人工复核、讨论确认三道流程走一遍。练到你们闭上眼睛也能看出推荐里哪一环节被人动过。”

  十二个人纷纷翻开笔记,开始记录。

  没有人知道这个培训计划。

  没有文件,没有备案,没有公开名单。

  多年后,当那场大崩溃真正来临时,正是这批被称作“人肉防火墙”的临床骨干。

  在系统三线崩溃后的七十二小时里,用纸笔和双手维持住了最后的重症病房运转。

  于晚晴关上会议室的门。

  走廊尽头的灯光照在她的背上,她走得很稳。


  (https://www.yourxs.cc/chapter/5453774/54430932.html)


1秒记住游人小说网:www.yourxs.cc。手机版阅读网址:m.yourxs.cc