苗炜

2016年，斯坦福大学的研究人员训练了一个人工智能系统，它可以较为准确地预测一个病人是否会在接下来的3个月到12个月内死亡。该团队利用的数据是17万名死于癌症、心脏和神经系统疾病的患者，团队将患者的诊断结果、医疗程序、处方药等信息输入，以教导人工智能系统。在那些预计在12个月内死亡的人中，有90%的确在这个时间范围内死亡，被预测能活过12个月的病人中，有95%确实活了更长的时间。不要被90%这个准确率吓到，这些病人大多病入膏肓，医生和普通人也能做出类似的预测。不过，这个预测系统还是比较吓人，我们不知道该拿它干什么。

医生悉达多·慕克吉在媒体上写了一篇文章，他说：“死亡预测系统确实可以学习知识，但它无法告诉我们它能学到知识的原因；它能预测出概率，却无法表达预测背后的推理过程。这就像一个通过尝试并且不断犯错而学会了骑自行车的孩子，当要他描述该怎么骑自行车时，他只能耸耸肩跑开了。当我们问算法‘为什么’时，它也只能茫然地看着我们。与死亡一样，这是另一个黑匣子。”黑匣子的研究依然在继续，2019年，谷歌的研究人员表示，在预测人类寿命这个领域，深度学习通过医院中大量的患者信息，能够取得比传统的统计学模型更好的结果。

且不管这套系统。我们看一个真实的病例，2001年夏天，有一位58岁的英国人忽然发现自己撒不出尿来了，他担心自己得了癌症，初步诊断结果是前列腺肥大，吃药就能解决撒尿问题，但每3个月要去医院做血检。2002年10月16日，他进行了血检，医生一周后通知他，怀疑他患慢性白血病，要进行骨髓检测和脾检。医生告诉他，别害怕，即使患有白血病，你也能再活10年。这是一个医生做出的预测，对这位患者来说，10年可不够，他爸爸活到了90多岁，他也想活到90多岁呢。接下来的检查表明，他没有白血病，他的病叫骨髓纤维变性，一种贫血症，病人的脾会肿大。病人家属起先松了一口气，听起来骨髓纤维变性比白血病要温和一些，但上网搜索了一番之后，家属发现，这个病也很凶险，还有网站说，患者能存活4年，还有网站说，患者能活5年到10年。尽管我们还没有一个公认的权威的预测系统，但网上总能搜到存活率和存活时间。

医生给这位患者提供的诊療方案是骨髓移植，医生说，如果不进行骨髓移植手术，患者只有两年的健康寿命了。进行手术也有各种可预测和不可预测的风险，而且按照医生“周全”的手术方案，他余生很长一段时间都要在医院中度过。大卫的老婆向他建议，别治了，过完两年健康的生活，剩下的就随它去吧。大卫听了，很是沮丧。他不满足于活两年，他频繁进出医院，做前列腺检查、脾检查。医生最终决定，先切脾，3个月后再做骨髓移植，最后再考虑前列腺癌。大卫照着这个程序做了，但在骨髓移植手术之后，大卫去世了，他没能活到医生根据白血病预测的10年寿命，也没按照网上最悲观的说法，患骨髓纤维变性能活4年，也没有活到医生说的不进行手术可以有两年的健康生活。

预测一个病人能活多久，斯坦福大学的智能系统包括了13654维的输入，听起来很复杂，但其原理没那么复杂，可以想见，如果有足够多的数据，智能预测系统大概会越来越准确。但一个病人是否需要这种预测呢？社会或者政府需要这样的预测吗？如果我们知道一个病人情况危急，又能有多少医疗资源能救助他呢？所以，悉达多·慕克吉选择无视这个黑匣子。

（摘自2023年第38期《新民周刊》）