李润生

(北京中医药大学 法律系，北京 100029)

一、背景介绍及问题的提出

人工智能(Artificial Intelligence，简称AI)在医疗领域有广阔的应用前景(1)另一领域为交通领域。参见普华永道《全球人工智能报告：探索人工智能革命》，(2017-05-01)[2020-11-10]，http://www.199it.com/archives/641779.html.。AI在辅助诊断、辅助治疗等方面已被证明具有重大价值和显著优势，例如，谷歌公司开发和训练了一种医疗AI，它比病理学家更擅长发现难以检测的转移性乳腺癌。据统计，人类病理学家对这种癌症的诊断准确率只有38%，而AI的准确率则高达99%(2)Martin Stumpe, Applying Deep Learning to Metastatic Breast Cancer Detection, (2018-10-12)[2020-11-10]，https://ai.googleblog.com/2018/10/applying-deep-learning-to-metastatic.html.。再如，IBM公司开发的沃森(Watson)系统给出的诊断建议与医院肿瘤委员会的诊断建议在96%的受试者中保持一致，而筛查时间则缩短了78%,而且，Watson系统还可通过深入分析患者个人数据、药物临床试验数据等，辅助医生制定个性化的治疗方案(3)Alice G. Gosfield, “Artificial Intelligence and the Practice of Medicine”,Health Law Handbook, 2019, 7, pp.1-15.。医疗AI还有很多其他的应用实例，并仍在快速拓展。我国也在医疗AI领域积极探索，并已逐步从产品验证阶段过渡至市场验证阶段(4)陈鹏：《中国医疗人工智能现状分析：从产品验证进入市场验证》，《互联网经济》2020年第1期。。应当说，医疗AI对于缓解我国医疗资源总体供给不足、分配失衡等顽疾具有重要意义。国家高度重视医疗AI的发展，国务院发布的《新一代人工智能发展规划》明确将“智能医疗”作为重点发展领域，《关于促进“互联网+医疗健康”发展的意见》也将推进AI技术在医疗领域的应用作为重点任务。

不过，目前医疗AI走向广泛应用的最大阻碍和担忧在于其“黑箱”(Black-box)属性。所谓“黑箱”属性，是指其输入和输……