金灿宇

即使医疗人工智能十分准确，如果临床医生、患者和监管机构无法审查决策过程，它仍可能无法投入使用。金灿宇围绕这一缺口建立了一项研究计划，包括一个以医学文献为基础的图像—文本基础模型，以及2025年发表于《自然·生物医学工程评论》、用于评估不同医疗人工智能系统透明度的框架。金灿宇的研究将常被笼统归入“可解释性”的多个问题区分开来：使用了哪些数据、哪些特征推动了结果、解释是否忠实反映模型，以及各利益相关方真正需要哪些信息。这套分类体系十分重要，因为一幅视觉上颇具说服力的热力图在科学上仍可能产生误导。他是博士研究人员，而非实验室负责人，因此评估重点是第一作者身份和概念贡献。这项研究并未认定任何模型适用于医疗服务；它为该领域提供了一套更严谨的方法，以便在给予信任前要求提供证据。