医疗AI公平性评估框架HEAL发布

谷歌研究推出健康平等评估框架，推动医疗AI公平应用

近日，谷歌研究团队发布了一项名为“健康平等评估框架”（HEAL Framework）的创新评估工具，旨在量化机器学习（ML）驱动的健康技术在不同人群中的公平性能表现。这一框架的推出由谷歌研究科学家Mike Schaekermann及健康平等部门主管Ivor Horn共同推动，标志着医疗人工智能（AI）向实现全社会健康平等迈出的重要一步。

健康平等是全球性的社会关切，现存的不平等来源于多种因素，例如医疗资源获取的不均、临床治疗的差异性以及诊断技术的基本缺陷。例如，在皮肤病学领域中，少数族裔、低收入群体或医疗资源不足人群的皮肤癌病情较其他群体更为严重。尽管近年来机器学习（ML）和人工智能（AI）技术在医疗领域的潜力巨大，如何确保这些技术不会放大现存健康差异，甚至能够改善这类不平等，仍是一个关键问题。健康平等的目标并非简单的“平等”，而是为每个人提供根据其独特需求量身定制的公平机会。

HEAL框架定义了一套科学、迭代的四步评估流程，用以评估健康AI技术是否有效优先改善健康最差人群的状况。具体步骤包括：
1. 识别健康不平等的因素并定义性能评估指标：明确哪些人口因素是健康差异的主要驱动，并制定工具绩效的合理评价标准。
2. 量化现存健康差异：准确衡量不同群体间的健康成果差距。
3. 评估各亚群体的工具表现：分析模型在每个群体中的实际运行效果。
4. 量化优先改善健康差距的表现可能性：通过HEAL指标（HEAL Metric）明确模型性能是否与健康差异呈反向相关，即模型是否重点提高了健康差最差群体的表现。

这一框架旨在为持续改进提供指导，通过周期性重新评估和模型调整，推动医疗AI技术趋向更公平的实践。同时，HEAL框架明确指出，其现阶段目标是评估模型性能的公平概率，而非直接解决因果关系或量化技术对健康差异的最终影响。

HEAL框架首次被应用于一个皮肤病学模型的研究，展示了其实际效果。该ML模型基于卷积神经网络，设计用于识别288种皮肤病，并结合患者照片、人口统计信息及医疗历史数据生成可能的病症排序。研究团队利用一个包含5420个皮肤病病例的数据集（涵盖了年龄、性别及种族/族裔的多样性），通过HEAL指标对该模型进行了系统性评估。

分析显示，该模型在性别和种族/族裔层面上表现出较高程度的公平性，其HEAL指标分别为92.1%和80.5%。然而，在针对非癌症皮肤病的老年患者群体（70岁及以上）表现分析中，模型显示出改善空间。这类患者群体的健康状况通常最差，但模型未能优先优化其表现，提示在未来开发中需进一步关注这一问题。

HEAL框架的提出不是为了孤立运用，而是需要结合其他决策性因素，如模型的运算效率、数据隐私和伦理价值。研究指出，HEAL指标在某些情况下可能会被误用，例如通过故意降低健康较好群体的模型表现来提升公平性指标，但这种方法并未实际改善健康结果的整体表现。因此，HEAL建议与约束条件结合使用，确保模型改进不会以某些群体利益受损为代价。

此外，HEAL框架尚未解决某些医疗旅程各环节中的因果关系问题，如模型应用之前或之后的因素对健康差异的影响。未来研究需要填补这些空白，通过全面理解AI工具的实际影响，进一步推动健康平等的实现。

HEAL框架的提出，为评估和改进

[AI之星网出品] [医疗AI公平性] [健康平等评估] [机器学习与医疗应用] [HEAL框架] [机器姬][真机智能][机器洞察网][AI之星网][风投高科网][猛虎财经网][硅基科学网]