秒送号（miaosong.cn）自媒体平台10月25日文章，卫生保健算法使黑人患者比白人患者获得重要医疗的可能性大大降低。主要缺陷影响了数百万患者，这一缺陷刚刚在本周发表在《科学》杂志上的研究中揭示。
这项研究没有透露算法的制定者，但是从事这项研究的加利福尼亚大学伯克利分校代理副教授Ziad Obermeyer说，“几乎所有大型卫生保健系统”都在使用它，保险公司。几家不同的公司也产生了类似的算法。他说：“这是太空中几乎每个人处理此问题的方式的系统性特征。”
“这是系统的功能”
医疗保健提供者使用该算法来筛选患者以进行“高风险护理管理”干预。在该系统下，算法会自动标记具有特别复杂医疗需求的患者。一旦选定，他们可能会获得其他护理资源，例如医生的更多关注。正如研究人员所指出的，这是有充分理由的，该系统在美国各地被广泛使用。像专职护士和更多的初级保健任命这样的额外福利对医疗保健提供者来说是昂贵的。该算法用于预测哪些患者将从额外帮助中受益最多，从而使提供者可以将有限的时间和资源集中在最需要的地方。
为了做出该预测，该算法依赖于有关护理人员治疗患者的费用的数据。从理论上讲，这可以代替病人的病情。但是，通过研究患者的数据集，《科学研究》的作者表明，由于无法平等地获得医疗保健，黑人患者在治疗上的花费比白人患者要少得多。该算法无法解决这种差异，从而导致种族歧视黑人患者的治疗产生惊人的种族偏见。
“成本是健康的合理替代，但这是有偏见的”
效果是惊人的。研究人员发现，目前，有17.7％的黑人患者受到更多关注。如果差距得到纠正，该数字将猛增至46.5％的患者。
Obermeyer说：“成本是健康的合理替代，但它是有偏见的，而选择实际上就是在算法中引入偏见的原因。”
历史上的种族不平等反映在社会对黑人和白人患者的花费上。例如，患者可能需要请假以接受治疗。由于黑人患者过分地生活在贫困中，因此平均而言，他们更难以要求一天的工作并减少工资。奥伯迈耶说：“贫困使人们难以获得医疗保健的方式只有一百万种。” 其他差异，例如医生在对待患者方面的偏见，也可能造成差距。
这是行动中算法偏差的经典示例。研究人员经常指出，有偏见的数据源在自动化系统中产生有偏见的结果。Obermeyer说，好消息是，有很多方法可以解决系统中的问题。
他说：“这种偏见是可以解决的，不是通过新数据，不是通过一种新的，更先进的神经网络，而是实际上只是通过改变算法应该预测的东西即可。” 研究人员发现，通过只关注一部分特定成本，例如去急诊室的旅行，他们能够降低偏见。直接预测健康结果而不是成本的算法也改善了系统。
“特别注意我们如何训练算法，” Obermeyer说，“我们可以获得很多好处，但可以最大程度地降低偏差的风险。”
