最近,几个知名机构已经引起人们对人工智能(AI)算法应用于医学时的包容性和公平性问题的关注。来自法律、医学、社会科学和计算机科学的领袖们公开谈论了使用智能算2022卡塔尔世界杯预选赛排名法解决社会问题的挑战。
虽然这个话题很容易被科技界认为是反进步的,但它应该被重新审视,认为这是一个真正的提议,让人类慢思考者与直觉快速思考的机器合作。合作可以改善人工智能对社会的影响。
认知算法是如何产生偏见的
条款“慢思维”和“快思维”这个词是由心理学家丹尼尔·卡尼曼提出的,他因识别人类的常规认知偏差而分享了2002年的诺贝尔奖——包括受过统计学训练的学者.卡纳曼的工作取代了流行的理论,即人类是完全合乎逻辑的、功利主义的决策者富有同情心的视图使用有缺陷的、利他主义的、通常是非理性的认知算法做出的选择。
结论不应该是人类是愚蠢的,而是要承认理性思维和认知偏见在我们所有人身上共存——尽管我们的出发点是好的。我们需要设计独立的保障措施来保护我们的决策免受草率的试探。
最近,在斯坦福Presence Center的AI in Medicine: Inclusion and Equity (AiMIE)研讨会上,顶尖科学家指出,这一过程既适用于人类,也适用于机器。
对人类认知的当前控制
直觉进化而来当速度是生存的必要条件时,成为思考的快速替代品。
直觉虽然有效,但也是潜意识的,不合逻辑的而且受经验影响.哈佛大学的内隐联想测试识别了选择中微秒延迟的潜意识偏见。它被公布在网上,所以科学家,公务员和政策制定者可以更多地意识到并弥补偏见.一个正式的社会过程的例子包括研究伦理委员会,其成员是从社会不同领域招募分析拟议研究项目的伦理影响。
那么这与人工智能有什么关系呢?
我们可能会认为机器学习更擅长用无情感的直觉来解决问题。然而,它被设计成模仿人类的认知过程,这使得它容易受到快速思维偏见的影响人类的思想。
斯坦福大学医学助理教授桑杰·巴苏博士说:“我认为我们不应该想当然地认为技术可以解决社会或经济问题,而是应该问问为什么这些问题会持续存在,我们的技术或其他工具2022卡塔尔世界杯预选赛排名是否真的被设计用来强化或挑战这些问题。”
机器学习算法是如何产生偏见的
在AiMIE研讨会上,几位知名人士就需要有意纠正的人工智能偏见的潜在来源进行了权衡:
访问数据因为有一个数字鸿沟在使用智能手机和电脑方面,弱势群体处于劣势一直未被充分代表的在公共数据集中。就像人类的直觉一样,如果数据有偏差,算法也会有偏差.作为尼拉夫·沙阿博士斯坦福大学教授、南加州凯撒医疗集团(Kaiser Permanente)前临床运营首席运营官(COO)巧妙地建议,“也许数据应该被视为健康的决定因素。”
算法设计失败。精益计算机编程的价值之一是“尽早发布,经常发布但在社会科学领域执行原型可能是灾难性的。2022卡塔尔世界杯预选赛排名正如斯坦福大学人口健康研究中心主任马克·卡伦博士(Mark Cullen)冷冷地评论的那样,“在短期内,智能(而不是人工智能)在减少差距方面可能更有用。”
正反馈循环。AI设计中的缺陷可能会加剧。作为马里亚诺·奎利亚尔法官加州最高法院的一名法官解释说:“如果我们只根据现有的数据来训练机器,我们最终得到的机器将加深我们系统的不平等。”
调整失败。虽然人类可以理解异常值并量身定制解决方案,但机器普遍是无情的。“个性化很容易变成迫害。解释说维吉尼亚尤班克斯他是奥尔巴尼大学政治学教授,也是新书的作者自动化不平等:高科技工具如何描述、监督和惩罚穷人这说明了最近在弱势群体中使用的设计糟糕的人工智能算法所造成的一些不公平现象。
那么我们如何防止偏见呢?
机器偏见可以用我们用来补偿人类偏见的机制来解决:结构化的思想,写的逻辑而且用不同的代表检查假设.
总之,我们需要人类和人工智能
就像人类的思维一样,直觉决策和战略决策是并存的,在不同的情况下各有好处。
虽然我们需要人工智能和机器学习给我们的分析工具,但我们也需要人类进行混乱辩论的能力、结构化思考的能力,以及面对令人不安的现实的意愿。
接受过这种认知训练的人通常在社会科学、法律和医学等公共领域工作。2022卡塔尔世界杯预选赛排名这些合作伙伴愿意并且能够与工业界合作——通常是无偿的。这些合作可能需要时间和精力,需要事先就相互竞争的利益进行明确的谈判;然而,它们使创新产品更强大、更有价值,并为更广泛的受众所使用。
也许我们需要的不是更多的人类思维或更多的人工智能,而是更好地整合这两种启发式,这样我们就可以实现认知立体视觉。
最后,我们提供一个报价格伦·科恩,JD他是哈佛大学法学教授,也是AiMIE的另一位演讲者。“威廉·吉布森(William Gibson)曾经说过这样的话:‘未来已经在这里,只是它的分布不是很均匀。如果在医疗保健领域使用人工智能将改善每个人的医疗服务,我们必须确保其初始假设、训练集和级联效应减少而不是加剧现有的分歧。”
迪亚伯班克是一名医生兼企业家。Ayo Roberts和Chandi Broadbent也对本文有贡献。世界杯欧洲预选赛积分榜
图片来源:Shutterstock.com