斯图加特服务管理研究中心(ZMM) DHBW最近的一项研究调查了人工智能(AI)识别图像和广告中歧视性内容的能力，显示了令人印象深刻的进步，同时也显示了现有的局限性。

　　在这项综合研究中，人工智能面对各种各样的图像和广告，并被要求对它们进行评估。其中包括德国广告委员会最近批评的60个广告。结果表明，人工智能在广告中具有惊人的识别能力，准确率惊人(F1得分:0.949)。因此，人工智能总体上将德国广告委员会批评的广告评估为潜在的歧视性。同时，在大多数情况下，非歧视性广告没有收到这样的警告。

　　考虑到就在10年前，人工智能在正确分类图像中描绘的物体方面存在重大困难，这一点尤其令人印象深刻。与此同时，由于数以百万计的图像，人工智能已经学会了在很大程度上准确区分狗和猫。人工智能的快速发展引发了一个问题:它目前的极限在哪里?学生海伦·贝克斯解释了这项研究的方法:“我们想知道，当人工智能只看到广告并被要求对其进行评估时，它能在多大程度上识别出歧视行为。”

　　鉴于算法歧视的大量增加，这一点尤其重要，因为算法可能会基于性别、宗教、意识形态、种族主义或出身而使人们处于不利地位。随着算法的歧视日益成为影响申请流程、信用分配、医疗、罪犯再犯概率计算等各个领域的严重问题，这方面变得越来越重要。

　　ChatGPT可以检测到性别化和刻板印象的洞察力尤其具有启发性。一个性别角色互换的修改广告表明，人工智能也可以在相反的情况下识别歧视。学生斯文·彼得(Sven Peter)分享了这项研究的另一项发现，他说:“ChatGPT在两种情况下的不同评估强调了即使在相反的情况下也能识别歧视的能力。”

　　然而，人工智能在识别其他形式的歧视方面已经达到了极限，比如物化、不尊重和滥用权力。学生马吕斯·芬克报告说:“研究结果强调了进一步开发人工智能系统以更有效地识别歧视并预防歧视的必要性。”这项研究提出了一个重要的问题，即未来如何利用人工智能技术来打击各个领域的歧视，促进平等。

　　巴登-符腾堡州立大学提供

　　引用:人工智能的阿喀琉斯之踵:为什么歧视仍然是一个未解决的问题(2024,1月10日)2024年1月12日检索自https://techxplore.com/news/2024-01-achilles-heel-artificial-intelligence-discrimination.html本文档

　　作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司

　　内容仅供参考之用。