Google的Cloud AI现在提供免费消除性别偏见

工业机器人 2025-03-22 17:40www.robotxin.com工业机器人教育

这就是人工智能所面临的挑战。重新创造智能,并在工具中调用情感,尽管令人印象深刻,但在实践中仍然存在距离。尤其是在处理性别识别的问题时,人工智能的复杂性和局限性开始凸显。

最近,谷歌宣布了其“谷歌云服务”的重大更新。过去,该服务通过AI工具将人的图像标记为“男性”或“女性”,以识别个人性别。现在,谷歌决定改变策略,避免使用这种分类方式以避免潜在的性别偏见。

在发送给公司开发人员的电子邮件中,谷歌明确表示将更新其Cloud Vision API工具。这个工具利用AI进行图像扫描,分析和识别人脸、地标以及其他可识别物体。对于人类性别的识别,该工具将不再进行性别标识,而是将图像标记为“人”,以消除可能出现的错误和偏见。

人工智能工具在面部识别技术方面经常受到批评。因为它们往往无法准确识别变性者或不符合传统性别规范的人。一些工具甚至对有色人种的识别也存在困难。在过去的实践中,人工智能工具曾多次错误地识别人们的性别,这种偏差一旦产生,后果可能非常严重。

以谷歌相册为例,该工具曾错误地将某些人的黑人朋友识别为“大猩猩”,引发了广泛的争议和批评。为了应对这种局面,谷歌采取措施阻止AI工具再犯类似错误,但这也凸显了人工智能在处理复杂问题时的局限性。尽管如此,谷歌在人工智能方面取得了显著进步。在2018年发布的AI原则中,消除偏见、加强监督以及解决AI可能引发的其他道德问题成为重中之重。谷歌正在积极应对挑战,力图使人工智能工具更加公正、准确和包容。

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by