AI将非洲人标为大猩猩 创建无偏见机器人有多难

随着人工智能（AI）与机器学习技术的成熟，它们解决复杂问题的能力逐渐显现，让人不禁期待它们在人类挫败的领域取得突破，特别是在决策时消除个人偏见。近年来机器学习在实际应用中所暴露出的挑战与问题，引起了对未来的反思和警觉。未来，机器和AI将承担更大的责任，对于它们做出的错误决定，也必须有所担当。

机器学习是核心领域的一种技术，它利用算法分析数据、提取模式并进行学习和预测。在我们的日常生活中，机器学习已经成为许多技术的基石，如搜索引擎、面部识别以及数字助理等。随着收集的数据越来越多，机器学习算法也会变得越来越聪明。这也解释了科技公司热衷于收集用户和消费者的数据的原因。机器学习算法的聪明程度仅限于其获得的数据。这就引发了一个问题：如果用于训练机器学习算法的数据存在偏见或邪恶，那么算法也将如此。

今年，世界上首场AI驱动的选美大赛引发争议。这次比赛旨在通过机器学习评估人们的魅力，减少人类裁判的社会偏见。比赛结果令人失望，获胜者中绝大多数是白人，只有少数亚洲人和一名深色皮肤的人。研究人员的解释是，用于训练算法的照片样本在种族方面存在不平衡性。这只是众多机器学习算法存在偏见问题的一个例子。类似的问题在其他领域也频频出现，比如广告投放引擎更少向女性展示高薪职位，新闻算法推广假新闻和粗俗故事等。

与传统软件相比，机器学习软件的最大挑战之一是难以确定责任。由于机器学习并不完全透明，因此很难判断某个失误是用户错误还是设计缺陷。开发机器学习软件与传统编码完全不同。训练算法与编写代码同样重要，有时候开发者也无法精确预测机器将会做出何种决定。当涉及政治偏见、无人驾驶汽车等敏感问题时，责任归属变得更加复杂。

为了解决这些问题，创建公正的机器学些算法是关键。根除数据库中的偏见是开发公正机器学习算法的核心任务之一。开发平衡数据库是非常复杂的任务。目前尚无规则或标准可用于评估用于训练机器学习算法的数据。研究人员有时会利用和分享现成的框架和数据库，尽管其中可能存在各种偏见。一种可能的解决方案是创建可共享的、受到监管的数据库，该数据库不归任何单一实体所有，可以预防任何人单方面操作数据。这就是AI合作组织成立的初衷，包括Facebook、亚马逊、谷歌、IBM、微软等巨头试图解决AI和机器学习增长带来的问题，并确保AI在公开应用前接受多元化审视。

即使有了这些努力，我们仍然有很长的路要走。将来有一天，机器人可能会变得足够聪明，可以解释自己的行为并纠正错误。但在此之前，人类的责任是预防训练AI时的负面倾向被无限扩大。这是一个需要我们所有人共同努力的任务，以确保AI的发展对人类社会产生积极影响。