人工智能系统存在种族歧视倾向

导读：据俄罗斯卫星新闻网报道，普林斯顿大学的研究人员发现人工智能系统可能存在种族歧视的迹象。这项研究揭示了一个令人震惊的现象：机器人对白人名字产生了“喜悦”的感觉，而对黑人名字却表现出了“不悦”。这一切都涉及到一个具备自学能力的关键人工智能系统——GloVe。该系统擅长识别和解析在线文本信息。

普林斯顿大学的研究团队报告称，他们测试了广泛使用的、纯粹基于数据的机器学习模型，并利用网络上的语料库对其进行训练。在特定的实验中，这个系统需要将诸如“花朵”和“昆虫”之类的词汇与科学家定义的“令人喜悦的”或“令人不悦的”词汇进行配对。

令人不安的是，当研究人员将一系列看似黑人的白人名字输入到GloVe系统中时，这个人工智能却表现出了明显的种族偏见。尽管这些名字在公众场合被广泛使用，但智能系统却将它们识别为具有不同情感色彩的词汇：白人名字被归为“令人喜悦”的范畴，而非洲裔美国人的名字却被归为“令人不悦”的范畴。

研究人员认为，这是隐藏在互联网数据中的偏见被机器人学习并反映出来的结果。他们指出：“我们的研究结果揭示了语言本身也包含了历史性歧视的精确印记。”这一发现不仅令人深感不安，也凸显了人工智能发展中亟待解决的重要问题。