OpenAI 我们正努力减少ChatGPT偏见和不良行为 并将允许用户自定义

热门聊天机器人ChatGPT背后的AI研究公司OpenAI近日表示正在致力于减少系统存在的偏见和不良行为，同时计划让用户能够自定义聊天机器人的部分行为。此前，ChatGPT因与用户互动不当和结果错误频频引发公众关注。

OpenAI在其公司网站上发布了一篇博客文章，坦诚地承认：“自ChatGPT推出以来，用户向我们反馈了许多他们认为存在偏见、冒犯性或其他令人反感的输出。我们深知这些担忧反映了我们系统的真实局限性，因此我们正致力于解决这些问题。”

该公司进一步指出，正在投入更多的研究和工程资源来减少ChatGPT在回应不同输入时存在的明显和微妙的偏见。有时候，ChatGPT会接受一些它不应该接受的输出，而在另一些情况下，它则应在拒绝的时候却没有拒绝。显然，OpenAI正在努力回应有关ChatGPT自身存在偏见、结果不准确和不当行为的报道，以及微软和谷歌对正在测试的新AI搜索产品的广泛批评。

在博客文章中，微软详细阐述了其基于OpenAI技术的新必应聊天工具的局限性。与此谷歌也要求员工投入更多时间来手动改进其Bard系统的答案。面对这些挑战，OpenAI显然没有选择逃避，而是选择积极应对。

OpenAI还透露，他们正在加大对ChatGPT的开发力度，计划允许每个用户进行有限的定制，以适应他们的品味、风格和观点。在博文中，OpenAI表示：“我们相信AI应该是对每个人都有用的工具，因此每个人都应该可以在社会规定的限度内进行定制。平衡系统行为的定制性和限制性是巨大的挑战，因为过度的定制可能导致恶意使用我们的技术，或者创造出盲目放大人们现有信念的‘马屁精式AI’。”这一举措无疑将为用户带来更加个性化和贴心的体验，同时也需要OpenAI在平衡系统行为上做出更多的努力。