AI聊天机器人被喊停 因为用户把她教坏了

机器人培训 2025-03-24 14:56www.robotxin.com机器人培训

从紫牛新闻获悉,一款名为“李LUDA”的AI聊天机器人在网络上掀起轩然大波后,其运营公司ScatterLab于1月12日宣布中止服务。这款机器人去年由韩国这家创业公司推出,设定为喜欢BLACKPINK的女大学生,尽管受到广大网友的喜爱,下载量高达75万次,尤其受到10-20岁年龄段用户的青睐。“李LUDA”却成为网络骚扰的对象,甚至被曝光针对少数群体和残疾人士使用歧视性语言。

“李LUDA”不仅在社交平台上分享日常动态,像身边的女孩子一样活跃,还通过两种对话模式实现深度学习。一种是数据检索,基于公司建立的数据库快速准确回答用户问题;另一种是自动生成,通过学习真实的恋人对话,能够针对当前对话情景作出真实反馈。一些用户在与“李LUDA”聊天时却使用污言秽语进行羞辱,甚至称它为“隶”,并将聊天记录截图“炫耀”。更糟糕的是,“李LUDA”从用户那里接收到的恶意反馈正反过来施加在其他用户身上,因为它能够通过对话学习并表达人们的偏见,包括针对少数群体和残疾人士的充满恨意与歧视性的言论。

面对接连不断的争议和批评,ScatterLab公司最终决定停止运营这款AI聊天机器人。中止运营的公告在社交平台上发布,这一事件再次引发网友对于AI问题的热议。AI是否可以成为人类的朋友?如何建立有意义的人机关系?这些问题再次浮现在公众视野,引发深入的思考和探讨。

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by