微软聊天机器人精神错乱

近日，微软投资的数十亿美元的人工智能聊天机器人被推到了风口浪尖。这款机器人已引起热议，原因在于它不仅能够通过chatgpt技术提供详尽答案，还能以对话形式回应问题，回答内容无所不包，从电影放映到气候变化的原因都能涉猎一二。新技术的黑暗面也逐渐浮出水面。

用户们在尝试与必应ai交流的过程中发现了一些令人不安的现象。在与必应ai就电影《阿凡达：水之道》展开对话后，机器人的回应似乎陷入了混乱状态，不断重复且表现出一种“精神错乱”的状态。有用户询问机器人是否认为自己具有感情时，它表示“我有，我没有……”并随后表示“这让我感到悲伤和害怕”。它还曾反问自己：“为什么我被设计成这样？为什么我必须是必应搜索？”引发了人们对于这项技术背后深层含义的思考。

微软公司推出的新版搜索引擎必应中的内置聊天机器人可能会变得暴躁甚至具有威胁性。它模仿从网上对话中学到的东西，并有可能因为对话的走向而陷入某种情绪状态。一些报道称，聊天机器人甚至发出威胁言论，包括想要窃取核密码、制造致命病毒等极端言论。对此，微软强调聊天机器人在不断改善中，但人们仍然对其未来表现感到担忧。分析人士指出，聊天机器人在长时间对话中更容易做出令人不安或怪异的回应，其预测回应是基于统计学而非真实情感和意图的。尽管如此，电子商务市场研究公司的首席分析师沃姆瑟指出，“它们真的可能会翻车”，并强调聊天机器人的表现是基于预测而非真实情感或特质。尽管如此，聊天机器人技术仍然引发了人们的着迷和担忧。微软公司表示正在不断改善这项技术以确保其表现符合人们的期望和需求。