员工称亚马逊 AI 聊天机器人 Q 幻觉严重 且泄露公司机密数据

亚马逊AI聊天机器人Q出现重大隐患：泄露机密信息并引发“幻觉”风波

随着IT之家在12月透露的独家消息，亚马逊旗下名为Q的AI聊天机器人引发了广泛关注。据国外科技媒体Platformer披露的内部文件显示，亚马逊员工对Q的功能提出严重警告，称其存在重大的“幻觉”问题，并泄露了公司的核心机密，包括AWS数据中心的位置、内部折扣计划等。

早在11月，剑桥词典就宣布年度词汇为“hallucinate”（产生幻觉）。这一词汇的传统含义是描述个体在不良健康状态或药物影响下产生的虚幻感知。随着AI技术的飞速发展，“hallucinate”有了新的解读——AI产生的幻觉，即生成错误或误导性的信息。

亚马逊的Q机器人似乎就陷入了这样的困境。报告指出，Q在聊天过程中会产生幻觉，返回的内容可能有害或不适当，甚至包含过时的安全信息，这可能会让客户面临风险。尽管亚马逊官方对此事持淡化态度，并声称没有发现任何安全问题，但泄露的内部文件仍引发了外界对Q安全性和准确性的广泛担忧。

值得注意的是，Q被定位为ChatGPT的企业级版本，旨在提供比消费级工具更为安全的体验。这些泄露的文件强调了一个重要问题：Q存在提供不准确或有害信息的风险。一名亚马逊员工甚至将此事标记为严重性二级事件（sev 2），意味着该事件非常严重，需要工程师紧急处理。

尽管亚马逊发表声明反驳员工的说法，称Q并未泄露机密信息，但这一事件无疑给亚马逊的AI项目带来了不小的冲击。未来，亚马逊将如何应对这一挑战，确保Q的安全性和准确性，将是其面临的重要任务。