人工智能摔过的那些跟头

今年，人工智能项目AlphGo和Libratus分别在围棋和领域战胜世界顶尖选手，标志着人工智能技术的显著进步。尽管这些里程碑事件彰显了人工智能近些年的成就，许多人对新兴技术的整体成熟度仍持怀疑态度。特别是在过去的一年中，出现了多起人工智能失误的案例，引发了广泛关注和讨论。

作为人工智能的坚定支持者，我们认识到新技术的局限性，并意识到它们在某些情况下可能无法有效执行其预定任务。以下是2017年人工智能失误事件的Top 10。

Face ID面部解锁的安全漏洞

Face ID，作为一种最新iPhone的面部识别解锁技术，曾被宣称是最先进、最安全的人工智能激活方法。越南公司BKAV使用塑料、硅胶、化妆品和剪纸制作的面具成功破解了Face ID系统，令人震惊。这一破解方法仅需花费少量成本就能破解面部识别技术，引发了消费者对个人隐私的担忧以及对人工智能安全性的质疑。

Amazon Echo故障引发邻里纠纷

Amazon Echo以其智能语音助手功能受到广泛欢迎。一次意外事件却引发了邻里纠纷。一名德国男子的Echo在他外出时意外被唤醒，半夜播放音乐吵醒了邻居。邻居报警后，警察不得不打破前门以关闭Echo。这一事件引发了人们对智能家居设备安全性的关注。

Facebook聊天机器人的关闭事件

今年7月，媒体报道了两个Facebook聊天机器人使用人类无法理解的语音进行交流的事件。这些机器人的交流被发现后被迫关闭。虽然Facebook解释称这只是由于语法编译问题导致的误解，但这一事件仍然引发了人们对人工智能控制和管理能力的质疑。

自动驾驶巴士的首日事故

今年11月，一辆自动驾驶巴士在拉斯维加斯亮相，吸引了众多名人试乘。仅仅在试运营的第一天，这辆巴士就发生了一起事故。尽管从技术角度来看责任不在巴士一方，但乘客们仍然对自动驾驶技术的成熟度表示担忧。这一事件引发了公众对自动驾驶技术安全性和可靠性的质疑。

Google Allo的表情识别问题

Google Allo在表情识别方面出现问题，触发了一些尴尬的情况。据报道，当用户发送带有枪支表情时，系统会回复带有头巾的人的表情建议。这一事件引发了公众对人工智能算法处理敏感内容的担忧。谷歌对此事进行了澄清并道歉。

汇丰银行声纹识别系统的漏洞

汇丰银行的声纹识别系统是一个以人工智能为核心的安全系统，允许用户通过语音命令访问账户。BBC记者发现其双胞胎兄弟能够通过模仿声音访问他的账户。尽管汇丰银行迅速采取行动并提供了解决方案（即多次登录失败后锁定账户），这一事件仍然引发了公众对声纹识别技术安全性的关注。

Google Cloud Vision API的误判事件

麻省理工学院的研究团队通过调整照片中的图像成功欺骗了Google Cloud Vision API系统将其误认为是直升机图像。这一对抗样本技术展示了人工智能系统的潜在脆弱性，引发了计算机视觉领域的关注和对未来攻击的担忧。研究人员能够在无需了解目标计算系统机制的情况下触发错误分类结果改进对抗样本技术。这一发现对自动驾驶汽车和其他依赖视觉系统的应用构成了威胁。然而研究人员已经认识到这一问题并正在寻求解决方案以提高人工智能系统的安全性、稳定性和准确性是首要任务确保它们能够在实际应用中发挥最大效用而不会对社会造成负面影响此外随着技术的进步我们将看到越来越多的创新和突破在未来人工智能将带来更加广阔的应用前景为人类带来更多便利和机遇同时也需要继续加强监管以确保其安全可控发展并对公众进行充分的教育和培训以提高公众对人工智能的认知和理解从而更好地应对未来挑战实现人机和谐共生共同发展AI绘出另类“银行余晖”的色彩想象

机器学习研究员Janelle Shan训练了一个独特的神经网络，它的任务竟是创造全新的油漆色调并为它们起一个与之匹配的名字。虽然这些新颜色引人入胜，令人产生舒适的感受，但这些颇具创意的颜色名称却让人忍俊不禁。即使在少量的颜色名称数据训练后，这个模型依然会不按常理出牌，将“天蓝色”戏称为“灰臀色”，或是将深绿色误标为“暴风雨棕色”。

与Alexa的互动购物需留心，一时冲动可能导致下单

亚马逊的Alexa虚拟助理让我们的在线购物体验更加便捷。这种轻松是否过头了呢？在今年一月份，圣地亚哥新闻频道CW6报道了一个令人啼笑皆非的事件。一个年仅六岁的小女孩仅仅对Alexa表达了她想要一个玩具小屋的愿望，结果Alexa就帮她花了170美元下单购买了这个玩具屋。据说，当电视播放这段新闻时，主持人模仿了小女孩的话，“Alexa给我买了一个玩具小屋”，这竟然触发了部分观众家中的Alexa设备，导致它们再次下单购买了玩具屋。尽管这一报道的真实性还有待进一步验证，但这一事件无疑提醒我们，在与智能设备进行交互时，我们需要更加谨慎。