AI 眼中的人类世界：带着“偏见”，而且审美有些“黑暗”

Trevor Paglen，这位刚刚荣获麦克阿瑟“天才奖”的艺术家，以50万美元的奖金投入到他的展览项目——“看不见的图像的研究”（A Study of Invisible Images）中。这个项目反向探索了AI如何理解世界，并在此过程中训练了AI算法。他的观察深入到了数据层面，揭示了AI研究、应用和整个社会中所存在的不显眼但深刻的问题。

在Paglen的展览中，一系列引人入胜的图像展示了计算机在摄入西方文学、哲学和历史作品中的图像和符号后的“视觉”体验。这些图像仿佛引领观众进入了一个充满卡拉瓦乔、维米尔、弗朗西斯·培根、达利等大师作品的世界，甚至还能窥见爱德华·霍普的影子。这些奇妙的场景并非出自人类之手，而是人工智能算法的杰作。

Paglen指出，计算机视觉中存在一些令人惊讶的问题。例如，在业界标准的ImageNet数据集中，图像标签常常带有奇怪的标签。更令人关注的是，计算机视觉中最知名的女性形象“Lenna”，原本是一张《花花公子》杂志的插图，如今却成为了计算机视觉研究中使用最广泛的女性图像之一。这种情况引发了Paglen的深深忧虑，他称之为“研究者选择偏见”。

这位43岁的艺术家认为，他的使命是聚焦周围的数据交换、监控和自动化数据结构。他的新展览，位于纽约市Metro Pictures画廊，揭示了AI系统“眼中所见的事物”，以及这些系统如何处理风景、脸部或手势，甚至生成巴洛克风格的艺术。

Paglen深入探讨了“彗星”这一由AI创作、被训练来识别与历史上的预示、征兆有关的事物的主题。他的展览项目不仅展示了研究人员用来训练算法的图像，还揭示了AI如何识别和处理这些图像的方式。

Paglen还提到了美军上世纪90年代开始的面部识别技术（FERET）计划，这一计划收集的肖像图像成为了计算机视觉研发的基础。这些图像标签可能带有偏见，源于无意识的少数研究人员、外包人员以及实习生的偏见。

在去年的New Inquiry上的一篇文章中，Paglen描述了一个令人惊奇的识别误差：将印象派与写实派大师马奈的作品“Olympia”喂给在ImageNet训练的CNN，这幅画却被分类为“卷饼”（burrito）。这正是Paglen希望通过他的展览和项目提醒公众注意的问题——数据集的来源和标签可能存在偏见，影响AI系统的准确性和公正性。

Trevor Paglen的训练AI算法和展览项目为我们揭示了一个充满惊奇和偏见的计算机视觉世界。他的研究和艺术实践为我们提供了一个独特的视角，让我们更深入地理解和探讨AI如何认识世界，以及我们如何更好地选择和构建我们的数据世界。主编戴维·蒙森在1996年引领了莱娜图在科研领域的流行，他道出了两个主要原因。这幅图像包含了丰富的细节，如平坦区域、阴影和纹理等，为测试各种图像处理算法提供了极佳的素材。这幅图像吸引眼球，展现了一位魅力女性的照片，迎合了图像处理研究行业主要由男性组成，他们倾向于使用他们认为有吸引力的图片。

人脸检测是计算机视觉中令人深思的应用之一。如今，在广泛使用的图像处理数据库ImageNet中，一些个人照片被标注为带有偏见的标签，如“耶洗别”和“犯罪”，这些标签在无形中影响着分类和识别的结果。

针对这些问题，Trevor Paglen提出了深刻的见解。他的工作室使用定制的平台“Chair”，可以进行计算机视觉测试，训练AI并生成反映AI所学内容的图像。他们应用了多种机器视觉算法，包括Caffe、Tensor Flow等。在Paglen的一个示例中，他们对艺术家Hito Steyerl进行了面部分析，AI对她的年龄、性别和情绪状态做出了猜测，其中对她的性别判断存在不确定性。这引发了关于计算机是否应该尝试测量不可分割的人类特征的问题。

Paglen警告说，基于外表的分类是一种危险的行为，并坚持认为种族主义是机器学习的一个特征。即使可以消除机器视觉在训练过程中的偏见，人们仍然担心计算机视觉在影响现实世界的过程中的不透明性。大量的训练数据和图像库为基础做出的决策对于不了解机器视觉研究的人来说是不可见的，这可能会使传统的问责制度变得复杂。

在Paglen的展览中，AI生成的艺术部分展现了AI对人类概念的绘制。为了创建这些作品，艺术家的团队训练AI识别数据库中的图像，这些图像涵盖了哲学、当代文化、文学和精神分析等主题的视觉隐喻或符号。然后，AI被要求生成对这些概念进行描绘的草稿。Paglen表示，他们可以生成数以万计的图片并从中挑选出能引起共鸣的照片。这一过程展现了AI如何将人类概念转化为图像，呈现出超现实主义的审美，揭示出你或许未曾留意的本质。在梦幻般的最终选择中，总有些许融化之物与朦胧之景交织。美学，据Paglen所言，并非偶然诞生。它蕴含了一种哥特式乃至超现实主义的审美观念，如同艺术家们渴望捕捉当下时刻与政治的影子。

在AI的巧妙创作下，“死亡之路”诞生于海湾战争后的照片训练，而“一个男人”则通过AI识别人类和姿势而塑造。

令人着迷的是，一个人工智能绘制的章鱼，在黑暗的水域中漂浮，其形象宛如石笋与失控鳗鱼的结合。另一幅关于“男人”的照片，虽未露脸，却令人感到熟悉，仿佛便是弗朗西斯·培根的肖像再现。名为“死亡高速公路”的灰色风景，堪称完美，而那些看似“”的照片，似乎捕捉到了人类形体的一些本质。

周围的游客开始将眼前所见与人类的名画相联系，低声议论着“卡拉瓦乔”、“维米尔”。Paglen鼓励他们如此联想，并指向一幅名为Venus Flytrap的发光静物，建议道：“这看起来颇有几分维米尔之风。”

Paglen选择将这些图像以绘画的形式呈现，深灰色的墙壁让人想起艺术博物馆的画廊。他沉思道：“我在思考图像、视觉和人类视觉历史的进程。”

“通过赋予其一点历史审美背景，我更能坚定地找到它。在将后台与图像组合方面，我清晰地看到了它应该是混乱的Tate Britain版本。”结果虽然混乱，但令人惊叹。最终，与其他任何优秀的艺术对观众的影响不同：你将以新的视角看待图像，并欣赏它们所带来的独特魅力。