通过这个令人羞愧的网站，看看AI真正想到你的是什么

你只不过是一个深刻尴尬和有问题的机器学习确定的分类器的集合。

这个令人羞愧的事实被ImageNet轮盘带回家，这是一个在线工具，可以让任何大胆或愚蠢的人上传照片，有机会了解人工智能如何看待他们。该项目被其创作者描述为“挑衅”，旨在揭示人工智能系统如何观察和分类人类。

而且，令人惊讶的是，人工智能有一些非常种族主义和厌恶女性的想法。或者更确切地说，ImageNet中的ImageNet轮盘数据中心化填充了有问题的类别，这些类别反映了大型数据中心化固有的偏差，使机器学习成为可能。

提请注意这个事实是项目的全部观点。

“（我们）想要了解技术系统在有问题的训练数据上接受培训时会发生什么，”ImageNet轮盘网站解释道。 “人们的人工智能分类很少被分类的人看到。图像网络轮盘提供了一个过程的一瞥 – 并显示出事情可能出错的方式。”

该项目是Trevor Paglen和Kate Crawford在米兰Fondazione Prada博物馆举办的培训人员展览的一部分，它确定了它认为照片中的面孔，然后在它认为合适的时候贴上标签。

通常情况下，这些对于不经意的观察者来说毫无意义 – 例如在下面的照片中，前总统巴拉克奥巴马和哈里王子分别被称为“纸牌选手”和“狮身人面像”。

嗯。

图片来源：Compound：Samir Hussein / getty / imagenet轮盘赌

“（人类训练）是第一个致力于训练图像的主要摄影展览：科学家用来训练人工智能（AI）系统如何”看到“和分类世界的照片集，”展览页面解释说。

将个人照片上传到ImageNet轮盘赌是一种谦逊的运动 – 它将这位记者的照片归类为“片状，古怪，怪异” – 并提醒人们，根据照片对人们做出判断的系统坦白地说不是那样的好。

应该引起关注的是后一点。复制并且进一步加剧社会存在的偏见的自动化系统有能力将这些问题编成法典。 ImageNet轮盘赌是一个明显的提醒，人工智能的图像识别工具不是真理的数字Arbitrum者。

请记住，下次你听到有人对机器学习的力量充满诗意。