本港台现场报码直播j2 · 
看!AI 自拍标识也有不靠谱的一面
发布时间: 2019-10-09

  尽管现代人工智能常常因其日益成熟的表现而受到称赞,但它与“世界末日”等的字眼扯上关系的时候更多,即人工智能革命将使数以百万计的工作实现自动化,消除现实与技巧之间的障碍,并最终迫使人类走向灭绝的边缘。

  不过,就目前而言,大多数人工智能的能力有限,只能在经过专门培训的特定领域有用,比如下棋,或是翻译。用一个机器人去完成其能力之外的任务,往往会得到滑稽可笑的结果——这恰恰是使用 ImageNet Roulette(基于 ImageNet 的人物类别训练 AI 工具)的乐趣所在。

  艺术家兼研究人员 Trevor Paglen 与人工智能研究人员 Kate Crawford 共同打造了“Training Human 图像识别系统史展览”, ImageNet Roulette 也在展览中扮演着重要角色。针对该展览举办的目的,Trevor Paglen 解释说,该展览旨在研究人工智能当前的形式,以及它复杂的学术和商业历史,而不是对其进行评判。

  两年前,我们开始构思这个展览的时候就想要通过计算机视觉和 AI 系统对人像的识别来展示图像识别史。我们对人工智能的炒作营销,以及未来反乌托邦机器人的故事都不感兴趣,只想切实地了解 AI。为了达到目的,我们就必须弄明白图像识别系统的运作方式,并且认真严谨地对待用于训练的图片——这是机器视觉发展的重要因素。

  从某种程度上来说,这个项目意义重大,即便 ImageNet Roulette 的表现展示了 AI 滑稽的一面。例如下图:

  实际上,ImageNet Roulette 的诞生就是为了让公众更加清楚地了解关于机器学习系统;它的背后,也集成了来自各方的“力量”。

  雷锋网获悉,ImageNet Roulette 使用了开源的 Caffe 深度学习框架(由加州大学伯克利分校研发),该框架针对“人员”类别中的图像和标签进行培训。当用户上传照片时,应用程序首先运行人脸检测器来定位人脸;锁定之后,就会将人脸信息发送到 Caffe 模型进行分类;然后在原图边界框显示检测到的人脸和分类器分配给图像的标签。

  该项目的启动也有一部分原因是为了突出 ImageNet 将人标记为“problematic”(有问题的)和 “offensive”(冒犯的)等缺陷。Twitter上就有过这样的例子,一些上传照片的男性被随机标记为“强奸嫌疑人”。Trevor Paglen 表示,这对于该项目所强调的主题之一至关重要,即人工智能系统的不可靠性。

  ImageNet 数据集中包含了许多诸如“有问题的”、“攻击性的”和“怪异的”,甚至是“厌女症”、“种族歧视”等类别,而这些说法都来自 WordNet。由于 ImageNet Roulette 的结果基于 ImageNet,这些类别也将在 ImageNet Roulette 的结果中出现。

  不过,从另一方面来说,这未尝不是件好事——这能够说明,基于有问题的数据而进行训练,得到的结果极有可能也是有问题的。ImageNet Roulette 让人们直观地看到机器“犯错”,小说终极教师主角最终会和谁在一。这种情况很少见,要知道,人工智能对人类对象的分类结果几乎不会对被分类的对象公开。

  尽管在有些时候,ImageNet Roulette 的“犯错”看起来是一种有趣的消遣,但它传递出来的信息却让人感到些许失望。值得高兴的是,这个项目至少探索了两个至关重要的问题,即人类如何通过训练集来解释和展示信息,以及技术系统如何接收和使用信息。