深圳热线-世界的深圳,我们的热线.

人脸识别算法不可置疑?真相需要多重验证

随着大数据、人工智能的数据进步,AI算法技术帮助我们更好的娱乐、工作和生活,当它应用于人脸识别,所得出的数据和结果就一定准确吗?它一定不可置疑吗?

 

 

突然被逮捕?

威廉姆斯(Robert Julian-Borchak Williams),一位非裔美国人,工作时接到了底特律警察局的电话,并被要求投案自首。这到底是怎么回事呢?一小时后,两名警员仅出示了一张有他照片的并写有"盗窃罪"的"重罪逮捕令"将他带回警局。直到在审讯室,两名警探向他询问起Shinola商店被盗的事情,威廉姆斯才知道发生了什么。Shinola是当地的一家高档精品店,2018年10月,该店5只价值3800美元的手表被盗。威廉姆斯承认,他和妻子去过此地,但威廉姆斯知道自己没有盗窃。

 

 

如何被认定为盗窃犯?

原来,商店监控截图现实一名身材魁梧的男子站在一块手表前,身穿黑色衣服,头戴圣路易斯红雀队的红色帽子,可是这又是怎么被确认是威廉姆斯呢?

正是底特律警察局的人脸识别算法,将他与Shinola的盗窃案联系到了一起。公开报道显示不止底特律警察局,整个密歇根州警方都在使用人脸识别技术,由一家名为DataWorks Plus的公司提供。人脸识别算法是DataWorks Plus的扩展产品,由外部供应商所开发。DataWorks Plus会尝试通过识别系统已知的低质量人物图像来判断其有效性。然而,DataWorks Plus 并不会系统地衡量其中的准确性或偏差,更糟糕的是,这些供应商的人脸识别算法也并不稳定。

 

 

一切真相大白

警察局的数字图像检查员Jennifer Coulson将商店监控录像视频中截取的静止图像上传至DataWorks Plus人脸识别数据库,Coulson对图像进行搜索之后,系统给出了一组生成的图像和一组匹配度最高的图像以及匹配度得分。这些图像中就有威廉姆斯的驾照照片,她将其作为"调查线索报告"发送给了底特律警察,重点是,该文件顶部用明确写道:"该文件不是明确证据,仅是调查线索,不能因此逮捕人员。"

而警察在逮捕威廉姆斯之前,并未找到其他证明威廉姆斯是盗窃犯的证据。他们只是将威廉姆斯的照片和其他6张生成的照片交给店员指认,而店员指认了威廉姆斯从而将他定为盗窃犯。

当警员在审讯室把监控录像拿稳放在脸旁后,才意识到是机器搞错了。最终,威廉姆斯被证明清白,因为底特律警方核实了他的不在场证明,威廉姆斯成了糟糕的人脸识别技术的受害者。

 

 

AI人脸识别出错,且算法文件明确指出不是明确证据,仅是调查线索,不能因此逮捕人员,警方却仍然只相信电脑,丝毫不怀疑真相。高科技是值得敬畏的,但在真相面前,还是要保持学习和警惕,避免发生本质上的错误。