首页 智能硬件 AI人工智能

研究指出:谷歌AI视频分类器极易被对抗图像欺骗

据外媒报道,近段时间,作为全球最强大的科技公司之一,谷歌的日子并不好过,包括《卫报》在内的250个公司及机构宣布停止在谷歌平台投放广告,原因是它们的广告中出现了极端组织、种族歧视、反犹太主义等画面。

对此,谷歌开始在视频内容认证工作中投放越来越多的AI资源,但现在的问题的是,这家巨头公司现用的算法很有可能还无法胜任这项任务。

华盛顿大学最近发表的一份研究调查就明确地指出了这一问题。研究团队对谷歌面向客户推出的视频内容自动分类Cloud Video Intelligence API进行了测试。这套API由深度神经网络驱动的系统虽然在应对常规视频上表现非常好,但它却非常容易被对抗图像(adversarial images)糊弄过去。

Screen_Shot_2017_04_04_at_4.11.48_PM.png.jpg

华盛顿大学研究人员指出,这家公司的API可以给测试视频的对象标示出诸如“动物”、“野生动物”、“公园”、“大自然”、“游客”等标签,但当他们向视频中插入一张汽车的图片之后,API此时给出的标签则就可能变成“奥迪”。据悉,出现这种情况的几率高达98%。

研究人员表示,这意味着人们可以通过向某段非法视频插入良性图片来达到绕过视频过滤系统的目的。

现在,像谷歌、Facebook、Twitter等科技感公司都在开始利用AI过滤系统来帮助他们审核上传至其平台的内容。然而,AI不可能完美,它们也会经常犯错、被骗。所以这些公司还需要作出更大的努力才能避免像现在这种情况的发生。

官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

↑扫描二维码

想在手机上看科技资讯和科技八卦吗?

想第一时间看独家爆料和深度报道吗?

请关注TechWeb官方微信公众帐号:

1.用手机扫左侧二维码;

2.在添加朋友里,搜索关注TechWeb。

手机游戏更多