研究指出:谷歌AI视频分类器极易被对抗图像欺骗
据外媒报道,近段时间,作为全球最强大的科技公司之一,谷歌的日子并不好过,包括《卫报》在内的250个公司及机构宣布停止在谷歌平台投放广告,原因是它们的广告中出现了极端组织、种族歧视、反犹太主义等画面。
对此,谷歌开始在视频内容认证工作中投放越来越多的AI资源,但现在的问题的是,这家巨头公司现用的算法很有可能还无法胜任这项任务。
华盛顿大学最近发表的一份研究调查就明确地指出了这一问题。研究团队对谷歌面向客户推出的视频内容自动分类Cloud Video Intelligence API进行了测试。这套API由深度神经网络驱动的系统虽然在应对常规视频上表现非常好,但它却非常容易被对抗图像(adversarial images)糊弄过去。
华盛顿大学研究人员指出,这家公司的API可以给测试视频的对象标示出诸如“动物”、“野生动物”、“公园”、“大自然”、“游客”等标签,但当他们向视频中插入一张汽车的图片之后,API此时给出的标签则就可能变成“奥迪”。据悉,出现这种情况的几率高达98%。
研究人员表示,这意味着人们可以通过向某段非法视频插入良性图片来达到绕过视频过滤系统的目的。
现在,像谷歌、Facebook、Twitter等科技感公司都在开始利用AI过滤系统来帮助他们审核上传至其平台的内容。然而,AI不可能完美,它们也会经常犯错、被骗。所以这些公司还需要作出更大的努力才能避免像现在这种情况的发生。
官方微博/微信
每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。
想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
雷军:小米SU7定价时最纠结的是盈亏点
最终悬念,小米SU7卖多少钱合适?
恒大汽车 2023 年净亏损 119.95 亿元,努力改善经营状况
日赚0.82亿 比亚迪2023年净利润300.41亿元,同比大涨80.72%
苹果WWDC 2024将于6月10日举行,或将推出生成式AI技术
苹果A18 Pro芯片细节曝光:采用更大尺寸 以提升AI性能
阿里撤回菜鸟上市申请 拟37.5亿美元收购菜鸟少数股东股权
AI造富能力一流
飞书开启裁员 全员信称会提供补偿方案或转岗机会
更多
- 投行分析师预计特斯拉Q1交付42.5万辆到47.5万辆电动汽车
- 消息称苹果可折叠屏iPhone遇到技术挑战 将推迟到2027年一季度发布
- 苹果新一代iPad Pro和iPad Air下月或无望 消息称要到5月初
- 全球生成式人工智能领域去年或有近700笔投资交易 总额291亿美元
- 华尔街预计特斯拉Q1交付47.1万辆电动汽车 但也有分析师预计低于43万辆
- 苹果WWDC24还有望推出Mac Studio 但Mac Pro可能要下半年
- 亚马逊再向AI初创公司Anthropic投资27.5亿美元 兑现40亿美元投资承诺
- 消息称苹果在测试一款新Apple Pencil 有望用于Vision Pro
- 现代汽车计划到2030年将电动汽车增至31款 韩国年产能增至151万辆
- 消息称苹果没有在iOS 18等新一代系统中引入自研AI聊天机器人计划