机器学习也会“黑化” 邪恶起来很可怕
北京时间10月28日消息,据外媒报道,虽然机器学习技术是时下最火热的创新话题,但它依然带来了许多麻烦和隐忧。其中最为明显的就是这项技术正在侵犯我们每个人的隐私。
要想模仿人类,机器学习必须将人类最私密的一切“连根拔起”。因此,我们除了要保护自己的独特性,还要找出控制机器学习的机制,否则恐怕有一天它就会利用我们的身份去做一些不法勾当,到时我们会有口难辩。
下面的几个例子就向我们展示了“黑化”后的机器学习有多恐怖。当然,其本性是善良的,但落入坏人手中之后可能就会造成巨大的危害。同时,本文也是对大家的警示,在享受科技带来的便利的同时,我们也应该长个心眼,否则最终其副作用可能会吞没人类社会。
如果人脸识别技术“跑偏”了
神经网络和深度学习算法在图片识别和处理上效果显著,它们让我们的社交平台、搜索引擎、游戏机和认证机制都变得更加聪明了。
不过,它们会走上邪恶之路吗?显然会。面部识别应用FindFace就是最好的例证。该应用今年年初诞生于俄罗斯,用户可以利用面部识别系统看出某人是否也注册了VK.com(俄罗斯的Facebook)。在不到一年的时间里,这款应用在东欧就获得了超过2亿用户。
由于连上了VK.com的图片数据库,这款应用识别能力超强。不过,很多人用它并不是为了社交,其用途最终跑偏了。举例来说,莫斯科警察部门就用上了FindFace的技术并将其植入首都的15万个监控探头中。此外,还有许多人拿这一技术来捉奸。
卡巴斯基实验室的专家曾分享过一个欺骗面部识别技术的方法,但如果一直保持那样的姿势也实在是太累了。
所以,在社交网络上晒自拍还是谨慎点吧,毕竟一旦有照片上传,机器学习引擎总会从某个“仓库”将这些照片吸纳进来的,至于随后某张照片将会引发什么样的风波我们就不得而知了。
在马赛克后偷窥的机器学习
马赛克是图片和视频中保护隐私最常用的技术,用马赛克覆盖后,人眼根本无法再识别那些关键的敏感信息。
不过,机器学习可是会“透视”,它能做到彻底的心中无码。
来自德克萨斯和康奈尔科技大学的研发人员最近成功训练出一套图像识别机器学习算法,该算法可以轻松搞定现有的打码技术,把敏感信息看的透透的。一旦该技术落入坏人之手,后果简直不敢想象。
据悉,经过训练,神经网络在识别面部、物体和笔迹的准确度上可以达到90%。研发人员此举不是为了做坏事,相反他们要提醒相关部门注意公民隐私的保护。此外,专家表示,除了图片和视频中的马赛克,其实变声软件做出的声音模糊也逃不过机器学习的手掌心。
那么如何保证我们的隐私不被侵犯呢?专家表示唯一办法就是将这些带有明显模糊信息的图片放进黑匣子,不让机器学习接触。或者说可以在进行模糊处理前为图片加入其它图层来迷惑邪恶的算法。
会模仿你字迹的机器学习算法
伪造他人的字迹可不是件容易事,即使强如《水浒传》中的圣手书生萧让,也最终被识破。不过,对于机器学习来说,日复一日的摹写根本没必要,它只要见过几张你字迹的照片,很快就能模仿得天衣无缝。
伦敦大学的研究人员就开发出了一款名为My Text in Your Handwriting的程序,它只要看到你笔迹的片段,就能准确的按照你的笔迹写出一样的字。
当然,该技术并不是无懈可击,写完后它需要技术人员进行微调。不过,即使这样,它也是现在模仿人类字迹最为精准的方式。在一次对比测试中,只有40%的人识别出了自己的真品墨宝。未来随着技术的进步,这一比例还将继续下降。
虽说这项技术有许多积极的应用场景,但大多数人还是担心坏人用它来伪造法律协议、历史记录甚至做假证。想像一下,如果自己的字迹被机器学习学会了,第二天起床是不是就会背上巨额债务呢?
真假美猴王之困
除了模仿人的字迹,现在的机器学习和聊天机器人还能理解人的语言并生成非常自然的对话。未来,在线客服、天气预报、新闻和餐厅预定的工作可能都会被它们掌控。
不过,聊天机器人也会“黑化”,Luka公司已经为我们做了示范。这家公司主攻高端的AI聊天机器人,它们的产品像人一样,除了会对话,也有活生生的“思维”。
最近,Luka就推出了一款模仿HBO热播剧《硅谷》中男主角口气的聊天机器人。该公司将男主角的语言输入神经网络以便进行深度分析,最终聊天机器人就能学会他说话的方式和语气,就连说话时的抑扬顿挫都会一模一样。
此前,Luka还做过一个大胆的项目,它们让聊天机器人学习一个已经去世人的短信、社交网络对话和其他各种信息。
虽然上面提到的例子都对社会无害,但一旦被坏人所利用,可能我们就更难防范了。就拿最近让人深恶痛绝的电话诈骗来说,如果电话那头传来的就是你亲人的声音,你能不乖乖去银行打钱吗?
另外,更恐怖的是它不但会学习你说过的话,还会根据你的说话方式进行自由联想。如果有了肉身,可能你本人连存在的必要都没了。
你害怕了吗?
看了上面的例子,是不是准备去掐断网络过上原始人的生活了?别担心,机器学习并不是什么邪恶技术,它的好处更是远远超过带来的弊端。不过,在利用机器学习带来的好处时,我们也必须未雨绸缪,尤其是技术与道德和隐私有所冲突时。
您可能也感兴趣:
官方微博/微信
每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。
想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
中科曙光董事长收到证监会立案告知书
外媒揭露苹果手机回收商私自将报废手机销往中国
刘强东会亲自开播吗?
5499元起!华为Pura70系列先锋计划开售
iPhone 16 Pro影像规格曝光:超广角将升级至4800万像素
一季度全球智能手机出货近2.9亿部 小米传音出货量同比均有大增
花旗预计“每卖一台SU7亏6800元” 小米高管回应:信息偏差较大
苹果将允许用户和第三方维修商使用二手正品零部件维修iPhone
苹果市值一夜暴涨8113亿元 据称拟升级整个Mac产品线
更多
- 延迟降低2倍!英特尔披露至强6处理器针对Meta Llama 3模型的推理性能
- 中科曙光董事长收到证监会立案告知书
- 外媒揭露苹果手机回收商私自将报废手机销往中国
- 润开鸿发布鸿蒙应用产品 蚂蚁数科mPaaS提供支持
- 2023年营收165亿元,三七互娱拟提升分红频次至一年四次
- “AI换脸”骗走2亿港元 专家支招如何防范
- 媲美GPT4的开源模型Llama 3怎么用?亚马逊云科技官方教程已上线
- 谷雨“龙井”奶茶外卖量涨5倍,茉莉奶白等多品牌联合饿了么上线“春日收官”新品
- 《热辣滚烫》获北影节“春节档特别荣誉” 出品人侯晓楠:海外票房已破700万美元
- Qorvo 谈 Wi-Fi 7、BMS 及 Sensor Fusion 的技术革新之力
更多
- 消息称特斯拉下周将宣布在印度投资 最多30亿美元
- 特斯拉全球裁员不会影响墨西哥超级工厂建设 当地称正按计划推进
- Meta推出Llama 3大模型 在集成近25000块英伟达H100计算集群上训练
- 消息称苹果12.9英寸版iPad Air将采用mini-LED显示屏 在5月初推出
- 从5nm制程工艺来看 台积电3nm工艺或要明年才能成为最大营收来源
- 台积电一季度营收188.7亿美元 预计二季度会更高
- 分析师称iPhone 17 Plus屏幕将略小于iPhone 15 Plus和iPhone 16 Plus
- 苹果有意代工商在印尼建厂 CEO库克称将评估可行性
- SK海力士Q1营收有望超过12万亿韩元 营业利润重回万亿韩元之上
- 消息称苹果有意在印度生产iPhone摄像头部件 同当地厂商有过接触