12月 26 2020

丝瓜看片app下载动态

未分类

  文

  木子 yanni
1989 年,与圣诞节一同到来的,还有崭新的互联网里程碑:万维网 (WWW)。
万维网的发明者伯纳斯·李认为:互联网最具价值的地方,在于赋予人们平等获取信息的权利。基于这个理念,1993 年 4 月 30 日,万维网对外免费开放,让地球人都成了渔民。
受互联网分享文化的熏陶,随手拍照、分享集赞已是常态,但在人工智能时代,你亲手晒在社交网站上的照片,很可能会把自己推向被监控的境地。
相当数量的人,在不知不觉中,已经成为受害者。
1、人脸识别的“肮脏小秘密”
2020 年初,位于美国的面部识别技术公司 Clearview AI,惊爆丑闻。
Clearview AI 通过软件,悄无声息的从 Facebook 和谷歌等多个网站中,提取人脸图像,并创建了一个数据库,有可靠数据显示,数据库中的人脸图像超过 30 亿张。Clearview AI 一边充实数据库,一边将数据库授权给执法机构使用。图片来源于网络
目前,已有世界各地的数百个执法机构取得授权,甚至还包括一些私营公司。在如此庞大数据集的交易下,照片的拥有者却毫不知情。
这样的事情,远不止这一起。
2019 年,纽约时报发表了一篇报道,题目是《你孩子的照片,是如何为监控技术提供动力的》。纽约时报的报道
克洛伊和贾斯珀的母亲,是众多热衷于用照片记录孩子的母亲之一。2005 年,她在照片分享网站 Flickr 上注册后,上传了很多孩子的照片。图片来源于网络
没想到,14 年后,克洛伊和贾斯珀的照片,和其他家庭的数十万张照片一起,被存储在一个叫做“MegaFace”的数据库中,数据库里有近 70 万个人的肖像,已经被数十家公司下载,不仅用于训练新一代的面部识别算法,也用于跟踪抗议者、监视恐怖分子,以及监视广大公众。MegaFace 数据库中的图像
而这些照片的数十万个主人,在丑闻曝出之前,毫不知情。
我们都知道,人脸识别离不开机器学习,而机器学习的重中之重,就是数据样本。
早期,研究人员想要得到人脸照片,唯一的方式是购买:贴出广告,吸引有意向的人来到实验室,在签署同意书后,让这些人在不同的光线下,用不同的姿势拍照,以此作为训练 AI 的样本。
到了 21 世纪,网络开始兴起,更为快捷方便的照片获取方式出现了,只需在搜索引擎中输入姓名(此时大多是名人),就能下载关于他们的所有照片。
时间继续往后推移,名人的照片已经不能够满足需求,于是,研究人员的目光转移到了社交媒体上的普通人。
由此,人脸识别领域开始出现“肮脏小秘密”:秘密盗用在线照片,用来训练 AI,乃至监控。
2、毒药,亦是解药
欧洲有一个著名的谚语,叫做“阿喀琉斯之踵”。
相传,阿喀琉斯是凡人英雄珀琉斯和海洋女神忒提斯的儿子,打小就受到父母宠爱。后来有预言传出,阿喀琉斯长大之后,会成为伟大的英雄,将参加特洛伊战争,但特洛伊城会陷落,阿喀琉斯也会战死沙场。
母亲忒提斯一听,开始想办法。
为了让阿喀琉斯有金刚不坏之身,她紧紧捏住阿喀琉斯的脚后跟,把他倒提着浸入冥河,这样一来,露在水外的脚后跟,成了阿喀琉斯唯一脆弱的地方。
后来,一切都跟预言的一样,拥有不死之身的阿喀琉斯,被毒箭刺中脚后跟,轰然倒地。图片来源于网络
这个谚语说明:再强大的人,也一定会有致命弱点。而深度机器学习的“阿喀琉斯之踵”,就是对抗性样本。
只要在机器学习的图像中,稍微加入一点点噪声 (干扰像素),机器眼里的熊猫,一瞬间就会变身成为长臂猿。这意味着,深度学习模型其实非常脆弱。熊猫和长臂猿中间,只隔着噪声
这种脆弱性,已经是人工智能时代的安全隐患。
对于无人驾驶来说,攻击者只要在道路上放置几张驾驶员都难以察觉的特殊纸片,无人驾驶车辆途径这里时,就会突然转向隔壁的逆向车道,驾驶员很难及时做出反应。这种攻击就叫做数据投毒。
但毒药在某种场合下,也能变身为解药,比如前面提到的在线照片秘密盗用。
前不久,芝加哥大学研究人员设计出一个工具 Fawkes,利用数据投毒的原理,给照片披上一件“隐身斗篷”,能够避免普通人晒在网上的照片被用来训练 AI。
在机器的眼里,照片只是一堆像素数字,只要极细微的更改照片中的一些像素,机器就无法识别出图像中的人,而在人的眼中,经过修改的照片与原图,几乎没有任何差别。原图与修改图的对比:左上为 Fawkes 第一作者单思雄
研究人员已经将 Fawkes 免费对外开放,当你在各个网站晒出照片之前,只需用 Fawkes 进行修改,就能避免照片被秘密盗用去训练 AI。经过测试,Fawkes 能够让旷世、微软、亚马逊等公司的面部识别算法 100% 失灵。
AI 的毒药,也是“丢脸”的解药。
这也许就是现代版的“以子之矛,攻子之盾”。图片来源于:Cyberpunk 2077
嗨,这里是浅黑科技,在未来面前,我们都是孩子。
想看更多科技故事,欢迎戳→微信公众号:浅黑科技。

Widgets area #right
add widgets here