那么多原谅宝和一键脱衣，折射的是互联网的阴暗和脆弱

色情业一直是驱动互联网进步的动力之一。从互联网最原始阶段充斥的无处不在的暧昧弹窗，到时髦的VR率先在色情产业中找到了自己的市场刚需，现在这股风刮到了AI界，AI一键脱衣、AI一键换脸，AI查看女友前科的应用纷至沓来，这不仅仅是色情擦边球，更侵犯到了隐私，更暴露了互联网的暗面根植的人性的欲望、猎奇和窥私。

穿着衣服也能看光你的身体

最近火到熄火的是软件是Deepnude，号称可以“一键脱衣”，简言之，就是上传一张正常衣着的女性照片，Deepnude能自动生成该女性一丝不挂的裸照。而且如果上传一张男性照片，隐私部位依然显示为女性。

这个软件的火爆程度远远超出了开发者的想象。短短5天之内有50万人使用了它，制造了许多名人，特别是女明星的裸照。巨大的流量一度造成服务器不稳定，开发者在第四天的时候试图暂时下架，修改bugs重新上线，但是似乎强大的争议，最终Deepnude的团队在隔日亲口宣布产品永久下架，并表示“Deepnude 对这个世界还没准备好”。

所以最终，Deepnude没能活过5天。

在Twitter上吴恩达以一个父亲的身份，对deepnude之死表示欣慰，并对AI社区发话，你们拥有强大的能力，但请用你们的超能力去用更有价值的东西，推动世界进步。

跟扒光女性身体的Deepnude比起来，换脸软件Deepfake只能算前奏。如果你对杨幂朱茵换脸视频还有印象的话，该特效就是来自deepfake。B站上，粉丝们以此制作了偶像换脸的追星视频，但在国外，Deepfake被应用得最多的场景是成人视频。甚至有美国成人网站主动推出换脸技术，为用户提供个性化定制视频，试想色情片的女主角或男主角换上了自己的脸，是不是代入感更强？

可是不能忽视的是，Deepnude和Deepfake都能用来恶意制作色情图片，报复、攻击和污蔑他人。

在迅速发展的科技创新和应用面前，法律往往反应慢一拍。据机器之心报道，美国弗吉尼亚州率先对Deepfake这些新应用采取了行动，扩大了其「色情报复法」（revenge porn law）的范畴。

这项扩大后的法律规定：未经当事人允许分享他人的裸露视频、照片属于违法行为，用于「胁迫、骚扰或恐吓」将被定为一级轻罪（Class 1 misdemeanor）。无论该照片或视频是真实的还是伪造的。除了 deepfake，用 photoshop 或其他工具制作的虚假照片、视频也包含在内。

修正后的法律于当地时间 7 月 1 日生效。

查对方前科，为保护老实人而生的原谅宝

如果说Deepnude是赤裸裸地为了看身体，而大洋彼岸的中国的原谅宝则试图穿越重重迷雾，看到对方“不为人知”的过往。

原谅宝自我营销为“为保护老实人而生”、“接盘侠的福音”，如果不想当接盘侠，就用这款软件检测一下现在对象的“前科”。原谅宝一出世，就包揽了IT界、八卦圈、婚恋圈的话题C位。

使用也很简单，上传一张图片，系统将图片与1024、PronHub等特殊网站的数据库进行对比，如果图片上人物恰好匹配到了，那么，结果就是Fail，图中人极有可能是特殊工作者，如果没有，则显示为Pass，可以原谅ta。

原谅宝的由来得从2018年8月，一位@将记忆深埋的微博用户的想法说起。他表示为了帮助码农初步过滤“退休小姐姐”，联合了几位朋友把1024、91等网站上的视频和图片打上标签，进行人脸匹配。

巧合的是，2018年7月就有一些平台零碎地发布信息表示，一个叫原谅宝的APP正在众筹，即将启动老实人保护计划。这些信息是否也来自发起人团队，则不得而知。

差不多一年之后，这个创意变成了初步的现实，并取得了有点惊人的成果。今年5月27日，@将记忆深埋称，“半年时间，100多TB数据， 利用1024、91、sex8、PronHub、xvideos 等网站采集的数据对比Facebook、instagram、TikTok 、抖音、微博等社交媒体。我们在全球范围内成功识别了10多万从事不可描述行业的小姐姐。”

并且彼时，@将记忆深埋还有将此商业化的打算。

支持者认为这就像婚恋交友版本的征信报告，可以迅速识别出所谓的渣男、渣女。反对者认为，这会侵犯隐私，甚至恶意中伤。5月30号，“原谅宝”的百度指数冲到最高点。人们心思各异，一些人希望用来查看对方过往，一些人想看看里面有没有自己的熟人。

发酵的舆论风暴，纠结的程序员

原谅宝也引发了外网的热议。一些网友在Twitter中指出危害，这可能会使一些人被侮辱和敲诈勒索，同时指出该项技术的适用范围也许在寻找被拐卖的受害者中更恰当，而非一个程序员为了找出自己交往对象的过去历史。

对于数据收集行为是否恰当的质疑，@将记忆深埋以自己居住在德国，而德国的色情产业是合法的为由进行反击。

但是国外网友认为未经当事人允许的情况下，私自建立人脸数据库，在德国并不合法。此外还有人指出这也违反了欧盟的《通用数据保护条例》（General Data Protection Regulation，简称GDPR），侵犯了公民隐私权，以及被遗忘权。

即使对于性工作者本身，也有人认为这也只会带来伤害，因为它将性工作者的私人信息曝光，很多性工作者也有正常的生活，做色情行业是为了还贷款和生活。

男女权力的争议再次被放大。VICE中国梳理道，《Rage Becomes Her》的作者 Soraya Chemaly 表示：“这是一个可怕的范例，它完美解释了这些系统和制度是如何在全球范围发生作用，帮助男性占据主导地位的。监控、假冒、敲诈勒索、不实信息总是先发生在女性身上，然后才暴露在公共领域，直到男性也受到波及，才会引发关注。” 女权主义研究和机器学习方面的专家也认为此项目是一种被算法驱动的骚扰。

马里兰大学教授 Danielle Citron 在研究了 deepfakes 后，评价道：“这是一个令人痛苦的坏主意，对监视和控制女性身体的容忍底线再次被突破了。”

当然，没有谁比旋涡之中的当事人更纠结了。@将记忆深埋将微博名改成“把自己关在房间里反省的书生”向公众致歉，并表示“100多TB数据在半小时内会彻底清空”，目前这则道歉已经被删除，微博名也被重新改了回来。并且，@将记忆深埋在微博上重申，微博上的@原谅宝官方这一账号与自己无关，且“本人为发布过任何手机端App”，并风险提示道，目前市面流行的原谅宝很可能是灰产团队编写用来窃取用户信息。

灰产把流量截了胡，起底山寨原谅宝们

去年这一创意提出之际，闻者寥寥无几，可以看做是码农圈的一个兴趣试点。但是今年的轩然大波中离不开灰产的碰瓷，它们乐见其成，甚至变相助推，呼喊婚恋市场将迎来大地震，让各方“撕”得越来越凶猛，把流量做大，被激起了好奇心的人自动入瓮。

在原发起人删库之后，立马有人跳出来，截胡流量。

6月4号登陆APP store商店的“原谅宝”并非原团队所开发，除了名字是“原谅宝”，APP还特意顶了一个带X 的绿帽子，牢牢把自己挂在了这个大热点上。而且下载后必须要交30元的会员费才能使用。用户们交完30块钱后，马上发觉被骗，因为这个APP根本没有任何上传图片和识别系统，看起来更像一款陌生人社交软件，界面简单，是一款做得很仓促的产品。

截止2019年下午5点32分，APP首页显示“已有956542人加入APP”，956532乘以30元，就是将近300万元。这个名不副实的山寨宝APP很聪明地把争议带来的流量变成了人民币。虽然现在互联网大都流行显示虚假的用户数据，十万用户不足采信，但充值人数还在持续增加。只要围绕原谅宝的争议声不止，这款头顶绿帽的APP就能有源源不断地进帐。

有趣的是，很多花了30块钱上门的人，发现这款App无法看过往，也无法看熟人，干脆碰碰运气，开启“约”模式。

除了应用商店，目前微信上也能搜到一个名叫原谅宝的个人公众账号。该号本质上像一个山寨广告号，杂七杂八地混杂了一些娱乐文和图片修理功能。而之前网络流传的微信端的公众号，即账号主体为“西安曲江新区灏蕊睿百货商贸店”已经删除了所有文章，也没有查询工具入口。

但@将记忆深埋特意声明无自己无关的“原谅宝官方”的账号依然存在，且简介为“保护个人隐私，全网检测是否被偷拍或偷摄，并提供我们力所能及范围内的数据清除服务。”这是不是和著名灰色产业“开房记录查询和开房记录删除”有异曲同工之妙？

微博@原谅宝官方目前仅仅保留了两条微博，第一条就是公测版的测试连接。点开后，会看到一则声明，表示仅对真实人员进行识别匹配，至于检测后给出的数据可信度问题，声明称不提供详细来源。

该测试的火爆程度有增无减，目前已经有将近两百万人次查询。页面中的 “想知道TA拍过的照片和视频吗”、“查询有风险，备好救心丸”等字眼，都在唤起人的窥探欲。

照片的分析过程乍一看，很像医美APP的五官扫描和全脸分析，下一秒似乎能跳出一个整容咨询报告。查询后的结果会给出一个原谅指数。系统与开放数据进行匹配，匹配到的结果越多，则原谅指数越低。原谅指数如果在90%以上则可以认为你们的安全很安全。

虽然挂着人工智能的头衔，但是检测过程和结果就跟星座命理一样玄乎。因为数据来源未知，如何匹配未知，服务器如何荷载这么多数据未知。如果照片匹配到很多则得出不安全的结论，似乎又创造了一个灰产机会，即可以故意用换脸软件移花接木，在所谓的相关网站上传某些人的图片，再回头找人要钱，再收费操作删除。

而且类似原谅宝这个平台真的投入运营，还会涉及平台数据采集和公民信息保护问题。

目前我国对App的数据采集加强了监管。《App违法违规收集使用个人信息行为认定方法（征求意见稿）》自5月5日起公开征求社会意见，并明确，App违法违规收集使用个人信息共分为7种情形：没有公开收集使用规则；没有明示收集使用个人信息的目的、方式和范围；未经同意收集使用个人信息；违反必要性原则收集与其提供的服务无关的个人信息；未经同意向他人提供个人信息；未按法律规定提供删除或更正个人信息功能；侵犯未成年人在网络空间合法权益。

针对我国目前的公民信息保护上存在立法分散的情况，2019年，十三届全国人大常委会已将制定个人信息保护法列入了立法规划，更加系统的公民信息保护的立法工作正在稳步推进中。

回到原谅宝本身，现代人的感情关系并非原谅宝可以拯救。但是原谅宝的流行和争议，再次放大了信任问题，也点燃了每个人心中隐秘的窥私欲，我们窥探别人，也被别人窥探，互联网不过呈现了我们亘古难题的一角。

相关推荐

那么多原谅宝和一键脱衣，折射的是互联网的阴暗和脆弱
“原谅宝”后又现“一键脱衣” 技术作恶该怎么解决？
一键“脱衣”的AI，为什么屡禁不止？
实测火到禁的“一键脱衣”AI：过程一波三折，效果......
换脸算什么？现在AI都能一键“脱衣”了
Facebook的清道夫，互联网的阴暗之地
王毅：美方及其盟友打压华为是出于一种阴暗心理
想做“产业互联网”的教育生意，校宝在线 S to B 的故事是怎样的？
“老赖”名单上的罗永浩们值得原谅吗
江小白创始人：中国商业的反脆弱思考

网址: 那么多原谅宝和一键脱衣，折射的是互联网的阴暗和脆弱 http://www.xishuta.com/newsview6933.html