一键“脱衣”的AI，为什么屡禁不止？

supSuHo

大数据文摘作品
作者：lin、miggy
你在社交网络 po 出了一张自拍照，坐等收赞。但你不知道的是，这张照片可能会被偷偷下载，并且变成一张你的 " 裸照 "。
这张裸照或许将被私下分享，也很可能会在地球另一端的某个社交网络上出现。在不知情的情况下，超过 68 万多名女性的假裸照正在以这种方式产生并传播。
近期，总部位于阿姆斯特丹的视觉安全智能公司 Sensity 发现了一个 telegram 上的应用（文摘菌决定不透露这个机器人应用的名字，文章中用 bot 指称），这个 bot 可以通过 deepfake 程序，创建某个受害者的计算机生成的 " 裸照 "，并且值得一提的是，只用一张照片，生成效果就相当逼真。
据 Sensity 报告显示，目前这个 bot 已经产生了 68 万多名女性的假裸照，大约有 104,852 张女性照片目前被公开发布在这款应用上，其中 70% 的照片来自社交媒体或私人渠道。这些受害者中有一小部分似乎是未成年人。研究人员说，其余的照片可能是私下分享的。
这款 bot 的使用者还在 telegram 上成立了社区。目前这个社区已经有 101,080 名成员了，其中 70% 居住在俄罗斯或东欧。
Deepnude 2.0 再现，只需要一张照片，就能生成逼真 " 裸照 "

这款 bot 的运作方式相当简单，不像之前 deepfake 需要多张照片训练算法，只需要一张照片，就能获取到比较逼真的 " 裸照 "。


Sensity 在报告中详细介绍了 bot 一键生成裸照并分享的步骤
一键 " 脱衣 "，这听起来是不是有点耳熟。
其实早在去年，就有这样一款类似的 AI 偏门应用爆出，一键直接 " 脱掉 " 女性的衣服！


海外媒体 Motherboard 测试图片
显然，已经不能叫做擦边球的应用了。
这是一款名为 DeepNude 的应用，次标题被称为 "AI X 光 "，只需要给它一张照片，即可借助神经网络技术，自动 " 脱掉 " 衣服。原理虽然理解门槛高，但是应用起来却毫不费力，因为对于使用者来说，无需任何技术知识，一键即可获取。


DeepNude 比以前的 deepfakes 软件更容易使用，也更容易访问。对比 deepfakes 需要大量的技术专业知识、庞大的数据集以及昂贵的 GPU，DeepNude 是一款面向消费者的应用程序，比大多数视频游戏更容易安装，只需点击一下即可在 30 秒内产生裸体图片。
DeepNude 的创建者阿尔贝托（Alberto）曾表示，该软件由开源算法 pix2pix 创建，训练数据仅为 1 万张女性裸图。这一算法与之前的人工智能换脸技术 deepfake 算法相似，也和无人车技术所使用的算法相似。
之前这款应用提供客户端版和网页版，你可以选择支付 50 美元付费使用，也可以选择使用免费版，区别是免费版获得的图片会出现较大水印。
可能由于太过受 " 欢迎 "，也引起了舆论的极大争议，上线不到一周，这一应用已经宕机，deepnude 官方推特也表示已经将其下线。
没想到，在 deepnude 下线后的同一个月，这款应用就在 telegram 上就出现了。
Sensity 首席执行官兼首席科学家乔治 · 帕特里尼 ( Giorgio Patrini ) 表示：" 这款工具的独特之处在于，它不只是人们在聊天或分享内容，它实际上嵌入了 Telegram，这就让它的使用门槛更低了。"
与制作 deepfake 的算法不同，Telegram 机器人不需要数千张图片就能工作。帕特里尼说 :" 这就是为什么那么多的个人隐私会受到攻击的原因，因为只有一张来自 Facebook 的个人资料照片就足以做到这一点。"
相比 Deepnude，这款机器人进一步升级的一点是，它上传的照片多数是毫不知情的普通女性，而不只是名人。

正如帕特里尼说：" 一旦你分享了自己的图片或视频，也许你意识不到这些内容谁可以看到，谁可以窃取，谁可以在你不知道的情况下下载，这实际上让所有人都承载着被侵害的可能。"
只针对女性，每张照片处理 1.5 美元，用户一年翻四倍

该工具允许人们在手机上上传照片，bot 远程生成图片后发回给用户。这个机器人只对女性图像进行处理，它可以免费提供带有水印的图像，也可以提供没有水印的图像，收费约为 1.5 美元。用户也可以通过介绍他人使用这项服务来赚钱。
这款 bot 还在 VK 网站上发布了广告，据查看，在该网站上目前已经有了 380 页的搜索量。
这种病毒式的扩张方式，让这款 bot 的会员迅速增长。据 Sensity 的报告称，这款 bot 是在去年 6 月上线的，上线两个月用户几乎过万，到今年 6 月，已经有了 4.5 万用户。目前，使用该机器人的 7 个 Telegram 频道共吸引了 103585 名用户，其中人数最多的频道有 45615 人。


根据 Sensity 的说法，" 报告中所述调查期间发现的所有敏感数据均已向 Telegram、 ( 俄罗斯社交媒体网站 ) VK 和相关执法部门披露。"
帕特里尼指出，这种 " 色情机器人 " 显然是违反了 Telegram 的服务条款的，而发布相关广告的网站 VK 实际上也有规定，不允许在该平台上发布此类内容或链接，并封锁发布这些内容的社区。
这些社区或链接是如何在 telegram 和 vk 上推广的还不得而知。Sensity 称，" 在本报告发表时，我们还没有收到来自 Telegram 或 VK 的任何回应。"
帕特里尼说：" 这就是这种技术成为商品的现象。"" 不需要技术技能，不需要专门的硬件，不需要特殊的基础设施，也不需要难以获得的特定服务。"
《如何输掉信息战》 ( How to Lose the Information War ) 一书的作者尼娜 · 扬科维茨 ( Nina Jankowicz ) 表示，这款应用对世界各地的女性都有巨大的影响，尤其是在社会较为保守的国家，比如俄罗斯。如果一张令人信服的假裸照被公开，受害者可能面临失去工作和生计的危险。有些人可能面临伴侣暴力。
" 从本质上说，这些深度赝品要么是用来满足一些关于被出卖的情人或男朋友的病态幻想，要么只是一个完全令人毛骨悚然的怪物，"Jankowicz 说。" 或者它们被用作潜在的勒索材料。"
" 这不仅是公众人物和名人的问题，很快它将成为每个人的问题。" 帕特里尼说道。" 现在它已经成为成千上万人的问题了。"
Sensity 报告下载链接：
http://sensity.ai/reports/
相关报道：
http://www.buzzfeednews.com/article/janelytvynenko/telegram-deepfake-nude-women-images-bot