“人工合成色情片流行后，几家网络网站开始封禁”

本篇文章1355字，读完约3分钟

徐弢

从2007年12月开始，网络上开始流行用新的人工智能技术合成的色情作品，把公众人物和明星的脸“贴”在色情作品主演的脸上，效果变得真实了。 一群女明星的脸被用作素材，包括《神奇女侠》主演的盖尔·加德( gal gadot )、斯嘉丽·约翰逊、艾玛·沃森、梅茜·威廉姆斯等。

最初，这部合成色情作品起源于在线论坛reddit，某id为deepfakes的顾客以盖尔·格尔的脸为素材，合成了视频并刊登在了帖子上。 许多客户开始关注这个视频，客户deepfakes创建了reddit主题，引起了9万客户的兴趣。

为了从reddit客户deepfakeapp开发的名为fakeapp的计算机软件中快速、方便地制作这样的合成视频，类似视频的东西越来越多。

本质上，这种合成视频在技术上没有特别之处。 定位脸部特征，再贴上另一张脸，如果找的素材质量高，合成效果可能会更好。 同样的合成技术，在ps、浏览后马上和snapchat、faceu、美图秀秀等差别其实不太大，但合成的时间、效果可能不太理想。

但是，科技企业、科研机构近年来开发的人工智能技术，使这类合成视频的制作价格更低，效果也更好。

在这次的事情中，最重要的是谷歌有可能是年开源的机器学习工具tensorflow。 客户的deepfakes和deepfakeapp开发的fake应用程序使用了tensorflow。 在素材方面，客户端可以找到互联网搜索、社会交流网站的照片，不少人在名人的instagram上寻找素材。

客户deepfakeapp表示，fakeapp的目的是降低门槛，让没有技术背景、编程经验的人可以采用这种合成视频的技术。 有些客户5个小时左右就能制作类似的视频。

例如，有人使用叫fakeapp的工具恶作剧尼古拉斯·凯奇，使之成为《夺宝奇兵》的主角印第安纳·琼斯、007等。 华盛顿大学也有同样的研究，通过抓住录像，可以制造出美国前总统奥巴马说的是他从未说过的话，效果非常逼真。

但是，最近一周，社交网站twitter、在线论坛reddit、gif各搜索引擎gfycat、聊天工具discord等开始禁止这些合成色情内容。 reddit调整了网站的文案条款，禁止青少年出现非自愿色情、性含蓄的文案，deepfakes主题本周三也被禁止。

色情网站也加入了禁止这种合成视频的行列。 最大的色情网站pornhub表示，这种类型的色情作品不是自愿的，他们禁止将这部分的复制品放在网站上。 在pornhub上有很多这样的视频。 pornhub被认为是向色情网站引进新技术最快的网站之一。

但彻底封禁这部分合成的色情视频可能没多少可行性。客户将这类视频制作成gif图片，托放在gfycat、imgur等平台上，twitter、reddit等平台删除没法根绝这类文案的传递。事实上，即便这些网络企业说要封禁，但还有不少文案保留。在技术上识别这类文案本身也相当难。但是，完全禁止这部分合成的色情制品可能不太可能。 客户将这样的视频制成gif图像，放在gfycat、imgur等平台上，twitter、reddit等平台的删除无法根除这种拷贝的传递。 实际上，虽然说禁止这些互联网企业，但也有很多文案保留。 从技术上来说，识别这种拷贝本身也相当困难。

来源：安莎通讯社