Deepfake（深度伪造）欧美色图，再度深陷公论的风云。

这一次，用这项 AI 技能违警的严重进程被网友直呼是“韩国 N 号房 2.0”，魔爪以致伸向了繁密未成年东谈主！

事件影响之大，径直冲上了各大热搜、热榜。

早在本年 5 月，《韩联社》便通报过一则音问，本色是：

首尔大学毕业生朴某和姜某，从 2021 年 7 月至 2024 年 4 月，涉嫌欺诈 Deepfake 换脸合成色情像片和视频，并在通讯软件 Telegram 上高明传播，受害女性多达 61 东谈主，包括 12 名首尔大学学生。

仅是这位朴某便用 Deepfake 合成了概况 400 个色情视频和像片，并与同伙沿路分发了 1700 个露骨的本色。

可是，这件事情如故 Deepfake 在韩国泛滥的冰山一角。

就在最近，与之关连的更多细念念极恐的内幕被连续扒了出来。

举例韩国妇女东谈主权研究所公布了一组数据：

从本年 1 月 1 日到上周日，共有 781 名 Deepfake 受害者在线求援，其中 288 名（36.9%）是未成年东谈主。

而这个“N 号房 2.0”也长短常恐怖的存在。

据《阿里郎》进一步的报谈：

一个与 Deepfake 关连的 Telegram 聊天室，竟诱骗了 220000 东谈主，他们通过调动妇女和女孩的像片来创建和共享伪造的图像，受害者包括大学生、西宾，以致是军东谈主。

不仅是受害者有未成年东谈主，以致加害者也有多半的青少年。

不仅如斯，此次公论的兴起历程也长短常的 drama。

因为惹事的韩国男性们（以下简称韩男）不错说长短常的豪恣，有公论苗头的时候，他们就会稍许“克制”一下：

有些韩男对这件事的魄力亦然较为恶劣，以致有初中男生开公开写到“毋庸惦记，你不够漂亮，不至于被 Deepfake”这种话。

于是乎，韩国女性们（以下简称韩女）的反击初始了。

她们将“阵脚”转向韩国除外的酬酢媒体，举例在 X 上，有东谈主发布了制作 Deepfake 学校的舆图：

还有韩女在微博中发布“求救贴”：

跟着公论在各大酬酢媒体上发酵，韩国政府也出头作念出了表态：

目下仍是有逾越 200 个学校收到 Deepfake 影响；谋略将 Deepfake 违警的刑期从 5 年晋升到 7 年。

据了解，韩国警方已缔造卓绝责任组，专诚支吾深度伪造性违警等伪善视频案件，该责任组将运行到来岁 3 月 31 日。

事实上，最新 Deepfake 技能仍是进化到了“恐怖”阶段！

生图 AI Flux 以一组真假难分的 TED 演讲像片，引千万𝕏（前推特）网友在线打假。（左边由 AI 生成）

夜深直播的“马斯克”，也诱骗了上万环球围不雅打赏，以致搞起了网友连麦。

要知谈，整场直播仅用一张图片就能落幕及时换脸。

这一切确切如网友所言，Deepfake 已将科幻照进执行。

其实，Deepfake 一词最早发祥于 2017 年，其时别称 Reddit 用户“Deepfakes”将色情女演员的面部替换成了一些好意思国知名演员，引起一派争议。

而这项技能不错追思到 2014 年，Goodfellow 与共事发表了全球首篇先容 GAN 的科学论文。

其时就有迹象标明，GAN 有望生成仿真度极高的东谈主脸。

自后跟着深度学习技能的发展，自动编码器、生成顽抗收罗等技能冉冉被应用到 Deepfake 中。

简便先容下 Deepfake 背后的技能旨趣。

比如伪造一个视频。

其中枢旨趣是欺诈深度学习算法将指标对象的面部“嫁接”到被师法对象上。

由于视频是一语气的图片组成，因此只需要把每一张图片中的脸替换，就能取得变脸的新视频。

这里要用到自动编码器，在应用于 Deepfake 的情况下输入视频帧，并编码。

△ 图源：维基百科

它们由编码器妥协码器组成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。

简便说，编码器将一些重要特征信息（如面部特征、身体姿势）诊疗成低维的潜在空间暗示，而解码器将图像从潜在暗示中归附出来，用于给收罗学习。

再比如伪造图像。

这里主要用到生成顽抗收罗（Gan），它长短监督式学习的一种要津，通过让两个神经收罗互相博弈的方式进行学习。（此要津也不错用于伪造视频）

第一个算法称为生成器，输入当场噪声并将其诊疗为图像。

然后，该合成图像被添加到真正图像流（举例名东谈主图像）中，这些图像被输入到第二个算法（称为判别器）中。

判别器试图隔离样原本源于真正如故合成，每次注意到二者之间的互异时，生成器齐会随之诊疗，直至最终再现真正图像，使判别器无法再隔离。

可是，除了让外不雅上看起来无法隔离，现时的 Deepfake 正在证实“组合拳”。

声息克隆也升级了。当今，支吾找一个 AI 器具，只需提供几秒原音，就能立马 copy 你的声息。

用合成声息伪造名东谈主的事件也日出不穷。

此外，1 张图生成视频已不再新奇，而且目下的责任重心在于后续打磨，比如让色彩、姿势看起来更天然。

其中就有一项唇形同步技能（Lip syncing），比如让小李子启齿语言。

天然 Deepfake 当今仍是很传神了，但底下如故给众人先容一些识别技能。

目下收罗上众人磋磨的多样要津，归纳起来即是:

不寻常或难熬的面部姿势

不天然的身体引导（肢体畸变）

着色不天然

音频不一致

不眨眼的东谈主

皮肤的虚弱与头发和眼睛的虚弱并不相符

眼镜要么莫得眩光，要么有太多眩光，而且不管东谈主怎样挪动，眩光角度齐保持不变。

放大后看起来很奇怪的视频

得，列灯谜克看了直呼内行，不外单凭肉眼不雅察确切有点费东谈主了！

更高效的要津还得是，用魔法击败魔法 —— 用 AI 检测 AI。

国表里知名科技企业均有关连看成，比如微软就开采了一种身份考据器具，不错分析像片或视频，并对其是否被阁下给出评分。

OpenAI 此前也晓喻推出一款器具，用于检测由 AI 图像生成器 DALL-E 3 创建的图像。

在里面测试中，该器具在 98% 的期间内正确识别了 DALL-E 3 生成的图像，而且能以最小的影响措置常见修改，如压缩、剪辑和敷裕度变化。

芯片制造商英特尔的 FakeCatcher 则使用算法分析图像像素来笃定真假。

而在国内，商汤数字水印技能可将特定信息镶嵌到多模态的数字载体中，维持图像、视频、音频、文本等多模态数字载体。官方称这种技能能保证逾越 99% 的水印索要精度，且不会耗费画质精度。

天然了，量子位此前也先容过一种很火的识别 AI 生图的要津 —— 诊疗敷裕度查验东谈主物牙齿。

敷裕度拉满下，AI 东谈主像的牙齿就会变得终点诡异，界限蒙眬不清。

就在昨天，Science 也发表了一篇著述对 Deepfake 进行了商酌。

这篇著述认为，Deepfake 所带来的挑战是科学研究的好意思满性 —— 科学需要信任。

具体而言，即是由于 Deepfake 传神的作秀、以及难以检测等原因，进一步逼迫到对科学的信任。

而面临这一挑战，Science 认为应当“两手持”，一是使用 Deepfake 的技能谈德尺度，二是开采精确的检测器具。

在谈及 Deepfake 与素质发展的关系时，著述认为：

尽管 Deepfake 对科学研究和疏导的好意思满性组成要紧风险，但它们也为素质提供了契机。

Deepfake 的往日影响将取决于科学和素质界怎样支吾这些挑战并欺诈这些契机。

有用的异常信息检测器具、健全的谈德尺度和基于研究的素质要津，不错匡助确保 Deepfake 在科学中取得增强，而不是受到 Deepfake 的遮挡。

一言以蔽之，科技谈路千万条，安全第一条。

当咱们让 ChatGPT 翻译关连事件的本色时，它的响应是这么：

嗯，AI 看了齐以为不当。

参考灵通：

[1]https://en.yna.co.kr/view/AEN20240826009600315

[2]https://en.yna.co.kr/view/AEN20240828003100315?input=2106m

[3]https://en.yna.co.kr/view/AEN20240829002853315?input=2106m

[4]https://www.arirang.com/news/view?id=275393&lang=en

[5]https://www.science.org/doi/10.1126/science.adr8354

[6]https://weibo.com/7865529830/OupjZgcxF

[7]https://weibo.com/7929939511/Out1p5HOQ

本文来自微信公众号：量子位（ID：QbitAI），作家：金磊一水

告白声明：文内含有的对外跳转灵通（包括不限于超灵通、二维码、口令等格式）欧美色图，用于传递更多信息，从简甄选期间，恶果仅供参考，IT之家总计著述均包含本声明。