AI换脸蔡英文等百位名人，台湾省网红小玉被捕

大数据文摘授权转载自HyperAI超神经

作者：神经星星

上月,台湾省知名 YouTube 网红「小玉」被正式逮捕，罪名是涉嫌散布猥亵物品与妨害名誉等罪移送新北地检署侦办。

警方公布，小玉等犯罪嫌疑人利用 DeepFake 的AI换脸技术，招募会员逾 8000 人，不法获利约 1100 万元新台币（约合人民币 250 万元），换脸受害者超过上百人，均为网络、影视、政界名人。

小玉此次被逮捕，是被岛内群众举报在 Telegram 群组内出售换脸视频。在这些 DeepFake 换脸视频中，中国台湾地区领导人蔡英文也在其中。

中国台湾地区领导人蔡英文被换脸跳宅舞

出生于 1995 年的小玉（本名朱玉宸），毕业于台湾省宜兰县圣母医护管理专科学校，曾是台湾省偶像团体 TPI 的练习生，2016 年在 YouTube 上发布了第一条视频，初期内容正统，多为开箱测评。

后为了迎合青少年受众，画风逐渐无厘头、言辞犀利大胆，拍摄的开箱视频越来越清奇甚至无底线。

小玉的 YouTube 粉丝数高达 120 万，累计播放量近 6 亿次，已经成为台湾省内的一线网红。但在去年四月的一条视频引发严重社会争议后，小玉的账号已经停更数月。

除蔡英文外，数百位名人牵连其中

换脸风波中，蔡英文也在社交网站上发文：「科技的运用，是为了创造人类更好的生活，而非用来伤害他人。这些受害者，可能是你我关心的对象，也可能是你我的亲友，我们不能坐视这样的事情发生。」并敦促台湾省法务部门针对 AI 换脸技术更新法律政策。

中国 

依据《中华人民共和国民法典》第 1019 条规定：「任何组织或者个人不得以丑化、污损，或者利用技术信息手段伪造等方式侵害他人的肖像权。」（第四编人格权第四章肖像权）

美国 

除了美国参议院国土安全和政府事务委员会，近期正在推进一项针对 DeepFake 技术的法案，美国各州已经陆续出台了相关州级别的法律。

得克萨斯州和加利福尼亚州在 2019 年，前后出台了「禁止在选举期间发布欺骗性视频，干扰选民投票」的法规。

日本 

日本尚未出台正式法规限制 DeepFake 类型的内容传播，但在近期判决了日本首例 AI 换脸犯罪案件。

去年，熊本大学二年级的学生林田拓海因为制作与传播 AI 换脸视频被逮捕。林田拓海从 2019 年 12 月到 2020 年 7 月，在自己经营的付费网站上传了数条自制的 2 名女艺人 AI 换脸不雅视频，被涉及艺人的所在公司控告。

全球近年多提倡三年以下的拘役适用缓刑

在今年 9 月，东京地方法院认定被告林田拓海，因违反《著作权法》与名誉毁损罪， 拘役 2 年（缓刑 3年）与罚金 100 万日元（约合人民币 5万余元）。

全球对 AI 技术的应用需求不断增长，随之暴露的安全、隐私问题也日益增多，其中不乏一些情节恶劣、影响深远的犯罪行为。

很多国家和地区在尽快立法遏制技术犯罪，但技术本身具备先发性和隐蔽性，很难对所有犯罪行为及时制止，只能通过事后的刑罚起到惩戒作用。

与此同时，技术犯罪的门槛，也会随着技术更新而不断降低。网红小玉虽然文化程度不高，但能在短时间内组建团队、制作视频、快速传播和获利。

20 年前，P 图还不普及，恶意的 P 图被媒体称为「移花接木」，视作混淆事实的行为。如今，每个人的智能手机、电脑都可以通过软件轻松地修改、美化图片、视频。曾短暂大火的换脸软件 ZAO 也因为一键换脸的功能，而被紧急下架。

技术会推动技术到达民众手中，每一个人都可能拥有潘多拉的盒子。法律制定的仅仅是社会容忍的底线，当道德无法约束行为时，普法和引导民众合理使用技术应当成为当下最迫切的议题。