站长之家(ChinaZ.com) 5月6日 消息:据 404 Media报道，互联网最受接待的深度伪造色情内容在线网站 Mr. Deepfakes 于本周末永世关闭。 Mr. Deepfakes 网站一度吸引了大量“不良”用户。研究职员指出，这些用户乐意付出高达 1500 美元的代价，让创作者利用先辈的 AI 技能，在未经名流或其他目的人物同意的环境下，利用她们的脸制作色情视频。研究职员发现，在顶峰时期，Mr. Deepfakes 有 4.3 万条视频的欣赏量凌驾了 15 亿次。这些视频由近 4000 名创作者制作，这些所谓的“创作者”从这种不道德且现在已属违法举动的生意业务中得到了暴利。 不外，从本周起，这些视频再也无法观看了，且曾用来供用户提出制作新视频要求的论坛也已关闭。根据该平台发布的一则关照，当 “一家关键服务提供商”“永世” 停止服务时，网站就被关停了。 Mr. Deepfakes 证明称：“数据丢失让平台无法继承运营。” 同时他们告诫，在其关闭后，不要信赖任何之后出现的冒牌平台。“昨们不会重新上线。任何声称是昨们的网站都是假的。这个域名终极会逾期，昨们不对其将来的利用负责。这条信息将在一周左右后删除。” 现在尚不清晰毕竟是哪家服务提供商堵截了 “Mr. Deepfakes” 网站的服务。但，研究职员指出，深度伪造创作者要连续制作这类内容，“最关键的要素” 之一是通过谷歌 Colab 条记本提供的 “免费层级的云 GPU 访问权限”。 不外，谷歌方面临时尚未对于媒体提出的“近来是否取消了该访问权限”这一题目作出回应。 Mr. Deepfakes 网站的倒闭正值美国国会通过《删除法案》之后 —— 该法案规定，创建和流传未经同意的私密影像（NCII）属于违法举动，此中包罗由 AI 天生的合成私密影像。任何收到有关 NCII 关照的平台必须在 48 小时内将其删除，否则将面对美国联邦商业委员会的执法举措。执法举措要到来岁春天才会开始实行，但该服务提供商大概是由于这项法律的通过而封禁了 “Mr. Deepfakes” 网站。据《连线》杂志报道，客岁，在英国公布故意通过雷同法律后，“Mr. Deepfakes” 网站就争先开始屏蔽来自英国的访问者。
不外，“Mr. Deepfakes” 网站的关闭并不能办理深度伪造题目。2022 年，随着 AI 技能使合成的 NCII 愈发传神，深度伪造内容的数目急剧增长，这促使美国联邦观察局在 2023 年发出告诫，提示公众这类虚伪内容正愈发频仍地被用于性诓骗举动，但社会用来制止其流传的即时办理方案却收效甚微。 据研究职员称，“Mr. Deepfakes”（一个真实存在的人，身份匿名，但据报道是多伦多一名 36 岁的医院工作职员）开辟的步伐推动了深度伪造内容的激增。研究职员发现，他开辟的 DeepFaceLab 软件敏捷成为 “领先的深度伪造软件，据估计，95% 的深度伪造视频都是由这款软件制作的，且该软件在 GitHub 上已被复制了 8000 多次”。对于平凡用户来说，他的平台上有可供购买的视频，假如视频制作得很传神，代价通常会凌驾 50 美元；而更有积极性的用户则会通过论坛提出要求，大概提拔本身的深度伪造技能，成为创作者。 “Mr. Deepfakes” 的非法生意业务最早始于 Reddit，但在 2018 年被封禁后，就转移到了他本身的平台上。在那边，数千名深度伪造创作者分享技能知识，研究职员客岁指出，“Mr. Deepfakes” 网站的论坛终极成为了 “制作深度伪造色情内容的唯一可行的技能支持泉源”。 由于之前已经迁徙过一次，这个群体应该照旧会通过新的平台来继承制作非法内容，且“Mr. Deepfakes” 好像想避开公众的关注，因此大概会以一个新的名字重新出现。据悉，早在 2023 年，研究职员估计该平台有凌驾 25 万名成员，他们中的很多人大概会敏捷探求替换平台，乃至实验搭建一个替换平台。 “Mr. Deepfakes” 的可怕统治大概还未竣事，这一大概性进一步增长，由于 DeepFaceLab 在 GitHub 上的存储库（已于 11 月存档，无法再举行编辑）仍旧可供任何人复制和利用。 404 Media 报道称，很多 “Mr. Deepfakes” 网站的成员已经在 Telegram 上取得了接洽，据报道，在 Telegram 上也常常有合成 NCII 的生意业务。加州大学伯克利分校的传授、数字伪造图像范畴的顶尖专家汉尼・法里德表现：“固然这次关停是一个好的开始，但雷同如许的平台另有许多，以是昨们不能就此止步。” |
