泰勒斯威夫特的深伪色情影片并不新鲜但这并不代表我们不应该感到关注。

Emma McGowan 2024年1月30日

当泰勒斯威夫特的AI生成色情图片在X平台上引发热议时，我们不禁思考：这对AI的未来意味著什么？

最近，一系列AI生成的泰勒斯威夫特露骨图片在X平台前称Twitter迅速传播，揭示了AI功能的阴暗面。这些图像被认为是使用微软设计工具创建的，迅速引起了广泛关注，并凸显了AI生成假色情作品日益严峻的挑战。

随著这些图片迅速在平台上扩散，这一事件不仅引发了粉丝和隐私维护者的愤怒，也提出了有关AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈伊萨拉特Michal Salt在这场及时的讨论中提供了丰富的知识和专业见解。萨拉特关注科技、安全和伦理的交集，对AI生成内容的影响提供了微妙的视角。

在接下来的部分，我们将深入探索他的见解，探讨影像操控的历史平行、AI能力所带来的伦理困境，以及在这个越来越由AI驱动的世界中，数字信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将目前AI生成逼真图像的能力与过去使用Photoshop的情况进行比较。就像Photoshop多年前革新了图像处理一样，现在AI使得创建写实的图像变得更加容易。然而，操纵图像的概念并不新颖；AI只是这场持续剧的最新工具。

“从某种角度来看，这只是一种不同的照片编辑软件。”他解释道，并强调操纵图像的概念已经存在十多年。如今的关键区别在于AI技术带来的便利性和可获得性。这一变化提出了重要问题，即社会如何适应和规范这些新工具，而这些工具让创建真实图像比以往任何时候都更容易。

AI与露骨内容的伦理困境

目前最迫切的担忧之一是使用AI生成露骨图像的伦理含义，特别是对特定个体未经他们同意的情况。虽然生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于创建可识别人物的露骨图像的便利性。

“AI生成的色情作品本身可能没有什么本质上的错误或伦理问题，”萨拉特表示。“但至少对我来说，伦理问题在于，你可以相对容易地生成带有已知或特定面孔的图像。”

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能涉及到任何人，这凸显了对伦理指导和立法的需求：虽然所谓的“复仇色情”或非自愿分享裸体在48个州已经非法化，但目前AI生成的深度伪造色情作品仅在10个州被禁止。这一明显的差异凸显了立法需要跟上技术的步伐。

AI公司如何防止生成深度伪造色情？

也许因为创造性AI的接入是一个相对新的现象，对于在未经主体同意的情况下创建露骨内容，几乎没有监管措施。然而萨拉特认为，对AI公司来说，实施这些措施并不会非常困难：比如不允许生成特定人物的图像，或不使用用户上传的图片作为素材，这将对绝大多数人提供充分的障碍。

“当然，有些人能够突破这些限制，强迫模型做一些它本不该做的事情，”萨拉特说。“我认为目前几乎无法完全避免这种情况我们只能让它变得更难。我想要表达的观点是，提供这些服务的公司应该更努力去避免这种情况。”

还有可能有人创建自己的色情生成模型，完全不设限制。然而萨拉特指出，即使这是可能的，实现这一目标需要大量的技术知识和计算能力。

“能够自己创建一个生成裸体图像的AI的人并不多，”萨拉特说。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

萨拉特将目前AI发展的状态与安全产业的演变进行比较。他观察到，我们正在见证安全产业“随著AI的出现重新开始”。这一比较强调将AI发展视为一个持续过程的重要性，其中识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X平台上的AI生成图像凸显了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量以及安全措施将至关重要。通过向米哈伊萨拉特等专家学习并反思过去的挑战，我们可以以更有见识和谨慎的方式导航这一复杂的格局。