泰勒斯威夫特的深伪色情内容并不新鲜，但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X社交平台上病毒式传播之后，我们不禁要问：这意味著AI的未来将会怎样？

最近，一系列AI生成的泰勒斯威夫特露骨图片在X前身为Twitter上引发了不安的关注，展现了AI能力的黑暗面。这些图片据信是使用微软设计工具创建的，迅速扩散开来，突显了AI生成假色情内容日益严重的挑战。

随著这些图片在平台上迅速广泛传播，事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了有关AI在媒体创作中伦理使用的关键问题。

Avast的威胁情报总监Michal Salt在这一及时的讨论中提供了丰富的知识和专业见解。他关注技术、安全与伦理的交集，对AI生成内容的影响提供了细致的看法。

在以下章节中，我们将深入探讨他的见解，研究影像操控的历史类比、AI能力带来的伦理困境，以及随著我们越来越依赖AI，数位信任与安全的更广泛影响。

假色情不是新问题

Salt将当前AI生成逼真影像的能力与过去Photoshop的使用这一现象进行平行比较。正如Photoshop多年前在影像处理上所带来的革命，现在AI大大简化了创建现实图片的过程。然而，操控影像的概念并不是新的；AI不过是这一持续故事中的最新工具。

“这在某种程度上只是一种不同的图片编辑软体，”他解释道，强调操控影像的问题已经存在超过十年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了重要的问题，即社会该如何适应并监管这些新工具，因为这些工具让创建逼真图片变得比以往任何时候都要容易。

AI与露骨内容的伦理困境

其中一个最迫切的问题是使用AI生成露骨图片的伦理意涵，尤其是在未获得特定个人同意的情况下。生成一般的裸体图片或许不会引来太多的伦理问题，但真正的问题在于轻易地创建可识别个人的露骨影像。

“对于AI生成的色情内容，内在上可能并没有什么错或伦理问题，”Salt表示。“但我觉得，伦理问题在于你可以相对容易地生成一张有特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，这强调了制定伦理指导方针和立法的必要性：虽然所谓的“报复色情”或非自愿分享的裸体在48个州是违法的，而AI生成的深伪色情内容目前仅在10个州禁止。这一 stark 的差异突显了立法需要赶上科技的步伐。

AI公司如何防止深伪色情的产生？

由于生成AI的接触相对较新，对于在未经当事人同意的情况下创建露骨内容的监管措施还很少。不过，Salt认为，对于AI公司来说，实施这些监管并不会非常困难：禁止生成特定人物的图片，或不使用客户提交的图片作为素材，将为大多数人提供足够的屏障。

“当然，有些人能够突破这些限制，强迫模型做它不应该做的事情，”Salt表示。“我认为，现在几乎不可能完全避免这一点只能让它变得更困难。我想强调的是，提供这些服务的公司应该更努力避免这种情况的发生。”

还存在某人制作自己的无限制色情生成模型的可能性。不过，Salt指出，虽然这是可行的，但需要大量的技术知识和大量的计算能力来实现。

“能够独立创造一个生成裸体的AI的人并不多，”Salt说。“所以这更像是使用Photoshop，你需要有一定程度的技巧才能做到。”

Salt将当前AI发展的状况与安全行业的演变进行了比较。他观察到，我们正在见证安全行业“随著AI重新开始”。这一比较突显了将AI开发视为一个不断进行的过程的重要性，识别和修复漏洞是推动技术成熟的关键。

在X上出现的AI生成的泰勒斯威夫特图片突显了负责任使用AI的重要性。随著AI的持续进步，在技术能力和伦理考量、以及安全措施之间保持平衡将是至关重要的。通过向像Michal Salt这样的专家学习，并反思过去的挑战，我们可以以更明智且谨慎的方式来应对这一复杂的局面。