泰勒斯威夫特的深度假冒色情影片并不是什么新鲜事，但这并不意味著我们不应该关心这个问题。

Emma McGowan 2024年1月30日

在 AI 生成的泰勒斯威夫特色情图像在 X前 Twitter上疯传后，我们不禁要问：这对 AI 的未来意味著什么？

最近，在令人不安的事件中，AI 生成的知名歌手泰勒斯威夫特的露骨图像泛滥于 X 平台，展现了 AI 能力的阴暗面。据信这些图像是使用微软设计工具创建的，迅速引起了广泛关注，突显了 AI 生成虚假色情作品日益严重的挑战。

随著这些图像迅速在平台上扩散，此事件不仅引发了粉丝和隐私倡导者的愤慨，也提出了关于在媒体创作中伦理使用 AI 的重要问题。

Avast 威胁情报主管 Michal Salt 对这一即时话题提供了丰富的知识和专业见解。Salt 以敏锐的眼光关注技术、安全和伦理的交集，提供了对 AI 生成内容影响的深入见解。

在接下来的部分中，我们将深入探讨他的观点，研究图像操纵的历史平行、AI 能力所提出的伦理困境，以及在日益受 AI 驱动的世界中对于数字信任和安全的更广泛影响。

假色情并不是新问题

Salt 将当前 AI 在生成人像图像的能力与过去 Photoshop 的使用进行了比较。正如 Photoshop 以前彻底改变了图像处理一样，现在 AI 也使得创建现实图片变得更加容易。然而，操纵图像的概念并不新鲜；AI 只是这场持续斗争中的最新工具。

“这在某种程度上只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念已经存在十多年了。如今的主要区别在于 AI 技术带来的便利性和可及性。这一变化对社会如何适应并监管这些新工具提出了重要问题，这些工具让创建现实图像变得比以往更容易。

最引人关注的问题之一是使用 AI 生成露骨图像，特别是未经特定个体同意的伦理影响。虽然生成通用的裸体图像可能不会引发太多伦理问题，但真正的问题在于创建可识别人的露骨图像的便利性。

“AI 生成的色情作品本身并没有什么根本错误或伦理问题，”Salt 说。“但至少对我来说，问题在于你可以相对容易地生成一个有已知或特定面孔的图像。”

这一能力的扩展不限于像泰勒斯威夫特这样的名人，对任何人都有可能，强调了制定伦理指导方针和立法的必要性：虽然所谓的报复色情或未经同意分享裸体目前在 48 个州是违法的，但 AI 生成的深伪色情目前只有在 10 个州被禁止，这种明显的差异突显了立法跟上技术的必要性。

或许因为生成 AI 的接触相对较新，因此很少有防范措施来阻止在未经对象同意的情况下创造露骨内容。然而，Salt 认为，AI 公司实施这些防范措施并不会很困难：仅仅是禁止生成特定人物的图像或使用用户提交的图像作为素材来源，就能为绝大多数人提供足够的障碍。

“当然，也有一些人可以突破这些限制，强迫模型做它不应该做的事情，”Salt 说。“在我看来，目前几乎不可能完全避免这种情况只能让它变得更难。我想表达的观点是，提供这些服务的公司应该更加努力地避免这种情况。”

还有可能有人创建自己的色情生成模型，而没有任何限制。不过，Salt 指出，尽管这是可能的，但需要大量的技术知识和大量的计算能力才能做到。

泰勒斯威夫特的深度假冒色情影片并不是什么新鲜事，但这并不意味著我们不应该关心这个问题。

“并不是很多人能够自己创建可以生成裸体的 AI，”Salt 说。“所以，这更像是使用 Photoshop，你需要拥有一定的技能水平才能实现。”

Salt 将当前的 AI 开发状态与安全行业的演变进行比较。他观察到，我们正在目睹安全行业“用 AI 重新开始”。这一比较强调了将 AI 开发视为一个持续过程的重要性，在这一过程中，识别和解决漏洞是推进技术成熟的关键。

在 X 上的泰勒斯威夫特 AI 生成的图像突显了负责任使用 AI 的重要性。伴随著 AI 的不断进步，平衡技术能力与伦理考量和安全措施将至关重要。通过向专家 Michal Salt 学习并反思过去的挑战，我们可以以更具知识和谨慎的方式来应对这一复杂的领域。