泰勒斯威夫特的深伪色情影片并不是新鲜事但这并不意味著我们不需要关注这个问题。

Emma McGowan 2024年1月30日

随著人工智慧生成的泰勒斯威夫特色情图像在 X前身为 Twitter上迅速传播，我们不禁思考：这对人工智慧的未来意味著什么？

最近，一系列由人工智慧生成的泰勒斯威夫特模拟图像在 X 上引发了不安的关注，揭示了人工智慧能力的阴暗面。这些图像据信是使用 Microsoft Designer 创建的，迅速引起了广泛的关注，强调了人工智慧生成虚假色情内容日益增长的挑战。

随著这些图像在平台上的迅速扩散，此事件不仅引发了粉丝和隐私倡导者的愤慨，还提出了关于人工智慧在媒体创作中伦理使用的关键问题。

Avast 威胁情报总监 Michal Salt 带来了丰富的知识和专业知识，为这一及时的讨论提供了深刻的洞察。Salt对技术、安全和伦理的交汇点有著敏锐的洞察，能够就人工智慧生成内容的影响提供细致的观点。

在接下来的部分中，我们将深入探讨他的见解，探索图像操作的历史平行、人工智慧能力带来的伦理困境以及在日益驱动的 AI 世界中数字信任和安全的更广泛影响。

假色情不是新问题

Salt 将当前人工智慧生成逼真图像的能力与过去使用 Photoshop 进行的图像操控作了比较。就像 Photoshop 在多年之前彻底改变了图像操作一样，现在的人工智慧使创建现实图像变得更加简单。然而，操纵图像的概念并不新鲜；人工智慧只是这场持续斗争中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释说，强调操纵图像的概念在十多年前就是一个问题。现在的主要区别在于 AI 技术带来的便捷性和可获得性。这一转变引发了关于社会如何适应和管理这些使创造现实图像变得前所未有容易的新工具的重要问题。

人工智慧与明示内容的伦理困境

当前最紧迫的问题之一是利用人工智慧生成明示图像的伦理影响，特别是针对特定个体而未获得同意的情况。可能生成一般裸体图像不会引发太多伦理问题，但真正的问题在于轻易创建明示可识别人士的图像。

“人工智慧生成的色情内容本身可能没有什么固有的错误或伦理问题，”Salt 说。“但对我来说，伦理问题在于你可以相对轻松地生成一张带有已知或特定脸孔的图像。”

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能延伸至任何人，强调了制定伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体图像在48个州是违法的，但目前人工智慧生成的深度伪造色情仅在10个州被禁止。这一明显的差异凸显了立法的滞后。

人工智慧公司如何防止深度伪造色情的创造？

也许是因为接触生成式人工智慧仍相对较新，因此在未经主体同意的情况下创建明示内容的保护措施十分有限。然而，Salt 表示，对于人工智慧公司而言，实施这些措施并不会特别困难：例如，不允许生成特定人物的图像或使用客户提交的图像作为素材，便能充分阻止大多数人。

“当然，有些人会突破限制，迫使模型做到不应该做的事情，”Salt 说。“我认为，在目前的情况下，几乎无法完全避免这一点你只能让它更加困难。我想我想表达的是，提供这些服务的公司应该更加努力地避免这种情况。”

此外，还有可能有人创建自己不受任何限制的色情生成模型。然而，Salt 指出，尽管这是可能的，但需要很多技术知识和大量计算能力。

“能够自行创建生成裸体图像的人工智慧的人并不多，”Salt 说。“因此，这将更像使用 Photoshop，你需要具备一定的技能才能做到这一点。”

Salt 还指出，当前人工智慧发展的状况与安全行业的演变相似。他观察到，我们正目睹安全行业以人工智慧重新开始。这一比较强调了将人工智慧发展视为一个持续过程的重要性，其中确定并修复漏洞对于技术的成熟至关重要。

在 X 上出现的泰勒斯威夫特人工智慧生成图像强调了负责任地使用人工智慧的重要性。随著人类对人工智慧的快速进步，平衡技术能力与伦理考量和安全措施将变得至关重要。通过向像 Michal Salt 这样的专家学习，以及反思过去的挑战，我们可以以更为知情和谨慎的方式驶过这片复杂的海域。