Emma McGowan 2024年1月30日
在AI生成的泰勒斯威夫特色情图片在X前身为推特上疯传之后，我们不禁要问：这对AI的未来意味著什么？
最近，一起令人不安的事件中，AI生成的著名歌手泰勒斯威夫特的露骨图片在X上迅速传播，揭示了AI能力的阴暗面。这些图片被认为是使用微软设计工具创建的，获得了广泛关注，并凸显了AI生成伪色情的日益严峻挑战。
随著这些图片在平台上的快速扩散，这一事件不仅引发了粉丝和隐私维护者的愤怒，也提出了关于AI在媒体创作中伦理使用的重大疑问。
Avast威胁情报总监米哈伊萨拉特带来了丰富的知识和专业经验，对此话题进行深入讨论。他敏锐地关注技术、安全和伦理的交集，对AI生成内容的影响提供了细致的见解。
在接下来的部分中，我们深入探索他的观点，讨论图像操控的历史平行、AI能力所带来的伦理困境，以及在越来越依赖AI的世界中，数位信任和安全的更广泛影响。
萨拉特将AI目前生成逼真图片的能力与过去使用Photoshop进行图像处理进行了对比。就像Photoshop在多年前革命性地改变了图像处理一样，AI现在也让创建逼真图片变得更简单。然而，操控图片的概念并不新鲜；AI只是成为这场持续斗争中的最新工具。
“在某种程度上，这只是一个不同的照片编辑软体，”他解释道，强调操纵图片的概念已经困扰了十多年。现在的关键区别在于AI技术带来的便利和可获得性。这一转变引发了关于社会如何适应和规范这些新工具的重要问题，这些工具使得创建逼真图片变得比以往任何时候都容易。
当前最迫切的关注之一是利用AI生成露骨图片的伦理问题，特别是对未经同意的特定个体。虽然生成一般的裸体图片可能不会引发那么多道德问题，但与可辨识人的露骨图片生成的便捷性直接相关的问题才是真正的关键。
“对于我来说，AI生成的色情图片本身问题不大或道德上不成问题，”萨拉特说。“但伦理问题在于，你可以相对轻易地生成一张有已知或特定面孔的图片。”
这种能力扩展到泰勒斯威夫特等名人，也可能影响到任何人，强调了需要制定伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体图片在48个州是违法的，但目前AI生成的深度伪造色情作品仅在10个州被禁止。这一明显的差异凸显了立法需要跟上技术的必要性。
外网加速npv或许因为接触生成性AI的机会相对较新，围绕未经同意生成露骨内容的防范措施仍然不多。然而，萨拉特指出，对AI公司来说，实施这些措施并不会过于困难：例如，不允许针对特定人员进行图片生成或不使用客户提交的图片作为素材，将能为绝大多数人提供足够的限制。
“当然，有些人会找到突破这些限制的方法，迫使模型做它不应该做的事情，”萨拉特说。“在我看来，当前几乎不可能完全避免这种情况只能让它变得更困难。我想强调的是，提供这些服务的公司应该努力去避免这种情况。”
还存在某人创建自己的色情生成模型而不设置任何限制的可能性。然而，萨拉特指出，尽管这是可能的，但却需要 大量的技术知识和 大量 的计算能力。
“并不是很多人能自己创建一个生成裸体的AI，”萨拉特说。“所以，这更类似于使用Photoshop，你需要拥有一定的技能水平才能做到这一点。”
萨拉特将目前AI发展的状态与安全行业的演变进行了对比。他观察到，我们正在目睹安全行业在“从头开始与AI合作”。这一比较强调了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞对于技术的成熟至关重要。
泰勒斯威夫特在X上的AI生成图片突显了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量和安全措施将是至关重要的。通过向像米哈伊萨拉特这样的专家学习，并反思过去的挑战，我们可以更有知识和谨慎地导航这个复杂的领域。
留言框-
