根据多篇报道，美国马里兰大学的研究小组发现 AI 生成内容的“数字水印”技术可靠性不足，可被轻易破解。该校计算机科学教授 Soheil Feizi 表示，目前没有可靠的水印技术，他们已经破解了所有的水印。在测试过程中，研究人员可以轻松避开现有的水印方法，而在非 AI 生成的图像上添加“假水印”也相对容易。另外，该团队还开发出了一种难以从图像中去除的水印技术，但不会完全损害图像的知识产权。

另外一项由加州大学圣巴巴拉分校和卡内基梅隆大学合作的研究也发现，通过一些方法，AI 生成图像的水印可被轻易去除。这些方法包括破坏性的调整亮度、对比度或压缩乃至旋转图像等，或通过建设性的高斯模糊等技术。

据报道，AI 生成数字水印将成为一场与黑客之间的竞争。这种水印尽管肉眼不可见，但可以打击滥用 AI 生成的内容。此前有报道称，美国政府已获得多家人工智能头部公司的自愿承诺，将对人工智能生成的内容加水印等措施，以提高技术的安全性。亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 这七家公司都同意提高其系统的安全性和透明度，包括允许第三方专家对其模型进行审查。