美国马里兰大学的一个研究小组对 AI 生成内容的“数字水印”技术可靠性进行了研究，发现这一技术可能被轻易破解。计算机科学教授 Soheil Feizi 指出，目前还没有任何可靠的水印技术，他们已经破解了所有的水印。在测试过程中，研究人员可以轻松地避开现有的水印方法，并发现添加“假水印”在非 AI 生成的图像上更为容易。

另外，根据加州大学圣巴巴拉分校和卡内基梅隆大学的一项类似研究，研究人员发现通过采用“模拟攻击”的方式，AI 生成图像的水印也可以被轻易地去除。这些攻击包括破坏性地调整亮度、对比度或压缩乃至旋转图像来去除水印，或通过建设性的高斯模糊等技术来去除。据报道，AI 生成数字水印将成为一场与黑客之间的竞争。这种水印虽然肉眼不可见，但可以打击滥用 AI 生成的内容。

美国政府在7月下旬宣布，已获得多家人工智能头部公司的自愿承诺，这些公司将采取措施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。这些公司包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI，它们都同意提高其系统的安全性和透明度，包括允许第三方专家对其模型进行审查。