①近年来，生成式人工智能在文本、图像、音乐等领域大放异彩。然而，随着生成式人工智能变得越来越强大，人们越来越难以鉴别AI生成的内容。
②在文本、图像和音乐中，AI生成的文本是最难以检测的。因为现有的图像和音乐生成技术尚未像文本生成技术一样发达，AI生成的图像和音乐往往有某些非自然的视觉或听觉特征。也就是说，AI生成的内容可能在整体上效果较好，但具体到细节就显得不够自然。此外，在图像和音乐中还可以人工添加人类难以发现的水印。在后期检测中，通过水印筛选出AI生成的作品。
③然而，在文本中却难以直接添加人类不可见的水印。这是因为文本与图像和音乐不同，每一个文字都是完全可见的。同时，可用于训练的AI的文本数据也远多于图像和音乐。在庞大的、基于人类写作的语料库的训练之下，AI已经非常擅长模拟人类的表达方式和语言习惯，甚至能够调整文本的风格和语气，这使得AI生成的文本难以直接检测。
④尽管AI生成的文本与人类创作的文本难以分辨，甚至在语言形式上堪比人类的创作，但AI生成的内容极有可能带有事实性的错误。它在海量数据中进行学习和整合，但并不能像人类一样对信息进行精准的甄别与判断，从而不能保证所生成的内容的可靠性。当这些无法准确辨别来源的内容流入社会信息网络时，就可能迅速扩散，从而导致虚假信息的肆意传播，也会带来学术作弊、版权争议等种种问题。
⑤比如在某市的“取消机动车依尾号限行”假新闻事件中。造假者用AI技术生成的“假新闻”，行文严谨，语气措辞得当，也基本符合官方通报的格式。AI一本正经的胡说八道，导致了错误信息大规模传播。国外某科技新闻网站在三个月之内，上线了70多篇用AI技术生成的新闻报道，却被发现其中存在大量基础性错误，包括计算错误、金融概念误解等，不得不暂时叫停AI项目重新审核。