根據報道，OpenAI已經開發出一款能夠識別ChatGPT生成文本的工具，能夠通過文本水印檢測文章是否使用AI撰寫，有了它學生再也無法使用ChatGPT寫作業了，但OpenAI同時表示技術存在不足，所以遲遲不發布。

自從ChatGPT誕生后，不少人使用它寫作業、撰寫文案，這讓學校老師們非常頭疼。而OpenAI開發出文本水印——這是一個文字中創建的不可見水印，但能被工具檢測出來，這樣就能判斷文章是否AI撰寫。不過這一功能只能檢查文本是否ChatGPT撰寫，對其它家大模型無效，而且面對翻譯、改寫以及插入特殊字符修改后，檢查準確性會有所下降，所以OpenAI沒有這一技術投入使用。

其實OpenAI公司一直在加強對AI生成內容的監管，在今年初它在生成器DALL-E3生成圖像中的元數據添加了水印，水印由不可見的元數據以及可見CR符號組成，幫助人們識別圖像是否使用AI生成。

自從文生文、文生圖技術成熟后，AI防偽就成為了一大難題，為此Adobe、Microsoft等公司聯合C2PA技術，用于識別照片是否真實拍照的，越來越多社交媒體會在識別到照片是AI生成時加上標注。但是道高一尺魔高一丈，正如OpenAI所說只要在文本上小小調整一下，就很難識別出是否AI生成，要阻止學生AI寫作業依然非常有難度。而在圖片方面，C2PA技術普及速度慢，而且OpenAI也說即使在圖片中加了水印，也容易抹去，恐怕日后互聯網上內容越來越難分辨真偽。