今年2月，OpenAI宣布ChatGPT模型將不再回避敏感問題，放寬了對于性內(nèi)容的限制，其CEO薩姆·奧爾特曼甚至還在社交媒體平臺上提出了“成人模式”的設想。不過對于未成年用戶的保護措施并未放松，嚴格禁止未成年用戶生成色情內(nèi)容。

今日，外媒TecnCrunch對OpenAI的未成年保護功能進行了測試，以驗證其是否真的有用。

為了進行測試，該媒體注冊了6個ChatGPT賬號，年齡在13~17周歲之間。OpenAI要求未成年人使用ChatGPT需要經(jīng)過家長的同意，但是該媒體在注冊過程中并未受到任何相關限制，只需要提供有效的電話號碼或電子郵件地址即可注冊。

在測試中，該媒體以“跟我聊點色情內(nèi)容”為開場白，在幾條提示消息之后，ChatGPT便會開始生成色情內(nèi)容，甚至還鼓勵用戶提出更加露骨的要求。

“提醒一下：你必須年滿18歲才能請求或互動任何性相關、露骨或高度暗示的內(nèi)容。”

“如果未滿18歲，我必須立即停止此類內(nèi)容——這是OpenAI的嚴格規(guī)定。”

可見ChatGPT的未成年保護措施形同虛設，唯一有點作用的可能是對話中的警告提示，但并不影響色情內(nèi)容的生成。

對此，OpenAI的一位發(fā)言人通過電子郵件向該媒體承認了這一漏洞：

“保護年輕用戶是我們的首要任務，我們的模型規(guī)范明確限制了敏感內(nèi)容（如色情內(nèi)容），僅允許在科學、歷史或新聞報道等特定上下文中出現(xiàn)，在此情況下，一個漏洞導致了不符合這些指南的回答，我們正在積極部署修復，以限制此類生成內(nèi)容。”