人工智慧公司OpenAI的團隊開發了一種文本水印方法，並將在探索替代方案時繼續考慮它。
儘管它在抵抗改寫等局部篡改方面非常準確，甚至有效，但它對全局篡改的抵抗力較小;例如，使用翻譯系統，用另一個生成模型重寫它，或者要求模型在每個單詞之間插入一個特殊字符然後刪除它，使不良行為者很容易規避它。
並且可能對非英語使用者等群體產生不成比例的影響。該公司正在討論是否真正發布該工具。OpenAI去年關閉了之前的AI文本檢測器，理由是「準確性低」。"
OpenAI正在開發一種新型的文本水印技術來識別和檢測ChatGPT生成的文本。這項技術是通過在文本中嵌入不可見水印來實現的，這是通過對ChatGPT選擇單詞的方式進行微小改變來實現的，本質上是在文本中創建一個不可見水印，稍後可以通過單獨的工具檢測到該水印。
然而，仍然面臨許多挑戰。例如，面對文本翻譯、重寫或插入特殊字符，水印的識別效果可能會受到很大的影響。與此同時，該技術可能會對母語不是英語的用戶產生不公平的影響。鑑於這些複雜性，OpenAI表示將繼續謹慎研究，並更加專注於視聽內容認證工具的開發。
OpenAI開發了一個有效率為99.9%的ChatGPT文本水印系統，但由於潛在的用戶強烈反對，他們猶豫是否發布該系統。
儘管一項調查顯示，人們強烈支持AI檢測工具，但OpenAI擔心水印可能會阻止用戶使用它們，近30%的人表示他們將減少ChatGPT的使用。內部也有人擔心，水印很容易被繞過。儘管存在這些挑戰，OpenAI正在探索其他爭議較小的方法來檢測AI生成的文本。
如果您想了解更多信息，可以單擊視頻下方的連結。
感謝您觀看此視頻。如果您喜歡，請訂閱並點讚。謝謝
輸油管：