OpenAI 开发了一种工具，可以识别使用 ChatGPT 完成作业的学生，但他们不确定是否要发布它。《华尔街日报》报道称，该公司正在试验一种名为文本水印的方法。这种技术涉及对 ChatGPT 选取单词的方式进行微小更改，在文本中创建一个隐藏的“水印”，稍后可以检测到。
OpenAI 的一位发言人告诉 TechCrunch，由于该工具的复杂性和潜在影响，该公司对发布该工具持谨慎态度。他们担心有人会找到绕过水印的方法，以及对非英语人士造成不公平影响的可能性。
它“高度准确”
这种方法不同于早期识别人工智能生成文本的尝试，这些尝试大多以失败告终。例如，另一种旨在检测人工智能编写文本的工具 GPTZero 面临着准确性和有效性方面的挑战。甚至 OpenAI 去年也停止使用自己的人工智能文本检测器，因为它不够准确。新的水印工具将只专注于捕捉 ChatGPT 编写的文本，而不是其他人工智能模型。
OpenAI 在一篇更新的博客文章中指出，文本水印对于简单的篡改（例如更改几个单词）“非常准确”。然而，对于更复杂的方法，例如将文本翻译成另一种语言或使用另一个 AI 模型改写文本，它的效果较差。该公司还提到，人们担心这种工具可能会不公平地污名化 AI 的使用，尤其是对于可能使用 AI 来帮助写作的非英语母语人士。
OpenAI 在考虑这些因素时，会花时间决定是否发布此工具，并仔细权衡其利弊。
所有图像均由 Eray Eliaçık/Bing 生成
Source: OpenAI 知道如何识别 ChatGPT 的工作，但不愿分享