（2024年8月5日，北京）
据《华尔街日报》报道，OpenAI 日前承认正在研发一种用于识别 ChatGPT 生成文本的水印技术，但该技术目前仍面临诸多挑战。
文本水印技术进展
IT之家8月5日消息，OpenAI 已经开发出一款能够高精度识别 ChatGPT 生成文本的工具，但尚未发布。该工具通过对 ChatGPT 选择单词的方式进行微小的更改，创建一个不可见的水印，未来可以被一个单独的工具检测到。
OpenAI 的回应
针对《华尔街日报》的报道，OpenAI 进行了回应，确认正在研究文本水印技术。然而，OpenAI 表示，这项技术仍存在诸多挑战，需要谨慎推进。
技术原理与挑战
文本水印技术是 OpenAI 探索的多种解决方案之一，旨在确定文本的来源。通过对 ChatGPT 生成的文本进行微小的更改，OpenAI 将只专注于检测来自 ChatGPT 的文字，而不是来自其他公司模型的文字。
尽管在某些情况下，文本水印技术表现出色，但面对翻译、改写或插入特殊字符等篡改行为时，其效果会下降。此外，该技术可能对某些群体产生不成比例的影响，例如非英语母语人士。
OpenAI 的考虑
OpenAI 表示，由于这些复杂因素及其对整个生态系统潜在的影响，他们将谨慎推进文本溯源技术的研究。目前，OpenAI 优先考虑视听内容的认证工具。
以下是详细报道：
“`markdown
技术背景
ChatGPT 是由 OpenAI 开发的一种自然语言处理模型，能够生成高质量的文本。然而，随着 ChatGPT 的广泛应用，如何确定文本的来源成为了一个重要的问题。为此，OpenAI 开始研究文本水印技术。
技术细节
文本水印技术通过在 ChatGPT 生成的文本中选择单词进行微小的更改来实现。这些更改对于人类阅读者来说几乎无法察觉，但可以通过专门的工具进行检测。
挑战与考虑
-
篡改行为：面对翻译、改写或插入特殊字符等篡改行为，文本水印技术的效果会受到影响，这可能导致误判或漏判。
-
语言差异：非英语母语人士在使用 ChatGPT 时，可能会受到文本水印技术的不成比例影响，这引发了公平性和包容性的问题。
-
生态系统影响：文本水印技术可能会对整个生态系统产生潜在的影响，包括但不限于对其他公司的模型和产品的影响。
未来计划
OpenAI 表示，他们将继续研究文本水印技术，并考虑其他解决方案，如分类器和元数据，以确定文本的来源。同时，OpenAI 将优先考虑视听内容的认证工具，以满足市场的需求。
“`
随着人工智能技术的不断发展，如何确保其应用的安全性和可靠性成为了一个重要议题。OpenAI 的这一研究，不仅是对 ChatGPT 的进一步完善，也是对整个行业的一次重要探索。未来，OpenAI 将如何克服这些挑战，我们将持续关注。
Views: 17