尽管该工具已准备就绪一年多且效果显著，但 OpenAI 仍在探索争议较少的替代方案，并继续权衡更广泛的伦理和技术影响。
OpenAI 已经开发出一种方法来检测何时使用 ChatGPT 撰写论文或研究报告，但该公司仍需将其发布。这一决定是经过两年的内部辩论的结果，旨在平衡公司对透明度的承诺与阻止用户的可能性。一项调查发现，近三分之一的忠实 ChatGPT 用户会因为反作弊技术而失去兴趣。
有人担心该工具可能会对非英语母语人士产生不成比例的影响。OpenAI 的发言人强调，由于涉及的复杂性，需要采取慎重的态度。支持该工具的员工认为，它的好处大于风险，因为人工智能生成的论文可以在几秒钟内完成，这对教育工作者来说是一个重大问题。
水印方法会巧妙地改变人工智能生成的文本中的标记选择，从而创建人类读者无法察觉的可检测模式。据报道，该方法的有效性为 99.9%，但有人担心它可能会通过翻译或文本修改被绕过。OpenAI 仍在确定如何提供对检测器的访问权限，同时防止滥用。
尽管水印技术非常有效，但早在 2022 年 ChatGPT 发布之前，OpenAI 内部就一直在讨论这个问题。2023 年的一项调查显示，全球都支持人工智能检测工具，但许多 ChatGPT 用户担心被错误地指控使用人工智能。OpenAI 正在探索解决这些问题的替代方法，同时保持人工智能的透明度和可信度。
评论