OpenAI研发出能准确识别AI生成文本的技术，但面对商业与透明度的双重考量，公司对是否发布该技术持谨慎态度。
人工智能领域的巨头OpenAI已经悄然研发出一种能可靠识别AI生成文本的技术。然而，尽管这项技术已成熟到仅需“按下一个按钮”即可发布，公司却表现出了明显的犹豫，这背后可能隐藏着对商业模式可能受到冲击的担忧。
在过去两年中，OpenAI内部对于AI文本检测器的讨论从未停歇，技术也已准备就绪超过一年。但公司似乎在客户的真实需求的透明度与对现有商业模式的保护之间，寻找着微妙的平衡点。
一项内部调查显示，约三分之一的ChatGPT用户对文本检测器的引入持反对态度，担心这可能会影响他们的使用体验。与此形成鲜明对比的是，OpenAI委托进行的全球调查却反映出了压倒性的支持声音，公众对AI检测和透明度的支持率高达四分之三。
OpenAI的一位发言人强调，文本检测器可能对非英语母语使用者产生特别影响，并可能波及到公司之外的更广泛ECO。她表示，虽然技术“在技术上很有前景”，但公司仍在评估与之相伴的“重要风险”，并探索别的可能的替代方案。
这项技术的重点是能够评估文档是否由ChatGPT编写，无论是全部还是部分内容。据悉，只要文本量足够，其准确率可达99.9%。检测器利用了一种对人类不可见的水印技术，这种水印可以被OpenAI的技术检测到，同时不影响文本质量。但是，对于经过大量编辑、翻译或添加/删除表情符号的文本，其检测的可靠性仍是一个未知数。
OpenAI目前只能将这项技术应用于ChatGPT及其自身的模型，这在缺乏统一的AI透明度行业标准的情况下，有几率会使用户转向其他语言模型，从而对公司的业务造成损害，同时并未从根本上解决行业的透明度问题。
为了减轻由文本生成带来的潜在负面影响，OpenAI的员工正在讨论将检测器提供给教育工作者，或提供给那些帮助学校和企业识别AI编写作品和抄袭行为的外部公司。
值得注意的是，OpenAI此前曾推出过一个AI文本检测器，但由于其不可靠性，公司不得不在2023年夏天将其撤下。如今，面对技术的再次突破，OpenAI站在了新的十字路口，既要考虑技术的先进性，也要权衡商业利益与社会责任的平衡。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
ESPN：36年前百米金牌卡尔-刘易斯9秒92，在今年奥运决赛只能垫底
郑钦文去年广告收入3927万元，曾登上福布斯，目前代言霸王茶姬、麦当劳等10个品牌
AI范儿是一个专注于AI领域的资讯和学习平台，提供最新的人工智能资讯
与中坚力量共成长，2024建信信托艺术大奖评委会特别奖获奖艺术家凌海鹏
Copyright © 2019. m6米乐.
m6米乐，主营ccd视觉检测设备，自动化视觉检测设备等，可以提供免费的机器视觉解决方案与自动化外观缺陷检测系统。
