2025-12-04 17:43来源:本站

OpenAI关闭了一款原本应该区分人类写作和人工智能写作的工具,原因是准确率低。OpenAI表示,它决定在7月20日结束其人工智能分类器。该公司表示:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术。”
OpenAI表示,在关闭捕捉人工智能生成的文字的工具的同时,计划“开发和部署使用户能够理解音频或视频内容是人工智能生成的机制”。不过,目前还没有关于这些机制的消息。
OpenAI完全承认,该分类器在捕捉人工智能生成的文本方面从来都不是很好,并警告说,它可能会产生误报,也就是被标记为人工智能生成的人类编写的文本。OpenAI在更新关闭该工具之前表示,有了更多的数据,分类器可以变得更好。
在OpenAI的ChatGPT进入市场并成为有史以来发展最快的应用程序之一后,人们争相掌握这项技术。一些行业对人工智能生成的文本和艺术提出了警告,尤其是教育工作者,他们担心学生不再学习,只是让ChatGPT写作业。在学校操场上,人们担心准确性、安全性和作弊。
人工智能产生的错误信息也令人担忧,研究表明,人工智能生成的文本可能比人类编写的文本更有说服力。各国政府还没有找到控制人工智能的方法,到目前为止,他们让各个团体和组织制定自己的规则,制定自己的保护措施,以应对计算机生成文本的冲击。就目前而言,似乎没有人知道如何应对这一切,即使是最初帮助启动生成式人工智能热潮的公司也不知道。不过,简单区分人工智能和人类工作只会变得越来越困难。