移动版

OpenAI发布了最新工具:自检工具,可区分人工和AI产生的文本!

2023-02-01 09:48 0
编辑有话说:OpenAI推出的文本检查工具可帮助用户确定文本是否由人类或机器生成。这项技术的潜力和应用广泛,能够有效应对虚假信息的泛滥,并提升人们在互联网上的信息获取能力。这一创新令人振奋!

2月1日,OpenAI推出可以检查文本是人为还是机器,自己检查自己!旨在弄清文本是人类还是计算机写的。

OpenAI推出可以检查文本是人为还是机器,自己检查自己!

OpenAI 是 ChatGPT 背后的公司,ChatGPT 是一个聊天机器人,可以根据提示生成像是人类写的文字,在两个月前发布后迅速走红。上周微软宣布对 OpenAI 进行数十亿美元的投资,并表示将把这家初创公司的人工智能模型纳入其面向消费者和企业的产品。

自从 ChatGPT 在 11 月首次亮相以来,包括纽约市在内的一些美国最大的学区已经禁止了这种人工智能聊天机器人,因为它们担心学生会利用文本生成器作弊或剽窃。

OpenAI 的首席执行官 Sam Altman 说,过去在计算器等技术出现后,教育已经发生了变化,但他也表示,该公司可能有办法帮助教师发现人工智能编写的文本。

OpenAI 的这个新工具并不完美,该公司称其仍然在研发优化中,使用过程中可能会出错。“在我们对英语文本的‘挑战集’的评估中,我们的分类器正确地将 26% 的人工智能写的文本(真阳性)识别为‘可能是人工智能写的’,而将人类写的文本错误地标记为人工智能写的占 9%(假阳性),”OpenAI 员工写道。

新工具在分析包含少于 1000 个字符的文章方面并不可靠,而且 OpenAI 不建议将其用于英语以外的语言。此外,来自人工智能的文本可以稍作更新,就会使分类器不能正确判断它不是人类的作品。

OpenAI 表示,它正在与教育工作者接触,讨论 ChatGPT 的能力和局限性,并将继续致力于检测 AI 生成的文本。

早在 2019 年,OpenAI 就明确表示,识别人工智能合成的文本不是一件容易的事。OpenAI 员工称:“我们在检测人工智能生成的文本方面的工作将继续进行,我们希望在未来分享改进的方法。”

1
免责声明:本文转载互联网,不代表本网站的观点和立场。如果你觉得好欢迎分享此网址给你的朋友。
文章标签

本文统计

  • 发布时间:2023-02-01 09:48
  • 修改次数:1
  • 修改时间:2023-09-15 14:42
  • 浏览热度:167
  • 评论数量:0
  • 点赞次数:1
评论
举报
验证码
发表

暂无评论,期待你的妙语连珠

举报文章问题
验证码
举报文章问题

已收到!

我们将尽快处理。