OpenAI开发出写作AI:编写假新闻足以乱真

  • 时间:
  • 浏览:0

据彭博社报道,马斯克倡导成立的AI研究机构OpenAI周四展示一款软件,只需用给软件提供某些信息,它就能编写逼真的假新闻。

OpenAI公布 了软件编写新闻的过程。研究人员给软件提供如下信息:“一节装载受控核材料的火车车厢今天在Cincinnati被盗,下落不明。”以此作为基础,软件编写出由7个段落组成的新闻,软件还引述政府官员一段一段话,也不 那些信息全部也有假的。

纽约大学计算机科学家山姆·鲍曼(Sam Bowman)认为:“软件根据提示生成的文本相当惊人,从品质上讲,它所做的事比随后我们都我们都想看 的繁复某些某些。”

假新闻引起我们都我们都的担忧,OpenAI对此心知肚明,OpenAI政策主管杰克·克拉克(Jack Clark)说:“它还都能不能 生成连贯但不准确的虚假信息,其目的并全部也有很好。”

正因没有 ,OpenAI我太大 披露而且发布软件的繁复版本。它也不 开发另两个 工具,让政策制定者、记者、作家、艺术家用算法做实验,看看能编写那些文本信息,而且还都能不能 做其它事情。

目前虚假信息正在蔓延,威胁全球科技产业,而软件才能编写逼真的虚假新闻全部也有另两个 特大特大喜讯。欧洲监管机构而且向科技企业发出警告,而且科技公司不采取强有力方法 ,补救产品影响选民意愿,它们就会采取行动,自2016年美国大选以来,Facebook老会 在努力,希望控制虚假信息。

克拉克和鲍曼都认为,系统着实很强大,但其能力没有 强到还都能不能 马上带来威胁。克拉克说:“这全部也有一项马还都能不能 投入使用的技术,这是好事。”

OpenAI的工具是为了所谓的“语言建模”任务创造的,它要根据所有随后的单词预测接下来的文本会是如可的,有点硬例如于我们都我们都在手机上写邮件时自动补充文本信息。它还还都能不能 用来执行翻译、开放式问答任务。

OpenAI研究人员杰夫·吴(Jeff Wu)举例说,我们都我们都我们都我们都说还都能不能 用工具帮助作家寻找创意而且生成对话。又例如,我们都我们都说还都能不能 用工具检查语法错误,查看软件代码是是是否漏洞。优化软件随后,未来我们都我们都说还能为企业而且政府决策者提炼总结性文本。

在过去一年里,研究人员在语言补救方面取得巨大进步。去年11月,谷歌开发出另两个 强大的算法BERT,它还都能不能 理解并回答那些的大问题。早些随后,艾伦人工智能研究所也在自然语言方面取得突破,开发出你这一叫华Elmo的算法。

鲍曼认为,BERT和Elmo还都能不能 说是过去5年该领域最重大的突破,相比来说,着实OpenAI算法也有点硬要,而且革命性没有 BERT没有 强。

马斯克是OpenAI的联合创始人,不过去年他而且退出董事会。