产业

这家美国科技媒体悄悄用AI写新闻稿,结果却酿出“新闻灾难”……

三个月内上线70多篇稿件,直到最近才被发现竟非真人所写,而是出自人工智能(ai)之手。一家美国科技新闻网站的“实验性”操作再度让新闻行业感受到ai技术来袭的阵阵寒意。

三个月内上线70多篇稿件,直到最近才被发现竟非真人所写,而是出自人工智能(ai)之手。一家美国科技新闻网站的“实验性”操作再度让新闻行业感受到ai技术来袭的阵阵寒意。

不过,有意思的是,剧情很快反转。这些由“机器人记者”所写的报道被发现并未做到如机器人般精准,相反还漏洞百出,导致这家科技网站赶紧发出“更正”报道的通知。

美国媒体评论称,这场“新闻灾难”表明,机器人并不比人类更擅长写新闻报道,甚至表现得可能更糟。至少目前来看,人工智能技术尚未发展到能够取代人类记者的水平。

屡犯低级错误

自去年11月11日至今,美国科技新闻网站cnet悄悄上线了70多篇ai技术生成的新闻报道。

浏览这些稿件,或许会觉得形式过于刻板,但不会觉得与人类记者的作品有太大区别。但是,一位名叫盖尔·布雷顿的营销主管却眼尖地发现其中异样。上周,他在推特上称这些新闻可能并非真人所写,而是由ai生成。

cnet随后不得不“坦白”,并称这只是一个“实验”,以检视ai技术“能否帮助记者和编辑从360度全方位的视角来报道新闻”。

被“揭穿真相”后,cnet将原来的“记者”署名“cnet money staff”改为“cnet money”,即删去“员工”(staff)一词,同时附加说明——“这篇文章得到人工智能引擎的帮助,并由我们的编辑进行审校、事实核查和编辑”。读者点击署名后能看到文章是借助“自动化技术”,即人工智能编写。

剧情还没到此结束。本周二,科技网站“未来主义”(futurism)又在cnet的ai技术“创作”的报道中揪出不少差错。

“未来主义”指出,这些ai技术生成的报道存在一些“非常愚蠢的错误”。

例如,一篇报道写道,利率为3%的1万美元存款在第一年后能赚取10300美元。但实际上,1万美元只能赚300美元。

又如,另一篇报道称,如果你有25000美元的车贷,利率为4%,那么你每年将支付1000美元的固定利息。而事实上,贷款余额每年都在减少,只需支付未偿余额的利息即可,不会出现每年固定偿还1000美元利息的情况。

对此,cnet又在部分ai技术生成的新闻中附加更正通知——“我们目前正在审查报道的准确性,如果发现错误,将会更新并改正。”

加州大学伯克利分校电子工程与计算机科学教授哈尼·法里德认为,出现这些低级错误“主要是编辑的失误”。同时,这一事件也引发另一个值得注意的问题——“看似权威的人工智能技术是否会降低编辑的警惕心,不会像对待人类记者那样谨慎地对待人工智能”。

构成生存威胁?

在新闻行业,cnet所谓的ai“实验”并非先例,不少媒体早已引入ai技术。

美联社自诩为“首批利用人工智能的新闻机构之一”,它自2014年起就开始使用人工智能技术撰写企业盈利的报道,还将该技术用于体育赛事报道中。

但是与cnet相比,美联社的ai技术显得有些粗糙,仅仅是将新的信息填入预先编辑好的模板里。而cnet却能生成类似特稿的长篇文章,在措辞、结构等方面显得更为复杂。因此,外界猜测cnet运用的ai技术可能是类似openai开发的gpt-3。

《华盛顿邮报》的“机器人记者”从2016年起开始参与奥运会和美国总统选举的报道。

彭博社、路透社等媒体也在利用人工智能撰写财经类新闻。《纽约时报》此前报道,彭博社新闻中约有三分之一的内容是由自动化技术创作的。

其他媒体则利用人工智能来评估人类记者的新闻报道。例如,英国《金融时报》会用机器人检查报道中引用的信源是否过多地来自男性;国际调查记者联盟使用ai来筛选金融和法律文件中值得探究的细节。

从某种意义上说,ai技术的出现确实给记者带来阵阵寒意,甚至被媒体人视为生存威胁。几十年来,媒体行业的就业率持续萎缩,人工智能技术可能加速了这一趋势。

法里德指出,以前对自动化技术的理解是,它减少了对人类劳动力的需求,或者说改变了人类劳动力的性质。但是,“现在的不同之处在于,自动化技术并未影响体力劳动,而是影响了具有高度创造性的工作,而这在过去被认为是自动化技术无法企及的。”

为此,“‘机器人记者’是否会取代人类记者”这个问题一直在困扰新闻行业。

ai并非神话

不过,cnet的“实验”似乎在打破ai的神话。至少事实表明,ai并不完美,由人工智能生成的新闻报道也并非神一般的无暇存在。

从内容来看,ai技术生成的新闻难免出现事实性差错。比如cnet的报道就在利息计算、偿还车贷等方面出现低级错误。

更重要的是,ai编写的新闻缺乏原创性和创新性。《华盛顿邮报》指出,人工智能可以快速准确地处理大量数据,或者通过检阅海量公开信息来组装文章,其本质只是剪辑,无法为报道提供更多背景和分析,更没有新的发现或原创报道。ai生成文章的素材还可能源自他人作品,其中牵涉到剽窃、洗稿的伦理问题。

纽约大学媒体实验室的人工智能与本地新闻项目负责人马特·麦克维表示,人工智能技术“不能出门报道或是采访”,所以“永远不会有新的突破,也不能提供独家新闻”。

此外,人类记者还会对报道进行道德考量,有助于确保新闻的公正性。

有观点认为,人工智能技术目前尚未发展到能够取代人类记者的水平。“机器人记者”可以学会完成特定任务,如生成财务报表、改写新闻、进行互联网体育转播、根据事先确定的模板报道重大事件等,但至少目前还写不出高质量的分析文章和原创报道。同时,ai技术生成的新闻仍然需要新闻工作者的审查和编辑。

正如cnet在一份声明中所说,将积极审查所有由人工智能协助生产的作品,并且会继续发布必要的更正。

cnet主编康妮·古列尔莫也强调,cnet使用人工智能的目的不是取代记者,而是协助他们工作。

24快报
JSON抓取失败