做作业编小说造假新闻…… AI太能写, 开发者不敢发布
马斯克
一款新型人工智能(AI)技术能够完成写家庭作业、写作魔幻文学故事以及虚构名人八卦等写作任务。然而,开发者决定暂不发布这项技术,因为担心其超强写作能力使用不当会引起不良后果。
用800万网页内容训练AI
美国媒体18日报道,美国“开放人工智能研究中心”开发这项技术的初衷是让电脑根据前文提示自动生成下一句话的第一个单词。为达到这一目的,开发者用800万页网页内容训练人工智能系统。
开放人工智能研究中心在网上发布的几次演示结果显示,这项人工智能技术能够熟练生成文本内容。例如,如果输入“一列载有管控核材料的火车车厢今天在辛辛那提失窃,下落不明”,该系统会生成一篇细节丰富、令人信服的新闻报道,不仅包括盗窃发生地(“市中心铁路干线”)、列车所载核材料来源(“辛辛那提大学研究三角公园城核研究现场”),还有由并不存在的美国能源高官发表的虚构声明。如果输入一段类似《指环王》的文本内容,系统又会转换文风,以魔幻史诗题材特有的风格接着讲故事。
应用前景广阔
这项技术应用前景广阔,可以帮助作家写作、提高智能语音助手能力,但也可能被用于制造虚假新闻或虚假社交网络留言。开放人工智能研究中心因此决定暂不发布这项技术,只发布了一篇相关技术论文和一个能力较弱的类似人工智能模型。
研发这项人工智能技术的“开放人工智能研究中心”是一家意在发挥人工智能最大潜力、监管和修正人工智能危险性的非营利性公司,由特斯拉CEO马斯克在2015年创立。
2018年,由于理念不同,马斯克退出了“开放人工智能研究中心”。
马斯克:AI是威胁,应管控
马斯克多次公开强调人工智能对人类是“可怕的问题和威胁”,呼吁对智能科技提早加以管控。
2017年,马斯克列举多项人工智能或将引发的最糟后果,例如人工智能技术将威胁所有人类工作,以及这项技术甚至可能引发战争,“它是人类文明面临的最大危险”。
他说,人工智能可以比人类更快、更高效地完成任务,更加危险的是,机器人能够“制造假新闻、假电子邮件账号和假信息,以及操纵信息,从而引发战争”。
马斯克还致力于将人脑与电脑“连接”,提升人脑能力,确保人类有能力应对人工智能带来的威胁。
新闻推荐
今年春节以来,由于《流浪地球》的热映,让科幻电影和科幻文学成为关注热点。恰逢美国科幻电影《阿丽塔》也将要在中国上映,著...