News新闻

业界新闻动态、技术前沿
Who are we?

您的位置:首页      业界动态      [AI来了] 一天写7000篇!MCN机构利用AI造谣!AI立法亟需出台
[AI前沿]

[AI来了] 一天写7000篇!MCN机构利用AI造谣!AI立法亟需出台

标签: [AI前沿] 发布日期:2024-06-15 08:17:16 147
[AI来了] 广东高考首次采用AI智能巡考   AI辅助高考大有可为

在当今信息时代,AI 技术正以前所未有的速度发展和渗透到各个领域。然而,随之而来的问题也日益凸显,如利用 AI 软件炮制谣言的现象。近日,一些不法分子为了追逐平台流量补贴,实现流量变现,竟然借助 AI 合成技术编造出大量耸人听闻的谣言,对社会秩序造成了严重的干扰。那么,真相究竟如何?公安机关又将如何应对呢?


今年 1 月,在某网络平台上突然出现了一条关于“西安爆炸”的消息,声称当月 10 日晚西安突然响起巨大爆炸声,并且文字下方还配有所谓爆炸的图片。此消息一经发布,迅速在网络上传播开来。经调查发现,发布该消息的账号归属于江西南昌的一家 MCN 机构,而这家公司的实际控制人是王某某。经过核实,民警发现当地并没有发生类似事件,初步判定该 MCN 机构发布的数条信息涉嫌网络造谣,完全是不实信息。


警方对王某某进行约谈后了解到,网上发布的这条谣言,从文本到图片竟然都是通过 AI 生成的。民警指出,利用 AI 软件生成新闻热点类文章和图片,几乎全程无需人工参与。国内有一网站可以提供近期可能成为热点的新闻报道,违法人员王某某就是通过该网站获取热点关键词,进而生成文章标题。然后,王某某通过 AI 软件,给出关键词后,软件会自动在网络上抓取相关信息,生成几百到上千字的文本,同时配上看似与事件相关的虚假图片,从而拼凑出一段看似信息量丰富,实则完全虚构的内容。通过这种利用 AI 软件生成内容的方式,这家 MCN 机构在短时间内生成了大量文章,最高峰时一天能生成 4000 至 7000 篇,其中最高的一条文章收入甚至达到了 700 元,初步估算每天的收入超过 1 万元。经警方深入调查,王某某共经营着 5 家 MCN 机构,运营账号多达 842 个。自今年 1 月以来,其中一家 MCN 机构利用其账号,陆续在某平台发布了诸如“西安 1 月 10 日发生爆炸导致建筑、车辆炸毁、人员伤亡”等多条谣言信息。最终,经查明王某某的行为构成传播谣言、虚构事实、扰乱公共秩序。目前,南昌警方依据相关规定,依法对王某某处以行政拘留 5 日,并责令涉案 MCN 机构停业整改。


在重庆,公安机关也查处了一起个人利用 AI 软件编造民房爆炸谣言的案件,这起案件还被公安部列为打击整治网络谣言违法犯罪的典型案例。该案例中,利用 AI 技术模仿新闻风格,一键生成涉及灾情的信息以获取高流量。去年 12 月 25 日,一则“重庆巫溪一民房发生爆炸事故,4 人不幸遇难,官方紧急介入调查”的消息在某网络平台发布,全文长达 500 余字,以新闻报道的口吻,详细提供了“发现了 4 名遇难者,其中包括一名儿童”“疑似与居民私拉乱接电线有关”等细节,短时间内获得了数万次的点击量。这条谣言阅读量的暴涨,让之前在网上发文毫无流量的康某某一开始还有些兴奋。康某某表示,自己之前发了 20 多条内容都毫无收益,后来看到一个爆炸新闻有好几十万的点赞量,于是就在网站输入“重庆”“爆炸”等关键词,让其自动生成内容,然后自己复制标题和文章。


康某某之所以制造谣言,是因为他得知在某知名网络平台创作发布文章,可以根据阅读、评论、转发数量等获取相关流量收益,每千人有效阅读量有 1 至 2 元的奖励。然而,他编造虚假消息博取流量的行为已经触犯了法律。经过查证,康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。公安机关依法对其行政拘留 3 日,收缴其违法所得,并封禁其网络账号。


法学专家指出,大量不实信息对于普通网民来说,有时确实很难直接判断是否为谣言,而平台对于相关信息应该尽到监管责任。一些网络平台向流量高的内容和用户支付报酬,这在某种程度上会刺激一些企图赚钱的网络用户发布虚假信息。专家认为,平台在刺激创作的同时,也必须尽到消除虚假信息传播的责任。西南政法大学法学院教授陈伟表示,在支付报酬方面,平台应发挥积极的引导作用,对散布谣言者采取相关的惩罚机制。法律专家建议,在法律法规方面应该让造谣者付出更大的成本。陈伟表示,违法成本在行政处罚中涉及行政拘留、行政性罚款等,还包括封号等措施。法律应该匹配好违法人员的违法成本和他们应承担责任之间的比例,以免其他人看到违法成本过低,导致遏制作用有限。


总之,网络并非法外之地,对于那些在互联网上发布不实言论、扰乱社会秩序的行为,公安机关必将坚决依法处理;对于那些造成恶劣影响、情节严重的行为,公安机关也将依法追究其法律责任。在 AI 技术迅速发展的今天,AI 与 AI 法律的重要性愈发凸显。AI 技术带来的便利不应成为违法犯罪的工具,必须通过完善法律体系和加强监管来规范其使用,维护网络空间的健康和社会的稳定。同时,我们每一个人也都应该增强辨别能力,不轻易相信和传播未经证实的信息,共同营造一个清朗的网络环境。


本文由快乐阿信原创,欢迎转载,转载请注明来源。      题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,深圳市乐道网络科技有限公司仅提供信息存储空间服务。