打击AI造谣刻不容缓

近来暴雨、水灾给国内一些地区造成严重影响,持续受到人们的关注,同时竟也被一些人借机拿来博取关注,吸引流量,严重扰乱社会公共秩序。

现在制造谣言有多简单?可能只需要几个关键词。近期四川公安机关在打击一批传谣组织时发现,有造谣者仅需利用手机浏览器自带的“AI文本生成器”,输入暴雨、泥石流等相关字眼后,就能自动编写一段像模像样的水灾新闻稿。再配上移花接木的视频和图片,确实能起到以假乱真的效果,让人一时真假难辨。无独有偶,此前郑州也有一起打架斗殴治安事件案件,在经过精心地添油加醋后,被描绘成一起恶性伤人的刑事案件。那些发帖作者如同亲临现场一般,用写小说式的笔法,故意在细节上渲染暴力、在情绪上引导对立,再加上煞有其事的图片,最后成功带起节奏。而警方抓获造谣者后才发现,这些高明的造谣手段,竟出自AI之手。AI造谣,不仅让人瞠目结舌,更细思极恐。

如今,AI造谣正加速“狂飙”。无论是炮制洪灾假新闻,还是篡改夸大案情,这些被AI加持后的谣言,都呈现“智能化、速成式”的特征。以往还需要挖空心思地移花接木,让谎言虚实结合、“顺理成章”,如今AI只需一键生成。而“有图有真相”的认知,也在AI画图面前“不值一提”。成本低、效率高,辟谣难度大,这就不难理解为何有人、甚至有团伙将造谣当成引流牟利手段。可见,打击利用AI等新技术新应用编造谣言,已刻不容缓。

对付AI谣言之道,需“还治其人之身”。虽然目前制造“打假AI”并非易事,但利用AI技术“以毒攻毒”无疑是未来思路,眼下已有一些科技公司、平台已开始行动,如国外微软公司推出一个可以对画面中进行逐帧实时分析的工具,以此来帮助用户鉴别内容的真实性。国内抖音等平台则提供统一的AI生成内容标识,帮助创作者打标,方便用户区分,并畅通用户对不实信息的举报渠道。

当然,对付AI谣言,除了需要个人提高提升鉴别能力之外,更需要相关部门、平台主动作为。前者织好法规“法网”,提高造谣成本,后者加强预防工作与审核力度,共筑“防火墙”“预警器”,尽力让谣言出现即消失,止于始作俑者。(陈文杰)

延伸阅读:

打击AI造谣刻不容缓

近来暴雨、水灾给国内一些地区造成严重影响,持续受到人们的关注,同时竟也被一些人借机拿来博取关注,吸引流量,严重扰乱社会公...

联合辟谣平台
2024 年 3 月 26 日
不实信息披上“新闻”外衣 “伪新闻”侵蚀网络生态

“北京一河道内出现碎金”“女外卖骑手车辆被盗后大哭”“主播直播时遭绑架”……近期,多起引发社会强烈关注的所谓“新闻”,先...

联合辟谣平台
2024 年 6 月 26 日
“爱国主义教育学习暨同心圆思想”研讨会在北京隆重举行

2024年4月28日 ,由爱国工程研究院主办,广东省广济慈善基金会协办,北京广廉文博文化发展有限公司、银盾大旗应急装备北...

爱国新闻社
2024 年 6 月 25 日