男星赌输10亿属「AI谣」

发布 : 2025-3-15  来源 : 明报新闻网


用微信扫描二维码,分享至好友和朋友圈
【明报专讯】一则「顶流男星在澳门输了10亿」消息连日热爆内地互联网,艺人周杰伦、黄晓明相继为此辟谣。公安部昨通报,案件是36岁徐姓男子利用人工智能(AI)生成谣言并发布,已对其作出行政拘留8天的处罚。AI「造谣」能力近期备受各界关注,国家网信办等4个部门近日联合发布新规,9月1日起,AI生成合成内容必须添加标识。

网安局指经AI输热点词生成

周杰伦黄晓明曾辟谣

公安部网安局昨通报,网安部门查明,36岁男子徐X强为争取流量、谋取非法利益,周一(10日)使用软件「某书」(办公软件×书)中AI智慧生成功能,输入社会热点词,制作了标题为「顶流明星被曝境外豪赌输光十亿身价(身家)引发舆论海啸」的谣言信息,并通过互联网平台对外发布,造成谣言迅速传播扩散,引发大量网民议论,诱发相关谣言、话题等频繁登上热搜榜,严重扰乱公共秩序。公安机关根据相关法律法规,对徐X强处以行政拘留8日处罚。

该消息近几天连续发酵,引发网民各种猜测,周杰伦、黄晓明等男星被对号入座,甚至还上了热搜榜,其后两人相继发出澄清。微博CEO王高飞周一发文称,AI分析员判断该传闻缺乏实质性证据,且主要信息源为匿名帐号及营销号,存在动机和逻辑漏洞。

对于消息最终被证实为AI生成的谣言,不少网民认为,让消息热传的社交平台也有责任,「搞算法推荐的平台也不能光想著『恰』(吃)流量,一点责任也不担」。不少人关注到AI生成内容细节丰富,效率高、成本低,造成的危害更大。人民网评论指出,有了AI的「加持」,不法分子可随心所欲制造谣言,零成本开办「谣言工厂」,不能不让人担忧和警惕;网络平台不能袖手旁观,须对AI生成内容加大审核机制,防止AI生产的谣言兴风作浪。

新规范:平台应核验AI标识

事实上,国家网信办、工信部、公安部、国家广播电视总局联手制定的《人工智能生成合成内容标识办法》于昨日公开,今年9月起施行,将要求服务提供者应当对文本、音频、图片、视频等生成合成内容,添加显式标识。《办法》强调,互联网应用程式服务提供者提供AI生成合成服务的,应用程式分发平台应当核验其生成合成内容标识相关材料。国家网信办负责人称,海量信息得以快速生成合成并在网络平台传播,在促进经济社会发展的同时,也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题,为此制定《办法》进一步规范AI生成合成内容标识活动。