AI影片网上散播仇恨暴力 目前没安全规则 各界关注(图)
发布 : 2025-8-11 来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈 | 加关注  明声网温哥华 微信公众号 |
专家强烈关注并警告，现行法规无法应对AI仇恨内容，亦未能充分保障公共安全。
一段看似滑稽的人工智能生成影片近日在社交媒体上疯传，内容却令人震惊。影片中，一只身穿美国国旗背心、戴著牛仔帽的「大脚怪」坐在皮卡车驾驶座上并笑著说：「我们今天要去参加LGBT游行，你一定会喜欢的。」随后画面急转直下，它驾车冲入人群，群众尖叫逃窜，手持彩虹旗者亦在其中。该影片于上月在短片平台TikTok帐号「AmericanBigfoot」上发布，至今已累积逾36万次观看及数百则留言，其中多数竟表示赞赏。
LGBTQ+倡议团体Egale指，性小众社区对网上恐同、恐跨(Homophobia，Transphobia)信息感到忧虑。该组织行政总监甘乃迪(Helen Kennedy)称，AI工具正被用来贬低跨性别与性别多元人士，而现有数码安全法例未能应对这种新型威胁。
「加拿大反仇恨网络」(Canadian Anti-Hate Network)行政总监巴尔戈德(Evan Balgord)认为，仇恨视频的内容不只针对LGBTQ+，亦包括伊斯兰恐惧症(Islamophobia)、反犹主义及针对南亚族群。他警告，网上对暴力的赞美可能助长现实中的攻击行为。
安省科技大学(OTU)法学教授斯兰恩(Andrea Slane)指，原本旨在规管网上有害内容及建立AI监管框架的法案，已于今年1月国会休会时胎死腹中。她呼吁政府尽快重启立法。
联邦司法部长弗雷泽(Sean Fraser)上月透露，联邦政府将重新审视《网络危害法》(Online Harms Act)，但尚未决定是否重写或重新提交。新成立的联邦人工智能及数码创新部发言人奥斯利斯(Sofia Ouslis)强调，联邦政府正认真处理AI仇恨内容问题，特别是针对弱势群体，同时正检视现有框架、关注法院裁决，并聆听法律与科技专家意见。她承认现行法律虽有保障，但未针对生成式AI而设，加国政府承诺将非自愿性深伪色情视频列为刑事罪行。她强调，在这个快速变化的领域，当局宁愿把规管做对，也不要仓促行事而出错。
专家指，社交平台多为外国企业，加拿大难以直接规管，加上美国科技公司监管减少，令其更强势、更缺乏责任感。
加拿大可信人工智能研究主席路易斯(Peter Lewis)说，生成式AI技术突破，让一般人也能轻易制作高质影片，工具多为免费或低价。他又说，尽管诸如ChatGPT等大型语言模型已设有机制过滤有害或违法内容，但在影片方面仍需加强防护。
他认为，现行法律可用以打击仇恨与暴力内容，但AI技术的迅速发展与普及，政府、社交平台与开发者需û胪潀X作，建立更有效的举报与移除机制。他强调，AI侦测工具有助识别问题影片，但并非万能。