不满容AI生成裸照 印尼领头封杀Grok(图)

发布 : 2026-1-11  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

全球首富马斯克（图）旗下初创公司xAI所研发及整合于社交平台X供免费使用的人工智能（AI）聊天机械人Grok，早前被网民滥用来生成女性和儿童「脱衣」照片惹国际社会广泛抨击后，公司修订使用权至仅限付费用户，但未能平息争议。印尼昨（10日）起率先封锁使用Grok，英国官员也警告若不纠正问题，将封锁境内的X使用。美国民主党议员则促苹果公司和Google在软件商店将X和Grok下架。

对于被广泛滥用作生成裸露或摆弄色情姿势等淫亵图像，xAI上周四晚公布X平台上的Grok 生成式AI图像和编辑功能，改为只限月费订户使用，而且要向X提供信用卡及个人资料，若出现滥用情况，也能识别滥用者身分。不过，在X以外独立运作的Grok仍允许非付费用户继续生成这类照片。

印尼通讯与数码部昨日发表声明，指政府认为与性有关的非自愿深伪内容严重违反人权和公民安全，并传召X代表要求厘清Grok对用家的安全影响和防止滥用的措施，在政府评估其修补措施期间，Grok暂被禁止使用。

根据印尼法例，制作及散播色情内容，包括色情AI生成图像，可被判囚10年和罚款。

欧盟数码事务发言人雷尼尔批评，无论是否限制付费使用，都改变不了根本问题。

英国首相府发言人说：「这只是将一项允许生成非法影像的AI功能变成付费服务。」

英国科技大臣简丽诗表示，如果Grok不能履行《网络安全法》，继续未经当事人同意衍生不雅图像，她支持监管机构英国通讯管理局（Ofcom）封锁X，并敦促Ofcom于「数日内而非数周」决定后续的措施。

英警告封锁X 民主党人促程式下架

美国民主党3名参议员上周五联署致函苹果和Google，指两者的应用程式商店服务指引均写明禁止剥削儿童或色情内容，呼吁它们移除X及其内置的Grok，直至X改变政策。

（路透社/法新社/BBC/卫报/雅加达环球报）