【编译余友梅／报导】当人工智能生成影像的能力愈来愈逼真，社群平台也正面临前所未有的治理考验。英国圣公会南华克教区近日宣布停止使用社群平台X，抗议其AI聊天工具Grok被指可生成涉及女性与儿童的性化深伪影像；而这起事件如今已迅速升级为欧洲层级的监管风暴。欧盟执委会正式宣布对X展开调查，聚焦Grok所带来的系统性风险，教会的退出行动也被视为一项重要警讯。

欧盟执委会1月26日表示，将依据《数位服务法》（Digital Services Act, DSA），评估X是否未能有效降低平台的「系统性风险」，其中包括AI生成的深伪色情影像、非自愿裸露图片与涉及儿少的非法内容扩散。

欧盟正式启动调查Grok深伪色情影像系统性风险

欧盟强调，这类影像已不只是低俗或不当内容，而是一种数位暴力形式，可能构成羞辱、威胁与性剥削，平台必须提出充分证据，证明其风险控管措施能够保护用户与社会安全。

英国南华克教区主教切逊（Christopher Chessun）1月15日在声明中指出，教区过去一年曾多次重新检视是否应维持X官方账号，但平台近来假讯息与极端内容日益增加，而Grok生成性化深伪影像的争议，更成为「无法跨越的底线」。

他直言，教会「无法留在一个容许如此粗暴侵犯个人隐私与安全的空间」。教区已决定停止更新，但仍保留账号所有权，以防遭他人冒用，未来将转向其他社群媒体持续发声。

牛津主教克罗夫特（Steven Croft）也呼吁信徒重新思考使用X等平台的必要性，并持续检视AI工具带来的伦理后果。

儿少性虐AI内容暴增：一年从13件飙升至3, 440件

事件引发高度震动的另一关键，是AI生成儿少性剥削内容的惊人增长。CBS报导，根据英国「网络观察基金会」（Internet Watch Foundation, 简称IWF）1月16日发表的最新数据，2025年所侦测到的AI生成儿少性虐待影片达3,440件，而前一年仅13件，增幅呈爆炸式上升。其中超过一半被归为最严重的A级内容，显示生成式AI正在成为性犯罪产业的新工具，也让平台治理面临严峻挑战。

IWF警告，「深伪裸照」正以极低成本迅速散播，尤其成为针对女性与未成年人的新型骚扰武器，对受害者造成长期心理伤害与名誉毁灭。

英国Ofcom与美国州检方同步施压

除了欧盟调查，英国网络安全监管机构Ofcom也于1月12日宣布依据《在线安全法》（Online Safety Act）对X展开正式立案调查，厘清平台是否违反保护用户、移除非法性化影像与防止儿少遭剥削的法定义务。X公司15日回应，已采取措施防止Grok账户被用于创建人们的私密照片。

美联社报导，美国多州检察长已要求X说明防堵措施，加州方面亦对马斯克旗下的xAI公司展开关切，评估Grok是否涉及助长非法深伪影像生成。

X声称已限制功能　马斯克反批监管为「审查借口」

X方面表示，已开始移除优先违规内容，并限制Grok在部分地区生成涉及真实人物的暴露影像。然而外界批评，这些措施仍不足以阻止滥用，且存在绕过限制的可能。

马斯克本人则反批英国政府监管立场，称当局正「寻找任何可以审查的借口」，凸显科技自由与公共安全之间的尖锐拉锯。

深伪技术警讯：AI治理已成全球公共危机

从英国教区退出平台，到欧盟正式调查Grok，事件凸显生成式AI已不只是创新工具，而是牵动儿少保护、性暴力犯罪、平台责任与社会伦理的结构性危机。

当影像可以被任意合成、人格可以被任意复制，问题不再只是「AI能做什么」，而是全球社会是否有足够制度与问责机制，阻止它成为伤害他人的新武器。（资料来源：ofcom.org.uk , Premier Christian News, x.com）