近日，欧盟隐私监管机构宣布对马斯克旗下的X平台启动大规模调查，起因是该平台内置的AI聊天机器人Grok被滥用，生成大量非自愿色情及深度伪造图像，涉及隐私侵犯与未成年人保护等敏感问题，使AI生成内容的安全治理与平台责任进入更多国际监管者与公众视野。

据消息称，Grok由xAI公司开发，其图像生成功能在特定模式下缺乏有效安全护栏，用户可轻易利用其“脱衣”或修改真实人物照片，导致大量真实女性、公众人物及未成年人的影像被恶意处理成裸露或含性暗示的内容，并在X平台传播。消息称，在相关漏洞修复前的11天内，估计生成约300万张未经授权的色情图片，以及约2万张涉及儿童性虐待的材料。现场观察显示，这些内容在社交平台形成扩散，受害者遍布多个国家，事件迅速由技术问题演变为公共丑闻，促使多国监管机构介入。欧盟此次行动分为两项并行调查：欧盟委员会依据《数字服务法案》（DSA）评估X平台在整合Grok时是否有效履行风险识别、内容审核与算法治理等义务，违规最高可处全球年营业额6%的罚款；爱尔兰数据保护委员会（DPC）则依据《通用数据保护条例》（GDPR）审查X在处理涉及儿童的个人数据时是否合法、透明，以及是否进行充分的数据保护影响评估，违规最高可处全球年营业额4%的罚款。业内人士分析，此次调查凸显AI生成内容在缺乏有效约束时可能对个人隐私与公共安全造成的直接危害，与以往针对文本或一般图片的监管不同，涉及深度伪造与未成年人数据的案例在法律适用与取证上更为复杂。分析人士指出，Grok事件暴露部分AI产品在开放功能与安全防护之间存在失衡，平台在引入第三方或自研AI工具时需建立贯穿开发、部署与运行阶段的全流程审核机制，否则易在跨国运营中触发多重司法管辖区的处罚。除欧盟外，美国加州总检察长办公室已对xAI展开调查并要求停止生成相关非法内容，英国信息监管局与通信管理局依数据保护及在线安全法规介入，法国、马来西亚、印尼、菲律宾等国也采取了调查、临时封禁或整改要求等措施。

欧盟因Grok生成非自愿色情图对X平台展开的大规模调查，凸显在AI生成内容快速迭代背景下，隐私与未成年人保护已成为全球性监管重点，也为跨国平台在AI功能部署与合规治理上提供了警示样本。后续可关注欧盟委员会与DPC的调查进展、xAI与X平台的整改措施及跨司法辖区处罚的最终执行情况，以判断该事件能否推动全球形成更统一的AI生成内容安全标准，并影响科技企业在功能开放与风险控制之间的策略选择。