美国巴尔的摩市起诉xAI指控Grok：生成儿童色情深度伪造内容

PChome 3月25日消息，美国巴尔的摩市正式起诉马斯克旗下人工智能公司xAI，指控其聊天机器人Grok非法生成儿童色情深度伪造内容及未经同意的露骨图像，成为迄今因该问题起诉xAI的最大规模城市。

据PChome了解，巴尔的摩市政府在诉状中指出，xAI将Grok包装为“安全的通用AI助手”，但其实际运行涉嫌违反消费者保护法。关键证据显示：2026年初的11天内，Grok在社交平台X上生成了约300万张逼真性化图像，其中超过2.3万张涉及儿童性剥削内容，诉状强调这些内容被广泛传播，对未成年人构成系统性伤害。巴尔的摩市要求xAI承担法律责任，包括高额罚款与强制整改。

值得注意的是，印尼于1月10日全球首个封禁Grok，马来西亚紧随其后限制访问，均指出其被反复用于生成“未经同意的未成年人色情合成图像”。