IT之家 1 月 17 日消息，今天凌晨，据《商业内幕》报道，美国加州总检察长罗布 · 邦塔正式向 xAI 发出要求：阻止聊天机器人 Grok 生成涉及儿童的不良深度伪造图像。

在 Grok 被持续指控可生成未经同意的色情相关不良内容之后，邦塔办公室向 xAI 发出一份“终止”函，要求后者立即整改。

邦塔在信中明确要求，xAI 必须防止 Grok 生成任何未经当事人请求的不良图像，或涉及未成年人的相关内容。信函指出，如继续允许此类内容生成或传播，将构成违反加州多项法律，包括深度伪造色情内容、儿童性虐待影像、非法录制以及不正当商业行为相关法规。

xAI 被要求在 1 月 20 日下午 5 点前完成整改。

此前，X 平台曾于本周表示，已对 Grok 功能进行限制。X 的安全团队称，平台已通过技术手段禁止 Grok 对穿着比基尼等暴露服装的真实人物图像进行编辑，该措施对所有用户都适用。

但报道指出，X 应用和 Grok 应用仍可生成不良图像。Grok 因可在用户请求下“脱衣”处理真实人物图像、并生成未经同意的不良深度伪造内容，正遭遇多国政府的反弹与法律追责。

在发出停止函前，邦塔已公开宣布调查 xAI 在网上生成并发布未经同意的露骨性内容。

另一起案件中，网红及政治策略顾问阿什莉 · 圣克莱尔已对 xAI 提起诉讼，指控 Grok 使用她未成年时期的照片，在未经同意的情况下生成性露骨深度伪造图像。

英国首相基尔 · 斯塔默曾在下议院发言称，Grok 生成的相关图像“令人作呕、令人羞耻”。印度尼西亚、马来西亚和菲律宾也已宣布封锁 Grok ，据IT之家了解，目前尚无解禁迹象。

截至发稿，加州总检察长办公室未回应媒体置评请求。xAI 则通过自动回复称：“传统媒体在撒谎。”

本文转自：凤凰网科技

原文地址： https://tech.ifeng.com/c/8pyntI90kVE