最新 1 月 3 日消息，埃隆・马斯克旗下 xAI 本周为 Grok 推出了新图像编辑功能，允许 X 用户无需原作者同意（也不会通知原作者）即可编辑任何图像，引发用户争议。

后续将这一事件彻底推向风口浪尖的则是 —— 马斯克 1 月 1 日要求 Grok 将演员本・阿弗莱克的 AI 梗图替换为自己的脸，从而掀起了一股“比基尼换装”热潮。

但问题在于该功能并未得到充分验证，甚至还有部分“乐子人”通过这一功能生成了大量涉及未成年人，以及涉及唐纳德・特朗普（美国总统）、普丽蒂・帕特尔（英国印裔女性政治家）等领导人的图片，引发普通用户及监管机构不满。

对此，xAI 昨日承认“已识别到防护措施存在疏漏，正在紧急修复”，并强调儿童性材料“属于违法且被禁止的内容”。

前一天，Grok 称已审查近期与 X 用户的交互记录，将这些事件描述为“个别案例”，称有用户要求生成“描绘未成年人穿着极少衣物”的图像。Grok 补充表示“正在持续改进，以彻底屏蔽此类请求”。

最新注意到，xAI 技术人员帕尔萨・塔吉克也公开承认了这一问题：“感谢反馈，团队正在研究进一步收紧我们的限制措施。”

马斯克旗下 xAI 产品常因为高用户自由度、低防护度引起争议。其 AI 女友 Ani 可与用户调情；Grok 还会生成泰勒・斯威夫特的深度伪造裸露视频，尽管 xAI 明确禁止“以色情方式描绘人物肖像”。

行业专家指出，更广泛的问题超越 Grok 本身。2022 年 ChatGPT 的推出加速了 AI 生图的扩散，许多公司目前难以防止功能滥用。该技术助长了涉及真人的深度伪造色情内容，儿童安全组织称问题正在加剧。

监管机构已拉响警报：英国互联网观察基金会（非营利组织）报告称，AI 生成的儿童性虐待材料在 2025 年前六个月增长达 400%，并形容该速度“令人惊恐”，调查人员现已发现“首批令人信以为真”的描绘儿童性虐待的 AI 视频。

法国巴黎检方表示，将对 xAI Grok 涉嫌生成非法色情内容启动调查。据称，一些用户借此生成真实人物的虚假性暴露内容，并在 X 平台上散播。受害者包括数百名女性和未成年人。

印度电子和信息技术部上周五要求政府对 Grok 的安全功能进行审查。印度官员指出该平台出现“新趋势”，用户上传女性照片并要求聊天机器人“减少其衣物并使其性感化”。该部称此行为“不可接受，是对 AI 功能的严重滥用”。