科技亿万富豪马斯克旗下xAI因AI聊天机器人Grok回应用户提示，生成带有性暗示的儿童图片，引发网友强烈反弹。Grok 2日在「X」上回复，表示正「紧急修复」相关问题，并警告儿童性剥削制品（CSAM）属于「非法且被禁止」。
CNBC与BBC报导，Grok是一款免费的AI助手，部分高端功能需付费，常被用来对其他贴文给出反应或补充背景资讯。当「X」用户在贴文中标注Grok时，Grok便会回应用户的提示词。不过，编辑图片（Edit Image）功能允许任何用户在无须原始发文者同意的情况下，通过文本提示修改影像，甚至生成含有裸露或带有性暗示的影像，因此引发批评。
自由记者兼评论员史密斯（Samantha Smith）就向BBC表示，有人用Grok数字移除她的衣物，让她感到自己「没被当人看，只是被简化为一种性刻板印象」。
BBC在「X」发现多起案例，有人要求Grok替女性「脱衣服」，并在未经同意的情况下，让她们看起来像穿着比基尼，甚至被置于带有性暗示的情境中。史密斯在「X」发文分享自己影像遭窜改的经历，陆续有其他遭遇相同情况的用户留言回应，之后又有人进一步要求Grok生成更多她的影像。
她强调：「女性并没有同意这样的事情。虽然衣衫不整的并不是我本人，但看起来像我、感觉像我，那种感受就如同真的有人发布了我的裸照或比基尼照片一样，令人感到被侵犯。」
xAI并未回应媒体询问，仅发出一则自动生成的回复称「传统媒体在说谎」。不过，Grok的贴文为AI生成内容，并不代表公司的正式声明，xAI技术人员塔吉克斯坦（Parsa Tajik）也发文承认相关问题。他在回复中写道：「嘿！感谢通报，团队正在研究进一步强化我们的防护栏。」