
科技亿万富豪马斯克旗下xAI,因AI聊天机器人Grok回应用户提示,生成带有性暗示的女性与儿童图片,引发全球强烈反弹。法新社报导,「X」14日宣布,将采取措施防止Grok生成对真实人物进行「脱衣」处理的图像。
「X」表示,将在认定此类行为违法的司法管辖区内,对所有Grok及「X」用户启动「地理封锁」(geoblocking)机制,使其无法生成穿着「比基尼、内衣及类似服装」的人物图像。
「X」安全团队在声明中表示:「我们已实施技术手段,防止Grok帐号允许编辑穿着比基尼等清凉服装的真实人物图像。」并强调:「此项限制适用于所有用户,包括付费订阅者。」
声明补充表示,作为「额外一层保护」,通过「X」的 Grok 帐号进行图像创建与照片编辑的能力,目前仅对付费订阅者开放。
在Grok所谓的「火辣模式」(Spicy Mode)功能允许用户通过简单文本提示,如「让她穿上比基尼」或「脱掉她的衣服」,生成女性与儿童的性化深伪(deepfakes)内容后,全球要求xAI约束Grok的压力与日俱增。除了美国加州检察长已针对开发Grok的xAI公司展开调查,多个国家不是封锁使用权限,就是启动各自的调查。
