英国政府今天呼吁马斯克（Elon Musk）的社群平台X采取紧急行动，因应旗下人工智能（AI）工具Grok被用来制作儿童的伪造色情图像。
英国科技大臣肯达尔（Liz Kendall）通过声明表示：「近几天我们在网络上看到的景象完全骇人听闻，在文明社会中是不可接受的。」
法新社报导，AI工具Grok因允许用户通过所谓的「辛辣模式」（spicy mode）设置，生成女性与未成年人的色情化深度伪造（deepfake）图像，正引发日益增长的国际反弹。
欧盟执委会昨天宣布，正「非常严肃地」审查有关这款工具的投诉；英国媒体监管机构通信管理局（Ofcom）也表示正在调查X平台及开发Grok的xAI公司。
根据英国去年7月生效的「在线安全法」（Online Safety Act），凡是承载可能有害内容的网站、社群媒体和影音分享平台，都必须通过脸部图像或信用卡检查等工具，实施严格的年龄验证。
这项法案也规定，媒体和这类网站制作或分享未经同意的私密图像或儿童性虐待内容，包括以AI制作的色情深度伪造品，均属违法。
法案允许对未遵守规定的公司处以其全球收入10%或1800万英镑（约2430万美元）的罚款，以金额较高者为准。
英国政府也已表示，将禁止允许用户为照片中人物「脱去衣物」的所谓「一键脱衣」（nudification）工具。
Grok开发方2日曾表示，已发现旗下AI工具存在缺陷，形容这是「安全防护上的疏失」，并正「紧急」努力修复。