西班牙东部警方正在调查一名17岁少年，他涉嫌利用人工智能制作并分享女同学的伪造裸照，并意图在网络上销售。
去年12月，瓦伦西亚（Valencia）里贝拉阿尔塔（Ribera Alta）地区的国民警卫队官员接到一名女学生报案后展开调查。该名学生称，有人以她的名义创建了社交媒体账号，并发布了由人工智能生成的影片。
国民警卫队周日在一份声明中表示：“该账号上出现了多人的照片，且均为未成年人。所有照片都经过篡改，原图经过处理后，照片中的人物看起来完全赤身裸体。”
同一名女孩后续又报案称，有人以她的名义开设了第二个社交媒体账号，还有其他账号展示了由人工智能生成的裸照影片，甚至还有一个专门用于商业推广这些图像的网页。
在另外15名未成年人提出类似投诉后，警方开始怀疑，伪造这些照片和影片的幕后黑手正是这些女孩的同班同学。
通过搜索社交媒体帖文、联系主机托管公司以及检查提供AI图像修改服务的广告网站，警方最终追踪到了嫌疑人。
国民警卫队表示：“警员获取了这些平台的用户和访问信息，包括IP地址，最终将线索指向了其中一名报案人同学的住所。他们还确认，用于创建这些账号的电子邮件也属于同一个人。”
西班牙国民警卫队称，一名17岁少年因涉嫌腐化未成年人正接受调查，并补充说瓦伦西亚的一家青少年法庭正在督办此案。
去年，在西班牙西南部的埃斯特雷马杜拉（Extremadura）地区，曾有15名未成年人因使用人工智能制作女同学的伪造裸照并在WhatsApp群组中分享，被判处一年缓刑。
被告还被要求参加关于性别平等意识以及“负责任地使用技术”的课程。
法院在一份声明中指出：“判决书表明，有证据证实，这些未成年人使用了一款人工智能应用程序，从女孩们的社交媒体个人资料中获取图像，再将这些图像叠加到裸体女性的身体上，从而生成了伪造照片。这些处理过的伪造照片随后在两个WhatsApp群组中被分享。”
代表受害家庭的马尔瓦鲁纳协会（Malvarruna association）表示，此案对西班牙社会具有更广泛的警示意义。该协会当时向线上报纸《ElDiario.es》表示：“除了这次审判，这些事实更应该促使我们反思，必须对民众进行男女平等的教育。”
报告称，该案件凸显了在学校进行适当性教育的必要性，以避免孩子们从色情作品中获取性知识，因为色情内容会“催生更多的性别歧视和暴力”。
今年3月，西班牙社会党政府表示，正在制定一项新法律，旨在将网络诱骗（online grooming）以及未经同意使用人工智能制作色情图像的行为定为刑事犯罪，以加强对网络空间中青少年的保护。
作者：卫报记者萨姆·琼斯，马德里报道
