自梵蒂冈上月迎来新教宗后，以人工智能（AI）生成假冒教宗布道的影音迅速在社群媒体流传，吸引大量点阅，包含YouTube等影音平台业者难以妥善管控。
美国籍枢机主教普瑞弗斯特（Robert Prevost）于5月当选罗马天主教新教宗，名号良14世（Pope Leo XIV）。
法新社一项调查发现，自新教宗上月开始引领罗马天主教会后，在影音平台YouTube和抖音国际版TikTok已有数10个页面持续发布AI仿声良14世的消息或冒用其名的消息。
据报导，这些数以百计伪造的英文和西班牙文布道与演说，凸显利用AI制造骗局很轻易能躲过侦测和欺骗观众。
华盛顿大学（University of Washington）荣誉教授埃齐奥尼（Oren Etzioni）表示，「人们自然有兴趣听新教宗要讲什么，他们尚不清楚他的立场和风格。这是利用AI生成虚假消息来制造混乱的绝佳时机」。
埃齐奥尼创办了非营利组织TrueMedia.org，聚焦于打击深伪（deepfake）。
法新社向YouTube检举26个频道上传大量AI生成与教宗有关的内容后，YouTube终止其中16个频道运作，理由是违反该平台关于垃圾邮件、欺骗行为及诈骗的政策；另一个频道则因违反服务条款遭终止运作。
TikTok也删除订阅数合计超过130万的11个帐号，理由是平台政策反对假冒他人、有害的错误消息，以及以AI生成有关公众人物的虚假消息误导社会大众。
诸如「良14世愿景」等社群媒体帐号，述说教宗大概会提供一系列他布道时从未提过的警告和教诲，但往往很难找到这些帐号使用AI的免责声明，甚至有时根本没有提供。
专家表示，即使是看似无害的虚假消息也可能有问题，尤其是当这些内容被用来为帐号吸引交互、进而转卖粉丝群，或日后转向提供其他虚假消息时。
