一些模型发现，她们的人工智能生成的肖像被用于宣传独裁统治的深度伪造宣传视频。
总部位于伦敦的 Synthesia 公司以其逼真的人工智能视频技术而闻名，但该公司的虚拟形象被用于宣传独裁政权的深度伪造视频，因此受到严格审查。这些由人工智能生成的视频中，有马克·托雷斯和康纳·耶茨等人的形象被错误地显示为支持布基纳法索军事领导人，这让涉事模特感到不安。尽管该公司声称加强了内容审核，但许多受影响的模特直到记者告知他们后才意识到自己的形象被滥用。
2022 年，托雷斯和耶茨等演员受雇参与 Synthesia 为企业项目拍摄的AI模特。后来，他们发现自己的虚拟形象被用于政治宣传，而他们并没有同意。这给他们带来了情感困扰，因为他们担心这些虚假视频会给他们带来个人和职业上的损害。尽管 Synthesia 努力封禁使用其技术进行此类用途的账户，但有害内容仍在网上传播，包括 Facebook 等平台上。
总部位于英国的 Synthesia 对此表示遗憾，并表示将继续改进流程。然而，对参与者的长期影响仍然存在，一些人质疑人工智能行业缺乏保障措施，并警告说，将肖像交给没有足够保护的公司会带来危险。
评论