根据美国国防部的一份文件，美国特种作战司令部正在寻求开发先进的深度伪造技术，以创建难以区分的虚假网络人物用于军事目的。
根据美国国防部联合特种作战司令部 (JSOC) 的一份采购文件，美国特种作战司令部 (SOCOM) 正在开发复杂的深度伪造技术，以创建与真实人类无法区分的虚拟人物。
这些人工智能形象将在社交媒体和网络平台上运行，具有逼真的表情和与政府身份证类似的高质量图像。联合特种作战司令部还寻求制作令人信服的面部和背景视频（包括“自拍视频”）的技术，以避免被社交媒体算法检测到。
美国各州政府机构此前已宣布了打击外国信息操纵的框架，理由是这些技术对国家安全构成威胁。尽管认识到深度伪造带来的全球危险，但 SOCOM 的倡议强调了利用该技术获取潜在军事优势的意愿。
专家们对道德问题以及虚假信息增多的可能性表示担忧，并警告称，深度伪造完全是欺骗性质，除了欺骗之外没有任何合法用途，可能会助长全球范围内的进一步滥用。此外，这种做法可能会降低公众对政府通信的信任度，而部署此类技术时人们认为这种做法很虚伪，这加剧了这种风险。
这为什么重要？
尽管之前 Meta 等平台曾摧毁过与美国相关的类似网络，但该计划反映出美国对利用数字操纵实现军事目的的持续兴趣。这进一步表明美国在 Deepfake 使用问题上的立场存在矛盾，因为它同时谴责俄罗斯和中国等国家采取类似行动。
评论