极端组织正在利用人工智能绕过社交媒体的安全控制，将激进内容与主流文化相融合。
伊斯兰国支持者越来越多地使用人工智能来增强其在线影响力并进行更复杂的宣传。最近一段视频赞扬了俄罗斯的一次致命袭击，突显了极端分子使用的手段不断演变。虽然人工智能已经成为伊斯兰国工具包的一部分已有一段时间了，但这段视频的高制作质量标志着其复杂程度达到了新的水平。
专家们发现，极端组织正在利用这些工具绕过社交媒体的安全控制，这种趋势越来越普遍。这些组织利用这些工具生成将极端主义信息与流行文化相结合的内容，从而更容易接触和激化潜在的招募对象。反恐中心的一项研究表明，人工智能可以促进袭击计划和招募，一些工具已经提供了具体而危险的指导。
这为什么重要？
极端组织滥用技术凸显了加强监管的迫切需要。虽然一些科技公司已经制定了道德标准，但人们对当前安全措施的有效性仍心存疑虑。在没有足够保障措施的情况下快速部署技术会带来重大风险，因为这些工具更容易被恶意行为者获取。
随着监管争议的持续，极端组织利用这项技术的可能性也在增加。专家警告称，如果没有更严格的监管，人工智能可能会成为那些试图传播暴力和极端主义的人手中的强大工具。
评论