人工智能(AI)的兴起帮助恶意或不道德的各方更容易传播虚假或误导性内容，并使其看起来更准确。
这给拥有这些社交媒体平台的大型科技公司带来了压力，它们为缓和与冲突有关的内容所做的努力受到了越来越多的审查。
欧洲的立法者已经向meta、TikTok和X(原名Twitter)等公司发出警告，要求它们遵守欧盟关于删除有害内容的法律。
如果不这样做，可能会被处以高达全球收入6%的罚款，或者在欧洲遭到禁令。
这三家公司都表示，在暴力事件发生后，他们已经加大了努力。
自从亿万富翁埃隆·马斯克(Elon Musk)一年前收购X公司以来，该公司的内容审核方式发生了重大变化。
作为全公司裁员的一部分，该公司大幅削减了内容审核人员，并恢复了许多此前被禁的账户。
X最近还推出了一种方式，让用户与公司分享其帖子上显示的广告收入，这为创造病毒式传播内容提供了经济激励。
专家表示，这些变化削弱了该平台对错误信息和虚假信息的防范措施。
智库大西洋理事会(Atlantic Council)数字法医研究实验室(Digital Forensic Research Lab)常驻高级研究员埃莫森?布鲁金(Emerson brookings)表示:“在冲突时期，这个系统的问题在于，它鼓励人们尽可能多地单独发帖，即使你没有新信息可以分享。”
“这也会激励人们做出最疯狂或最投机的言论，因为你知道，不管这些言论是否属实，它们都会被更广泛地分享。”
人工智能的崛起也提高了风险。
以前以引用或图片的形式出现的虚假信息，现在可以以深度伪造的音频或视频记录的形式发布，这使得它更难被证实，更容易被相信。
“有了人工智能，一条错误信息(例如)现在看起来就像(以色列)总理本雅明·内塔尼亚胡说了一些他从未说过的话的录音。深度媒体(Deep Media)创始人兼首席执行官里尤尔?古普塔(Rijul Gupta)解释说:“这变得更加难以反驳。”深度媒体是一家检测被操纵的在线内容的人工智能公司。
“即使后来被证明是赝品，现在人们也很难相信它是赝品了。”
早在社交媒体出现之前，虚假信息就一直是一种战争武器。然而，随着强大的数字工具比以往任何时候都更容易获得，事实与虚构之间的界限正变得越来越模糊。
