美军遭伊朗俘虏？AI生成的假影片在X倾巢而出

AI生成影片在马斯克旗下社交平台X流传，包括美军遭伊朗俘虏、以色列城市沦为废墟、美国大使馆陷入火海等。 尽管平台加强政策打击战时假信息，逼真的深伪影片仍激增。

法新社报道，研究人员指出，中东战事让人工智能（AI）生成的视觉素材倾巢而出，规模远超以往任何冲突，导致社交媒体用户往往难以分辨真伪。

为了在冲突期间维护“真实信息”，马斯克（Elon Musk）的X上周宣布，若用户发布AI生成的战争影片却未标明为人工合成，收益分润资格将被暂停90天，再次违规则将面临永久停权风险。

然而，针对假信息的研究人员仍抱持观望态度。

伦敦非营利组织“战略对话研究所”（Institute for Strategic Dialogue）的包德纳（Joe Bodnar）说：“我所监控的信息流，仍充斥大量战争相关的AI内容。”

他说：“看起来创作者并未因此被吓阻，仍持续发布与冲突相关、具误导性的AI影像与影片。”

包德纳举例，有一个拥有蓝勾认证、可参与分润的顶级账号，曾分享一支AI制作的影片，内容为伊朗对以色列发动具核能力攻击。

这则贴文的观看次数甚至高于X针对AI内容打击政策的公告。

随着中东战区真实画面对外传播，大批AI合成影像也跟着传播，且成长速度远超专业查核人员的查证能力。

此外，X自家AI聊天机器人Grok似乎让问题雪上加霜：当用户查证战争相关AI画面，Grok却误导性地表示许多假图是真的。

研究人员也警告，X的获利模式，也就是让高级账户能依互动量获得报酬，进一步提升散布假信息或耸动内容的经济动机。

法新社报道，有一个高级账户曾发布AI制作的迪拜（Dubai）哈里发塔（Burj Khalifa）大楼陷入火海画面，且完全无视X要求加注AI标记的请求。

这则贴文仍持续在线，并累计超过200万次浏览量。

研究人员表示，就算X的取消分润政策获严格执行，大批散播AI内容的用户其实并非收益分润计划成员。

这些用户虽受“社群笔记”（Community Notes）机制审查，但这套系统的成效长期备受研究人员质疑。

美洲数字民主研究所（Digital Democracy Institute of the Americas）去年的研究发现，X上超过9成的社群笔记从未实际对外公布，显见其重大局限。

康乃尔科技校区（Cornell Tech）安全信任与安全倡议（Security， Trust， and Safety Initiative）主任曼特札里斯（Alexios Mantzarlis）表示：“X的新政策原则上是针对战争假信息的合理反制措施，也能降低传播假信息者的诱因结构。”

他说，但成败取决于执行细节：AI影片的数位足迹（Metadata）极易被抹灭，而仰赖乡民查证的社群笔记又有一搭没一搭。

他表示，X平台很难在“精准辨识”与“全面拦截”之间取得平衡。