AI造假技术升级 伊朗战争充斥逼真假讯息
在伊朗战争爆发近2周来，AI生成的假影片与影像，在社群平台上已累积数千万次观看。（法新社）
2022年俄罗斯入侵乌克兰后，社群媒体上充斥著粗劣的假讯息，这些被当作最新战争影像的内容，要不是经过Photoshop修图的假照片，就是从电玩游戏、电影、过去事件，以及不相关新闻报导中移花接木的影片。
美国有线电视新闻网（CNN）11日报导，在美国和以色列对伊朗开战期间，这类老套的假讯息再次流传。这一次，还加入一种在2022年时还不常见的欺骗形式：使用易于操作的人工智慧（AI）工具客制化生成的高画质影片与静态影像。
专精数位鉴识的加州大学柏克莱分校（UC Berkeley）教授法瑞德（Hany Farid）指出，10年前的造假内容仍属少数，而且很快就会被拆穿，但「现在你看到的是数百个，而且非常逼真。」这些内容深植人心，产生巨大的影响，「人们相信它，并且正在放大它的效应。」
英国广播公司（BBC）事实查核部门资深记者、著名的战争假讯息查证专家萨达里扎德（Shayan Sardarizadeh）表示，过去1年来，生成式AI变得更容易取得，如今已经可以制作出非常可信的影片与影像，看起来像是显示重大战争事件，未经训练或仅凭肉眼很难察觉。
在伊朗战争爆发近2周来，被萨达里扎德等专家鉴定为AI生成的假影片与影像，在社群平台上已累积数千万次观看。其中1段假影片显示虚构的伊朗飞弹弹幕，击中以色列特拉维夫。第2段假影片描绘惊恐的民众，在特拉维夫机场逃离据称是伊朗发动的攻击。第3段假影片显示被俘的美军特种部队人员，遭伊朗军队持枪挟持。
另1段假影片声称显示伊朗军事设施遭炸毁的监视器画面，其中3个片段似乎是AI生成，1个片段虽然是真实的，却是去年的画面。还有1段假影片描绘1支虚构的驻伊朗美军地面车队。另1段假影片看起来像是被击落的美国战机，在德黑兰游街示众的画面。
报导指出，这只是目前流传的与伊朗相关假讯息的一小部分。尽管萨达里扎德等人每天都在努力查证与辟谣，但新假讯息出现的速度，远快于被揭穿的速度。这些内容通常非常逼真，一般人在滑动态消息时无法迅速辨识出其为造假。
若干广泛传播的假讯息，一直被亲伊朗的社群媒体帐号当作政治宣传来推播。然而，许多造假内容背后的动机很难确认，或许是为了社群媒体的观看次数，以及这些点阅率有时能带来的影响力与金钱，又或者只是因为人们现在能轻易制作它们。
这种日益复杂的欺骗手法，正被投入一个对真相不利的环境中。党派两极化、媒体碎片化，以及社群媒体演算法的兴起，意味著许多美国人倾向于主要观看「同温层」分享的内容。
法瑞德也指出，社群媒体公司已经放弃对其平台上的内容进行积极审核，「内容更逼真，数量更大，渗透更深——这是我们的新现实。这真的很混乱。」
社群媒体平台X上周宣布，正在采取行动打击战时的AI假讯息。产品负责人毕尔（Nikita Bier）发文表示，如果获得X付费的内容「创作者」传播武装冲突的AI生成影片，却未揭露该影片是由AI制作，将被暂停参与付费计划90天，若再犯则将被永久停权。
然而，法瑞德表示，他对此存疑，因为即使这项政策被严格执行，绝大多数X用户也未参与创作者付费计划。
社群媒体公司TikTok以及拥有脸书（Facebook）和Instagram的Meta，皆未回应CNN关于战争相关假讯息传播的置评请求。
萨达里扎德也指出，X自家的AI聊天机器人Grok，在某些情况下主动让问题变得更糟——错误地告诉寻求查证的用户，许多AI生成的影像与影片，包括一些描绘伊朗战争的内容，是真实的。
来源：自由时报