“ AI+政治”，深深的虚假视频激起了印度的选举

[全球时报的特殊记者在​​印度曹钟全球时报记者Yuan Chen ] 5月20日，印度开始了选举的第五阶段。不久前，人工智能（AI）综合视频“印度总理莫迪与孟加拉流行音乐跳舞”在线上超过了1000万观看次数，在印度网络和媒体中引起了广泛的讨论。实际上，自去年以来，与政治相关的各种深入的虚假视频接一个地出现，在印度在世界上最大的选举中扮演着各种角色，包括允许名人支持政党，欺骗政治对手和“复活”“复活”已故的政治家认可党，等等。“如果2019年大选称为'社交媒体选举'，那么2024年将见证'AI选举'的时代。”根据印度教徒的说法，尽管在以前的印度大选中，仇恨言论和虚假信息也不是陌生的，但是随着人工智能技术的惊人发展带来了革命性的变化，2024年的印度大选将面临新的挑战。对AI当选的深层伪干预可能会侵蚀印度的民主，并深深影响该国的政治生态。

5月6日，莫迪重新发布了自己跳舞的AI合成视频。 （社交平台X）

“几乎不可能区分每个视频的真实性。”

5月6日，莫迪转发了自己在社交平台X上跳舞的AI合成视频，并写道：“像大家一样，我喜欢看着自己跳舞。很高兴在高峰投票期看到这种创造力。它。让人们开心！可以快速生成AI视频的网站。

但是，此声明并未结束此事。根据《印度经济时报》的报道，另一个视频显示“西孟加拉邦首席部长马马塔·班纳吉（ ），基层国会主席“跳舞相同的舞蹈，但背景音乐是​​她演讲的一部分，这是对那些退出撤军的人的批评聚会并加入由莫迪（Modi）领导的人民党（印度政党）。西孟加拉邦警察警告了视频出版商。从那以后，许多印度网民开始将与Modi进行比较，称Modi为“有史以来最酷的总理”。此外，发布视频时的“舞蹈莫迪”视频制作者的标题也很政治：“我发布了此视频，因为我知道所谓的“独裁者”不会让我为此而被捕。”

然而，与莫迪这次的积极陈述不同，当时“莫迪舞传统舞蹈”的视频在去年年底变得很流行，莫迪公开表达了他对深层伪技术的关注。他警告说：“人们错误地认为他们所看到的是真实的，这可能导致巨大的危机。”

根据法国Le Echo的说法，印度正成为将AI应用于政治领域的“先驱”。全球安全软件公司在今年4月的一份报告显示，受过审查的印度人中有将近四分之一的人暴露于具有政治内容的深入的假产品。印度大学生夏尔马（）告诉《全球时报》记者：“昨天，我看到我最喜欢的演员为参加聚会的录音而伪造了一段视频，但他通常没有表现出任何聚会倾向。我们应该有严格的法律，让我们禁止这种欺诈。”商人戈帕尔（Gopal）还向记者表示关注：“我们怎么能相信我们所看到或听到的？现在互联网上有太多的名人视频，以区分每个视频性别的真相几乎是不可能的。”

根据《印度斯坦时报》的报道，在选举期间，有几位宝莱坞电影明星陷入了伪video的争议中。上个月，“著名的印度演员阿米尔·汗（Amir Khan）敦促选民要小心空虚的诺言”的视频变得流行，似乎将手指引向帝国党。阿米尔·汗（Amir Khan）的发言人说，他向相关部门投诉。有人认为，使用宝莱坞明星进行政治宣传是印度政党“争先恐后地”吸引年轻选民的尝试。数据表明，印度有大约1800万选民今年首次投票，近2亿个年轻选民年龄在20至29岁之间。

卡塔尔·半岛电视台报道说，“法国但危险”，印度政党正在转向AI竞选策略。其中，“复活”仍然有影响力的死者政治家是一种普遍的方式。该报告说，曾经领导德拉维达进步联盟的卡鲁纳尼迪（）于2018年去世，但他于今年1月出现在AI合成的视频中，讨论了他的儿子，现任泰米尔纳德邦（Tamil Nadu）现任首席部长。制作了视频的印度媒体技术的创始人 表示，使已故的领导者“复活”比耗时且昂贵的传统集会更新，更具成本效益。

还有一种AI视频将通过恶意编辑来攻击政治对手。今年3月，印度人民党发布了国会领导人拉胡尔·甘地（Rahul ），最大的反对党的领导人拉胡尔·甘地（Rahul ）发行了深刻的伪视频。在视频中，“甘地”说了一些他从未说过的话：“我什么都不做。”根据法新社的说法，印度政党在竞选早期使用了新技术。早在2014年莫迪当选总理，印度人民党时使用全息投影技术允许Modi出现在集会上以扩大其影响力。

今年2月，国会党制作了一段深刻的假录像带，其中唱着歌曲“ The Thief”，嘲笑Modi倾向于偏爱该国的富人。 4月，印度内政部长阿米特·沙阿（Amit Shah）也出现在一个深层的伪video中，“沙阿”声称终止了针对数百万贫穷和低种姓印第安人的平权行动政策。据印度教报纸报道，警方已调查并逮捕了数名国会工作人员，涉嫌传播虚假视频，包括该党的国家社交媒体协调员艾伦·雷迪（Alan Reddy）。雷迪（Reddy）被指控是“莎·谢（Shah Shen）的假视频背后的大师，但现在被保释。”政治是关于创造认知的。通过使用AI工具并启用点击，人们可以在一分钟内完全改变自己的看法。”雷迪在接受采访时说。

印度政党今年将在AI选举援助上花费超过5000万美元

在今年的选举中，多个政党使用AI技术来生产竞选材料。目前，印度正在新兴的公司向政客提供AI服务，其中包括制作多种语言的政客，谈论他们正在从事的项目，或打电话打电话，以询问当地面临的选民问题并寻求建议。音频等。但是一些行业内部人士说：“我们将收到很多要求，其中45％至50％是不道德的。一种是将政治领导人的面孔替换为有争议的视频内容，这可能会伤害他的形象。他的形象；另一个是政治对手的声音的克隆，让他说出他从未说过的话。

根据国际技术新闻网站“剩下的世界”，印度的 Group的数据显示，印度政党将在AI生成的活动材料上花费超过5,000万美元（今年10,000美元约为72,000元）。到。合成媒体技术公司正在加班，以满足所有政党的需求。

“这是我们第一次看到深圳视频的大规模部署。即使对我们来说，这是新的。” 表示，自今年1月以来，他的公司就一直从事政治野外业务，这是其第一个项目是“复活” 的视频。仅仅三个月之后，该公司就被此类合同“不知所措”。由于带宽不足，该公司目前仅与“可以信任并可以提供保证的政党”。此外，此类公司通常不为同时在同一州运行的两个竞争对手提供服务。

是印度AI合成媒体技术公司的创始人，该公司于去年11月开始为印度政客制作AI视频内容。在过去的几个月中，这家小型九人公司赢得了六个与竞选相关的项目，并同时为多个政党服务，预计在今年的大选中将赚取超过24万美元。

例如，关于深虚假视频的具体费用，该公司收取60,000卢比的语音克隆费用（10,000卢比约为868元），数字化头像创造费为100,000卢比。曾经为Modi收取3D全息图的媒体技术公司收取100万卢比的语音克隆费用，并且每个社交媒体的消息收取30卢比。印度政治科学家维斯诺伊（）说：“印度主要政党可能会为AI运动分配超过100万美元……平均一名候选人可能有80,000至90,000美元。”

“这项运动变得怪异”

根据印度教报纸的说法，应用于选举的AI技术的积极方面是，AI技术正在降低制造竞选材料的成本和障碍。例如，一个个性化的“莫迪”视频直接呼唤选民的名字，并鼓励选民参加投票，将一对一地推到了数亿印度网民上，这与传统方法相比节省了很多时间和金钱，因此它也极其成为未来选举的重要工具。根据新加坡的 的说法，一些专家认为，预计AI技术将改变印度大选的漫长而昂贵的情况，但另一方面，这也将使虚假新闻更加普遍，有针对性和更加困难。发现。

印度选举委员会说：“使用在社交媒体平台上操纵，扭曲和编辑的内容可能会错误地影响选民的意见，加深社会差异并侵蚀对选举过程的信任。” 是印度前首席局长说：“谣言一直是竞选活动的一部分。但是在社交媒体时代，它可能会像野火一样点燃该国。”

贾杜恩（）告诉《天空新闻》（Sky News），甚至还有一个政党以前希望该公司能够帮助处理一个真实的视频，以便看起来像是深入的伪造，并打算“驳斥谣言”，因为原始视频“破坏性”在候选人的形象中，贾杜恩直言不讳地说：“竞选活动使许多印度人都担心，深刻的伪造将“真相”变成一个塑料概念承担责任也将受到严重影响。

国际商业与经济学大学国际关系学院的学者Liang 分析了《全球时报》记者，“ AI+政治”趋势有三个主要原因：首先，AI Leap提供技术基础，使得很难区分真实和虚假内容。 2。在主要大国之间战略竞争的总体情况下，近年来，美国，西部，印度和阿根廷等发展中国家显示了明显的政治两极分化趋势。选民依靠互联网来获取信息而无需考虑其真实性。利用了一些激进的政治力量；第三，关于AI生成的产品的道德和道德问题仍然存在很大的争议，相关的监管法规相对落后，这客观地促进了AI在选举中被AI深伪批准的应用。

监管法规落后于落后，印度警察似乎正在玩“战斗”游戏

关于印度关于深度假AI的相关法规，印度数字未来实验室的政策研究人员 Jain表示，印度法律目前没有明确的“深伪造”定义。警方一直使用针对诽谤或侵犯个人隐私的法律，并与《信息技术法》结合解决个人案件。很多时候，他们就像在玩“战斗”。

《印度斯坦时报》报道说，尽管政治领域的虚假信息在印度不是一个新问题，但相关的执法行动一直处于起步阶段，并且没有持续。现在要解决的最紧迫的问题是数字平台应如何标记和识别这些媒体内容。目前，印度选举委员会已向所有政党发送了一封信，要求他们在收到通知后的3小时内删除任何深入的伪造内容。该委员会还要求政党成员不要使用其社交媒体帐户发布深厚的虚假视频和音频，也不要传播任何错误信息，合成或修改的信息。

“深度人工智能伪造可能在许多国家颠覆选举。” 《华盛顿邮报》报道说，印度大选允许人们看到AI工具的爆炸性增长如何使在竞选活动周围创建假媒体内容并改变国家人民变得更加容易。主要过程。加利福尼亚大学伯克利分校的计算机教授法里（Farid）说，在许多国家 /地区，深伪容器猖ramp。例如，美国有模仿拜登总统的声音的电话，戈尔卡党在印尼大选期间使用AI技术来“复活”前总统苏哈托，这突出了解决问题的紧迫性。