2024-06-27 22:57 来源：本站编辑
新加坡:30岁的艾萨克·尼奥可能受过教育，精通技术，了解时事，但时不时地，他仍然怀疑自己在网上看到的东西是真的还是假的。
“我想说，我对识别错误信息或人工智能深度伪造很有信心，但是……这样做正变得越来越困难。”
“有时候，即使是我信任的可靠账户也会被错误信息愚弄。人工智能生成的图像也变得越来越逼真。”
身为安全风险分析师的Neo还联合主持了“投票前”(Before the Ballot)播客，讨论新加坡下一届大选(必须在2025年11月之前举行)之前的关键国家问题。
与选举有关的第一个错误信息已经出现，WhatsApp上一条广泛传播的消息称，新上任的总理黄之锋呼吁在9月6日举行投票。
实际上，至少在4月18日，选举界审查委员会甚至还没有召开，而这是举行选举之前的必要步骤。
这样的谎言是世界各地选民、政党和政府在投票破纪录的一年里必须应对的众多网络威胁之一。
专家告诉中央社，虽然科技公司已经采取措施打击试图破坏竞选活动的恶意行为者，但最终还是要靠选民自己采取预防措施和辨别。
他们补充说，除了努力增进与公众的熟悉和信任之外，政治参与者必须迅速采取行动，处理和应对此类事件。
在印度这个世界上人口最多的国家，深度造假在正在进行的大选中也很猖獗，一名死去的政客在视频中复活，称赞一名候选人，还有反对党领袖拉胡尔·甘地(Rahul Gandhi)辞职的音频骗局等。
新加坡社会科学大学副教授Kasthuri Prameswaran表示，人工智能驱动的选举虚假信息在全球范围内的例子是“非常有问题的”，新加坡需要注意的是，随着大选的“关键”临近。
在地缘政治、气候恶化、粮食和水安全、人口老龄化、社会流动性和包容性等多个方面面临挑战之际，这将是由新总理领导的第四代领导人的首次选举。
她说:“这有各种各样的影响，例如在已经分裂的社会中加剧两极分化，误导选民，剥夺选民的选举权，削弱和诋毁选举处等政治行政机构，甚至使政治行为者失去合法性。”
拉贾拉特南国际研究学院(RSIS)国家安全卓越中心负责人本杰明·昂(Benjamin Ang)指出，仅在过去12个月里，生成式人工智能工具就迅速增长和传播。
同时担任该智库数字影响研究主管的Ang表示，这表明未来几年网络对选举的威胁将加剧。
“在RSIS，我们研究了一些确保选举的最佳做法，比如加拿大2019年的联邦选举，”Ang先生说。
其中一些措施包括政府与社交媒体平台合作并规范社交媒体平台，制定关键选举事件的标准操作程序，成立选举威胁特别工作组，向所有主要政党提供中立的援助和建议，以及提高公民对虚假信息和外国干预的认识。
新加坡国立大学传播与新媒体系副教授Natalie Pang表示，在新加坡，生成式人工智能和深度造假的使用将会增加。
她引用了最近一起针对一些国会议员的勒索阴谋，其中包括将他们的面部照片叠加在淫秽照片上。
“目前这是深度假的人工智能色情片，但当大选到来时，它会演变。”
新加坡最大的反对党工人党(WP)告诉中央通讯社，它严肃对待滥用和误用信息可能产生的潜在威胁。
它还担心能够制作令人信服的深度假视频的生成式人工智能的兴起，这“将潜在的危害提升到了一个新的水平”。
工人党引用了国会议员何婷茹在4月份提出的一个议会问题，他问现行的选举规则是否为候选人和政党提供了追索权，这些候选人和政党是被操纵的、深度虚假媒体或在选举降温日或投票日发布的假新闻的主题。
该党表示:“我们敦促新加坡人，如果他们对遇到的与工党有关的信息有疑问，请参考工党官方网站或社交媒体账户。”
执政的人民行动党(PAP)和新加坡进步党(PSP)拒绝置评，进步党有两名非选区议员。
与此同时，新加坡民主党(SDP)对中央通讯社表示，应对虚假信息和人工智能生成内容等网络威胁的最佳方式是将其曝光，让人们自己做出判断。
一位发言人表示，该党的品牌形象要强大、容易辨认，并在关键问题上清晰、频繁地传达自己的立场，这一点也很重要。
她说:“这是为了让公众，无论是该党的支持者还是其他支持者，都知道对我们有什么期望。”“而且，更重要的是，哪些是可以不考虑的，哪些是可以保留的。”
广泛使用的即时通讯服务WhatsApp已经采取了限制转发文本等措施。它还在一些国家发起了公众教育活动，包括在印度设立了专门的事实核查热线。
今年2月，WhatsApp的母公司textarea表示，在“未来几个月”，它将在Facebook和Instagram平台上标记人工智能生成的图像。
YouTube还承诺引入一项要求，要求创作者披露他们的内容是何时被人工智能工具创建或修改的。
但是SUSS的Kasthuri女士指出了社交媒体算法的负面影响，这些算法在识别出用户的倾向后，反复推出类似的内容。
她警告说:“这些因素加上缺乏核实事实的努力，以及对政治形势的随意理解，是错误信息如何对选民造成严重破坏的关键因素。”
Soon博士指出，科技公司的内容审核政策本质上是全球性的，将其本地化需要与政府等利益相关者合作。
她说，在这方面，监管——不仅以法律的形式，还以行为准则、指导方针和框架的形式——仍然发挥着重要作用。
新加坡选举局是新加坡总理办公室下属的一个监督选举的部门，在回应中央社的询问时表示，需要采取集体方式。
这将意味着政府机构、互联网中介机构和选民的共同努力。
ELD指出了现有的立法，如《防止网络虚假和操纵法》(POFMA)和《外国干涉(对策)法》(FICA)。
美国国务院表示:“近年来，我们还看到许多实体利用社交媒体和通信技术发动针对其他国家的敌对信息运动(HICs)的例子。”
“这些隐蔽的、协调的、复杂的网络活动旨在促进攻击国的利益，例如通过操纵目标国家在国内政治问题上的公众舆论。”
CNA采访的其他新加坡人敏锐地意识到，即使没有人工智能和深度造假的复杂性，内容的剪切和定位方式也已经带有偏见，可能会影响消费者的观点。
34岁的徐慧艳(音译)从事市场营销工作，她表示:“人们很容易被煽动愤怒的头条新闻和诱饵所迷惑。”
她谈到了全面阅读和观看的重要性，以获得更好的背景，并获得不同的信息渠道和观点。
“虚假在选举中没有立足之地，”卡斯图里表示。“它误导了选民，此外，它还会鼓励肮脏的政治，例如过分热情的政党支持者诽谤或诉诸情感。
“不应该给(这些)机会来减损应该发生的真正政治辩论。”
