[AI-人工智能]北京‘绿蝉’AI网络在社交媒体上曝光,引发对美国选举干扰的担忧
简要信息:
一个与中国大学和AI公司相关的社交媒体机器人网络在X平台上被揭露。
这个信息战网络被称为“绿蝉”,是已知的最大的网络之一。
接下来会发生什么?
人们担心绿蝉网络可能被用于干扰即将到来的美国总统选举。
在社交媒体平台X上,至少5000个由AI驱动的虚假账户被曝光,怀疑这是中国发起的信息战行动,目的是传播具有分裂性的政治话语。
本地网络安全公司CyberCX表示,他们发现了一个与中国大学和AI公司相关的行动,这个行动主要针对争议性的美国话题,但有时也涉及到澳大利亚内容。
“虽然信息操作能力目前相对较弱,但我们评估它未来可能被用来进行有害活动,”该公司在刚完成的报告中警告道。
研究人员认为,至少5000个虚假X账户的集群,被称为绿蝉网络,很可能由基于人工智能大型语言模型(LLM)系统控制和协调。
一名在北京一家AI公司工作的员工,他曾在与人民解放军和北京情报机构有密切联系的清华大学学习,被认为是可能建立这一新兴行动的人。
“该网络正逐渐参与政治话语,但大多数账户仍处于休眠状态,”报告中写道,这些发现已经与各联邦政府机构分享。
‘绿蝉’账户可能被用来干扰美国选举
虽然绿蝉网络主要涉及美国政治和文化问题,但也观察到它在澳大利亚、英国、西欧、印度、日本和其他民主国家放大热点政治问题。
“我们观察到对澳大利亚特定问题的放大有限,并且来自所谓澳大利亚用户的发帖。放大的问题包括对政治候选人的支持或反对、核能、经济、住房、移民、抗议和外交政策,”CyberCX发现。
“在这里,我们有一个虚假的网络正在渗透我们的民主话语,试图不仅仅是支持或反对这些辩论中的某一方,而是试图加深这些辩论的分裂和极化,”发言人凯瑟琳·曼斯特德表示。
根据CyberCX的报告,网络“可能是为了干预即将到来的总统选举”,该公司表示观察到其“随着时间的推移,操作执行能力有所改善,并自2024年7月以来活动显著增加”。
这个多达8000个虚假账户的集群被认为是迄今为止曝光的最大之一,可能是第一个使用生成式AI作为其核心活动的显著中国相关信息行动。
“我们评估,如果全面动员现有账户,它们可以成功放大极化内容,从而制造分裂并削弱对公民机构的信任,”报告总结道。
一些账户通过使用被称为“提示注入”的方法被识别,这种方法可以覆盖AI模型的原始指令。
相关关键词:
社交媒体, AI网络, 绿蝉, 信息战, X平台, 中国大学, AI公司, 虚假账户, 网络安全, CyberCX, 人工智能, 大型语言模型, 清华大学, 人民解放军, 信息操作, 美国选举, 选举干扰, 政治话语, 分裂内容, 极化, 澳大利亚内容, 政治候选人, 核能, 经济, 住房, 移民, 抗议, 外交政策, 网络活动, 账户放大, 生成式AI, 信息操作能力, 提示注入, 账户协调, 数字干预, 网络安全报告, AI驱动, 内容传播, 政治辩论, 国际信息战, 网络攻击