据央视新闻援引美国媒体报道,美国国务院近日表示,自6月中旬起,有人假冒美国国务卿鲁比奥,利用人工智能(AI)生成鲁比奥的声音及具有其书写风格的短信,在聊天软件Signal上联系了至少5名官员。
美国务院发言人塔米·布鲁斯表示,该部门注意到了这一事件,正在调查此事,并在加强其网络安全。
布鲁斯声称:“国务院非常重视保护其信息安全的责任,并且一直在采取措施改进部门的网络安全态势,以防止未来发生类似事件。”她补充说,由于安全原因,她无法提供更多细节。
据悉,在此次令人尴尬的安全漏洞中,一名冒充鲁比奥的人通过Signal发送语音和文字信息,联系了几个国家的外交部长、一位美国州长和一名国会议员。
美国当局认为,肇事者试图操纵政府官员,目的是获取信息或账户的访问权限。
美国联邦调查局(FBI)宣布,自今年4月以来,恶意行为者一直在冒充美国高级官员,其中许多人是现任或前任美国联邦或州政府高级官员及其联系人,该活动旨在“获取信息或资金”。
该机构提到,这些人一直在发送短信和人工智能生成的语音信息,这两种技术分别被称为“短信钓鱼”和“语音钓鱼”。
鲁比奥此前也曾经历过类似的情况。今年春天,出现了一段深度伪造视频,显示鲁比奥说他想切断乌克兰对星链互联网服务的访问权限。后来,乌克兰政府驳斥了这一说法。
随着人工智能技术的进步和更广泛的应用,滥用人工智能来欺骗人们的情况正在持续增加。一位美国官员表示,,涉及鲁比奥的骗局并不成功,而且“不是很复杂”。
不过,也有官员指出,国务院认为向所有员工和外国政府发出警告是“谨慎的做法”,特别是在政府高级官员被多次冒充之后。
根据布法罗大学的教授兼计算机科学家Siwei Lyu的说法,开发这些人工智能系统的科技公司现在正在与那些利用人工智能进行欺骗的人展开竞争。他表示,随着技术的进步,伪造名人、政治家和商界领袖的深度伪造视频数量正在增加。“这就像一场军备竞赛,而目前生成伪造内容的一方正在占据上风。”
就在几年前,伪造视频还很容易被发现,比如声音听起来不像人类,或者出现多余的手指这样的错误。但现在人工智能已经变得更加先进,人类很难再发现其中的问题,这让深度伪造制作者占据了优势。