据《南华早报》报道，周一，香港警方宣布逮捕了27名涉嫌利用人工智能换脸技术进行网恋诈骗的犯罪嫌疑人，该诈骗团伙通过虚假的加密货币投资骗取了受害者4600万美元。他们创建了具有吸引力的女网友形象，并且利用工具改变外貌和声音。
被捕者中包括六名涉嫌被招募用于搭建虚假加密货币交易平台的大学应届毕业生。据匿名消息，被捕者中有五人涉嫌与大型有组织犯罪集团（常被称为“三合会”）新义安有关联。新界南总区刑事部高级督察方志坚表示：“该团伙向受害者提供伪造的盈利交易记录，声称投资可获得丰厚回报。”
诈骗团伙在香港一处4000平方英尺的建筑内作案，他们首先使用人工智能生成的照片在社交媒体平台上联系受害者。这些照片展示了具有吸引力的外貌形象，以及诱人的性格，良好的职业和教育背景。
当受害者要求视频通话时，诈骗手段变得更加先进。高级督察余荣根表示，使用深度伪造技术，诈骗者将自己伪装成迷人的女性，从而获取受害者的信任，并让受害者认为自己与诈骗者建立了恋爱关系。警方行动在该团伙总部缴获了电脑、手机、奢侈手表以及约25756美元的可疑收益。警方表示，受害者来自包括中国、印度和新加坡在内的多个国家。
实时深度伪造问题日益严重
过去一年，实时深度伪造已成为一个日益严重的问题。今年8月，我们曾报道过一款名为Deep-Live-Cam的免费应用程序，它可以在视频聊天中实时换脸。今年2月，英国工程公司奥雅纳的香港办公室在一场由人工智能驱动的诈骗案中损失了2500万美元，诈骗者在一场视频会议中利用公司高层管理人员的深度伪造形象，诱骗一名员工转账。
《The Record》在关于这个诈骗团伙的报道中指出，这起诈骗案发生之际，联合国毒品和犯罪问题办公室也发出了警告。上周发布的一份报告强调了亚洲有组织犯罪团伙的技术进步，特别是深度伪造技术的使用在诈骗中增加。联合国机构发现，有10多家深度伪造软件供应商在Telegram上向东南亚的犯罪团伙出售服务，这表明该技术用于非法目的的便利性日益提高。
一些公司正在尝试寻找自动化解决方案，以应对人工智能犯罪带来的问题，其中包括Reality Defender，该公司开发的软件试图实时检测深度伪造内容。目前，一些深度伪造检测技术或许有效，但随着伪造内容的逼真度和复杂性不断提高，我们可能会看到一场欺骗与反欺骗的竞赛。
评论 (0)