홍콩 경찰이 AI 딥페이크를 이용한 로맨스 스캠으로 피해자를 속여 4,600만 달러(약 634원원) 상당의 가상화폐를 갈취한 조직을 검거하는 데 성공했다.
현지 언론사에 따르면 기자 회견에서 홍콩 경찰이 총 27명을 검거했다고 발표했다. 10월 9일에 당국은 100평에 달하는 홍홈 지구에 위치한 산업 단지에 있던 사업장을 급습해 21세에서 34세 사이의 남성 21명과 여성 6명을 체포했다. 현장에서 휴대전화, 고급 시계, 그리고 약 2만 5,750달러 상당의 범죄 수익금으로 추정되는 물품이 압수되었다.
이 국제 사기 조직은 인근 대학 졸업생 중 디지털 미디어를 공부한 청년들을 기술 전문가로 고용했다. 또한 해외 사기꾼 및 IT 전문가와 협업해 가짜 가상자산 투자 플랫폼도 만들었다.
철저한 계획 하에 수행된 AI 딥페이크 로맨스 스캠
사기 조직은 피해자와 AI 기반 ‘딥페이크’ 기술을 이용해 영상 통화를 하며 피해자들이 여성과 연인 관계를 형성하고 있다는 착각을 하게 만들었다.
신뢰관계를 구축한 후에는 피해자에게 가짜 플랫폼을 통해 가상자산에 투자할 것을 유도했다.
딥페이크는 실제로 존재하지 않는 사람 혹은 다른 사람의 모습을 형상화하도록 편집된 영상, 이미지, 혹은 음성 등을 의미한다. 전체 범죄 과정은 철저한 계획과 체계에 따라 이루어졌으며 이례적으로 규모가 컸다. 직원들을 위한 중국어 및 영어 훈련 매뉴얼까지 제작된 것으로 알려졌다.
이러한 매뉴얼에는 어떻게 거짓 로맨스 관계를 형성해 신뢰를 얻을 수 있는지, 이후 피해자가 투자하도록 어떻게 유도하는지 등이 적혀있었다.
외신에 따르면 해당 집단은 피해자가 교류할 거짓 신원을 생성하는 데 AI 기술을 이용했으며 외모, 성격, 직업, 교육 배경 등 사소한 정보까지 꾸며 피해자를 철저히 속였다.
이미지 출처: 이디오그램