Sunday, April 19, 2020

대통령 후보가 당신에게 직접 전화해서 지지를 부탁한다면?


부제: 딥 페이크(Deepfake) 기술이 당신을 바보로 만든다


페이스북에서 팔로우하는 어느 분이 AI로 만든 강의 영상을 올리셨다. 500 문장을 2시간에 걸쳐서 읽고 이 목소리를 AI로 훈련시켜서 강의 프리젠테이션과 합쳐서 만든 것이다. 평소에 이 분 유튜브 동영상을 시청하는데, 이 AI로 합성한 동영상을 들어보니 크게 차이가 나지 않는다. 물론, 문장에서 단어의 강약이나 속도가 조금 다르긴 하지만 AI로 훈련한 목소리라는 사실을 모르고 들으면 구분하기 힘들었을 것이다.

2008년에는 오바마 전 미국 대통령이 트럼프 대통령을 욕하는 영상이 많이 돌아다녔다. (관련 뉴스 보도 및 해당 영상) 이는 어떤 영화감독이 자신의 입술 모양만 합성해 만든 영상이었다. 특정인의 표정이 다양하게 담긴 15초 분량의 원본 영상과 웹캠, '얼굴 매핑'과 목소리 변환 프로그램만 있으면, 조작이 가능하다.

최근에는 어떤 남녀가 줌(Zoom)으로 화상 미팅을 하는 중에 테슬라 CEO 일론 머스크(Elon Musk)가 참여해서 남녀를 놀라게 하는 데모 영상이 회자되었다. 이처럼 기술이 실시간 화상 회의에 나타날 만큼 발전했다.



이런 기술이 악용되면 어떻게 될까? 영상을 통한 피싱(phishing)은 아니지만, 음성을 통한 딥 페이크 공격 사례가 실제 있었다. (The Verge 관련 기사) 2009년 3월 영국 에너지 기업의 한 직원은 CEO에게서 전화를 받았다. 거래처에 송금을 해야 하니 헝가리의 한 회사에 송금하라고 한 것이다. 이 직원은 철석같이 CEO임을 믿고 20만 유로(약 2억5천만원)를 송금했다. 알고 보니, AI 딥 페이크 기술로 조작된 음성이었다.

이런 딥 페이크 위협이 현실화되자, 미국 정부는 국방부 고등방위계획국(DARPA)을 통해 딥 페이크를 탐지하는 ‘미디어 포렌식’ 연구를 진행하고 있다. 또한, 페이스북과 마이크로소프트는 2020년 딥 페이크 탐지 경진대회를 열기로 했다. 페이스북은 최근 딥 페이크 영상 탐지 기술 연구에 1천만달러(약 120억원)를 투입하고, 딥 페이크 탐지 대회를 위한 샘플 딥 페이크 영상을 오는 12월말 공개하겠다고 밝혔다. 구글은 이미 지난달 24일 자신들이 그동안 개발해온 딥 페이크 동영상 3000세트의 방대한 데이터베이스를 공개했다. (한겨례 관련 기사)

SC Magazine은 2020 Cybersecurity Predictions에서 사이버보안 위협 중 하나로 음성 딥 페이크(Voice Deepfakes)가 새로운 피싱(phishing) 먹잇감이 되리라 전망했다.

▶ 함께 읽어보면 좋은 관련 글: 2020년 사이버보안 트렌드

미국은 올해 11월 대통령 선거가 있다. 이런 기술을 이용해서 해커들이 특정 후보의 목소리나 영상을 만들어 유권자들에게 연락하면 어떻게 될까? 정치에 관심이 없던 사람도 대통령 후보가 직접 전화하거나 아이폰 페이스타임(FaceTime)을 통해 얼굴을 보여주며 지지를 호소하면 마음이 움직이지 않을까? 이런 기술이 있다는 사실을 알고 있으면 뭔가 의심을 해볼 수 있겠지만, 기술에 익숙하지 않은 사람이나 잘 믿는 사람들은 충분히 속을 수 있다. 딥 페이크 기술이 발전하면서 가격도 내려가기 때문에 1,000명 중의 한 명만 걸려도 그 효과를 보는 시대가 올 것이다.

딥 페이크 위협이 이렇게 현실화되고 있지만, 탐지 기술의 개발 속도는 느리고 관련 처벌 법규 등은 뒤처지고 있다. 이제는 단순하게 연예인에 포르노를 합성해서 퍼트리는 장난 수준이 아니라 한 나라의 대통령도 뒤바꿀 수 있는 큰 문제다. 이제 각국 정부는 무엇을 해야 할까?
우리 개인들도 이런 가짜를 구분할 수 있는 현명한 지혜를 갖춰야 할 때다.


* 참고 자료 및 출처
진짜 같은 가짜 '딥페이크' 시대가 온다 (포커스)
딥페이크 탐지기술, 가짜뉴스 해결사 될까? (한겨레)
Deepfaking a Celebrity on a Zoom Call is Now Possible (PCMag)
Thieves are now using AI deepfakes to trick companies into sending them money (The Verge)


No comments:

Post a Comment