보이스피싱 AI 딥페이크 날로 발전하는 신종피싱수법 피싱사기주의보

보이스피싱이 범죄가 날로 발전하면서 이제는 AI를 이용하여 팁페이크 기능으로 목소리까지 음성 변조시키는 사례가 발생되어 공포를 불러오고 있습니다. 아들, 딸, 부모님 목소리를 AI 딥페이크 기능을 이용하여 음성변조 시킨 후 전화상으로 실제 가족인척 금품을 갈취하는 사례가 나타났습니다.

신종피싱수법

보이스피싱 AI 딥페이크 날로 발전하는 신종피싱수법 피싱사기주의보

딥페이크란 인공지능 기술을 활용해서 특정 인물의 얼굴과 목소리를 그대로 구현해 내는 기술입니다. 최근 연예인뿐만 아니라 정치인 등 유명인들의 가짜 영상물들이 온라인상에 유포되면서 큰 문제가 되고 있습니다. 이러한 딥페이크가 이제는 보이스피싱 범죄에도 이용된다고 합니다. 피해자가 되지 않기 위해서는 어떻게 해야 할까요? 지금부터 하나하나 알려드리도록 하겠습니다.

딥페이크(Deepfake)란?

AI

딥페이크(Deepfake)란 무엇인가요? 딥페이크란 인공지능 기술을 활용해서 특정 인물의 얼굴과 목소리를 그대로 구현해내는 기술입니다. 기존 사진이나 영상에 다른 사람의 얼굴을 정교하게 합성하거나 조작하는 기술입니다. 이 기술 덕분에 좋아하는 연예인의 모습을 직접 보지 않고도 생생하게 느낄 수 있게 되었습니다. 하지만 현재 보이스피싱과 같이 범죄에 악용되고 있어 논란을 불러오고 있습니다.

딥페이크(Deepfake) 보이스피싱 사례

범죄

지난 3월 캐나다에서 보이스피싱범이 "아들이 교통사고로 외교관을 숨지게 한 협의로 수감중이다."라는 말과 함께 딥페이크 기술로 가짜 음성 녹음 된 아들의 목소리를 들려주고 부모를 속여 약 2000만 원 정도의 돈을 송금받았습니다.

또한 2019년도 영국의 어떤 한 에너지 회사의 CEO 목소리를 위조하여 해당 기업에 전화 한 뒤 약 3억 1천만원 정도의 금액을 송금받는 등 딥페이크를 이용한 피싱사례로 우려의 목소리가 나타나고 있습니다.

현재 국내에서도 성우, 유명인 등의 목소리를 딥페이크 기술로 복제하여 원하는 내용의 글을 음성으로 변환해주는 음성 합성 기술이 개발되어 범죄에 악용될 가능성을 예상하고 있습니다.

딥페이크(Deepfake) 동영상 제작방법

YouTube

딥페이크 동영상 제작은 어떻게하나요? 딥페이크 동영상 제작 방법은 크게 두 가지로 나뉩니다.

첫 번째는 ‘딥페이크 소스’를 이용하는 방법이고, 두 번째는 ‘딥러닝 모델’을 이용하는 방법입니다.

먼저 딥페이크 소스를 이용하는 방법은 간단합니다. 원하는 이미지나 영상을 준비한 후, 해당 부분을 잘라내거나 복사하면 됩니다. 이후 편집 프로그램을 이용해 붙여넣기 하면 끝납니다. 이렇게 만들어진 결과물은 실제 원본과는 차이가 있지만, 충분히 알아볼 수 있을 정도라고 합니다.

*AI 프로그램이 발전하면서 상당히 많은 프로그램이 생겨났습니다.

두 번째로는 딥러닝 모델을 이용하는 방법입니다. 우선 학습용 데이터셋을 준비해야 합니다. 그리고 이를 기반으로 딥러닝 모델을 만들고, 생성된 모델을 훈련시킵니다. 마지막으로 새로운 입력값을 넣어주면 완성됩니다. 이때 주의할 점은 반드시 검증 과정을 거쳐야 한다는 것입니다. 그렇지 않으면 제대로 된 결과 값이 나오지 않을뿐더러, 자칫 잘못하면 엉뚱한 정보가 전달될 수 있기 때문입니다.

*전문가들이 사용하는 방식같지만 현재 딥러닝 기반으로 제작되어 있는 툴이 많이 생겨 쉽게 이용할 수 있습니다.

Vrew, 미드저니, Studio DID 와 같은 툴이 가장 쉽게 예를 들 수 있는 사이트입니다.

딥페이크(Deepfake) 처벌수위

딥페이크 처벌 수위는 얼마나 되나요? 딥페이크 관련 법안은 현재 국회에 계류 중이며, 아직 통과되지 않았습니다. 따라서 현행법상 딥페이크 콘텐츠를 제작 및 배포했을 경우 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처하게 됩니다. 또한 영리 목적으로 딥페이크 콘텐츠를 판매·대여·배포·제공하거나 공공연하게 전시 상영한 자는 7년 이하의 징역에 처한다고 명시되어 있습니다.

최근들어 연예인들이 자신과 닮은 사람에게 속아 피해를 입는 사례가 늘고 있습니다. 이 사건들은 딥페이크 기술이 얼마나 무섭고 날로 발전하고 있는지 알 수 있는 사례입니다.

딥페이크 기술을 사용하여 만들어진 영상들은 대부분 원본영상 위에 다른 영상을 덧씌워서 만드는 영상입니다. 예를 들어 배우 A씨의 동영상위에 B 씨의 목소리를 입혀서 마치 B 씨가 A 씨인 척하도록 만드는 기술입니다. 이렇게 만들어진 영상은 SNS등을 통해 빠르게 퍼져나가는데, 대부분 진짜처럼 보이기 위해 실제 음성뿐만 아니라 외모까지도 비슷하게 만들어지기 때문에 주의해야 합니다.

이처럼 딥페이크라는 생소한 단어에 대해 알아보았습니다. 우리 모두 이러한 디지털 범죄로부터 안전하기 위해서라도 딥페이크 관련 정보를 미리 알아두는 것이 좋습니다. 이제는 영화 속에서만 보던 일들이 현실에서도 일어나고 있습니다. 그만큼 딥페이크 기술이 빠르게 발전하고 있다는 뜻이겠죠. 앞으로 딥페이크 기술이 더욱더 발전한다면 머지않아 실제로 존재하는 모든 대상을 완벽하게 재현할 수 있을지도 모릅니다. 그렇게 된다면 상상 이상의 사회적 혼란이 발생할 가능성이 있습니다. 하루빨리 관련된 법과 제도가 마련되어 안전한 사회가 만들어지길 바랍니다.

같이 보면 좋은 글

위협적인 Ai Chat GPT 총정리

최신 유행 이니시스 보이스피싱??이거 모르면 모든걸 다 털립니다.

연말정산 '국세청 사칭 피싱 이메일' 들어보셨나요?