[KT 에이블스쿨 - IT 트랜드] 딥페이크 사례와 피해방지 방안
용어정리
- 딥페이크
딥 러닝(deep learning)과 가짜(fake)의 혼성어로 AI를 기반으로 한 인간 이미지 합성 기술
- 딥페이크 원리
딥페이크는 사진과 영상을 인공지능 기술로 자동 변조하는 CG(컴퓨터그래픽) 기술을 뜻함
2014년 개발된 GAN(생성적 적대 신경망)이라는 딥러닝 알고리즘을 이용
GAN 기술은 진위를 감별하는 알고리즘과 새로운 이미지를 만드는 알고리즘을 서로 경쟁시키듯 학습시키면서 진짜 이미지와 가짜 이미지의 오차를 줄여 '진짜같은 가짜'를 만들어내는 원리
딥페이크 사례
1. 드라마 및 영화
- "살인자ㅇ난감" 드라마 : 아역배우의 얼굴에 손석구의 어린시절 사진을 AI로 합성
- "카지노" 드라마 : 차무식(최민식)의 실제 나이보다 어리게 보이게 만드는 디에이징 기술
- "웰컴투 삼달리" 드라마 : 전국노래자랑 장면에서 故 송해가 등장
 |
| ▲ '살인자ㅇ난감' 속 손석구 배우(왼쪽)와 딥페이크 기술을 통해 만든 어린 시절 모습 |
2. 딥페이크 음란물
딥페이크를 어렵지 않게 만들 수 있는 애플리케이션과 라이브러리가 다양해지면서
피해자, 가해자의 연령대가 낮아지고,
유명인 뿐만 아니라, 일반인도 피해를 입고 있음
 |
| 네덜란드 AI 연구소 센서티가 발간한 보고서 |
3. 사기
영상통화, 음성통화의 얼굴과 목소리를 딥페이크로 변조해 보이스피싱에 악용
자녀, 부모의 목소리를 복제해 납치된 척 꾸며 금전을 요구
안면 인식 결제가 보편화된 중국에 딥페이크 악용 범죄가 급증하고 있음
4. 정치
선거 불참을 유도하는 바이든 대통령의 가짜 음성
 |
| AI로 만든 딥페이크 사진 |
딥페이크 피해방지
- AI가 만든 딥페이크 이미지에 역으로 AI 알고리즘을 적용해 이를 차단하는 방안
1. GAN으로 생성한 이미지에 다시 GAN 알고리즘을 적용해 위조 여부를 탐지하는 기술
2. 정상 데이터와 위조 데이터를 비교하는 AI 알고리즘 등이 연구 중
이미지와 영상은 픽셀 단위로 분석하며, 음성은 주파수와 시간, 노이즈 등 다양한 조작 요소를 종합적으로 고려
문제점
- 딥페이크 위변조 기술의 진화 속도나 새로운 위변조 이미지 생성 속도가 워낙 빨라 탐지율을 높이기 어려움
- 페이스북은 2019년부터 전세계 연구자들을 대상으로 딥페이크 영상 탐지 기술 경연대회 개최
지난해 대회에서 1위를 차지한 알고리즘은 탐지 정확도가 65%에 그침
해외 현황
- 유렵연합
AI로 생체, 안면 인식 데이터를 모으는 행위를 금지함
이에 반하는 경우, 매출의 7%에 해당하는 과징금을 부과하는 AI법을 신설함
- 미국
구글, 오픈AI 등 주요 AI 기업들에게 워터마크 사용을 강제하는 법안을 추진 중
국내 현황
- 대검찰청 과학수사부 : 딥보이스 탐지 등을 위한 중장기 연구 사업 진행
2027년까지 4년에 걸쳐 86억원을 투입
- 딥브레인AI : 딥페이크 탐지 솔루션
딥페이크로 의심되는 영상을 시스템에 업로드 한 뒤,
탐지모델, 탐지구간, 탐지인물 등을 설정하면 5~10분 내에 진위여부를 판별함
제도
‘성폭력범죄의 처벌 등에 관한 특례법’ : 딥페이크 음란물에 대한 명확한 규정을 신설함
딥페이크 음란물을 만들거나 반포한 자, 복제물을 반포하거나 판매 등을 한 자는 5년 이하 징역 또는 5000만원 이하의 벌금 처벌
정치
공직선거법 개정안 - 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역
나의 생각
앞으로 기술이 좋아질 수록 정교해진 딥페이크를 활용한 악용 사례가 많아질 것인데,
딥페이크를 인지하는 시민 의식이 필요하다고 생각이든다.
딥페이크는 유명 연예인, 정치인을 대상으로 이뤄지는게 아니라 지인, 가족을 대상으로도 이뤄지기에 주의가 필요하다.
금전을 요구하는 경우, '딥페이크로 만들어진건 아닐까??' 라는 의심이 필요하다.
통신사에서는 모르는 번호로 전화가 왔을때, 딥페이크로 만들어진 음성인지를 판별하는 기술이 적용되면 좋을 것 같다.
SNS나 인터넷에 올린 한장의 사진으로 딥페이크에 악용될 수도 있어서 무섭다.
그렇기에 개인정보를 대하는 자세가 더 신중해져야한다고 생각이든다.
휴대폰 번호, 이메일, 안면 인식, 지문인식 등 개인정보와 생체정보를 제공을 대수롭지 않게 여기는 사회적 분위기가 바뀌어야한다.
공익광고, 기사, 인문수업을 통해서 인식을 개선할 필요가 있다고 생각한다
참고자료
손석구 닮아 놀랐는데…리얼리티 위한 딥페이크 배우 시대
'얼굴도둑 넘어 성범죄까지'...진화하는 딥페이크, 당신도 타깃
댓글
댓글 쓰기