세계적으로 청소년 딥페이크 피해가 잦아, 대책 마련 시급
최근 바이든 행정명령은 워터마크 등을 붙이도록 권고할 뿐
전 세계적으로 청소년 딥페이크 피해가 잦다. 소셜미디어에 지인의 얼굴을 음란물과 합성한 이른바 ‘지인 능욕’ 사진이 논란이 되고 있다.
워싱턴포스트(WP)에 따르면 지난 9월 스페인에 사는 미리암 알 아디브 멘디리 씨는 집에서 초조하게 자신을 기다리는 14세 딸을 봤다. 딸은 온라인에 떠돌고 있는 자신의 나체 사진을 보여줬다. 딸은 이런 사진을 찍은 적이 없다며 안절부절못했다. 경찰에 확인해보니 또래 남자아이들이 저지른 일이었다. 딸 소셜미디어에 있는 사진을 가지고 인공지능(AI) 기반 사진 합성 기술을 활용해 딥페이크 나체 사진을 조작한 것.
월스트리트저널(WSJ)에 따르면 지난달 뉴저지 웨스트필드고등학교에서 2학년 남학생들이 여학생들 딥페이크 사진을 만들어 단체 채팅으로 공유했다. 피해자인 프란체스카 마니 양(14) 어머니 도로타 씨는 “내 딸 미래는 밝은데 이것이 직업적, 학문적, 사회적으로 영향을 미치지 않는다고 장담할 수 없지 않느냐”고 WSJ에 말했다.
폭스뉴스가 보도한 연방수사국(FBI) 자료에 따르면 지난해 2월부터 올 2월까지 딥페이크 사진으로 인한 성범죄 건수는 전년 동기에 비해 322% 증가했다. WP는 성인물을 게시하는 상위 10개 웹사이트에서 딥페이크 게시물이 2018년 이후 290% 이상 늘었다고 전했다.
WSJ는 “몇 년 전까지만 해도 사진을 합성하려면 컴퓨터가 필요했지만 이제 아이폰만 있으면 된다”고 전했다. 포털사이트에서는 미 청소년들이 사용하는 딥페이크 사진을 만들 수 있는 스마트폰 애플리케이션(앱)을 손쉽게 찾을 수 있다.
하지만 딥페이크 피해를 막을 방법은 마땅치 않다. WP에 따르면 “딥페이크를 규제할 수 있는 연방법은 없으며 관련 규제를 제정한 주도 몇 곳에 불과하다.” 딥페이크 유통을 금지하거나 피해자들이 딥페이크 제작자들을 고소할 수 있도록 하는 법을 제정한 주는 버지니아 캘리포니아 미네소타 뉴욕 등 9개 밖에 없다.
지난달 30일 조 바이든 대통령이 서명한 AI 규제를 담은 행정명령은 단지 AI를 활용해 만든 사진과 영상 등에 워터마크 등을 붙이도록 권고할 뿐이다.
딥페이크는 ‘딥러닝’과 ‘페이크’ 단어를 합친 말로, 인공지능(AI)을 활용한 영상 편집 기술의 일종이다. 사람 얼굴 위에 컴퓨터 그래픽이나 다른 얼굴 이미지를 덧씌워 합성한 영상이 이에 해당한다. 이전에도 이런 합성은 가능했지만, 프레임 하나하나 수작업을 거쳐야 하는 등 여러 제약이 뒤따랐다. 반면 딥페이크는 AI가 알고리즘을 통해 자동으로 분석한 뒤 영상에 적용하기 때문에 더 정교하고 빠르게 합성이 가능해 진 것이다.
딥러닝은 컴퓨터가 사람처럼 생각하고 배울 수 있게 하는 기술로 사물이나 데이터를 군집화하거나 분류하는 데 사용한다. 예를 들면 개와 고양이의 생김새가 어떻게 다른 지 구분해내거나 한 장의 사진 속에서 어떤 게 교통 표지판이고 차인지 컴퓨터 스스로 구분해 내는 것.
이미 몇 년째 전세계 당국들이 고군분투하고 있던 ‘딥페이크 음란물 처벌’이 수면 위로 다시 떠오른 만큼 관련 영상 유포자 및 시청자의 처벌 방안이 시급하다는 목소리가 세계적으로 드높아 졌다.
