X(트위터) ‘테일러 스위프트’ 검색 금지 이틀만에 해제 하면서 …
대선 앞두고 인공지능(AI) 악용한 가짜 뉴스 확산 우려 점점 커져
사회관계망서비스 엑스(X, 옛 트위터)가 가짜 음란 콘텐츠에 시달린 세계적인 팝스타 테일러 스위프트 이름에 대한 검색 금지 조치를 이틀만에 해제했다. 29일 조 베나로크 엑스 비즈니스 운영 책임자는 검색 제한 조치 관련 질문에 “검색이 다시 활성화됐다”고 밝혔다.
베나로크 책임자는 “가짜 음란 콘텐츠를 퍼뜨리려는 시도를 계속 경계하고, 이를 발견하면 삭제할 것”이라고 부연했다.
앞서 지난 24일부터 엑스 상에는 딥페이크 기술을 이용한 스위프트의 가짜 음란 이미지가 확산돼 논란이 일었다. 스위프트 팬들은 엑스가 가짜 사진 확산을 막기 위해 충분한 조치를 취하지 않는다며, 스위프트의 진짜 사진을 엑스에 무더기로 올려 조작 콘텐츠를 찾기 어렵게 만들었다.
대선을 앞두고 인공지능(AI)을 악용한 가짜 뉴스 확산을 경계하고 있는 정치권도 깜짝 놀라 비판에 나섰다.
커린 잔피에어 백악관 대변인은 지난 26일 “콘텐츠 관리 관련 SNS 회사가 독립적인 결정을 내리긴 하지만, 잘못된 정보와 실제 인물에 대한 합의되지 않은 이미지 확산을 방지하기 위해 자체 규칙을 시행하는 데 있어 중요한 역할을 해야 한다”고 공개 지적했다.
엑스는 지난 27일 “이 문제에 대한 안전을 우선시하기 위해 해당 가수의 실명 검색을 중단했다”며 ‘테일러 스위프트’ 이름 검색을 일시 제한하는 조치에 나섰다.
하지만 이름이나 성만 검색하거나, 따옴표 안에 이름을 넣는 등 방법으로 금지 조치를 간단히 우회할 수 있었다고 WSJ은 지적했다. 이날 오전 ‘스위프트’ 이름이 엑스에서 인기 검색어에 오르기도 했다.
엑스는 그간 딥페이크를 이용한 가짜 콘텐츠 온상지로 비판을 받아왔다. 소유주인 일론 머스크는 트위터 인수 이후 SNS 신뢰와 안전 담당 직원들을 대거 해고했고, 가짜 이미지들이 엑스를 통해 빈번히 확산됐다.
스위프트 측은 이와 관련한 논평 요청에 응하지 않았다.
