딥페이크와 새로운 가짜정보전쟁이라는 제목의 기사인데요 딥페이크란 매우 정교하게 가공돼 진짜인지 가짜인지 구별하기 굉장히 힘든 비디오/오디오를 일컫는데 인공지능의 딥러닝 알고리즘을 사용해 만들어진다고 합니다. 예컨대 한쪽엔 진짜 고양이의 이미지들을 주고 이를 토대로 인공적인 고양이 이미지를 만들라고 하고 다른 한쪽엔 어색한 점을 찾으내 이 고양이 이미지가 진짜인지 가짜인지 맞춰보라고 한 후 끊임없는 학습을 통해 더 진짜같은 “가짜”을 만들어내는 알고리즘이라고 하는데요 이를 ‘적대적 생성 네트워크(GANS)’로 만들어서 돌리는 방식이라고 합니다.
이런 딥페이크들을 만들어주는 상업서비스도 이미 존재하고 공짜도 있을 정도로 매우 확산되고 있는 추세이고 결과물의 질도 점점 높아지고 있는데, 물론 교육적인 용도 등 유익하게 사용될 가능성도 있지만 역시 범죄에 사용될 우려가 커서 문제라고 합니다. 유명인의 얼굴을 무단 합성한 불법 포르노물이 나온 경우도 있고 쉽게 예측 가능하듯 공갈 협박 사기 등의 범죄에 악용될 우려가 큰데 가장 큰 피해를 불러올 수 있는 분야는 역시 정치라고 하네요.
특히 현대사회처럼 SNS를 통해 뉴스를 접하는 비율이 증가할 수록 팩트체크나 데스킹 없이 무차별적으로 딥페이크가 유통되면 심각한 문제가 생길 거라고 경고합니다. 아는 사람들 사이에서 퍼지는 경향이 큰 SNS 특성상 확증편향에 빠지기도 매우 쉽고요. 지금의 가짜뉴스와 딥페이크는 생생함부터 차원이 다를 테니까요. 역으로 대중들이 딥페이크에 익숙해지면 익숙해질수록 역으로 진짜 정보도 아 그거 가짜 아니냐며 의심부터 하는 일도 생길 수 있겠죠.
딥페이크를 방지하거나 발견해내기 위한 몇몇 방법들, 예컨대 기술적 분석으로 영상이나 오디오의 어색한 점을 찾아내거나 모든 영상/오디오물이 생성될 때 디지털 워터마크를 박거나 하는 식의 솔루션을 찾고있기는 한데 아직 뾰족한 수는 없다고 합니다. 재밌었던 건 ‘알리마이 인증 서비스’라는 게 조만간 등장할 것 같다는 건데요 간단하게 말해 서비스 이용자의 24시간을 책임지고 인증해주는 서비스라고 하네요. 딥페이크의 그 순간 이사람은 사실 집에서 자고있었다라든가..(여담이지만 이런 영화 있지 않았나요. 편집증적인 주인공이 여러대의 카메라로 자신의 24시간을 매일 기록해 보관하고 있는 설정의...)
대충 소개하자면 이런 내용의 기사인데 기술이 점점 발달하는 것이 반드시 좋은 것인지는 잘 모르겠지만 법과 제도가 따라잡기 전 한바탕 대소동이 오는 건 확실할 것 같네요.
아울러 기사에선 테러리스트 단체에게 매우 유용하게 쓰일 것 같다고 했는데 전 북한에게 선거때 맞춰 총 좀 쏴달라고 살랑거리던 것들부터 떠오르더군요. 대통령이 김정은한테 10조 받았냐고 전화통화하는 거 들어봤냐라든가 대통령이 지지자들 모임에서 특정세대 비웃는 거 몰래 촬영한 영상 봤냐라든가... 상상만 해도 혈압이..
글쓰기