딥페이크 기술(AI 기반 인물 이미지 합성 기술)이 빠르게 발전하면서 여러 문제점들이 드러나고 있다. 딥페이크를 이용해 만든 허위 정보가 민주주의 과정에 미칠 부정적 영향에 대한 우려가 커지고 있다. 딥페이크 기술을 기반으로 하는 각종 범죄에 대한 걱정도 커지고 있다. 하지만 이를 규제하고 관리할 법적, 규범적 틀은 아직 충분히 마련되어 있지 않다. 

각국에서 다양한 노력이 진행되고 있기는 하다. 지난 10월 말 미국 조 바이든 대통령은 딥페이크 기술을 이용한 허위정보 확산과 범죄를 막는 내용을 포함하는 ‘안정적이고 안전하며 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다. 유럽연합의회는 인공지능법안에 대한 수정안을 지난 6월에 채택했다. 이에 따르면 딥페이크를 생성하거나 조작할 경우, 생산된 내용이 인공적으로 생성 또는 조작되었다는 점과 생성자 혹은 조작자의 성명을 공개해야 한다. 올해 초 중국 정부도 딥페이크 기술을 이용할 때 이용자가 그 사실을 명시해야 하고, 원본 추적을 위한 워터마크를 내용 안에 넣어야 한다는 조항이 담긴 ‘인터넷 정보 서비스 딥 합성 관리 규정’을 발표했다. 인도정부도 딥페이크의 오용을 “민주주의에 대한 위협”으로 규정하고 최근 그에 대한 규제에 착수했다. 

정부로부터의 규제를 두려워하는 글로벌 IT 기업들 스스로도 나름대로의 자구책을 내고 있다. 구글의 유튜브, 메타의 페이스북, 바이트댄스의 틱톡 등은 플랫폼 이용자들이 AI로 생성하거나 합성한 영상을 올릴 때는 ‘합성된 영상’이라는 표시를 하도록 하고 있다. 내년에 있을 미국 대선을 대비해서, 지난 11월 메타는 광고주들이 정치 광고 제작에 AI를 활용하는 것 자체를 금지하겠다는 결정을 발표하기도 했다. 유튜브도 비슷한 정책을 발표할 것이라는 뉴스가 나오고 있다. 

딥페이크의 문제를 해결하는 방법에는 여러가지가 있을 수 있다. 정부가 나서서 직접 규제하는 방식도 있고, 기업들 자체적으로 자정 노력을 하도록 하는 방식도 있다. 이용자 스스로 딥페이크 기술의 문제점을 잘 이해하고 그에 대처하는 역량을 키우게 하는 방법도 있다. 이 중 어느 것 하나에만 의존할 수 없다. 특히 플랫폼 기업이나 이용자에게만 맡길 수 없다. 정부와 국회는 어떤 형태로든 딥페이크 기술에 대한 가이드라인을 마련해 줘야 한다. 현재 국회에 관련 법안들이 발의되어 있는 등 딥페이크 규제 방식에 대한 논의가 한국 정치권에서도 이미 이루어지고 있다. 기술 개발의 동기나 표현의 자유에 부정적 영향을 주지 않으면서도 딥페이크가 초래할 문제를 해결할 수 있는 법적 장치에 대한 사회적 논의가 정치권을 포함한 한국 사회 전반에서 더 활발히 이루어져야 한다.