베벌리힐스의 한 중학교에서 8학년 학생들이 동료 여학생들의 얼굴에 누드를 합성한 가짜 사진을 만들어 돌려보다가 적발되어 퇴학조치 됐다. 청소년들의 온라인 ‘사이버 불링’이 도를 넘어선, 충격과 우려를 금할 수 없는 사건이다.

학교와 교육구 측이 즉각 조사에 나서 이를 주도한 5명에게 퇴학이라는 중징계를 내렸지만, 아직 10대 초반인 여학생들이 느꼈을 수치심과 학부모들의 충격을 생각하면 끔찍한 일이다. 더욱이 이 학교는 한인들도 다수 다니는 곳이어서 행여 한인 여학생들도 피해 대상에 포함되지 않았을까 우려된다.

이번 사건은 인공지능(AI) 시대를 맞아 청소년들도 너무 쉽게 이른바 ‘딥페이크(deepfake)’의 폐해에 노출돼있는 현실에 경종을 울리고 있다. 생성형 AI 기술을 악용, 가짜 이미지나 영상, 음성 등을 교묘하게 합성해 마치 실제처럼 보이게 하는 딥페이크 기술은 중학생들도 쉽게 구해서 사용할 수 있을 만큼 흔해졌기 때문이다.

현재 온라인상에는 특정 인물의 사진을 전송하면 해당 인물을 누드로 만들어 주는 딥페이크 앱이 수십 개나 있다고 한다. 최근 인공지능 기술이 무서울 정도로 급속히 발전하면서 딥페이크 도구도 값싸고 사용하기 쉬워져서 누구나 스마트폰으로도 단 몇 초만에 가짜이미지를 만들 수 있다는 것이다.

문제는 이러한 상황임에도 청소년들을 유해 환경으로부터 방어하고 AI 기술을 악용하지 못하도록 하기 위한 관련 규제들이 AI의 발전 속도를 따라잡지 못하고 한참 뒤쳐져있다는 점이다. 전문가들은 아동과 청소년을 대상으로 한 딥페이크 음란물을 강력 범죄로 규정하고, 유해 딥페이크를 고의로 제작하거나 확산을 조장하는 개인을 강력 처벌하는 한편 AI 기업들에 유해 딥페이크 단속 의무를 부과하도록 하는 규제를 하루 속히 도입해야한다고 강조하고 있다.

어린 자녀를 키우는 한인 학부모들은 이같은 문제에 관심을 기울이고 혹여 자녀들이 각종 온라인 유해 환경에 노출돼있지나 않은지 점검하고 챙겨야 할 것이다. 하루가 멀다 하고 변하는 테크놀러지 시대에 자녀들을 보호하기 위해서는 학부모들이 깨어있어야 한다.