일론 머스크가 설립한 인공지능(AI) 스타트업 xAI가 챗봇 ‘그록’의 성 착취물 딥페이크 생성 논란에 대응해 이미지 생성 기능을 일부 제한하기 시작했다.

9일 언론들에 따르면 그록 챗봇은 머스크 소유의 소셜미디어 엑스(X·옛 트위터)에서 이미지 생성·편집을 요구하는 이용자에게 “유료 구독이 필요하다”고 답변했다. 해당 기능은 원래 엑스에서 일일 사용량 제한이 있긴 했지만, 무료로 제공됐었다.

AP통신은 그록의 이런 이미지 생성 기능 제한에 따라 이날 엑스에서 그록이 생성한 노골적인 딥페이크 이미지 수가 이전보다 눈에 띄게 줄었다고 전했다.다만 엑스와 별도로 운영되는 그록 자체 앱은 여전히 구독 없이도 이미지 생성을 허용한다고 블룸버그 통신 등은 지적했다.

앞서 지난 몇 주간 그록은 엑스에서 ‘여성들의 사진을 비키니 차림으로 편집해 달라’는 등의 이용자 요청에 따라 여성과 아동을 성적 대상화한 딥페이크 이미지를 다량 생성해내 세계적으로 물의를 일으켰다.