일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 스타트업이 개발한 챗봇 ‘그록’의 성적 이미지 생성 논란이 확산하는 가운데, 캘리포니아주 당국이 이 챗봇에 대한 조사에 나섰다.

롭 본타 캘리포니아주 법무장관은 14일 “AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다”고 발표했다.

본타 법무장관은 “xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다”며 “최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적”이라고 밝혔다.

캘리포니아주의 조사 착수는 이번 논란과 관련해 미국 내에서 나온 첫 규제 움직임이다.

영국 등 세계 여러 국가 당국이 이 문제에 대한 조사에 나섰다. 말레이시아와 인도네시아는 최근 자국 내 그록 접속을 아예 차단하기도 했다.