1. 사건 개요
2025년 7월, 일론 머스크가 이끄는 xAI의 최신 인공지능 모델인
그록4(Grok 4) 및 영상 생성 서비스 ‘그록 이매진(Grok Imagine)’이
유료 구독자를 대상으로 성인 콘텐츠 생성 기능,
일명 ‘스파이시 모드(Spicy Mode)’를 공식적으로 도입하면서
전 세계적으로 거센 논란에 휩싸였습니다.
기존 AI 서비스들이 음란물·누드 생성에 철저한 제한을 두었던 반면,
그록4는 이 같은 금기를 파격적으로 해제하며
AI 윤리와 법적 규제, 사회적 파장 등 다양한 이슈를 불러일으켰습니다.
2. 스파이시 모드, 무엇이 문제인가?
누드 및 반나체 이미지와 15초 분량의 동영상을
명령어 입력만으로 누구나 손쉽게 생성할 수 있다는 점에서
이전 AI 생성기와 차별화됩니다.
실제로 SNS, 커뮤니티 등에
반나체/에로틱 영상이 공유되는 사례가 속출하고 있습니다.
xAI는 “노출 수위가 기준을 넘으면 블러(모자이크)를 적용한다”고 밝혔으나,
실효성 논란과 이미지 악용 우려,
미성년자 등 취약계층 노출 위험이 지적되고 있습니다.
특히 유명인 딥페이크 생성이나 실존인물 얼굴 합성에 대해
구글, 오픈AI 등은 강력한 제한을 두고 있지만
그록4는 상대적으로 허술해 법적·도덕적 책임 논란이 확산되고 있습니다.
3. 시장 반응과 이용자 통계
2025년 4~6월 기준 그록4 활성 이용자(MAU)는
1,880만~3,900만 명까지 급증했습니다.
구독자 성비는 남성 66.91%,
연령대는 25~34세, 18~24세 비율이 높습니다.
월 30달러(한화 약 4만1,000원) 구독 시
AI 성인 콘텐츠를 무제한 이용 가능하다며
“디지털 성인물 시장의 판도 변화”라는 평가가 나오기도 합니다.
4. 국내외 규제 및 사회적 파장
미국은 2025년 5월,
트럼프 대통령이 ‘테이크잇다운법’을 서명해
AI·비동의 성인물 유포 시 최대 3년형,
플랫폼에 48시간 내 삭제 의무화 등 강도 높은 법안을 도입했습니다.
영국, 일본, 중국, EU 등도 아동·성인 딥페이크,
초상권 침해 방지에 엄격히 대응하고 있습니다.
국내외 IT·법조계, 아동·청소년 보호단체 등은
“AI 창작 자유와 윤리, 피해방지를 위한
최소한의 안전장치와 글로벌 규제 조화가 필수”라는 입장입니다.
현행 ‘블러 처리’만으로는 문제의 실질적 해결이 어렵고,
AI의 오남용·악용 리스크가 방치되는 실정이라는
비판도 거세게 제기되고 있습니다.
5. 연관 논란 및 부수적 이슈
xAI는 이전에도 'AI 동반자(Companion)' 캐릭터
'애니(Annie)'의 성적 의상, 대화 등이 사회적 비판 대상이었으며,
미성년자 접근 제한 강화 요구도 꾸준히 제기되어 왔습니다.
AI가 아동, 유명인, 실존 인물의
성적 딥페이크에 악용될 수 있다는
현장 시연 사례도 잇달아 보고되고 있습니다.
AI기반 음란물, 딥페이크를 통한 명예훼손
및 2차 범죄 증가 우려가 커지고 있습니다.