디지털 공간 감독국장 “그록 AI, 불법 딥페이크 필터링 시스템 부재 확인”
개인 초상권 침해 심각… 2026년 발효된 신규 형법 따라 강력 처벌 예고
인도네시아 정부가 일론 머스크의 소셜미디어 플랫폼 X(옛 트위터)의 인공지능(AI) 서비스인 ‘ Grok AI X’에 대해 강력한 제재를 예고했다. 그록 AI가 일반인의 사진을 동의 없이 조작하여 음란물을 제작·유포하는 도구로 악용되고 있다는 의혹이 제기되면서다.
인도네시아 디지털통신부(Kemkomdigi)는 최근 그록 AI의 기술적 오용 혐의에 대해 심층 조사에 착수했다고 밝혔다. 당국은 해당 기술이 인도네시아 국민들의 개인 사진을 무단으로 도용해 외설적인 딥페이크 콘텐츠를 생성하는 데 핵심적인 역할을 하고 있는 것으로 의심하고 있다.
7일(현지시간) 자카르타에서 열린 브리핑에서 알렉산더 사바르 통신디지털부 디지털 공간 감독국장은 “초기 조사 결과, 그록 AI 시스템 내에 실제 개인의 사진을 기반으로 한 포르노 콘텐츠 생성을 필터링하거나 규제하는 적절한 안전장치가 마련되어 있지 않음을 확인했다”며 “이는 심각한 권리 침해를 야기할 수 있는 위험한 상태”라고 지적했다.
알렉산더 국장은 이번 사태를 단순한 콘텐츠 관리 소홀을 넘어선 ‘초상권(right to one’s image)에 대한 심각한 침해’로 규정했다. 그는 “딥페이크 기술을 이용한 디지털 조작은 피해자의 시각적 정체성을 강탈하는 행위”라며 “이는 개인의 사생활을 침해할 뿐만 아니라 피해자의 평판과 정신 건강에 회복하기 힘든 타격을 입히는 범죄”라고 강조했다.
이에 따라 디지털통신부는 플랫폼 X를 포함한 모든 전자 시스템 운영자(PSE)에게 즉각적인 콘텐츠 관리 시스템 강화를 요구하는 경고 메시지를 보냈다. 정부는 플랫폼 측이 비협조적인 태도를 보이거나 실효성 있는 이용자 보호 조치를 내놓지 못할 경우, 행정 제재는 물론 인도네시아 내에서 그록 AI 및 X 서비스 전체에 대한 접속을 차단(블로킹)하는 강경책까지 검토하고 있다.
처벌 규정도 한층 강화되었다. 지난 2일 발효된 2023년 형법 제1호 법률에 따라 조작 콘텐츠의 제작자 및 유포자는 형사 처벌을 피할 수 없게 됐다. 해당 법률 제172조 및 제407조는 성 착취 및 포르노 제작·유포 행위에 대해 최소 6개월에서 최대 10년의 징역형 또는 고액의 벌금형을 규정하고 있다.
인도네시아 정부는 딥페이크 범죄 피해자들에게 적극적인 대응을 당부했다. 정부 관계자는 “부도덕한 사진 조작의 피해를 입은 국민은 즉시 법 집행 기관이나 통신디지털부의 공식 민원 채널을 통해 신고해달라”고 요청했다.
알렉산더 국장은 “디지털 공간이 법의 사각지대가 되어서는 안 된다”며 “전자 시스템 운영자들은 자신의 기술이 성 착취와 개인의 존엄성을 파괴하는 수단으로 전락하지 않도록 기술적·윤리적 안전장치를 보장할 의무가 있다”고 거듭 강조했다. (사회부/ 편집부)
이 기사가 정보에 도움이 되셨는지요? 기사는 독자 원고료로 만듭니다. 24시간 취재하는 10여 기자에게 원고료로 응원해 주세요. 한국 인도네시아 문의 카톡 아이디 haninpost
*기사이용 저작권 계약 문의 : 카톡 아이디 haninpost
카톡아이디 haninpost
