디지털 통신부, AI발 허위정보 확산에 ‘칼’ 빼 들어…글로벌 빅테크에 기술적 책임 요구
전문가 “2025년 영상 사기 대부분 딥페이크 활용 전망”…시민사회와 공동 대응 시급
인공지능(AI) 기술이 눈부시게 발전하는 가운데, 이를 악용한 ‘딥페이크(Deepfake)’가 디지털 사기와 정치적 여론 조작 등 심각한 사회 문제로 급부상하고 있다.
이에 인도네시아 정부가 글로벌 플랫폼 기업들을 상대로 AI 생성 콘텐츠를 식별할 수 있는 ‘탐지 기능’ 도입을 강력히 촉구하며 본격적인 대응에 나섰다.
AI 기술이 가져올 미래의 청사진 이면에 드리운 허위 정보의 그림자를 걷어내기 위한 사회 전반의 공동 대응이 시급하다는 목소리가 커지고 있다.
■ 정부, 빅테크에 ‘사회적 책임’ 요구… “AI 탐지 기능, 무료 표준으로 제공해야”
디지털 통신부(Komdigi)는 지난 9일 자카르타에서 열린 ‘허위 정보와 AI 딥페이크 공동 방지를 위한 우룬 다야’ 토크쇼에서 메타, 구글과 같은 글로벌 디지털 플랫폼 기업에 AI 생성 콘텐츠를 식별할 수 있는 기술적 장치 마련을 공식적으로 요구했다.
이날 발표에 나선 네자르 파트리아 디지털 통신부 차관은 딥페이크 콘텐츠의 폭발적인 증가세에 깊은 우려를 표명했다.
그는 국제 AI 분석 기관 ‘센시티 AI(Sensity AI)’의 통계를 인용하며 “지난 5년간 온라인상의 딥페이크 콘텐츠가 무려 550%나 급증했다”고 지적했다.
이어 “최근 누구나 손쉽게 딥페이크 영상이나 사진을 만들 수 있는 애플리케이션이 확산하고 있는 현실을 고려하면 실제 유통되는 허위 콘텐츠의 규모는 통계치를 훨씬 상회할 것”이라고 경고했다.
네자르 차관은 막대한 데이터와 정교한 알고리즘을 보유한 대형 플랫폼 기업들의 사회적 책임을 강하게 압박했다.
그는 “플랫폼들은 자사가 보유한 기술력으로 의심스러운 콘텐츠를 충분히 검증하고 식별할 역량을 갖추고 있다”고 전제하며, “AI 콘텐츠 탐지 기능은 일부 사용자에게만 제공되는 유료 옵션이 아니라, 모든 사용자를 위한 무료 표준 서비스로 제공되어야 한다”고 역설했다.
\이는 허위 정보 확산 방지를 위한 기술적 안전망 구축을 플랫폼의 의무로 규정하려는 정부의 강력한 정책 의지로 풀이된다.
■ “혁신과 규제 균형”…정부, AI 악용 막을 법적 장치 마련 박차
정부는 규제 마련에도 속도를 내고 있다. 네자르 차관은 “AI 기술의 혁신을 저해하지 않으면서도, 이 기술이 허위 정보를 퍼뜨리는 도구로 악용되는 것을 막기 위해 혁신과 규제 사이의 최적의 균형점을 찾고 있다”고 밝혔다.
이를 위해 정부는 기존의 정보통신법(UU ITE), 개인정보보호법(UU PDP) 등 관련 법률을 AI 시대에 맞게 정비하는 한편, 윤리적이고 책임감 있는 AI 개발 및 활용을 골자로 하는 특별 규정 마련을 준비 중이라고 덧붙였다.
기술의 발전을 장려하되, 그로 인한 사회적 부작용과 위험에 대해서는 명확한 법적·제도적 통제 장치를 구축하겠다는 복안이다.
■ 딥페이크, 단순 오락 넘어 ‘사회적 흉기’로 진화
이날 토론에 참석한 전문가들은 딥페이크가 단순한 흥밋거리를 넘어 심각한 사회 문제로 비화하고 있다는 데 의견을 모았다.
셉티아지 에코 누그로호 인도네시아 허위정보방지협회(Mafindo, 마핀도) 회장은 “2023년 인도네시아에서 처음 관측된 딥페이크 기술이 이제는 디지털 금융 사기나 특정 정치 세력을 겨냥한 여론 조작에 본격적으로 사용되며 그 수법이 날로 교묘해지고 있다”고 현 상황을 진단했다.
특히 그는 “불과 1년 뒤인 2025년에는 영상 통화를 이용한 디지털 사기 범죄의 대부분이 딥페이크 기술을 활용하게 될 것”이라는 암울한 전망을 내놓았다. 얼굴과 목소리를 정교하게 위조하여 지인을 사칭하는 등의 신종 범죄가 일상화될 수 있다는 경고다.
■ ‘디지털 생태계’ 구축으로 공동 대응…시민 역량 강화도 핵심
정부는 규제 마련과 더불어 사회 각계각층과 협력하는 ‘디지털 생태계’ 구축에도 힘을 쏟고 있다. 마핀도와 같은 시민사회 단체, 언론계와 협력해 팩트체크 프로그램을 강화하고, 전 국민을 대상으로 한 디지털 리터러시(정보 분별력) 교육을 확대하는 것이 핵심이다.
이는 시민 스스로가 허위 정보를 분별하고 비판적으로 수용할 수 있는 역량을 키우는 것이 근본적인 해결책이라는 판단에서다.
네자르 차관은 “건강하고 안전한 디지털 공간을 만드는 것은 정부만의 노력으로는 불가능하다”고 강조하며, “플랫폼, 시민사회, 언론, 그리고 시민 모두가 각자의 위치에서 책임을 다하는 긴밀한 협력 체계가 절실하다”고 거듭 호소했다.
AI가 열어젖힌 무한한 가능성의 시대, 그 이면에 도사린 딥페이크라는 위험에 맞서기 위한 우리 사회의 종합적이고 체계적인 대응 전략 마련이 시급한 시점이다. (Rizal Akbar Fauzi 정치 경제기자)
이 기사가 정보에 도움이 되셨는지요? 기사는 독자 원고료로 만듭니다. 24시간 취재하는 10여 기자에게 원고료로 응원해 주세요. * 인도네시아 BCA 0657099868 CHONG SUN * 한국 계좌번호 문의 카톡 아이디 haninpost
*기사이용 저작권 계약 문의 : 카톡 아이디 haninpost
카톡아이디 haninpost
