디지털통신부 “AI 딥페이크 등 디지털 범죄 고도화”…국민 주의 당부

AI 이용 금융 사기 등 신종 수법 등장…정부, 윤리 지침 마련 및 규제 강화 노력

네자르 파트리아 디지털통신부 차관은 인공지능(AI) 기술을 악용한 디지털 범죄가 점차 정교해지고 있다며 국민들에게 각별한 주의를 당부했다. 특히, 실제와 구분이 어려운 ‘딥페이크’ 기술과 AI를 활용한 금융 사기 등이 심각한 사회적 위협으로 떠오르고 있다는 점을 강조했다.

파트리아 차관은 지난 4월 13일 수라바야에서 열린 동부자와 GP 안소르 지역위원회 행사 연설에서 이같이 밝혔다. 그는 “AI 기술의 오용 사례 중 가장 우려스러운 것이 딥페이크”라며, “이는 원본과 매우 유사하게 조작된 사진이나 동영상을 통해 대중을 오도할 수 있으며, 전문가조차 속일 수 있는 효과적인 사기 수단이 될 수 있다”고 경고했다.

또한, 그는 AI를 이용해 은행 송금 증명서를 위조하는 새로운 형태의 디지털 범죄 사례를 언급하며, “사기범들이 이제 홀로그램과 같은 정교한 보안 세부 정보까지 포함된, 매우 설득력 있는 가짜 송금 증명서를 만들어내고 있다”며, “이는 은행 시스템과 금융 소비자 모두에게 심각한 위협”이라고 강조했다.

이러한 위협에 대응하기 위해 디지털통신부는 ‘인공지능 윤리에 관한 2023년 제9호 회람 공문’을 발표하는 등 정책적 노력을 기울이고 있다. 또한 금융감독청(OJK), 인도네시아 중앙은행과 긴밀히 협력하여 디지털 금융 사기 피해에 취약한 고객을 보호하고 예방 조치를 강화하고 있다.

파트리아 차관은 정보전자거래법(ITE), 개인정보보호법(PDP), 형법(KUHP), 저작권법 등 기존 법규를 통한 법적 조치도 병행되고 있음을 덧붙였다.

그러나 그는 AI 기술의 발전 속도가 정부의 규제 마련 속도를 훨씬 앞지르고 있다는 현실적 어려움도 인정했다. 이로 인해 디지털 범죄자들이 악용할 수 있는 법적 허점이 발생할 수 있다는 우려다. 그는 “최신 기술 동향에 보다 효과적으로 대응할 수 있는 포괄적인 규제 마련이 시급하다”고 말했다.

정부는 이러한 과제를 해결하기 위해 ‘국가 인공지능 개발 로드맵’ 수립을 추진하고 있다. 이 로드맵은 인도네시아의 AI 기술이 혁신과 생산성 향상에 기여하는 긍정적인 방향으로 활용되도록 장려하는 동시에, 기술 오용으로 인한 위험을 최소화하는 것을 목표로 한다.

파트리아 차관은 “궁극적으로 윤리적이고 책임감 있는 AI 활용 문화를 정착시키는 것이 모든 사회 구성원을 위한 안전하고 신뢰할 수 있는 디지털 생태계를 구축하는 핵심”이라고 강조하며, 기술 발전과 더불어 사회 전체의 인식 개선과 책임 의식 함양이 중요함을 역설했다. (Rizal Akbar Fauzi 정치 경제기자)

제보는 카카오톡 haninpost 무단 전재-재배포 <금지>