‘보이스피싱’ 대응 AI 기술·서비스, 민·관 협력으로 개발한다

‘AI·데이터 기반 보이스피싱 예방을 위한 상호 업무협약’ 체결

정부가 보이스피싱 민생범죄 확산에 대응하는 다양한 AI 기술·서비스 개발을 위해 관계기관은 물론 민간 기업과 구체적인 사업을 추진한다.


이에 개인정보보호위원회, 과학기술정보통신부, 금융위원회, 금융감독원, 국립과학수사연구원, 한국인터넷진흥원은 3일 ‘AI·데이터 기반 보이스피싱 예방을 위한 상호 업무협약(MoU)’을 체결했다.


이를 통해 보이스피싱 통화 데이터 등 실제 데이터가 인공지능 시스템 개발에 활용될 전망으로, 민간의 다양한 보이스피싱 예방 AI 서비스 창출을 위해 적극 협력할 방침이다.


한편 그동안 정부는 대표적인 민생 금융범죄인 보이스피싱에 대응해 다양한 AI·데이터 정책을 추진해 왔다.


구체적으로 지난해 11월 데이터 경제 활성화 추진과제에 보이스피싱 확산 방지를 위한 민간의 AI 서비스 개발 지원을 포함했고, 올해 4월에는 민생침해 금융범죄 대응·협력 강화를 위한 통신·금융부문 간 업무협약을 체결한 바 있다.


고학수 개인정보보호위원회 위원장(왼쪽)이 6월 3일 오후 서울 종로구 정부서울청사에서 개최된 AI·데이터 기반 보이스피싱 예방을 위한 업무협약식에서 MOU 서명을 하고 있다. (사진=개인정보보호위원회)


이번 협약으로 보이스피싱 대응을 위한 협력 체계에 개인정보위, 국과수, KISA까지 포함되면서 기관간 협업의 범위와 깊이가 크게 확장될 전망이다.


먼저 통신사 등 민간 기업이 보이스피싱 예방 AI 기술·서비스를 개발할 때 금감원, 국과수 등으로부터 보이스피싱 통화데이터를 제공받아 AI 모델 학습, 성능 테스트 등에 활용할 수 있도록 협력한다.


이에 금감원은 보이스피싱 피해자의 신고를 통해 수집한 통화 음성데이터를 과학수사 지원 목적으로 국과수에 지속 제공한다.


국과수는 해당 데이터를 비식별화 등 전처리 등을 거쳐 데이터를 필요로 하는 민간에 제공하는 데이터 공유체계를 구축한다.


개인정보위와 KISA는 데이터 제공·수집·이용 과정 중 발생할 수 있는 개인정보 보호법상 쟁점에 대해 법령해석, 실증특례 등 규제개선 방안 등을 검토한다.


이를 통해 안전한 데이터 활용을 지원하고, 가명정보 활용 종합컨설팅 지원 사업 등을 통해 데이터 가명처리, 안전조치 이행 과정 등을 지원한다.


또 다양한 보이스피싱 예방 AI를 개발할 수 있도록 통신·금융업계의 협력을 증진하고 지원한다.


개인정보위, 과기정통부, 금융위는 통신·금융업계 협력 기반의 보이스피싱 예방 AI 기술·서비스를 적극적으로 발굴하고, 관련법 저촉사항 없이 추진할 수 있도록 법령해석 및 규제개선 방안을 모색한다.


필요시 서비스 개발 과정에서 개인정보 법령 준수방안을 개인정보위와 함께 마련하고 사업자가 이를 이행한 경우 개인정보 보호법상 불이익한 처분을 하지 않는 개인정보위 사전적정성 검토제도 활용한다.


특히 정부 주도로 보이스피싱 대응 기술개발(R&D) 사업을 기획해 추진할 계획이다.


이에 과기정통부와 개인정보위는 혁신적인 보이스피싱 탐지·예방 기술을 개발할 수 있도록 정부 주도 기술개발사업을 기획·추진한다.


과기정통부는 관련 전문가와 함께 구체적인 사업을 기획하고 예산을 지원하며, 개인정보위는 연구 과정 중 개인정보 보호법 관련 규제 개선사항을 발굴하고 필요시 실증특례도 추진한다.


한편 이러한 부처 간 협업의 첫 번째 성과로 SKT에서 보이스피싱 탐지·예방 AI 서비스를 개발한다.


해당 서비스는 통화 문맥을 토대로 보이스피싱 의심 여부를 실시간으로 판별해 본인이나 가족에게 알림을 주는 기능 등을 포함할 예정이다.


가령 보이스피싱에 사용되는 주요 키워드나 패턴을 탐지하는 것은 물론, 통화 문맥의 특성에 대한 분석을 통해 수사기관을 사칭하거나 금융거래를 이유로 개인정보를 요구하는 행위 등 다양한 보이스피싱 상황을 즉각 인지하고 의심통화로 분류한다.


이로써 단순히 의심 회선을 차단하는 것이 아니라 AI를 통해 통화 내용을 분석해 보이스피싱을 탐지하게 돼 빠르게 변화하는 범죄 수법에 더욱 효과적으로 대응할 수 있을 것으로 기대된다.


SKT는 통화 데이터가 서버로 전송되지 않고 단말기 내에서 처리되도록 하는 온디바이스(on-device) AI 기술을 적용해 개인정보보호도 강화할 방침이다.


이러한 온디바이스 AI 적용을 위해서는 소형 언어 모델(sLM) 구현이 필요한데, 높은 성능의 소형 언어 모델을 개발하기 위해서는 양질의 데이터가 필수적이다.


때문에 SKT는 그동안 금감원, 국과수가 보유한 보이스피싱 통화데이터를 개인정보위, 금감원, 국과수, KISA 등에 요청해 왔다.


이에 관계기관은 정보주체의 권리를 보호하면서도 유의미한 AI 성능을 확보할 수 있도록 긴밀히 논의해 왔고, 이 결과 국과수는 2만 1000건의 통화데이터를 텍스트로 변환했다.


또한 개인정보위·KISA의 자문을 받아 피해자의 이름, 계좌번호 등 민감한 정보를 안전하게 비식별처리해 SKT에 제공하는 방안을 마련한 바, 현재 데이터의 가명처리 등이 진행 중이며 이달 중 처리를 완료해 제공할 예정이다.


아울러 SKT는 데이터를 제공받으면 모델 미세 조정(fine tuning)을 통해 성능을 정교화하고 이를 향후 시제품에 담아 검증한 후 서비스를 출시하고, 지속해서 데이터를 제공받아 모델 업데이트에 활용한다.


최근 개인정보위는 통신사 등 여러 기업으로부터 보이스피싱 예방 AI 서비스 개발과 관련한 검토요청을 받은 바, 향후 금융위와 과기정통부 등과 함께 긴밀히 논의할 예정이다.


과기정통부는 내년 신종 보이스피싱 조기탐지 기술개발(R&D) 사업을 기획·추진 중이며, 개인정보위와 함께 기술개발에 필요한 데이터를 안전하게 활용하는 방안을 논의 중이다.


이에 따라 그동안 피해자로부터 신고된 보이스피싱 통화 데이터를 사후적인 수사 목적으로만 활용했으나 이번 협약을 계기로 앞으로는 사전 예방을 위한 AI 개발에도 활용할 수 있게 됐다.


관계기관은 신뢰할 수 있는 개인정보보호 및 정보보안 체계를 갖춘 민간기업 등이 민생범죄 예방을 위한 기술개발을 위해 보이스피싱 통화 데이터를 필요로 하면 적극적으로 개방할 방침이라고 밝혔다.

<저작권자 ⓒ 비즈넷미디어, 무단 전재 및 재배포 금지>