ChatGPT의 부상으로 인공지능(AI)은 현재 기술분야에서 가장 화두가 되고 있는 주제 중 하나입니다. AI의 발전에 따라 이를 악용한 공격이 증가하고 있습니다. 그러나 AI를 다양한 보안기술에 활용한다면, 각종 사이버 위협으로부터 보다 안전할 수 있습니다. AI는 피싱탐지, 사용자 행동분석, 악성코드 탐지, 이상 탐지 등에 활용될 수 있습니다. 해외뿐만 아니라 국내에서도 AI를 보안기술에 적용하려는 움직임이 있는데요. 과연 AI를 보안기술에 어떻게 활용할 수 있을까요?

전통 사이버 보안 VS AI 사이버 보안

우선 사이버 보안이란 사이버 공격을 예방하거나 완화하기 위한 모든 기술, 관행, 정책을 뜻합니다. 사이버 보안은 랜섬웨어, 피싱사기, 데이터 유출 등의 사이버 위협으로부터 컴퓨터 시스템, 데이터 및 자산 등을 보호하는 것을 목표로 합니다. 전통 사이버보안은 사이버 위협에 대한 탐지, 대응 등을 뜻하며 수동적이라는 특징이 있습니다. 기업 네트워크의 경계에서 외부의 위협을 차단하는 방식으로 방화벽, 소프트웨어, VPN 등을 사용하여 네트워크 내부를 보호합니다.AI 사이버 보안은 자동화 매커니즘을 통해 인간의 개입을 최소화하고 위협 탐지 정확도를 높일 수 있습니다. 사이버보안에 AI를 활용함으로써 기존의 보안체계에 있었던 단점을 보완하고 악성공격에 보다 효율적으로 대응할 수 있습니다.

AI를 활용한 보안 기술

1. 이상 탐지

이상 탐지란 일반적인 데이터의 정상 패턴에서 벗어난 데이터를 식별하기 위한 것을 뜻합니다. AI를 통해 정상적인 패턴과는 다른 비정상적인 행동을 식별하고 경고를 줄 수 있습니다. 이상탐지는 다양한 산업에서 활용되고 있습니다.

금융·보험·증권사에서는 이상거래탐지시스템을 업무 전반에 적용하여 효율성과 정확성을 높이고 보안사고를 방지하고 있습니다. 이상거래탐지시스템(FDS, Fraud Detection System)은 전자금융거래시 단말기 정보와 거래정보 등을 수집 및 분석하여 이상 금융거래를 차단하는 기술입니다. 은행에서는 이상거래탐지시스템을 통해 신용카드 거래 데이터에서 일반적이지 않은 패턴을 발견하여 카드 사기 행위를 탐지할 수 있습니다.

국내 의료산업에서도 적극 활용되고 있는데요. 국내의 한 병원에서는 AI로 낙상 이상징후를 탐지하는 시스템을 구축하여 의료진이 낙상 사고 발생 후 현장에 도착하는 시간을 앞당겼습니다. 또한 환자의 병원 내 위치를 추적하여 환자가 의료진의 동행 없이 낙상 고위험 지역으로 이동시 담당 의료인에게 알람이 울려 빠른 대응이 가능하도록 하였습니다.

2.  AI 피싱 탐지

보이스피싱을 비롯한 각종 피싱을 AI를 통해 탐지할 수 있습니다. 우리나라 이동통신사에서는 지능화되고있는 보이스피싱의 피해예방을 위해 AI 보안 연구를 더욱 강화하고 있습니다. 

이동통신사 K사에서는 보이스피싱탐지 AI에이전트를 통해 통화음성을 실시간으로 텍스트로 바꾸고 이를 AI소형언어모델이 금융 사기와 연관된 문맥을 탐지하는 기술입니다. L사에서는 실시간 통화내용에서의 문장과 의도를 분석하여 보이스피싱 상황으로 의심될 경우 경고하는 통화비서를 출시하기도 했습니다.

3. 사용자 행동 분석

AI기반 행동분석은 AI를 통해 사용자의 행동 데이터를 수집하고 분석하는 것을 뜻하며, 이를 통해 비정상적인 행동을 탐지할 수 있습니다. 사용자 행동 분석을 통해 사용자가 비정상적으로 행동하는 것을 탐지하여 내부자 위협, 도용된 계정 등을 포착할 수 있습니다. 또한 데이터를 기반으로 사용자의 행동을 연구, 해석, 예측하기 위해 AI를 사용할 수 있습니다.

AI를 보안에 활용한다면 갈수록 지능화되어가는 사이버 위협에 효과적으로 대응할 수 있습니다. 그러나 AI를 보안기술에 활용 시 고려해야 할 점들이 있습니다. 우선 데이터의 품질과 양을 고려해야 합니다. AI가 효과적으로 작동하기 위해서는 신뢰할 수 있는 양질의 데이터가 필요합니다. 데이터의 출처를 꼼꼼히 검토하고 검증할 수 있는 데이터인지 확인해야 합니다. 또한 AI를 통해 개인정보 등 중요 데이터를 처리할 때 부적절하게 사용되거나 유출되지 않도록 주의해야 하며, AI 모델의 성능을 지속적으로 모니터링하고, 업데이트하는 작업도 필요합니다.