AI 기반 피싱 메일, 기존 보안 솔루션이 못 잡는 이유

거래처 담당자에게서 온 것처럼 보이는 이메일 한 통이 도착한다. 현재 진행 중인 프로젝트명이 정확하게 언급돼 있고, 평소 사용하던 업무 문체까지 그대로 재현되어 있다. 첨부된 문서를 열거나 링크를 클릭하는 순간 계정 정보가 탈취된다. 문제는 이런 이메일이 더 이상 어설프지 않다는 점이다.

생성형 AI의 발전으로 피싱 공격은 과거와 전혀 다른 단계에 진입했다. 기존 보안 솔루션이 AI 피싱을 놓치는 가장 큰 이유는 공격자가 문법 오류나 반복 패턴 같은 전통적인 탐지 기준을 쉽게 우회할 수 있기 때문이다.

AI가 만든 피싱 메일이 보안 업계를 흔들고 있다

생성형 AI는 공격자의 생산성을 극적으로 높였다. 과거에는 피싱 캠페인을 진행하기 위해 이메일 템플릿을 직접 작성하고 국가별 언어와 표현을 수정해야 했다. 지금은 몇 줄의 프롬프트만 입력하면 수백 개의 이메일이 자동으로 생성된다.

특히 공격 비용이 크게 낮아졌다는 점이 중요하다. 과거에는 정교한 스피어 피싱 공격을 준비하기 위해 대상자 조사와 이메일 작성에 상당한 시간이 필요했다. 하지만 AI는 공개된 정보를 기반으로 개인별 맞춤형 메시지를 빠르게 생성할 수 있다.

이 변화는 단순히 이메일 품질 향상에 그치지 않는다. 공격자의 경제성 자체를 바꿔놓는다. 예전에는 소수의 고가치 목표만 노릴 수 있었던 공격자가 이제는 수백 명, 수천 명을 대상으로 개인화 공격을 수행할 수 있게 됐다.

“오타를 보면 된다”는 조언이 더 이상 통하지 않는 이유

과거 피싱 메일은 어색한 번역체 문장과 오탈자가 주요 특징이었다. 그래서 많은 보안 교육도 이를 중심으로 진행됐다.

하지만 최신 생성형 AI는 사람 수준의 자연스러운 문장을 생성할 수 있다. 상황에 맞는 어휘 선택은 물론 상대방의 직무와 산업군에 맞는 표현까지 활용할 수 있다.

예를 들어 금융권 종사자에게는 금융업계 용어를 사용하고, 개발자에게는 기술 문서 스타일을 흉내 낼 수 있다. 수신자는 익숙한 표현을 보며 의심을 줄이게 된다.

결국 오탈자 유무만으로 피싱 여부를 판단하는 시대는 끝나고 있다.

기존 이메일 보안 솔루션은 무엇을 기준으로 탐지할까

대부분의 이메일 보안 솔루션은 알려진 공격 특징을 탐지하는 방식으로 발전해 왔다.

시그니처 기반 탐지

과거 공격 사례를 데이터베이스화하고 동일한 패턴을 찾아내는 방식이다. 이미 알려진 위협에는 강력하지만 새로운 형태의 공격에는 약하다.

규칙 기반 필터링

특정 단어 사용 빈도, 링크 구조, 발신자 특성 등을 기반으로 위험도를 평가한다.

평판 기반 차단

IP 주소나 도메인의 신뢰도를 분석하여 악성 발신자를 차단한다.

문제는 AI가 이러한 기준을 우회할 수 있다는 점이다. 정상적인 표현을 사용하고 신뢰도 높은 서비스까지 활용하면 탐지 난도가 크게 높아진다.

AI 피싱 메일이 탐지를 우회하는 실제 이유

AI 피싱의 핵심은 패턴의 붕괴다.

기존 피싱 공격은 동일한 템플릿을 반복 사용했다. 따라서 보안 솔루션은 특정 문장과 구조를 학습해 차단할 수 있었다.

반면 생성형 AI는 매번 다른 이메일을 생성한다. 목적은 같지만 문장과 표현 방식은 계속 달라진다.

이러한 특징 때문에 시스템은 각각의 이메일을 새로운 메시지로 인식하게 된다. 결국 패턴 기반 탐지 효율은 낮아질 수밖에 없다.

다형성 공격과 유사한 구조가 형성되면서 공격자는 계속 형태를 바꾸고 방어자는 계속 새로운 규칙을 만들어야 하는 상황이 반복된다.

대량 공격과 맞춤형 공격이 동시에 가능해진 시대

생성형 AI는 대량 공격과 스피어 피싱의 경계를 무너뜨리고 있다.

공격자는 SNS 프로필, 기업 홈페이지, 보도자료, 링크드인 정보 등을 수집한 뒤 AI를 활용해 개인별 맞춤 이메일을 자동 생성할 수 있다.

다음과 같은 정보가 공격에 활용될 수 있다.

• 직책 및 부서 정보
• 현재 진행 중인 프로젝트
• 거래처 및 고객 정보
• 공개된 연락처
• 조직 내 역할

실제 보안 현장에서는 거래처 담당자 이름과 프로젝트명을 정확히 언급하는 사례가 꾸준히 보고되고 있다. 수신자는 정상적인 업무 요청으로 착각하기 쉽다.

더 큰 문제는 이러한 공격이 BEC(Business Email Compromise)로 이어질 수 있다는 점이다. CEO 사칭 송금 요청, 거래처 계좌 변경 안내, 결재 승인 요청 등은 기업에 직접적인 금전 피해를 발생시킬 수 있다.

AI 시대의 이메일 보안, 무엇이 달라져야 할까

이제 중요한 것은 이메일 내용만 분석하는 방식에서 벗어나는 것이다.

최근 보안 업계는 행위 기반 분석에 집중하고 있다. 사용자의 평소 행동과 다른 로그인 위치, 비정상적인 파일 접근, 갑작스러운 권한 요청 등을 종합적으로 분석하는 방식이다.

또한 AI 기반 이메일 보안 솔루션은 이메일 문맥과 조직 내 커뮤니케이션 패턴까지 함께 분석하기 시작했다.

기업이 고려해야 할 대응 전략은 다음과 같다.

• 행위 기반 탐지 기술 도입
• 중요 업무에 대한 다중 검증 절차 구축
• 임직원 보안 교육 강화
• 이메일 외 채널을 통한 교차 확인
• AI 기반 위협 탐지 시스템 활용

생성형 AI는 앞으로 더욱 발전할 것이다. 이는 공격자와 방어자 모두에게 동일하게 적용된다. 따라서 특정 솔루션 하나에 의존하기보다 변화하는 공격 방식에 맞춰 보안 체계를 지속적으로 개선하는 접근이 필요하다.