​AI가 해킹하고 증거도 지우는 시대, '포렌식 전문가'의 미래를 묻다

독학으로 AI 보안을 연구하는 2008년생 청소년 개발자, 플레인비트 김진국 대표를 만나다

인공지능(AI)이 사이버 공격을 자동화하고, LLM(대규모 언어 모델) 에이전트가 코드를 짜고 시스템을 제어하는 시대다. 공격자가 AI를 이용해 흔적조차 지우기 시작한다면, 기존의 침해사고 대응과 디지털 포렌식은 어떻게 달라질까? 학점은행제로 소프트웨어를 깊이 있게 탐구하며 AI 보안 프로젝트를 이어가고 있는 청소년 개발자 백동재 군이 디지털 포렌식 및 침해사고 대응 전문기업 '플레인비트'의 김진국 대표를 만나 현장의 생생한 이야기와 미래 보안 전문가의 길에 대해 물었다.

• 보안 사고는 '하나의 원인'으로 설명되지 않는다

흔히 뉴스에서는 보안 사고를 다룰 때 "직원이 피싱 메일을 열었다"거나 "특정 솔루션의 취약점이 뚫렸다"며 단편적인 원인을 지목하곤 한다. 하지만 김진국 대표는 사고를 단순히 '사람의 실수'나 '기술의 실패'로 이분화하는 것은 의미가 없다고 선을 그었다.

초기 침투는 공격의 시작일 뿐, 실제 데이터 탈취나 시스템 장악까지는 권한 상승, 내부 이동 등 복합적인 단계가 수반된다. 김 대표는 "사고 분석의 본질은 범인을 찾는 데서 끝나는 것이 아니라, 공격의 각 단계를 밝혀내어 조직이 다음 공격을 감지하고 통제할 수 있는 내성을 길러주는 일"이라고 강조했다. 나아가 사고가 명확히 드러나기 전이라도 위협이 숨어 있을 가능성을 전제로 능동적인 조사를 펼치는 'CA(Compromise Assessment, 침해 평가)'의 중요성도 언급했다.

• AI의 등장, 천재 해커의 탄생보다는 '공격의 대량화'

AI가 방어보다 공격에 더 유리한 비대칭적 상황이라는 우려에 대해, 현장에서 체감하는 변화는 '공격의 독창성'보다는 '양적인 폭발'에 가까웠다.

과거에는 범용적인 악성코드 하나로 여러 곳을 공격했다면, 이제는 AI를 통해 대상 기업의 환경에 맞춘 이메일과 문서를 극도로 낮은 비용으로 양산할 수 있게 되었다. 단기적으로는 무수히 반복되는 공격의 파도 속에서 방어자가 불리해 보일 수 있지만, 점차 AI를 활용한 방어 기술 역시 고도화될 전망이다.

다만 김 대표는 "최종 판단은 여전히 사람의 몫"이라며, "어떤 행위를 공격으로 규정할지, 조사 결과를 규제기관과 고객에게 어떻게 설명할 것인지 등 책임 있는 결정은 인간 전문가 고유의 영역으로 남을 것"이라고 분석했다.

• AI 시대, 전문가를 만드는 것은 '남은 5시간'의 밀도

AI로 초급 분석 업무가 자동화된다면, 신입은 어떻게 경험을 쌓아 숙련된 전문가로 성장할 수 있을까? 김 대표는 이 질문에 대해 뼈 있는 조언을 던졌다.

"기존에 6시간이 걸리던 일을 AI를 통해 1시간 만에 끝냈다면, 나머지 5시간을 어떻게 쓰느냐가 핵심입니다."

쉬운 결과에 안주하면 업무 속도만 빨라질 뿐 개인의 역량은 제자리에 머문다. 남은 시간 동안 AI가 놓친 부분을 교차 검증하고, 프롬프트를 변형하며 다양한 경우의 수를 실험하고, AI의 오류 패턴을 기록하는 사람만이 과거보다 압도적으로 빠른 속도로 경험치를 축적할 수 있다는 것이다. AI를 일방적인 도구로 맹신하지 않고, 끊임없이 '비판적 사고'를 통해 의심하고 반문하는 태도가 미래 전문가의 핵심 역량임을 알 수 있는 대목이다.

• 화려한 응용 기술보다 '컴퓨터공학의 뼈대'가 먼저다

빠르게 변하는 보안 트렌드 속에서 진로를 고민하는 이들에게 김 대표는 "유행하는 기술의 이름에 휩쓸리기보다는 컴퓨터 구조, 운영체제, 네트워크 등 변하지 않는 기초를 탄탄히 다져야 한다"고 조언했다. 기초가 튼튼해야 새로운 기술이 등장해도 원리를 빠르게 파악하고 적응할 수 있기 때문이다.

포렌식은 단순히 삭제된 데이터를 복원하는 기술이 아니다. 방화벽, 데이터베이스, 리눅스 등 다양한 환경을 폭넓게 이해해야 하며, 이를 바탕으로 인간의 행위와 의도를 재구성해 법과 조직의 언어로 풀어내는 융합적인 분야다. 김 대표는 장기적으로 창업을 꿈꾸는 이들에게도 "조직 내에서 기술 외적인 프로세스와 갈등 조정, 책임의 무게를 먼저 경험해 볼 것"을 권했다.

💡 취재 후기

플레인비트 김진국 대표와의 만남은 '자동화된 미래' 속에서 '인간의 가치'를 어떻게 증명할 것인지에 대한 묵직한 화두를 던져 주었다. AI가 모든 것을 대신해 줄 것 같은 시대지만, 수많은 노이즈 속에서 진짜 위협을 분별해내고 법적, 기술적, 윤리적 맥락을 꿰어내는 통찰은 온전히 사람의 몫이었다.

미래의 보안 컨설턴트, 포렌식 전문가를 꿈꾸는 이들이라면 남들이 짜준 코드와 AI의 그럴듯한 답변에 만족할 것이 아니라, 치열하게 그 이면을 파고드는 연습을 지금 당장 시작해야 할 것이다.