[CISO 조찬] 김창훈 대구대 교수 “AI 시대 보안, 사람 중심 룰 관리로는 한계…지능형 통제로 전환해야”

“AI 시대에는 기존처럼 서버와 네트워크만 지키는 보안으로는 부족하다. AI 데이터센터(AIDC)는 GPU와 클라우드, AI 모델, 데이터, 에이전트, API까지 하나로 연결되기 때문에 자산 식별부터 접근통제, 위협 탐지와 실시간 격리까지 보안 구조 자체를 다시 설계해야 한다.” 김창훈 대구대학교 교수는 8월 19일 서울 조선팰리스호텔에서 열린 데일리시큐 CISO 조찬세미나에서 ‘사이버보안을 위한 AI 특화 서비스’를 주제로 강연했다. 이날 행사에는 국내 주요 기업 CISO 40여 명이 참석했다. 김 교수는 “AI 시대의 보안은 새로운 보안 솔루션을 추가하는 수준으로 접근해서는 안 된다”며 “자산 식별부터 위험 분석, 분리와 연계, 탐지와 대응까지 보안 구조 전체를 다시 설계해야 한다”고 강조했다. AIDC, 서버 보호 넘어 GPU·AI 에이전트까지 보안 대상 확대 김 교수는 AIDC를 기존 데이터센터의 연장선으로만 봐서는 안 된다고 설명했다. 기존 데이터센터는 내부와 외부의 경계를 두고 서버와 네트워크, 스토리지를 보호하는 방식이 중심이었다. 하지만 AIDC는 인프라 위에 클라우드와 AI가 결합하면서 GPU와 모델, 학습데이터, RAG, AI 에이전트, 외부 API까지 하나의 서비스 경로에 들어온다. 특히 GPU가 AI 연산의 핵심으로 자리 잡으면서 GPU 관리 인터페이스와 BMC, 펌웨어, 고속 네트워크, 메모리 접근 경로 등 새로운 보안 영역이 생겼다. AI 서비스 영역에서도 프롬프트 주입, RAG 데이터 오염, 과도한 권한을 가진 에이전트의 도구 실행과 정보 유출 등이 주요 위협으로 등장하고 있다. 김 교수는 “AIDC에서는 서버와 데이터만 보호해서는 부족하다”며 “정책이 어떻게 판단되고 실행됐는지, AI가 어떤 행위를 했는지까지 보안 범위에 포함해야 한다”고 말했다. 강연자료에서도 AIDC의 보호 대상이 기존 자원 중심에서 판단·행위·증거까지 확대된다고 설명했다. “계정만 맞는다고 허용해선 안 돼”…맥락 기반 접근통제 강조 김 교수가 강조한 또 다른 핵심은 ‘맥락 기반 접근통제’다. 지금까지는 계정이나 IP, 사용자 역할 등을 확인해 접근을 허용하는 방식이 일반적이었다. 하지만 AI 환경에서는 정상 계정이라도 어떤 단말에서, 어디에서, 어떤 데이터를, 무슨 목적으로 요청하는지를 함께 판단해야 한다는 설명이다. 그는 “자산의 맥락과 접근하려는 데이터의 맥락이 맞을 때 세션을 열고 이후에도 상태를 계속 확인해야 한다”고 말했다. 현재 많은 보안 솔루션이 개별적으로 작동해 한 장비에서 확인된 위협이 다른 보안 시스템의 통제로 즉시 이어지지 않는 문제도 지적했다. 이를 위해 사용자 행위와 단말 상태, 위치, 시간, 데이터 민감도, 보안등급, 현재 위험 수준을 종합해 접근을 판단하는 맥락 기반 접근통제(CBAC)가 필요하다고 설명했다. 위험이 높아지면 추가 인증을 요구하거나 세션을 제한하고, 필요하면 즉시 격리하는 방식이다. 김 교수는 “AI 시대에는 단순히 인증됐는지를 넘어 해당 접근을 얼마나 신뢰할 수 있는지를 확인하는 ‘보증’의 개념이 중요해진다”고 강조했다. “SOC 핵심은 탐지가 아니라 실시간 격리” 보안관제센터(SOC)의 역할도 달라져야 한다고 강조했다. 위협을 발견하고 분석하는 데 그치지 않고 공격이 확인되는 순간 해당 단말이나 네트워크, 서비스 구간을 즉시 분리해 피해 확산을 막을 수 있어야 한다는 것이다. 김 교수는 “레질리언스에서 가장 중요한 것 중 하나가 실시간 격리 체계”라며 “이를 위해 처음부터 자산을 정확히 식별하고 보안 도메인을 분리한 뒤 안전하게 연계하는 구조를 만들어야 한다”고 말했다. 예를 들어 특정 시스템에서 이상행위가 발생하면 네트워크 포트를 잠그거나 애플리케이션 세션을 끊고, 보안 영역 간 연결을 차단하는 조치가 즉시 이뤄져야 한다. “복잡해진 보안정책, AI 도움 없이는 관리 어려워” 김 교수는 AI 시대의 복잡한 보안 환경을 다시 AI를 활용해 관리해야 한다고 강조했다. AIDC에서는 서버와 GPU, 클라우드 워크로드, 사용자, AI 에이전트, API, 데이터가 계속 연결되고 변한다. 각각의 상황에 따라 접근정책도 달라지기 때문에 사람이 수많은 보안 룰과 상관관계를 일일이 만들고 관리하는 방식에는 한계가 있다는 설명이다. 김 교수는 “AIDC 전체 보안 프레임워크를 구성해 보면 결국 사람이 처리하기 어려운 수준까지 복잡해진다”며 “AI의 도움을 받아야 한다”고 말했다. AI가 보안 담당자를 대신한다는 의미는 아니다. 수많은 자산과 위협, 정책의 관계를 분석해 통제 공백이나 정책 충돌을 찾아내고, 보안 담당자의 판단과 대응을 지원하는 역할이 중요하다는 것이다. “사이버보안 전용 디지털 트윈으로 변경 전 검증해야” 그는 향후 필요한 기술로 ‘사이버보안 전용 디지털 트윈’도 제시했다. AIDC처럼 복잡한 환경에서는 패치 하나나 방화벽 정책 변경 하나가 예상하지 못한 서비스 장애나 보안 공백으로 이어질 수 있다. 새로운 AI 서비스나 보안 솔루션을 추가할 때도 기존 네트워크와 권한, API, 데이터 흐름에 영향을 줄 수 있다. 이에 실제 시스템을 변경하기 전에 가상의 동일 환경에서 패치와 정책 변경, 신규 서비스 도입에 따른 영향을 먼저 시험해야 한다는 설명이다. 김 교수는 “패치나 보안 룰, 신규 자산과 서비스가 들어올 때 디지털 트윈에서 먼저 시험하고 검증한 뒤 운영환경에 반영하는 체계가 필요하다”고 강조했다. AI 시대의 사이버보안도 구조 자체가 바뀌어야 한다. 인프라와 클라우드, AI를 각각 따로 보호하는 방식에서 벗어나 하나의 연결된 환경으로 보고, 맥락에 따라 접근을 판단하고 위협 발생 시 즉시 격리할 수 있어야 한다. 여기에 AI를 활용한 정책·위협 분석과 디지털 트윈을 통한 사전 검증까지 결합해야 복잡해지는 AIDC 환경을 효과적으로 보호할 수 있다는 것이다.