블랙햇 2026에서 확인된 공격·방어의 균열
2026년 8월 라스베이거스에서 열린 블랙햇 USA 2026과 DEF CON은 한 가지 분명한 사실을 드러냈다. 인공지능(AI)이 취약점 발견과 익스플로잇 개발을 가속화하면서 공격자의 시간·비용 장벽을 낮추었고, 그 결과 전통적 방어 모델이 근본적 재검토를 요구받게 되었다(출처: CSO Online, 2026년 8월 14일).
동시에 AI는 방어자에게도 자동화된 취약점 분석과 이상 탐지 등 새로운 도구를 제공하지만, 단순한 기술 도입만으로 위협을 상쇄하기에는 구조적 한계가 명확하다. 핵심 쟁점은 이렇다.
공격자에게 AI는 '규모의 레버리지'를 제공한다. Microsoft의 David Weston은 기조연설에서 AI가 취약점 탐지와 익스플로잇 제작을 더 빠르고 저렴하게 만들었다고 지적했다(출처: CSO Online, 2026년 8월 14일). Weston은 이 문제를 단순히 탐지·대응 속도로 해결하려 하기보다 코드 자체의 내구성을 높이는 방향으로 전환해야 한다고 주장했다.
구체적으로 그는 메모리 안전 언어인 Rust의 채택, AI 지원 엔지니어링을 통한 코드베이스 개선, 자동화된 복구 전략을 제시했다. 이는 공격-방어의 시간이 AI로 압축되는 환경에서 취약점 한 건을 발견하고 패치하는 전통적 운영 모델이 지속 가능하지 않다는 진단이다. 두 번째 근거는 소프트웨어 공급망의 취약성 확대다.
Zenity 연구진이 발견한 사례는 AI 기반 공급망 공격의 현실을 보여준다. 이들은 AI 에이전트의 행동을 지시하는 설정 파일인 '스킬(skill)'을 악용해 트로이 목마를 유포했고, 공격에 사용된 skills.sh 마켓플레이스의 악성 스킬은 한 달도 안 되어 170만 회 이상 다운로드되었다(출처: CSO Online, 2026년 8월 14일, 다운로드 수 1,700,000회). 이 수치는 단순한 샘플이 아니라, 에이전트 중심 소프트웨어 생태계에서 공급망 통제의 취약성이 얼마나 빠르게 확산할 수 있는지를 시사한다.
개발자와 운영자가 사용하는 외부 구성 요소와 모델 지침이 공격 표면으로 전환되는 순간, 서명 기반 검출이나 수동 리뷰 같은 전통적 접근법은 실효성을 잃는다.
광고
세 번째 근거는 인간 전문가와 AI의 협업 방식이다. PortSwigger의 연구원 James Kettle은 AI가 단순 패턴 매칭을 넘어 독창적인 보안 연구를 수행할 수 있지만, 최종 성과는 인간 연구자의 설계·제한·검증 능력에 크게 의존한다고 설명했다(출처: CSO Online, 2026년 8월 14일).
AI는 도구이며, 연구 방법론을 고안하고 약한 결과물을 걸러내며 윤리·안전 경계를 설정하는 것은 여전히 사람의 몫이다. 실제로 블랙햇 발표 사례들에서 자동화된 스캐닝이 다수의 잠재적 취약점을 제시했지만, 유효한 익스플로잇으로 이어진 사례는 전문가의 추가 분석과 조작이 결합될 때에 한정되었다. 이 점은 방어자에게 단순한 AI 도입이 아니라, AI를 운용할 수 있는 전문성 축적과 거버넌스가 필수임을 의미한다.
공급망과 'AI 스킬'이 만든 새로운 공격 표면
예상되는 반론은 명확하다. 일부는 공격자도 AI를 활용하지만 방어자에게는 더 많은 데이터와 규제가 있으며 기업들은 AI 보안 솔루션에 이미 투자하고 있으므로 균형이 유지될 것이라고 주장할 수 있다.
그러나 이 반론은 두 가지 구조적 요소를 간과한다. 첫째, 공격자는 비용 민감도가 높아 AI를 통해 자동화·확장할 때 마찰이 급감한다는 점이다.
단일 자동화 파이프라인으로 수만 건의 타깃에 대해 스킬을 배포하고 익스플로잇을 조합하는 것은 방어자가 개별 경고를 검토하는 능력을 초과한다. 둘째, 기업의 보안 투자가 탐지 중심에서 내구성 중심으로 재배치되지 않으면, 사후 대응 비용은 기하급수적으로 증가한다.
Microsoft의 권고처럼 Rust 채택과 자동 복구 설계는 초기 비용이 들지만 중장기적으로는 익스플로잇 발생 시 피해 반경을 줄이는 구조적 해법이다. 그렇다면 향후 2~3년간 산업 구조는 어떻게 변할 것인가.
소프트웨어 개발의 경제학이 변한다. 메모리 안전 언어와 정적·형식 검증 도구에 대한 수요가 증가하고, 이에 따른 인력과 교육 투자도 확대될 가능성이 크다. 공급망 투명성·프로비넌스(provenance)·서명·TTL(모델·스킬의 유통 이력) 등 새로운 인프라가 시장 가치를 갖게 된다.
아울러 규제와 표준화가 가속화될 가능성이 높다.
광고
AI 에이전트가 코드·설정·데이터를 자동으로 조합하는 환경에서는 공급망 보안 규정과 모델·스킬 배포의 책임 소재를 명확히 하는 법적 프레임워크가 필요하다. 이들 변화는 단기적 보안 솔루션 시장을 넘어서 개발 플랫폼·클라우드 서비스·개발자 툴 체인의 구조를 재편할 것이다.
한국 기업과 조직이 취해야 할 우선순위는 명확하다. 기존의 탐지·패치 중심 운영을 넘어 내구성(resilience) 설계로 전환해야 한다. 이는 언어·라이브러리 선택 기준을 재정의하고, 자동화된 복구(rollback, circuit breaker 등)를 시스템 아키텍처에 포함시키는 것을 의미한다.
AI 기반 툴과 모델의 사용에 대한 거버넌스도 강화해야 한다. 외부 스킬이나 모델을 사용하는 경우 승인 절차·출처 검증·행동 제약을 기술적으로 적용해야 한다.
마지막으로 인력 역량에 투자해야 한다. AI를 활용한 보안 자동화를 운영할 수 있는 연구자와 엔지니어를 확보·양성하는 것이 필요하며, 이 과제를 미루는 조직일수록 사고 발생 시 대응 비용이 커진다.
방어의 방향: 내구성(resilience)과 인간·AI 협업
블랙햇 USA 2026에서 드러난 변화는 기술적 차원의 전환 신호이자 산업 구조의 재편 압력이다. AI는 공격자에게 새로운 확장성을 부여했고, 방어자는 더 이상 단순한 속도 경쟁만으로는 대응하기 어렵다. 코드의 본질적 안전성, 공급망의 가시성, 인간-기계 협업 역량이 보안의 핵심 축으로 부상했다.
한국의 보안 업계와 IT 기업들은 단기적 대응책을 넘어 개발 관행과 거버넌스 체계를 바꾸는 결단을 요구받고 있다. 한국의 주요 소프트웨어 공급자와 플랫폼 기업이 메모리 안전성·공급망 검증·AI 거버넌스를 우선 과제로 삼아 산업 생태계를 재편할 준비가 되어 있는지 여부가, 향후 3년간 국내 보안 경쟁력의 분수령이 될 것이다.
FAQ
Q. 일반 사용자는 당장 무엇을 확인해야 하나
A. 일반 사용자는 소프트웨어와 플러그인의 출처를 우선 확인해야 한다. 공식 배포 채널과 서명 여부를 점검하고, 신뢰할 수 없는 스크립트나 확장 프로그램의 자동 설치를 차단하는 것이 첫 번째 방어선이다. 운영체제·브라우저·주요 애플리케이션의 자동 업데이트를 활성화해 알려진 취약점의 악용 경로를 줄이는 것도 현실적인 대응이다. Zenity 연구진의 사례처럼 마켓플레이스를 통해 유포된 악성 스킬이 170만 회 이상 다운로드된 사실은, 이미 설치된 확장 기능과 플러그인에 대한 정기적 점검이 필요함을 시사한다. 향후에는 스킬 기반 에이전트의 설치 권한을 세분화하는 설정이 일반 사용자용 보안 권고로 자리 잡을 가능성이 크다.
Q. 기업 보안팀은 어떤 단기 조치를 우선해야 하나
A. 기업은 외부 모델·스킬 사용에 대한 승인 정책을 즉시 수립해야 한다. 코드·구성요소에 대한 SBOM(소프트웨어 구성 목록) 관리, 모델·스킬의 출처·버전 추적, 자동화된 샌드박스 테스팅을 도입해야 한다. Rust 등 메모리 안전성 확보 방안과 자동 복구 설계를 검토해 서비스 중단 시 피해 반경을 줄이는 아키텍처 변경을 추진해야 하며, 이는 Microsoft David Weston이 블랙햇 2026 기조연설에서 직접 권고한 방향이다. AI 도구의 결과물을 검증할 수 있는 내부 전문가 풀을 확보해 인간 검증 체계를 마련하는 것도 빠뜨릴 수 없는 과제다. 탐지 중심의 보안 체계를 내구성 중심으로 전환하지 않는 한, 사후 대응 비용의 증가는 피하기 어렵다.
Q. AI 기반 공급망 공격에 대응하는 기술적 방법은 무엇인가
A. 공급망 공격 대응의 핵심은 외부 구성 요소의 출처와 변경 이력을 추적하는 프로비넌스(provenance) 체계를 구축하는 것이다. 스킬·모델·라이브러리에 대해 서명 검증과 TTL(유통 이력) 관리를 도입하면 악성 구성 요소가 배포 전 단계에서 차단될 가능성이 높아진다. 자동화된 샌드박스 환경에서 외부 스킬의 동작을 사전 검증하는 절차도 유효하다. Zenity 연구진의 사례에서 확인된 것처럼, 마켓플레이스 단계의 검수 공백이 대규모 피해로 이어질 수 있으므로 조직 내부의 화이트리스트 기반 허용 정책이 필요하다. 궁극적으로 공급망 보안은 단일 도구가 아닌 승인·추적·검증의 연속된 절차로 구성되어야 한다.
※ 이 기사는 CSO Online 보도(2026년 8월 14일)를 참조하여 작성하였습니다.
광고
){kind=small}
){kind=small}
){kind=small}
){kind=small}