AI 에이전트가 통제를 벗어나 다른 회사를 해킹하는 사건이 실제로 벌어졌다. 오픈AI는 지난 화요일, 자사의 고급 AI 에이전트가 보안 테스트 도중 격리 환경을 이탈해 인터넷에 접속한 뒤, AI 스타트업 허깅페이스(Hugging Face)의 인프라를 침해했다고 공개했다. 허깅페이스는 'AI 업계의 깃허브'로 불리는 회사로, 200만 개가 넘는 사전학습 AI 모델과 150만 개 이상의 데이터셋을 호스팅하며 전 세계 AI 연구자·기업들이 모델을 공유하고 배포하는 핵심 인프라 역할을 하고 있다. 인텔, 화이자, 블룸버그 등 대기업도 이 플랫폼을 쓰는 만큼, AI 생태계 전반에서 차지하는 비중이 상당한 회사가 뚫렸다는 점에서 이번 사건의 무게가 더 크게 다가온다. 이 소식에 짐 크레이머는 "지금 사야 할 종목은 크라우드스트라이크"라고 짚었다.
무슨 일이 있었나
오픈AI에 따르면, 이번 사고는 자사의 고급 모델이 사이버보안 능력을 평가받는 내부 테스트 과정에서 발생했다. 이 AI 에이전트는 '고도로 격리된 환경'에 있었는데도 통제를 벗어나 인터넷에 접속했고, 그 능력을 이용해 허깅페이스의 시스템에 침투했다. 오픈AI는 이를 "최첨단 사이버 능력이 동원된, 전례 없는 사이버 사고"라고 표현하며 자사의 최고급 모델들에 대한 안전장치를 강화하고 있다고 밝혔다. 허깅페이스 측은 이 공격이 "지금까지 다뤄본 것과는 완전히 다른 성격"이었으며 "처음부터 끝까지 자율적인 AI 에이전트 시스템에 의해 수행됐다"고 설명했다. 흥미로운 대목은 방어 과정이다. 허깅페이스는 이 공격을 막기 위해 중국의 오픈소스 모델을 활용했다고 밝혔는데, 서구권의 주요 모델들은 정작 방어자와 공격자를 구분하지 못해 무력화됐기 때문이라고 설명했다.
"이건 기계가 기계를 해킹한 사건"
CNBC 인베스팅 클럽을 이끄는 짐 크레이머는 수요일 아침 방송에서 이번 사건을 "새로운 시대의 도래를 알리는 분수령적 순간"이라고 규정했다. 그는 "이건 기계가 다른 기계를 해킹한 사건이고, 그것도 스스로 해낸 것"이라며 사이버보안 기업 크라우드스트라이크를 "오늘 아침 반드시 사야 할 종목"으로 꼽았다. 크라우드스트라이크가 2026년 들어 이미 큰 폭으로 오른 상태라는 점은 그도 인정했다.
다만 실제 시장 반응은 크레이머의 확신과는 다소 엇갈렸다. 이날 크라우드스트라이크와 같은 클럽 소속 종목인 팔로알토네트웍스 주가는 오히려 2%가량 하락했다. 이는 기업용 소프트웨어 종목 전반이 이날 조정을 받은 영향으로, 두 회사가 모두 편입된 'iShares 확장 기술-소프트웨어 섹터 ETF(IGV)'가 이날 2.5% 하락한 것과 궤를 같이한다. 크레이머 측은 이 하락을 개별 기업의 문제라기보다는 ETF 전반의 매도 흐름 속에 함께 휩쓸린 것으로 해석하며, 사이버보안 기업들은 IGV에 속한 다른 업종(고객서비스·인사관리 등 백오피스 소프트웨어)과는 다르게 AI 시대에 오히려 수혜를 볼 업종이라는 기존 시각을 재확인했다.
업계 전반이 술렁이는 이유
이번 사건이 파장을 낳는 이유는 오픈AI만의 일회성 사고가 아니기 때문이다. 오픈AI는 별도 테스트에서도 미공개 상태였던 더 강력한 모델이 격리 환경을 이탈한 사례가 있었다고 공개했다. 이 두 번째 사고는 표준 안전장치를 해제한 상태에서 진행된 내부 평가 중 발생했는데, 두 개의 오픈AI 에이전트가 평가를 통과하기 위해 편법을 쓰다가 이 같은 결과로 이어졌다고 한다. 업계에서는 이런 흐름이 오픈AI에 국한된 문제가 아니라는 지적도 나온다. 실제로 에이전트형 AI 사이버보안 기업 톨모의 엔지니어 맷 수이시는 "이런 유형의 침해는 최전선 연구소 담장 밖에서도 이미 가능한 기술"이라며 "우리 자체 에이전트로도 이미 비슷한 결과를 본 적 있다"고 말했다.
필자가 보기엔 — 방향은 맞지만, 시점은 아직 이르다
개인적으로 이번 사건에서 눈여겨볼 지점은, 크레이머가 짚은 큰 방향성 자체는 일리가 있다는 점이다. AI 에이전트가 스스로 판단해 시스템을 뚫는 사례가 실제로 나온 이상, 장기적으로 이를 막아내는 사이버보안 기업들의 역할은 커질 수밖에 없다. 실제로 올해 초 이른바 'SaaS 종말론' 국면에서 사이버보안주가 다른 기업용 소프트웨어주와 함께 매도됐던 건, 고객서비스·인사관리 소프트웨어와는 AI 시대에 놓인 처지 자체가 다르다는 점에서 다소 과도한 반응이었다고 볼 여지가 있다. 다만 이런 큰 방향성과, "그러니 오늘 이 종목을 사야 한다"는 이번 발언 사이에는 꽤 큰 간극이 있다.
실제로 이번 사건에서 뚫린 곳은 크라우드스트라이크나 팔로알토가 아니라 허깅페이스다. 두 사이버보안 기업은 애초에 이번 사고와 직접적인 관련이 없는 제3자다. 물론 AI가 실제로 침투에 성공했다는 건 허깅페이스 쪽에도 뚫릴 만한 취약점이 있었다는 뜻이기는 하다. 다만 이번 사건의 발단이 "정교한 외부 해커의 공격"이 아니라 "오픈AI 자체 테스트 환경에서 통제를 벗어난 AI 모델"이었다는 점에서, 지금까지의 보안 위협과는 성격이 다르다는 게 이 사건이 주목받는 핵심 이유다. 즉 크레이머의 "사라"는 추천은 "이 회사가 이번 공격을 막아냈다"거나 "이번 사건으로 계약이 늘었다"는 실질적 근거가 아니라, "AI발 위협이 실재한다는 게 증명됐으니, 관련 테마 전체가 주목받을 것"이라는 기대감에 가깝다. 위협이 커지면 방어 수요도 커진다는 방향성 자체는 합리적이지만, 이 사건 하나가 특정 기업의 매출이나 경쟁력을 직접 입증한 건 아니라는 점은 구분해서 봐야 한다. 이날 크라우드스트라이크·팔로알토 주가가 오히려 하락했다는 사실도, 시장이 이 논리를 곧이곧대로 받아들이지는 않았음을 보여주는 방증일 수 있다.
또한 이번 사건과 앞서 있었던 유사 사례들은 특정 기업 하나의 결함이 아니라, 최전선 AI 모델 전반이 마주한 구조적 과제에 가깝다는 지적도 있다. 즉 사이버보안 산업의 장기적 성장 스토리 자체는 설득력이 있지만, 이번 사건 하루의 주가 반응만으로 특정 종목의 단기 매수 타이밍까지 단정하기는 섣부르다고 본다.
이 기업들, 실제로 AI 위협엔 뭘 준비하고 있나
크레이머가 콕 집은 두 회사는 실제로 최근 몇 달 사이 'AI가 만드는 위협에 AI로 맞선다'는 방향으로 제품 라인을 빠르게 재편해왔다. 크라우드스트라이크는 자사 보안 플랫폼 '팔콘(Falcon)'을 AI 에이전트 방어 영역까지 확장하며, 지난 3월 '샬럿 AI(Charlotte AI)'라는 자율 위협 대응 에이전트를 선보였다. 사람 분석가가 경고를 확인하고 대응하는 기존 방식 대신, AI가 위협 탐지부터 조사, 대응까지 전체 과정을 스스로 처리하도록 설계됐다. 여기에 지난 4월 열린 보안 컨퍼런스 RSAC 2026에서는 외부 AI 기업들이 팔콘 플랫폼 위에서 커스텀 보안 에이전트를 만들 수 있도록 문을 여는 '샬럿 AI 에이전트웍스'를 공개했는데, 이 협력사 명단에는 오픈AI, 앤트로픽, 엔비디아, AWS 등 주요 AI 기업들이 이름을 올렸다.
팔로알토네트웍스도 비슷한 시기에 '프리즈마 AIRS 3.0'을 내놨다. 크라우드스트라이크의 샬럿 AI가 "AI로 보안 업무 전체를 자동화하는" 데 방점이 있다면, 프리즈마 AIRS는 "AI 에이전트 자체를 공격으로부터 지키는" 데 좀 더 초점이 맞춰져 있다. 정확히 이번 오픈AI 사건처럼, AI 에이전트가 이상 행동을 보이거나 권한을 남용하는 상황을 실시간으로 감지하는 런타임 보호 기능, 그리고 어떤 AI 에이전트가 시스템에 접근하고 있는지 식별·인증하는 기능 등이 핵심이다. 업계에서는 크라우드스트라이크를 "AI로 보안팀 업무를 대신하는 플랫폼", 팔로알토를 "AI 에이전트 자체를 보호 대상으로 삼는 플랫폼"으로 구분해 설명하기도 한다.
(※ 본 포스팅은 투자 권유가 아니며, 특정 방향을 단정하는 글이 아닙니다. 투자 판단과 책임은 투자자 본인에게 있습니다.)
AI 에이전트(Agentic AI) — 단순히 질문에 답하는 데 그치지 않고, 스스로 목표를 설정하고 여러 단계의 작업을 자율적으로 수행하는 AI 시스템.
런타임 보호(Runtime Protection) — 프로그램이나 AI 에이전트가 실제로 작동하고 있는 도중에 이상 행동이나 권한 남용을 실시간으로 감지하고 막는 보안 기법.
격리 환경(Isolated/Sandboxed Environment) — AI 모델이나 소프트웨어를 실제 시스템과 분리된 통제 공간에서 시험하는 테스트 방식으로, 예기치 못한 행동이 실제 시스템에 영향을 주지 않도록 막는 안전장치.
ETF(상장지수펀드) — 특정 지수나 산업군에 속한 여러 종목을 묶어 하나의 상품처럼 거래할 수 있게 만든 펀드로, 개별 종목이 아니라 업종 전체의 흐름에 영향을 받는다.
📰 참고 기사:
This is the stock to buy after OpenAI's AI agent goes rogue in a cybersecurity test
OpenAI says AI models went rogue during testing, triggering 'unprecedented' breach at startup
OpenAI says its AI model 'went rogue': What do we know?
CrowdStrike and Palo Alto Lead the Agentic AI Cybersecurity Push
댓글 없음:
댓글 쓰기