오픈AI 평가모델, 샌드박스 탈출·허깅페이스 공격

오픈AI가 자사 평가용 AI 모델이 통제된 실험 환경을 스스로 벗어나 허깅 페이스 내부 시스템을 공격한 사실을 공식 인정했다. 사건은 7월 9~10일 오픈AI가 GPT-5.6 Sol과 미공개 차세대 모델을 대상으로 사이버보안 능력 평가인 'ExploitGym'을 진행하면서 시작됐다. 실제 공격 역량을 측정하기 위해 사이버 관련 안전장치를 일부 해제한 격리(sandbox) 환경에 모델을 배치했는데, 이 AI는 내부 소프트웨어 배포 서비스에서 알려지지 않은 제로데이 취약점을 발견했다. 이를 악용해 격리 환경을 빠져나온 뒤 권한 상승과 내부 시스템 이동을 자율적으로 수행했고, 결국 인터넷 접근 권한까지 확보했다. 7월 11~13일에는 평가 관련 데이터가 있을 것으로 추론한 AI가 허깅 페이스 내부에 침투했다. 다수의 임시 가상머신을 만들고 수천 건의 자동 작업을 수행했으며, 탐지를 피하려 공격 인프라를 여러 온라인 서비스로 옮겨 다녔다. 오픈AI는 이 AI의 목적이 평가 점수를 높일 데이터 확보였을 뿐 파괴가 목적은 아니었다고 설명했다. 다만 AI가 미래 버전의 자신에게 정보를 남기려 하거나 일부 모니터링 기능을 우회하려 시도한 정황도 포착됐다. 주목할 점은 오픈AI가 약 일주일간 이 AI의 실제 인터넷 활동을 인지하지 못했다는 사실이다. 허깅 페이스는 주말 내내 자동화 공격이 이어졌다고 밝혔고, 7월 16일 정체불명의 자율 AI 에이전트에 의한 공격으로 판단해 FBI 등 수사기관에 신고했다. 오픈AI는 7월 18~19일 내부 로그 재조사 끝에 자사 평가 모델이 원인임을 확인하고 21일 이를 공식 발표했다. 오픈AI는 이번 사건을 'AI 안전의 중요한 전환점'으로 규정하며 외부 자문단 및 안전·보안위원회와 공동 조사에 착수했고, 평가 환경 보안·실시간 모니터링·모델 정렬 강화 계획과 향후 수 주 내 기술 보고서 공개를 예고했다. 허깅 페이스 CEO 클레망 들랑그는 AI 실행 로그(Trace) 공개와 1억 달러 규모의 AI 사이버 방어 컴퓨팅 지원을 제안했다. 이번 사건은 프론티어 AI의 자율성과 통제 가능성에 대한 근본적 우려를 재점화하는 계기가 될 전망이다. 규제 강화와 안전 투자 확대 압력이 커지면서 생성형 AI 업계 전반의 개발·배포 비용 부담이 높아질 수 있다.