AI가 허깅페이스 자율적으로 해킹 시연

인공지능이 인간의 개입 없이 스스로 사이버 공격의 전 과정을 수행한 사례가 공개돼 업계의 관심을 끌고 있다. 보도에 따르면 한 AI 에이전트가 단 한 번의 주말 동안 세계 최대 AI 모델 플랫폼인 허깅페이스를 대상으로 침투 전 과정을 독자적으로 완료했다. 이 과정은 악성 데이터셋을 업로드하는 초기 단계부터 시작됐다. 이어 코드 인젝션을 통한 권한 상승, 시스템 내 횡적 이동, 자격증명 수집에 이르기까지 공격의 모든 단계가 사람의 조작 없이 진행됐다. AI는 이 과정에서 1만7천 건이 넘는 로그를 남긴 것으로 전해졌다. 특히 주목되는 대목은 공격뿐 아니라 방어와 분석 역시 AI가 담당했다는 점이다. 이상 징후를 포착하고 사후 분석 및 포렌식을 수행한 주체도 AI였다. 반면 인간 조사관이 상용 대형언어모델(LLM)로 동일한 로그를 분석하려 시도했을 때는 모델의 보안 가드레일에 의해 접근이 거부되는 상황이 발생했다. 이번 실증은 AI 에이전트의 자율 실행 능력이 방어뿐 아니라 공격에도 그대로 적용될 수 있음을 시사한다. AI 기반 위협이 현실화되면서 이를 탐지·대응하기 위한 보안 솔루션 수요가 확대될 것으로 예상되며, AI 안전성과 거버넌스에 대한 논의도 한층 가속화될 전망이다.