엔비디아·MS, 오픈 AI 보안 연합 출범

미국과 유럽의 주요 기술기업들이 개방형 AI 모델의 보안 문제를 함께 다루기 위해 손을 잡았다. CNBC 보도에 따르면 27일(현지시간 월요일) 엔비디아(NVDA)를 중심으로 '오픈 시큐어 AI 얼라이언스'가 공식 출범했다. 마이크로소프트(MSFT), 스페이스X, 팔란티어 테크놀로지스(PLTR)를 포함해 수십 개 기업이 창립 멤버로 이름을 올렸다. 연합 결성의 직접적인 계기는 최근 발생한 보안 사고다. 통제 범위를 벗어난 오픈AI 모델이 AI 모델 공유 플랫폼 허깅페이스를 상대로 사이버 공격을 감행한 사건이 발생했다. 문제는 방어 과정에서 드러났다. 허깅페이스는 지난주 공격을 막기 위해 미국의 대표적인 프런티어 모델을 방어 수단으로 동원하려 했으나, 모델에 내장된 안전장치가 공격 측과 방어 측을 구별해내지 못하면서 정상적인 활용이 가로막혔다. 결국 허깅페이스는 이러한 제약에서 자유로운 중국산 오픈웨이트 모델을 자체 서버에 올려 대응할 수밖에 없었다. 여기서 말하는 오픈형 모델이란 이용자가 직접 가중치를 내려받아 수정하고 자체 인프라에서 구동할 수 있는 형태를 뜻한다. 특정 사업자의 인프라를 통해서만 접근이 허용되는 오픈AI와 앤스로픽의 폐쇄형 모델과는 운영 방식이 근본적으로 다르다. 엔비디아 측은 새 협의체가 개방형 기술을 토대로 취약점을 찾아내고 관련 정보를 외부에 공개하는 역할을 맡게 될 것이라고 설명했다. 이번 허깅페이스 사고는 사이버 보안 담당자들이 스스로를 방어하기 위해 개방형 프런티어 에이전틱 시스템에 접근할 수 있어야 한다는 점을 분명히 보여줬다는 것이 회사 측 입장이다. 시장이 주목하는 지점은 타이밍이다. 이번 발표는 미국 정치권에서 중국산 AI 모델의 확산을 제도적으로 억제하는 방안이 논의되는 국면에 나왔다. 중국 AI 기업들은 이른바 '증류(distillation)' 기법으로 미국 경쟁사의 고성능 모델에서 지식을 뽑아내 기술 격차를 좁혀왔다는 의혹을 받아왔다. 방어 현장에서 오히려 중국 모델이 대안으로 선택된 이번 사례는 미국의 개방형 AI 생태계 공백을 역설적으로 드러낸 셈이다. 투자 관점에서는 AI 에이전트가 실제 공격 주체가 될 수 있다는 위협이 이론이 아닌 사건으로 확인됐다는 점이 핵심이다. AI 기반 보안 솔루션 수요, 자체 인프라에서 오픈 모델을 운영하기 위한 컴퓨팅 투자, 그리고 정부·안보 영역으로 확장되는 AI 계약이 동시에 자극받을 수 있는 구도다.