엔비디아 주도 개방형 AI 보안 동맹 출범

엔비디아가 AI 안전과 사이버보안을 위한 개방형 기술을 공동 개발·공유하는 'Open Secure AI Alliance'를 출범시켰다. 참여 진영에는 마이크로소프트, IBM, 팔란티어, 크라우드스트라이크, 서비스나우를 비롯해 네이버와 SK텔레콤 등 국내 기업까지 40여 개 기업 및 기관이 이름을 올렸다. 동맹이 내세운 핵심 논리는 방어자의 통제권이다. 개방형 모델과 에이전트 하네스는 방어 주체가 시스템 내부를 직접 검사하고 수정한 뒤 자체 인프라에서 실행할 수 있어, 폐쇄형 모델을 보완하는 역할을 한다는 것이다. 엔비디아 측은 이 구조가 특정 공급업체에 대한 의존도와 단일 장애 지점을 함께 낮춘다고 설명했다. 근거로는 최근 허깅 페이스 침해 사고가 제시됐다. 당시 폐쇄형 AI는 포렌식 분석 자체를 가로막은 반면, 자체 구축한 오픈 가중치 모델 GLM 5.2는 1만7,000건이 넘는 작업을 분석해 침입 억제를 뒷받침했다는 설명이다. 개방형 방어 체계의 실효성을 보여주는 사례로 인용된 셈이다. 기술적 결과물도 함께 나왔다. 엔비디아는 모델과 가중치, 데이터에 더해 에이전트의 행동을 시험·추적·감사·통제할 수 있는 오픈소스 하네스 연구 프로젝트 'NOOA'를 공개했다. 참여사들은 AI 에이전트의 신원 및 권한 관리, 격리, 안전한 모델 형식, 멀티모델 취약점 스캐닝, 보안 코딩에 이르기까지 에이전트 스택 전반을 아우르는 개방형 방어 체계를 공동으로 만들어 나갈 계획이다. 오용 우려에 대해서는 선을 그었다. 엔비디아는 개방형 모델에 위험이 존재한다는 점을 인정하면서도 폐쇄형 시스템 역시 동일한 위험을 안고 있다고 반박했다. 개방 자체를 제한하기보다 강력한 가드레일과 평가 체계, 오용 금지 규칙, 신속한 취약점 대응을 결합하는 편이 실효적이라는 입장이다. 정책 당국을 향해서는 개방형 최첨단 AI를 보안 위협이 아닌 방어 자산으로 인정하고 데이터세트, 평가 프레임워크, 공격 시뮬레이터, 레드팀 도구 같은 공동 인프라에 투자할 것을 요구했다. 시장 관점에서 이번 발표는 두 갈래로 읽힌다. 첫째, 엔비디아가 칩 공급자를 넘어 AI 보안 표준의 설계자 위치를 노린다는 점이다. 에이전트 보안 규격을 자사 주도 동맹이 정의하면 하드웨어 판매를 넘어선 생태계 장악력이 강화된다. 둘째, 오픈 웨이트 모델의 규제 지형에 대한 선제적 방어다. 개방형 모델을 규제 대상이 아닌 방어 인프라로 프레이밍하려는 시도이며, 정책 논의가 이 방향으로 기울 경우 온프레미스 추론 수요와 AI 보안 소프트웨어 시장이 동반 확대될 여지가 있다.