허사비스, AGI 안전 위한 표준기구 제안

2024년 노벨 화학상 수상자이자 구글 딥마인드를 이끄는 데미스 허사비스 CEO가 인간 뇌의 모든 인지 능력을 재현하는 범용인공지능(AGI)이 불과 수년 앞으로 다가왔다는 전망과 함께 이를 관리할 국제적 제도를 제안했다. 그는 AGI의 파급력을 인터넷이나 스마트폰이 아니라 전기와 불의 발견에 견주며, 산업혁명보다 10배 큰 변화가 10배 빠르게 진행될 수 있다고 진단했다. 신약 개발, 청정에너지, 첨단소재, 과학적 발견을 가속해 자원 부족이 더 이상 인류 발전을 제약하지 않는 '풍요의 시대'를 열 수 있다는 낙관과 동시에, 사이버 공격, 생물학·핵 위험, 안전장치 우회, 기만 행동, 자기 개선 시스템에 대한 통제 문제라는 위험도 함께 지적했다. 해법의 핵심은 미국이 주도하는 '프런티어 AI 표준기구'다. 일정 수준 이상의 성능을 지닌 모델을 '프런티어 모델'로, 이를 개발하는 기업을 '프런티어 연구소'로 지정하고, 이들은 모델 출시 최대 30일 전 표준기구에 제출해 사이버보안·생물학적 위험·자율성·기만 가능성을 평가받는다. 초기에는 자율 운영하되 평가 체계의 신뢰성이 확보되면 미국 시장에 배포되는 프런티어 모델의 심사 통과를 의무화할 수 있다는 구상이다. 기업이 시험에만 최적화하지 못하도록 분기별 벤치마크 갱신, 독립적 비공개 평가, 제3자 감사를 도입하고, 위험이 심각해지면 주요 연구소들이 개발 속도를 함께 늦추는 방안까지 포함한다. 허사비스는 AGI 도착 전 남은 시간이 인류가 기술의 방향을 결정할 가장 중요한 창이며, 지금 세우는 제도와 기준이 다음 문명의 모습을 좌우할 것이라고 강조했다. 이는 단순한 AI 낙관론이 아니라 개발 최전선의 연구자가 안전과 혁신을 함께 관리하기 위해 내놓은 제안이라는 점에서 주목된다.