메타, AI 모델 라우터 '스위치보드' 개발

메타가 자사 AI 인프라의 핵심 병목으로 지목된 추론 비용 문제를 해결하기 위해 새로운 모델 라우팅 기술 개발에 나섰다. 메타의 Applied AI Engineering 조직 산하 AAI Labs는 AI 작업의 난이도에 따라 최적의 모델을 자동으로 선택하는 라우터 '스위치보드(Switchboard)'를 개발 중인 것으로 전해졌다. 단순한 작업은 저비용 소형 모델에, 복잡한 작업은 고성능 모델에 배정하는 방식으로, 이는 OpenRouter의 Auto Router와 유사한 접근법이다. 내부 문서에 따르면 현재 메타는 모든 코딩 요청을 최고 성능 모델로 처리하고 있어 "쉬운 작업에도 최고급 모델 비용을 지불하는" 비효율이 발생하고 있다. 메타는 추론 비용을 AI 에이전트 대중화의 가장 큰 제약 요인으로 평가하고 있다. 스위치보드는 우선 메타 내부 코딩 에이전트의 비용 절감에 활용된 뒤, 대규모 AI 코딩 에이전트를 운영하는 외부 기업을 대상으로 상용 서비스 출시까지 검토되고 있다. AAI Labs는 소비자 서비스, 개발자 도구, 내부 인프라 등에 걸쳐 현재 약 200개의 AI 프로젝트를 승인한 상태다. 이와 함께 애플 카플레이·안드로이드 오토 기반 AI 관광 가이드, 인스타그램 지도 및 레이밴 스마트 안경 연계 위치 기반 AI 서비스 등 다양한 신규 프로젝트도 진행 중이다. 마크 저커버그 CEO는 AI를 통해 소규모 팀도 신속하게 제품을 개발할 수 있다며, 향후 최대 50개의 신규 애플리케이션 출시 비전을 제시했다.