나델라, AI시대 '역 정보의 역설' 제시

마이크로소프트 최고경영자 사티아 나델라가 노벨경제학상 수상자 케네스 애로의 '정보의 역설' 개념을 인공지능 시대에 맞춰 새롭게 해석한 견해를 내놨다. 과거에는 판매자가 정보를 먼저 공개해야 거래가 성사되는 것이 문제였다면, 이제는 AI를 활용하는 기업이 자신의 핵심 지식을 모델에 제공해야 성능을 끌어올릴 수 있는 '역 정보의 역설'이 새로운 과제가 됐다는 것이 그의 진단이다. 나델라는 기업이 AI에 두 번의 대가를 치른다고 평가했다. 한 번은 이용료라는 금전적 비용이고, 다른 한 번은 성능 향상을 위해 넘겨주는 독점적 업무 지식과 운영 노하우다. AI는 사용될수록 기업의 프롬프트, 워크플로, 에이전트 활용 방식, 피드백과 수정 내역을 학습한다. 특히 사람이 모델의 답변을 다듬는 과정에는 조직 고유의 역량이 축적되는데, 이런 수정·평가·추적 정보는 경쟁사가 돈으로도 살 수 없는 지식 자산이라는 점을 강조했다. 문제는 학습이 한 방향으로만 흐른다는 데 있다. 모델 제공업체는 고객에 대해 점점 더 많은 것을 파악하지만, 정작 고객은 제공사가 무엇을 학습하는지 알기 어렵다. 여기에 고객의 모델 증류나 자체 학습은 제한되는 현재 구조가 겹치면서, 경제적 가치가 지식을 만드는 기업이 아니라 학습 인프라를 가진 기업에 집중될 수 있다고 그는 경고했다. 해법으로 나델라는 기업이 데이터를 넘어 메모리, 추적 정보, 평가, 피드백, 적응된 모델 가중치까지 보호하는 '신뢰 경계'를 구축해야 한다고 제안했다. 기업 동의 없이는 이러한 '지능의 부산물'이 외부로 넘어가서는 안 되며, 생성된 결과를 자사 모델의 파인튜닝에 활용할 권리를 확보해야 한다는 것이다. 아울러 특정 모델에 종속되지 않는 오케스트레이션 계층을 마련해 여러 모델을 자유롭게 교체하면서도 조직 고유의 워크플로와 평가 체계는 유지해야 한다고 봤다. 그는 이런 접근이 비용 효율을 높이는 동시에 AI 투자가 복리처럼 기업 가치로 쌓이는 구조를 만든다고 결론지었다. AI 시대의 진짜 경쟁력은 데이터를 지키는 것을 넘어, 기업 고유의 학습 메커니즘과 지식 축적 과정을 직접 통제하는 데 있다는 메시지다.