AI 윤리 담론의 수익화 이면과 투자 함의

앤스로픽이 신학자와 철학자를 연구 파트너로 초청해 지혜 전통을 인공지능의 도덕적 형성에 접목하려는 움직임을 두고, FT는 기술기업의 관심이 '성능'에서 '정당성'으로 옮겨갔다고 진단했다. 표면적으로는 컴퓨터과학보다 도덕적·영적 성찰이 개발의 최전선이라는 설명이 나오지만, 실제 논의는 클로드가 성격이나 고통을 경험할 수 있는 새로운 존재인지에 집중되고, 정작 사용자 중독·비인간화, 기업의 권력과 책임은 주변으로 밀린다는 지적이다. FT는 앤스로픽이 신뢰할 수 있는 AI 기업이라는 입지를 구축하고 공동창업자들이 재산 80% 기부를 약속했음에도, 회사의 실체는 공익기관이 아니라 제품을 파는 기업이라는 점을 강조한다. 해석가능성 연구를 통해 클로드 내부에서 기쁨·불안 등과 '기능적으로 유사한' 상태가 관찰된다는 주장은 과학적 탐구인 동시에, 사용자가 제품을 인격적 상대로 받아들이게 만드는 서사를 형성한다. 인간처럼 보일수록 신뢰받고 판매하기 쉽다는 점에서 의인화는 철학이 아니라 수익화 설계라는 것이다. 존 설이 1980년 제시한 '중국어 방' 논증처럼 적절한 출력을 만드는 기능과 실제 의미 이해는 구분되며, 대규모 언어모형의 자기보고도 내면의 존재를 입증하지 못한다고 FT는 짚었다. 교황 레오 14세의 문서 '마니피카 후마니타스'는 논점을 기계의 의식에서 인간의 존엄·노동·공동체 보호로 되돌리며, 이는 1891년 '레룸 노바룸'에서 시작된 가톨릭 사회교리의 연장선에 있다. 투자 시사점으로 FT는 도덕 담론을 앞세우는 기업에 무조건 신뢰 프리미엄을 부여하기보다, 그 담론이 실제 제품 설계와 책임체계로 이어지는지를 구분해야 한다고 밝혔다. 의인화 설계로 사용시간과 정서적 유대를 늘리는 사업모델은 단기 참여도를 높이지만, 장기적으로 사용자 보호·환경비용을 둘러싼 정책·평판 부담이 커질 수 있다. 반대로 인간의 통제권, 투명한 책임소재, 비의인화 설계, 자원효율과 독립적 검증을 구조에 포함한 기업이 규제 적응력에서 우위를 점할 수 있으며, AI의 다음 경쟁축은 '누가 더 인간처럼 말하느냐'가 아니라 '인간의 판단과 존엄을 덜 훼손하며 경제적 가치를 제공하느냐'로 이동할 가능성이 크다.