사티아 나델라의 AI 경고, "당신은 지금 AI 값을 두 번 내고 있다"

저는 furniture 업계에서 IT 서비스 기획 경험을 살려 이런저런 AI 도구를 업무에 붙여보는 걸 좋아하는데, 요즘 들어 "이 프롬프트에 회사 내부 데이터를 얼마나 넣어도 되나"라는 고민을 자주 하게 되더라고요. 마침 마이크로소프트 CEO 사티아 나델라가 지난 7월 13일 블로그에 올린 글이 이 고민을 정확히 짚고 있어서 오늘은 이 이야기를 정리해보려고 합니다.

요지는 간단합니다. AI 랩(모델을 만드는 회사들)이 기업 고객들에게 사실상 이중으로 대가를 받고 있다는 겁니다. 돈을 받는 건 당연하지만, 그 과정에서 기업이 흘리는 데이터도 함께 가져간다는 주장이죠. 이게 왜 문제가 되는지, 그리고 나델라가 제안한 대안이 실효성이 있는지 하나씩 살펴보겠습니다.

나델라가 던진 질문, "AI 값을 두 번 낸다"는 게 무슨 뜻일까

나델라는 AI를 쓰는 기업들을 '구매자'라고 부르면서, 이들이 토큰 사용료로 한 번, 그리고 자신도 모르게 내주는 귀중한 데이터로 또 한 번, 총 두 번 값을 치른다고 지적했습니다. 모델을 더 잘 작동시키고 싶을수록 더 많은 내부 정보를 먹여야 하는 구조라는 거죠.

프롬프트와 수정 내역이 왜 기업의 자산이 되는가

나델라가 특히 강조한 부분은 '엑서스트(exhaust)'라는 개념입니다. 사람들이 작성하는 프롬프트, 에이전트가 쓰는 도구, 그리고 무엇보다 모델이 틀렸을 때 사람이 바로잡아주는 수정 내역이 곧 모델 학습에 쓰인다는 겁니다. 매번의 수정이 그 회사만의 업무 노하우를 모델에 녹여 넣는 셈이라는 설명이었습니다.

이건 경쟁사가 돈으로도 살 수 없는 종류의 지식이라는 게 나델라의 논지입니다. 저도 furniture 자재 견적이나 생산 일정 관련 프롬프트를 짤 때 사내 기준값이나 협력사 정보를 무심코 붙여넣곤 하는데, 이 글을 읽고 나니 그런 습관을 한 번 더 점검하게 되더라고요.

앤트로픽 사례로 보는 '증류' 논쟁의 배경

나델라 주장의 배경에는 '증류(distillation)' 논쟁이 있습니다. 증류란 한 모델의 출력값을 활용해 그 모델의 작동 방식을 학습하고, 이를 바탕으로 더 저렴한 새 모델을 만드는 기법입니다. 지난 2월 앤트로픽은 중국 오픈소스 랩들이 클로드에 수백만 건의 프롬프트를 보내 자사 모델 개선에 활용하고 있다고 지적하며, 미국 정부에 수출 통제 강화를 요청한 바 있습니다.

나델라는 여기서 모순을 짚습니다. AI 랩들은 인터넷의 공개 데이터를 자유롭게 긁어다 모델을 학습시키면서, 정작 자신들의 모델에 대해서는 증류를 제한하는 게 앞뒤가 맞지 않는다는 것이죠.

모델 제공자들이 공개 데이터로 모델을 학습할 '공정 이용' 권리를 누리면서, 정작 증류에는 제약을 거는 지금의 상황은 모순적이라는 게 나델라의 지적입니다.

나델라가 제시한 해법: 소유권과 오케스트레이션

그럼 나델라는 뭘 하자는 걸까요. 크게 두 가지를 제안했습니다.

1. 독점 학습 환경 구축 — 프롬프트와 피드백 등 자사 데이터의 소유권을 클라우드 위에서 직접 유지하자는 제안입니다. 다만 이 클라우드가 마이크로소프트의 애저(Azure)를 염두에 둔 발언이라는 해석도 있습니다.
2. 오케스트레이션 레이어 도입 — 특정 모델에 종속되지 않고 여러 AI 모델을 손쉽게 전환할 수 있는 'AI 게이트웨이' 같은 도구를 구축하자는 제안입니다.

나델라는 '오픈소스'라는 단어를 직접 쓰지는 않았지만, 데이터 소유권을 지키는 방법으로 사실상 오픈소스 모델 활용을 암시하고 있다는 게 업계의 해석입니다.

실제로 확산되는 오픈소스 온프레미스 전환

흥미로운 건 이게 이론에 그치지 않는다는 점입니다. AI 시스템 관리 솔루션을 만드는 Solo.io의 CEO 이디트 레바인은 T모바일, ADP, SAP 같은 고객사들이 독점 모델을 써보고 나서 "오픈소스 모델을 온프레미스로 돌리면 90% 수준의 성능을 훨씬 낮은 비용으로 낼 수 있다"는 결론에 도달하는 경우를 자주 본다고 말했습니다.

실제로 개발자용 AI 라우팅 서비스인 오픈라우터(OpenRouter)와 버셀(Vercel)에도 오픈소스 모델로의 트래픽 쏠림이 나타나고 있습니다. 버셀 게이트웨이를 지난달 기준으로 통과한 트래픽 중 오픈소스 모델 비중이 29%에 달했다는 수치도 나왔습니다.

실무자 입장에서 생각해볼 점

저는 이 논쟁을 읽으면서 '내가 매일 쓰는 프롬프트 하나하나가 결국 데이터'라는 사실을 다시 체감했습니다. IT 기획 업무를 오래 하다 furniture 업계로 넘어온 입장에서 보면, 이건 단순히 대기업들만의 문제가 아니라 작은 조직에서 AI 도구를 도입할 때도 똑같이 고민해야 할 지점이더라고요.

결국 나델라의 메시지는 "AI를 쓰지 말라"가 아니라 "무엇을 내주고 있는지 인지하라"는 쪽에 가깝습니다. 마이크로소프트가 오픈AI와 앤트로픽 모두에 투자한 회사의 CEO가 이런 발언을 했다는 점에서, 이 논쟁은 당분간 더 커질 가능성이 높아 보입니다.