마이크로소프트 CEO 사티아 나델라가 팔란티어 CEO 알렉스 카프의 AI 경고에 힘을 보탰다. 카프의 발언이 단순히 한 번의 자극적인 발언이 아니라, 업계 전반이 공유하는 불안이라는 게 확인된 셈이다.
"AI 시대에는 지식값을 두 번 낸다" — 역정보 역설
나델라는 지난 7월 12일 X(옛 트위터)에 올린 장문의 글에서 '역정보 역설(Reverse Information Paradox)'이라는 개념을 제시했다. 이 글은 1,000만 조회수를 기록하며 화제가 됐다. 그는 "AI 시대에는 구매자가 자신이 이미 구매한 것을 활용하기 위해 오히려 지식을 내줘야 하는 위험에 처한다"며 "지능값을 사실상 두 번 지불하는 셈이다. 한 번은 돈으로, 또 한 번은 그 지능을 쓸모 있게 만들기 위해 반드시 드러내야 하는 독점 지식으로"라고 밝혔다.
노벨경제학상 수상자의 이론을 뒤집다
나델라는 이 개념의 근거로 1962년 노벨경제학상 수상자(1972년) 케네스 애로우가 제시한 '정보 역설'을 인용했다. 애로우의 원래 이론은 정보를 판매하려는 '판매자'가 곤란해지는 상황을 설명한다. 구매자에게 정보가 살 만한 가치가 있다고 설득하려면 그 정보를 충분히 보여줘야 하는데, 그 순간 구매자는 이미 공짜로 정보를 얻은 셈이 되기 때문이다. 나델라는 AI가 이 구조를 완전히 뒤집는다고 봤다. 기업이 AI 시스템의 성능을 높이려면 독점 데이터와 업무 프로세스, 수정사항을 계속 학습시켜야 하는데, 이 과정에서 학습하는 건 AI 제공업체이고 정작 기업은 그 학습 결과를 돌려받지 못한다는 것이다. 나델라는 "모델은 '배기가스'로부터 학습한다"며 "사람들이 쓰는 프롬프트, 에이전트가 사용하는 도구, 특히 모델이 틀렸을 때 사람들이 하는 수정 하나하나가 기관 노하우로 응축된다"고 설명했다.
"소비하면서도 만들어내는 지능, 그 소유권은 누구에게?"
나델라는 "지능을 소비하는 과정에서 당신은 지능을 만들어내고 있으며, 그렇게 만들어진 것은 당신 소유여야 한다"고 강조했다. 그는 기업들이 이런 학습 루프를 스스로 통제해야 한다며, 자체 평가체계 구축, 조직 기억의 소유권 유지, 자체 테넌트 경계 안에서의 학습 환경 구축, 특정 모델에 종속되지 않는 오케스트레이션 레이어 유지 등을 제안했다. 흥미로운 점은 나델라 스스로도 업계의 '이중 잣대'를 인정했다는 것이다. 그는 AI 기업들이 공개된 웹 콘텐츠를 학습에 활용할 땐 '공정 이용'을 주장하면서, 정작 고객이 AI가 만든 결과물을 똑같은 방식으로 활용하는 건 제한한다고 지적했다.
팔란티어 카프 "나는 가치 없는 토큰을 사고 있다"
앞서 팔란티어 CEO 알렉스 카프는 CNBC '스쿼크박스'에 출연해 기업 고객들의 불만을 직접 전한 바 있다. 나델라는 이번 글에서 카프의 발언을 직접 인용하며 "기술 고객들이 원하는 것은 자신들의 컴퓨팅 자원, 모델, 데이터 스택, 경쟁우위(알파)에 대한 통제권"이라며 "이들은 자신이 '생산수단을 소유'하고 있으며 그것이 다른 곳으로 넘어가지 않는다는 확신을 원한다"고 전했다. 카프는 기업들이 독점 데이터와 업무 프로세스를 외부 대형언어모델에 직접 노출해서는 안 된다고 주장해왔고, 팔란티어는 이런 문제의식을 바탕으로 모델과 기업 운영을 연결하면서 접근·보유 권한을 통제하는 애플리케이션 계층 '온톨로지(Ontology)'를 자사의 해법으로 제시하고 있다.
비유로 보면 — "컨설턴트에게 회사 기밀을 다 보여주는 상황"
이 개념이 좀 어렵게 느껴진다면 이렇게 생각해보면 쉽다. 회사가 경영 컨설턴트를 고용했다고 해보자. 컨설턴트가 좋은 조언을 해주려면, 회사는 매출 구조·거래처 정보·실패했던 프로젝트까지 속속들이 다 보여줘야 한다. 그래야 컨설턴트가 "여기가 문제네요"라고 정확히 짚어줄 수 있다. 그런데 문제는, **이 컨설턴트가 같은 노하우로 경쟁사 컨설팅도 해줄 수 있다는 점**이다. 회사는 컨설팅비를 냈을 뿐 아니라, 그 대가로 자기 기밀까지 '공짜로' 넘겨준 셈이 된다.
나델라가 말하는 AI와의 관계도 똑같다. AI를 잘 쓰려면 회사의 업무 방식, 실수했던 사례, 노하우를 계속 입력해야 좋은 답을 얻는다. 그런데 그 입력값(프롬프트, 수정사항)은 AI 모델을 더 똑똑하게 만드는 학습 데이터로 흡수되고, 그 개선된 모델은 다른 고객들에게도 똑같이 제공된다. 돈은 AI 회사에 내고, 노하우까지 AI 회사에 '기부'하는 구조라는 게 나델라의 지적이다.
정리하며
나델라의 이번 발언은 카프처럼 대립각을 세우는 방식은 아니지만, 담고 있는 경고의 본질은 같다. 기업들이 모델을 '임대'하면서 그 모델을 더 유능하게 만드는 지식은 '기부'하고 있다는 것이다. 이런 문제의식이 확산될수록, 기업들의 지출이 대형 AI 제공업체 대신 특정 모델에 종속되지 않는 사설 시스템으로 옮겨갈 수 있다는 관측도 나온다. 이는 그동안 고평가 논란이 있던 주요 AI 기업들의 밸류에이션에도 부담 요인이 될 수 있다.
(※ 본 포스팅은 투자 권유가 아니며, 모든 투자의 책임은 투자자 본인에게 있습니다.)
정보 역설(Information Paradox) — 노벨경제학상 수상자 케네스 애로우가 제시한 개념으로, 정보 판매자가 구매자를 설득하기 위해 정보를 미리 보여주면 오히려 그 가치를 잃게 되는 역설적 상황.
테넌트(Tenant) — 클라우드·소프트웨어 환경에서 한 조직이 독립적으로 사용하는 격리된 공간이나 계정 단위. 데이터와 설정이 다른 조직과 분리돼 관리됨.
오케스트레이션 레이어 — 여러 AI 모델이나 시스템을 조율·관리하는 소프트웨어 계층. 특정 모델에 종속되지 않도록 설계하면 공급업체를 유연하게 교체할 수 있음.
📰 참고 기사:
Microsoft CEO adds fuel to Palantir CEO's AI warning
댓글 없음:
댓글 쓰기