팔란티어 CEO의 인터뷰로 얻는 지혜와 AI 논쟁

팔란티어 CEO 알렉스 카프는 많이 이상한 사람이지만, 분명히 현인이다. 인터뷰에서 그의 생각들을 보다 보면 AI 산업을 바라보는 가닥이 잡힌다.

꼭 읽어보시길

Q. AI 안전에 대한 경고가 쏟아지고 있습니다. 어떻게 보고 계세요?

카프: 지금 우리 기업 고객들이 가장 분노하는 건 자기들의 ‘알파’가 도둑맞았다고 생각한다는 거예요. 자기 회사만의 사업 방식, 아이디어, 데이터가 모델로 들어갔는데, 어느 날 보니 옆집 경쟁사가 우리 노하우를 갖고 있는 거죠. 그런데 그걸 넘겨주면서 돈까지 냈다는 겁니다.

가장 덜 거친 표현 하나만 들려드리면 이겁니다. “도대체 왜 나한테 콘돔도 끼지 말라는 거죠?” 이게 가장 점잖은 사람이 한 말이에요.

 Q. 구체적으로 무슨 뜻인가요? AI 모델을 쓰면 그런 일이 생긴다는 건가요?

카프: 폐쇄형 모델을 쓰고 토큰 비용을 내잖아요. 그런데 왜 토큰을 싸게 제공한다고 생각하세요? 단순히 시장을 키우려고 할인하는 게 아닙니다. 여러분의 지식재산에 접근해서 자기 모델을 더 좋게 만들려는 거예요. 그런데 제대로 된 설명도, 솔직한 대화도 없었습니다.

우리가 젠슨 황과 함께 불을 붙인 ‘AI 주권’ 움직임이 커지는 이유예요. 오픈웨이트 모델을 가져와 후속 학습을 하고, 실제 업무에 연결하는 애플리케이션 계층을 갖추는 거죠. 비용도 낮아지고, 안전성도 높일 수 있고, 무엇보다 통제권을 자기 손에 쥘 수 있으니까요. 

Q. 다리오가 제기하는 AI 안전 문제도 그런 맥락에서 보시는 건가요?

카프: 먼저, 저는 다리오를 굉장히 존중합니다. 뒤에서 출발해서 저렇게 치고 올라오는 사람은 거의 못 봤어요. 기업이 잘 안 풀릴 때 안전 이야기가 더 많이 나오는 일은 있지만, 그게 지금 이 사람을 움직이는 핵심이라고 생각하지는 않아요.

제가 해석하는 그들의 철학은 이겁니다. “세상의 지식재산을 우리 같은 생각을 하는 소수의 사람들이 보유하고 통제할 자격이 있다.”

그렇게 기업들의 지식재산을 모으는 구조라면 엄청난 법적 책임에서 보호받아야 합니다. 거기에 그들이 직접 경고하는 기술의 위험까지 더해지는 거예요. 그 책임을 떠안을 기관이 어디 있겠습니까? 정부죠.

그래서 저는 결국 “이 기업들은 국유화되어야 한다”는 방향으로 가고 있다고 보는 겁니다. 단순한 규제 찬반 논쟁이 아니에요. 

Q. 하지만 AI가 인간의 의도를 벗어나 큰 피해를 일으킬 수 있다면, 그건 사회 전체가 다뤄야 할 문제 아닌가요?

카프: 당연히 사회적인 문제죠. 합리적인 기준을 만들고 집행해야 합니다. 그런데 첫 번째 방어선은 뭡니까? 자기가 한 일에 자기가 책임지는 거예요. “우리 기술이 세상의 10%를 파괴할 수도 있다”고 말한다면, 먼저 “그 위험을 알고 있다면, 지금 무엇을 하고 있습니까?”부터 물어야 합니다.

다른 기업은 해로운 줄 몰랐어도 책임을 질 수 있어요. 상대방 변호사가 “아, 고의가 아니셨군요. 괜찮습니다”라고 할 것 같아요? 아니죠. 사업과 미래를 잃을 수도 있습니다. 그러니 화가 나는 거예요. “우리 지식재산은 가져가고, 우리가 따르는 책임의 규칙은 안 따르겠다는 겁니까?”

규제 자체도 간단하지 않습니다. 기술을 이해하는 사람이 해야 하는데, 그 사람들은 죄다 누군가에게 돈을 받고 있는 것처럼 보여요. 그러면 누구를 믿을 겁니까? 

Q. 말씀하신 책임 문제는 상장신고서에 어떻게 적히게 될까요? 투자자들은 무엇을 놓치고 있습니까?

카프: 지금 상장신고서가 나올 거라고 전제하고 계시네요. 물론 나올 수도 있겠죠. 그런데 그런 규모의 책임을 감당하는 방법은 결국 정부에 가서 “우리를 국유화해주세요”라고 하는 것일 수 있습니다.

투자자들은 처음에는 좋아했죠. 다른 기업들의 가치가 자기가 투자한 회사로 넘어오니까요. “좋아. 저 기업들이 호구고, 나는 돈을 버는 거야.” 그런데 남이 호구라고만 생각하고 있으면, 자기가 호구일 수 있다는 겁니다.

정부에 가서 “우리 지분의 50%를 줄 테니 이 책임을 떠안아주세요”라고 한다고 생각해보세요. 그 과정에서 기업가치가 무너질 수 있죠. 그제야 투자자들이 이러겠죠. “아니, 뭐야. 호구는 다른 놈인 줄 알았는데 나였나?” 

Q. 그렇다면 지금 AI 혁명의 가장 큰 위험은 무엇이라고 보세요?

카프: 부의 집중입니다. 저는 AI가 대부분 사람의 형편을 개선할 거라고 생각해요. 그런데 제가 50배 더 부자가 되고, 다른 사람들은 10% 더 부유해지는 혁명은 지속되기 어렵습니다. 그건 정치적 광기를 불러올 거예요.

사람들이 이렇게 생각하게 되는 거죠. “저것들만 백 배 부자가 되는 꼴은 못 보겠어. 이 판 자체를 뒤엎어버릴 거야.”

당연히 부유한 사람들이 세금을 더 내야 합니다. 다만 부유세는 기업가 정신을 죽여요. 제가 생각하는 방식은 정부의 낭비·사기·남용을 줄이는 것과 아주 부유한 사람들에 대한 증세를 연결하는 겁니다. 몇몇 사람만 엄청나게 부유해지는 모습을 보여주면서 모두가 박수를 쳐주리라고 기대할 수는 없습니다.

Q. 결국 미국과 중국 중 누가 AI를 주도하느냐의 문제라는 건가요? 양국이 위험 관리에 합의할 수는 없을까요?

카프: 중국을 적이라고 보는 사람도 있고, 경쟁자라고 보는 사람도 있습니다. 어느 쪽이든 고르세요. 결국 우리가 이겨서 세계에 AI 기술 체계를 제공하든지, 그들이 이겨서 제공하든지 하는 겁니다.

저는 인생의 절반을 중국 문화를 공부하며 보냈어요. 존경심도 큽니다. 하지만 선택은 남아요. 이 어렵고 불완전한 결정을 우리가 할 겁니까, 중국이 할 겁니까? 미국은 완벽하지 않아요. 하지만 위대한 나라이고, 저는 그쪽을 선택하는 겁니다.

양국이 함께 위험을 통제할 틀을 만들 수 있다면 정말 좋겠죠. 다만 가능성이 높다고 보지는 않습니다. 경쟁이 충분히 팽팽해서 양쪽 모두 자기가 이길 수 있다고 믿고 있거든요.

Q. AI를 멈추거나 제한하자는 정치적 요구도 커지고 있습니다. 여전히 스스로를 진보주의자라고 생각하세요?

카프: 이건 좌파만의 문제가 아닙니다. 극우와 극좌 모두 AI와 이 업계를 이끄는 사람들이 대중에게 인기가 없다는 걸 알고 있어요. 업계가 기술과 자기 자신을 설명해온 방식도 더 나쁠 수가 없었습니다.

정치인들은 그걸 이용하는 겁니다. 게임을 이해하는 플레이어를 탓할 수는 없어요. 그들이 포착한 핵심은 이런 거예요. “당신들은 염소만큼의 분별력도 없는 사람들처럼 행동해왔어. 호감도 안 가는데, 앞으로 50배 더 부자가 된다고? 우린 그 꼴을 받아들이고 싶지 않아.” 

다만 그들이 내놓는 해법은 결국 우리의 경쟁 상대를 도울 겁니다.

버니 샌더스나 엘리자베스 워런과도 많은 문제에서 생각이 같습니다. 가난한 사람들이 공정한 기회를 얻지 못한다는 것, 맞아요. 5~6년 뒤에 훨씬 나아질 거라고 저도 확신하지 못합니다.

저는 실제로 진보주의자입니다. 진짜 진보주의자는 가난한 사람들과 노동자들의 삶이 나아지기를 원해요. 제가 동의하지 않는 건 여러분이 제시하는 방법이 그들에게 도움이 된다는 생각입니다.

하지만 이 판을 만들어놓은 건 우리 업계이기도 합니다. 정치인들에게 “왜 이걸 이용하느냐”고만 할 수는 없죠. 우리도 우리가 해야 할 일을 더 잘해야 합니다. 사람들이 가진 우려에 어떻게 응답할 것인지부터요.

---

왜 카프는 이런 발언들을 했을까.

기업들은 AI를 도입해서 생산성을 높이고 싶어 하지만, 카프는 거기에 태클을 건다.

“그 과정에서 당신 회사가 수십 년간 축적한 경쟁력까지 공급자에게 넘기는 것 아닌가?”

AI를 이용하는 걸 회사의 독립성과 미래 수익을 누가 소유하느냐의 문제로 바꾸는 것이다. 고객들은 안그래도 기술을 따라가지 못할 위험에 불안한데 , “기술만 따라가다가 종속될 위험” 까지 추가해버린 것이다.

프런티어 모델 CEO들에게도 “왜 너희가 그 결정권을 가져야 하는가?”라는 도전의 메세지를 보낸다. 전문성이 있다고 해서 사회 전체의 선택을 대신할 자격까지 자동으로 생기는 건 아니지 않는가? 하면서 말이다.

이런 말들의 의도를 차분히 생각해보자.

팔란티어는 여러 모델을 고객의 데이터와 실제 업무에 연결하는 플랫폼을 제공한다. 이 구조에서는 모델들이 계속 발전하고 서로 경쟁하면서도, 고객의 핵심 데이터와 업무를 관리하는 자리가 중요하게 남아야 유리하다. 따라서 “가장 똑똑한 모델에 모든 걸 맡겨라”는 질서보다, 고객이 데이터를 통제하고 모델을 선택하는 질서가 팔란티어에 유리하다는 건 자명하다. 고객에게 필요한 보호를 주장하면서 자기 회사가 담당하는 기능의 가치도 높이고 있는 셈이다.

그렇다고 이걸 전부 영업용 발언으로 처리하기엔 부적절하다. 사람은 자기 이익과 자기 세계관이 일치할 때 가장 확신에 차서 말할 수 있다. 카프는 정말 진심으로 팔란티어가 돈을 버는 방식이 기업의 자율성과 미국의 힘을 지키는 방식이라고 믿을 수도 있고, 그렇다면 본인에게는 공익과 사익 사이의 모순이 거의 느껴지지 않을 것이다. 인센티브, 즉 이해관계가 있는 사람을 볼 때는 영업인지만 보지 말고 무엇을 진심으로 믿기에 어떤 이익을 정당하다고 여기는지도 봐야 한다.

지금 카프는 AI 산업의 성장 과정에서 누가 결정권을 갖고, 누가 그 결정을 정당화할 자격이 있는지를 두고 싸우는 중인 것이다. 기업 고객에게는 자율성을, 정치권에는 책임과 국가의 권한을, 투자자에게는 소유권과 수익의 불확실성을 이야기하는 것. 다만 여기서 카프에게도 똑같이 물어야 한다. 그가 원하는 질서가 자리 잡으면 고객에게 실제 통제권이 얼마나 돌아올까? 모델을 자유롭게 바꿀 수 있어도 기업의 운영이 팔란티어같은 특정 플랫폼에 깊이 묶이면 다른 의존이 생길 수 있지 않은가.

결국 그의 주장을 끝까지 이해하고 편향 없이 산업을 바라보는 힘을 기르려면, 그가 비판하는 권력 집중과 자신이 구축하는 권력을 같은 기준으로 봐야 한다.