20VC — Why OpenAI and Anthropic Won't Win the App Layer

📑 목차

😱 프론티어 모델 의존 리스크 — 엔터프라이즈는 왜 겁내는가 🌏 오픈소스 변곡점 — GLM 5.2, "3개월 룰"이 깨졌다 🛡️ 왜 Anthropic·OpenAI가 앱 레이어를 못 먹나 📉 모델 상품화 & 마이크로소프트 번들링 vs 소비기반 과금 ⚙️ AI ROI는 "처리량(Throughput)" 문제다 👥 코드 100% AI가 짜도 인력은 1000→5000명으로 💸 토큰 vs 인건비 — 월 100만 달러짜리 에이전트 🌐 주권모델·리크루팅·라운드 이야기

😱 프론티어 모델 의존 리스크 — 엔터프라이즈는 왜 겁내는가

Glean은 기업용 검색으로 출발해 지금은 ChatGPT·Claude·Gemini를 하나로 합친 "회사 전용 코워커"로 진화한 엔터프라이즈 AI 플랫폼이다. 공동창업자 Arvind Jain은 이전에 Rubrik을 공동창업해 성공적으로 상장시킨 인물. Harry Stebbings는 Palantir 알렉스 카프가 "대형 엔터프라이즈들이 프론티어 모델 제공사를 그 어느 때보다 회의적으로 본다"고 말한 CNBC 인터뷰를 인용하며 대화를 연다.

🔑 핵심 주장

"만약 여러분의 업무 대부분이 프론티어 모델 회사가 완전히 구동하는 에이전트로 처리된다면, 여러분은 이제 운영(operation) 자체를 그 기술 제공사에 이전한 것이다. 그 일을 하며 쌓이는 모든 조직 학습(institutional learning)이 그 에이전트 안에 축적되는데, 그 에이전트를 직접 통제하지 못하면 결국 그 AI 기업에 완전히 종속된다."

즉, 엔터프라이즈가 두려워하는 건 단순한 "기술 의존"이 아니라 업무 프로세스가 학습·축적되는 주체가 누구냐는 문제다. 문서화되지 않은 채 사람이 반복해서 쌓아온 노하우가 이제 에이전트 안에 쌓이는데, 그 에이전트를 소유·통제하지 못하면 회사의 핵심 자산(학습된 노하우)이 외부 벤더에 귀속된다는 것.

🌏 오픈소스 변곡점 — GLM 5.2, "3개월 룰"이 깨졌다

Jain은 지금이 오픈소스 모델의 진짜 변곡점이라고 말한다. 이유는 두 가지다. ① 오픈소스가 드디어 프론티어급 성능에 근접했고, ② AI 비용이 예산을 순식간에 초과하면서 CFO들이 비용 압박을 가하고 있다는 것.

90%+

여러 모델(오픈소스 포함)로 처리 가능한 엔터프라이즈 유즈케이스 비중

GLM 5.2

Glean 팀이 처음으로 "주요 워크로드를 맡겨도 된다"고 느낀 오픈소스 모델

3개월

오픈소스가 프론티어 성능을 따라잡는 데 걸린 기간 (드디어 실현)

과반수

3년 내 오픈소스로 이동할 것으로 보는 엔터프라이즈 워크로드 비중

흥미로운 점은 지금 벌어지는 논쟁은 "오픈소스 vs 클로즈드소스"가 아니라 "중국 모델을 신뢰할 수 있는가"라는 것. Jain은 반문한다. "온프렘으로 돌리고 중국에 아무것도 되돌려 보내지 않는데 왜 못 쓰나?" 답은 결국 편안함(comfort)의 문제 — 백도어에 대한 막연한 공포, 경쟁사에게 "중국 모델 쓰는 회사"로 낙인찍힐 리스크 등 비합리적 요소가 크다는 것이다. 초기 진입자가 움직이면 나머지는 뒤따를 것이라는 전망.

🛡️ 왜 Anthropic·OpenAI가 앱 레이어를 못 먹나

Jain의 투자자들이 하나같이 묻는 질문 — "Anthropic이 Figma나 리걸(legal), 헬스케어에 했던 것처럼 Glean의 영역을 잠식하면 어떡하나?" Jain의 답은 명확하다. "그들이 만든 수직 팩(vertical pack)들은 사실 상당히 얕다." Figma에서 Anthropic 도구로 워크로드를 완전히 옮긴 사례를 본 적이 없다는 것.

✅ 실제로 벌어지는 일

디자이너는 여전히 Figma를 쓴다
비(非)디자이너가 Claude로 "디자인 흉내"를 낸다
즉 시장이 확장(net new)되는 것이지 잠식이 아니다
AI가 비전문가도 일부 작업을 할 수 있게 만든다

⚠️ 그래도 진짜 경쟁은 있다

Claude Co-work/Desktop의 핵심 유즈케이스 = 질의응답
세계에서 가장 큰 AI 유즈케이스가 바로 "정보 탐색·질의응답"
"MCP로 클로드도 우리 시스템에 연결되는데 뭐가 다르냐"는 질문을 매일 받는다
사실상 Anthropic이 남들보다 먼저 Glean과 경쟁을 시작한 셈

💬 창업자들에게 주는 조언

"프론티어 모델 회사가 자기 영역에 들어올까 걱정하는 창업자들에게 나는 절대 걱정하지 말라고 말한다. 모델 회사들이 하는 모든 일 — Anthropic이든 OpenAI든 구글이든 오픈소스든 — 은 우리에게 좋은 뉴스다. 우리는 그걸 경쟁이라 생각하지 않는다. 오히려 그들이 있었기에 우리가 절대 혼자서는 만들 수 없었던 제품을 만들 수 있었다."

Jain은 "퍼스트 무버 advantage는 크지만 구원자는 아니다"라고 강조한다. Glean이 엔터프라이즈 RAG·시맨틱 서치를 처음 개척한 브랜드 credit은 갖고 있지만, 지금은 OpenAI·Anthropic이라는 거인 옆에서 훨씬 작은 회사라는 것도 인정한다.

📉 모델 상품화 & 마이크로소프트 번들링 vs 소비기반 과금

모델 레이어의 상품화(commoditization)는 이미 진행 중이라고 Jain은 인정한다. Glean 스스로도 "고객에게 비용 절감을 위해 적합할 때는 오픈소스 모델로 알아서 라우팅한다"는 걸 핵심 가치제안으로 판다. 랩 간 3파전 경쟁 + 오픈소스의 압도적 가격 우위가 겹치며, "OpenAI가 경쟁·오픈소스 대응 차원에서 가격을 대폭 낮추려 한다"는 루머까지 들린다는 언급도 나온다.

더 큰 경쟁자는 사실 모델 회사가 아니라 마이크로소프트 코파일럿이다. Jain: "70% 정도 좋은 제품을 예쁜 스티커 붙여서 번들로 판매하는 전략이 실제로 먹힌다." 하지만 AI가 소비기반(consumption-based) 과금으로 이동하면서 번들링의 근본 우위가 흔들리고 있다는 게 핵심 논지다.

🔥 소비기반 과금이 번들을 깨는 이유

"소비 기반으로 이동하는 순간, 태생적인 번들링 우위가 사라진다. 기업 입장에서 6개 도구를 확보해두고 사용자가 어디서 일할지 선택하게 두면, 실제로 일이 이뤄진 그 단위(unit of work)에 대해서만 비용을 지불하면 된다."

Stebbings는 반론을 편다 — 대형 엔터프라이즈(폭스바겐, 포드 등)는 15개 벤더를 승인하는 것보다 마이크로소프트 하나를 승인하는 게 훨씬 쉬워서, 벤더 관리 편의성이 가격보다 우선한다고. Jain은 이에 대해 "마이크로소프트를 겪어본 기업들 대부분은 가격을 최대 킬러 요인으로 꼽는다 — 공짜와 경쟁하기는 어렵다"고 반박한다.

⚙️ AI ROI는 "처리량(Throughput)" 문제다

Alex Karp의 "AI가 작동하지 않는다"는 발언을 다시 짚으며, Jain은 가치 실현이 이미 확실한 영역과 아직 모호한 영역을 구분한다. 고객지원(customer support)은 생산성 측정이 쉬운 대표 사례 — 상담원 1명이 하루 10건 처리하던 게 AI 덕분에 12건으로 늘었다는 식으로 명확히 잡힌다.

반면 코딩은 더 복잡하다. Glean 코드의 거의 100%가 이제 AI로 작성되지만("사람이 직접 손으로 초기 코드를 짜는 경우는 거의 없다"), 정작 대부분의 기업들이 "제품 출시 속도(shipping speed)는 늘지 않았다"고 말한다는 것. 코딩 속도는 늘었지만 그건 전체 제품 출시 과정의 일부에 불과하기 때문이다. Glean은 여전히 인간 리뷰를 엄격히 강제하며, AI 코드 리뷰 폐지를 검토했다가 "그럼 빠른 개발 프로세스를 갖는 의미가 없어진다"는 결론에 도달했다.

💡 "AI ROI = 처리량 문제"란 무슨 뜻인가

대부분의 기업은 AI를 시스템에 던져 넣고 MCP로 아무렇게나 연결한 뒤, 모델이 스스로 "브루트포스"로 필요한 재료를 조립하게 둔다. 이 방식에서는 AI가 극도로 느리고 비싸진다 — 대부분의 토큰이 정작 작업 수행이 아니라 올바른 컨텍스트를 조립하는 데 소모된다. 해법은 AI "주변"에 투자해 올바른 컨텍스트를 미리 제공하는 것.

또한 Jain은 "직원들에게 AI로 자기 자신을 대체하라고 밀어붙이는 게 옳은 목표냐"는 질문에 "틀린 목표"라고 답한다. "AI에게 너무 많은 신용을 주고 있다 — 아직 준비가 안 됐다. 어떤 역할 하나라도 AI로 완전히 대체할 수 있는 직무 이름을 대보라"고 되묻는다.

👥 코드 100% AI가 짜도 인력은 1000→5000명으로

가장 반직관적인 대목. 대부분의 CEO가 팀을 줄이는 시대에, Jain은 정반대로 간다.

1,000+

Glean 현재 직원 수

5,000

5년 뒤 목표 직원 수

~100%

AI가 작성하는 Glean 코드 비중

10배

동일 매출을 내기 위해 필요한 작업량 증가분

🔑 Jain의 논리

"코카콜라와 펩시처럼 경쟁하는 두 회사가 똑같이 AI 툴을 갖고 있다고 하자. 한 회사가 인력을 줄여 같은 양의 일을 더 적은 사람으로 하기로 했다면, 경쟁사는 같은 일을 하지 않고 대신 사람을 더 많이 써서 10배 더 나은 제품, 10배 더 많은 산출물을 만들기로 할 수 있다. 그러면 그들이 더 커지고, 결국 이긴다."

Jain은 "복합 역할(composite role)"의 부상도 언급한다 — 엔지니어·PM·디자이너를 겸하는 인력, 영업에서도 비즈니스 협상과 제품 데모·유즈케이스 설명을 동시에 하는 인력이 늘 것이라는 전망. Stebbings가 "그건 결국 팀 축소를 의미하는 것 아니냐"고 지적하자 Jain은 인정하면서도 "고객에게 동일한 매출을 뽑아내려면 이제 10배 많은 일을 해야 한다 — 그래서 더 작은 팀으로 더 많은 산출물을 강제로 만들어내야 한다"고 정리한다. 반면 데이터 분석가, HR 소서(sourcer) 같은 역할은 사라질 것으로 본다.

💸 토큰 vs 인건비 — 월 100만 달러짜리 에이전트

Jain은 Glean이 만든 엔지니어링 트리아지(triage) 에이전트 사례를 든다. 원래 15명 팀이 프로덕션 이슈를 트리아지하던 업무를 에이전트가 95% 자동 처리하게 됐지만 — 비용이 월 100만 달러에 달했고, 이는 오히려 사람을 쓰는 것보다 비쌌다는 것.

15명

기존 온콜 트리아지 팀 규모

95%

에이전트가 자동 처리하는 이슈 비중

$1M/월

해당 에이전트 운영 비용

3.8%

개발자 급여 대비 Anthropic 지출 비중(벤 호로위츠 사례)

Stebbings는 "개발자 급여의 3.8%를 AI 도구에 쓰는 게 많다고 생각한다면, 모델 회사들은 완전히 망한 것"이라고 되받는다. Jain은 두 가지로 답한다. ① 오픈소스로 같은 작업을 1/10 비용에 할 수 있는 사례가 이미 나오고 있고, ② 역사적으로 "기술 비용"과 "인건비"를 같은 문장에 넣은 적이 없었는데, 지금이 최초로 "사람보다 토큰을 더 쓰겠다"는 말이 나오는 시점이라는 것.

📊 이례적 현상 — 토큰 가격이 오히려 올랐다

"지난 6~9개월 동안 모든 모델이 토큰당 가격을 오히려 올렸다. 15개월 전만 해도 다들 토큰 가격이 계속 떨어질 거라 생각했는데. 왜 이런 일이 벌어졌는지 우리도 모른다." Stebbings는 즉각 "IPO 전에 좋은 비즈니스라는 걸 증명해야 했으니까"라고 답한다.

Jain의 베팅은 결국 "AI는 훨씬 더 싸질 것"이다 — 좋은 기술은 결국 저렴해지는 법이라는 믿음. Stebbings는 "AI가 훨씬 싸지면, 지금 적자를 내는 이 기업들에 의존하는 글로벌 경제 전체가 위태로워진다"고 맞받는다.

🌐 주권모델·리크루팅·라운드 이야기

주권 모델(sovereign models): 유럽 등에서 "미국 개인 한 사람이 우리의 지능 접근을 차단할 수도 있다"는 우려로 주권모델 요구가 다시 상승세라고 진단(트럼프 행정부가 Anthropic 최신 모델을 일부 차단한 사건 이후). 다만 미국이 오픈소스 모델을 못 내놓는 건 "오픈소스 정신이 약해서"가 아니라, 모델 훈련이 스컹크워크(자금 없이 개발자가 알아서 만드는 방식)로는 안 되는 막대한 선행 투자가 필요하기 때문이라고 설명한다. OpenRouter 트래픽 상위 7개 모델 중 6개가 중국산이라는 지적에는 "US가 절대 편해하지 않을 것"이라며, 엔비디아 등이 미국 오픈소스 육성에 적극 투자 중이라고 답한다.

💼 채용 전쟁

"최근 2~3개월을 빼면, 오히려 SaaS 피크 시절보다 채용이 쉬워졌다 — 대형 테크 기업들이 인력을 늘리지 않고 계속 감원해왔기 때문이다. 하지만 AI/ML 최상위 인재는 어느 때보다 치열하게 쟁탈전 중이고, 몸값도 완전히 달라졌다 — 스타트업조차 4~50만 달러를 줘야 한다."

Glean의 시리즈C는 "사업 실체는 거의 없던(sub $2~5M 매출) 상태에서 밸류에이션이 10억 달러를 넘긴" 가장 비쌌던 라운드였다고 회상한다 — 목적은 희석 최소화가 아니라 "우리가 특별한 걸 만들고 있다는 걸 시장과 예비 직원들에게 보여주는 스테이트먼트"였다는 것.

퀵파이어: "AI로 대체될 것 같아 컴퓨터공학 전공을 걱정하는 학생" → "걱정 말고 그냥 공부해라." "가장 AI를 잘 흡수한 레거시 기업" → "구글(단, AI 기업으로 분류해야 공정할 정도)." "지난 1년간 가장 크게 생각이 바뀐 것" → "규율(discipline)에 대한 신념이 흔들리고 있다 — 너무 보수적이면 랜드그랩(land grab)에서 질 수도 있다는 압박을 느낀다."

💡 투자 시사점

앱 레이어는 아직 안전하다 — Anthropic·OpenAI의 수직 확장은 "얕다(shallow)"는 것이 Glean CEO의 실전 평가. 기존 워크로드를 뺏기보다 시장을 확장(net new)하는 효과가 더 크다는 시각
진짜 경쟁자는 모델 회사가 아니라 마이크로소프트 — 번들링 전략이 여전히 강력하지만, 소비기반 과금 확산이 이를 서서히 흔들 수 있는 구조적 변수
오픈소스 변곡점 — GLM 5.2급 모델 등장으로 엔터프라이즈 워크로드의 과반이 3년 내 오픈소스로 이동할 수 있다는 전망. 중국 모델 신뢰 문제가 유일한 장벽
토큰 경제학의 역설 — 지난 6~9개월 토큰 가격이 오히려 상승. IPO 전 수익성 증명 압박이 원인일 가능성. 향후 1/10 하락이 AI ROI 방정식의 핵심 변수
헤드카운트 역발상 베팅 — Glean은 감원 대신 5배 증원(1000→5000명)을 택하며 "경쟁사가 감원할 때 우리는 10배 더 큰 산출물로 이긴다"는 전략을 추구
AI ROI = 컨텍스트 투자 문제 — 브루트포스 MCP 연결 방식은 토큰을 컨텍스트 조립에 낭비. "AI 주변에 투자"하는 기업이 진짜 처리량 이득을 얻는다

Glean CEO가 말하는 왜 OpenAI·Anthropic은 앱 레이어를 못 먹는가