OpenAI vs Anthropic vs Open-Source
토큰 맥싱, AI 숙취, 그리고 다가오는 ROI 청구서

⚡ 생산성 패러독스 — AI는 팀을 줄일까, 야망을 키울까?

Harry가 던진 첫 질문은 본질적이다. "AI 코딩 툴이 지난 200년 평균 2% GDP 성장률을 깨고 의미 있는 생산성 향상을 가져올까?" Matan은 "그렇다"고 답하면서도, 그 효과는 침투에 시간이 걸린다고 말한다. 회사는 "문제(problem)를 푸는 단위"로 조직돼 있는데, 이제 같은 인원으로 더 많은 문제를 풀 수도 있고, 같은 문제를 더 적은 인원으로 풀 수도 있다.

리더가 "리소스 배분"에서 던져야 할 질문도 바뀐다. "엔지니어가 분기에 몇 개 피처를 출하했는가" 같은 중간 지표(intermediate metric)는 이제 의미가 없다. 비즈니스 핵심 역량이 뭔지, 그리고 달러·토큰·인력을 어디에 부어야 매출/시장점유율/고객만족 같은 실제 결과 지표가 움직이는지를 묻는 시대다.

🔫 모델·앱·인프라 — 서로를 커머디타이즈하는 삼파전

Matan은 마이크로소프트 조직도 밈(서로에게 총구를 겨눈 부서들)을 빌려, 지금의 AI 스택을 묘사한다. 모델 회사 / 애플리케이션 / 인프라 — 셋이 서로를 commoditize하려고 싸우고 있다. Factory는 의도적으로 model-agnostic이다. OpenAI·Anthropic·Google·Microsoft가 가격·속도·성능 경쟁의 압박을 받게 만드는 것이 이들에게 유리하기 때문이다.

Kirkland & Ellis가 5년간 5억 달러를 들여 자체 Harvey/Lora를 만들겠다고 한 발표에 Matan은 회의적이다. "AI 기술 빌딩은 Kirkland의 핵심역량이 아니다." 오히려 직접 만들어보면 "이거 진짜 어렵네, 우리가 할 일이 아니구나"를 깨닫게 돼서 Harvey 같은 전문 업체에는 호재라고 본다. 그가 즐겨 쓰는 비유: "바쁜 날 점심을 내가 직접 사러 갈 수 있다고 해서 그게 시간을 잘 쓴 건 아니다."

Factory의 가장 큰 베어케이스(bear case)는 단 하나라고 한다. "한 모델 제공자가 다른 모두를 압도적으로 능가하는 경우." 그가 보기엔 모델들은 대체로 비슷한 수준에서 주별로 1~2위가 바뀐다. 만약 한 모델이 압도적으로 치고 나간다면 그건 Factory의 위기일 뿐 아니라 전 경제의 모노폴리 문제다.

🌐 프런티어 vs 오픈소스 — 80~90%는 오픈모델로 충분

Harry: "오늘 프런티어 모델로 하는 작업 중 몇 %를 오픈소스로 해도 될까?" Matan의 답: "80~90%." 진짜로 프런티어가 필요한 건 보통 "플래닝" 단계뿐이다. 인간 조직과 같은 구조다 — 회사의 명운이 걸린 결정은 소수 인원이 짧은 시간에 내리지만 그 사람들이 가장 비싸게 받는다. "중요한 결정 토큰"이라는 표현.

중국 오픈소스 모델은 "몇 주에 한 번"이 아니라 "주 3~4개" 페이스로 쏟아진다. 결국 일정 시점부터 사람들은 모델 "릴리스"로 보지 않고 GPT2 → 3 → 3.5 → 4 → 4.1 → 4.523 처럼 "연속적으로 좋아지는 무엇"으로 인식하게 될 거라는 전망. 엔터프라이즈 엔지니어가 매주 새 모델을 따라가는 건 불가능하고, 그것이 바로 Factory 같은 애플리케이션 레이어의 존재 이유다.

💰 토큰 예산 시대 — Uber $1,500, 안트로픽 빌의 3.8%

Marc Benioff가 안트로픽에 연 3억 달러를 쓴다고 했다. 데브 연봉 대비 3.8%다. "3년 뒤 이 숫자가 얼마가 될 것인가?"가 Matan이 가장 흥미롭게 보는 질문이다.

Matan의 전망은 중앙값(median)으로는 연봉과 같은 자릿수(order of magnitude)가 된다는 것. 하지만 개인 편차는 엄청나다 — 어떤 직원은 토큰 0%(예: 대면 영업)가 가장 효율적이고, 어떤 사람은 연봉의 수십 배가 정당화된다. "모든 엔지니어에게 같은 토큰 예산을 주는 조직은 너무 굵은 붓으로 칠하고 있는 것."

Mark Zuckerberg의 Meta, Demis의 DeepMind, Brendan의 McKay(토큰 지출 > 인건비) 같은 사례를 보면 트렌드는 명확하다. 그러나 토큰 가격이 1/10로 떨어지는 도약이 오기 전까지, 모든 CFO는 "이 비용을 정당화할 ROI가 어디 있느냐"는 질문과 씨름하게 된다.

🍷 엔터프라이즈 AI 3단계 — 보드 호통 → 토큰 맥싱 → 숙취

Matan이 본 엔터프라이즈 AI 채택의 3국면.

여기서 Matan이 이끌어내는 것은 "라우팅(routing)의 가치"다. 태스크별로 최적 모델·가격·속도 조합을 자동 선택해주는 레이어가 없으면, 기업은 영원히 "Phase 3 숙취"를 반복한다.

🎨 폴리매스(Polymath)의 귀환 — 풀스택 시대의 인재상

Matan이 가장 도발적인 의견 — "리서치 > 엔지니어링 > 세일즈/마케팅"이라는 실리콘밸리 위계는 "완전히 망상(delusional)"이다. Factory에서 제품은 "고객이 우리 이름을 처음 듣는 순간부터 10번째 갱신까지의 모든 여정"이다. 엔지니어가 피처 출하한 날엔 영업도 "우리가 출하했다"고 말하고, 영업이 딜 클로즈한 날엔 엔지니어도 "우리가 클로즈했다"고 한다.

그가 보는 미래 핵심 역량은 "GM(General Manager)형 엔지니어". 단순히 피처를 내보내는 게 아니라, 마케팅 카피·제품 지표·영업 인에이블먼트까지 엔드투엔드로 소유하는 사람. "폴리매스의 시대가 돌아왔다." 다빈치·오일러·뉴턴이 가능했던 이유는 분야가 얕았기 때문. AI는 누구든 빠르게 프런티어까지 끌어올려주므로, 다시 한 사람이 여러 깊은 분야에서 기여할 수 있다.

Matan은 채용 안티시그널도 꺼낸다 — 수학 올림피아드/코딩 챔피언십 같은 "신뢰 목발(crutch)"은 VC가 불확실성에 기대는 도구일 뿐. 진짜 신호는 "한적한 시골 출신이 자기 의지로 대회를 찾아가서 출전한 경우"처럼 에이전시(주체성)다.

⚔️ 안트로픽 vs OpenAI vs 중국 오픈모델

퀵파이어: "IPO 날 한 곳만 살 수 있다면 Anthropic vs OpenAI?" Matan: "비즈니스적으로는 거의 동급. 유일한 차이는 변동성(volatility)이다. OpenAI는 과거 사건사고가 더 많았다. 그래서 굳이 고른다면 Anthropic."

중국 오픈모델 사용은 OK인가? Matan은 찬성이다. 두 가지 우려를 구분한다. ① 데이터를 외국으로 보내는 것 — 이건 어디서든 피해야 함. ② 모델 자체에 "트리거 워드(spy movie의 코드워드처럼 특정 단어에 반응해 적대 행동하는 백도어)"가 심겨 있을 가능성. 후자는 이론적으로 가능하지만, 발견되면 그 모델은 영영 못 쓰게 되므로 누구든 가능한 한 늦게 심으려 할 것이라 단기 위험은 낮다고 본다.

오히려 그가 "부끄럽다"고 말한 건 미국이 프런티어 오픈모델을 못 가졌다는 사실. 유럽은? "프런티어 랩 쪽은 따라잡기 어렵지만, 인프라/에너지 빌드아웃에서 할 일이 많다." 다만 민주주의 절차 속도와 그에 따른 정치 비용은 큰 핸디캡.

🎯 Dario 비판 — "일자리 다 뺏는다" 발언의 진짜 의도

Harry: "Dario(Anthropic CEO)가 '우리가 너희 일자리 뺏는다'고 반복해서 말한 게 생태계에 해가 됐나?" Matan: "매우 그렇다. 그리고 솔직히 화가 난다."

그는 한 발 더 나아간다. "필요 없었던 사람들은 그런 말을 한 적이 없다." Zuckerberg, Demis는 노동 대체 이슈에서 Sam(OpenAI)·Dario와 완전히 다른 스탠스였다. 그들은 이미 돈이 있었기 때문이다.

마지막 질문 — "지난 12개월간 가장 크게 바뀐 생각은?" Matan: "한두 곳이 프런티어를 독점할 거란 생각이 사라졌다. 적어도 4곳이 비슷한 수준으로 갈 거다. 그게 인류에게 좋은 결과다. 최악은 단 하나가 압도적으로 잘하는 시나리오."