Open Models vs Frontier Models: Who Actually Wins?

🏢 Sierra 소개 & 창업 배경

회사 현황: revenue $10B+ 기업이 고객사의 30%. 일본 진출 (Opera Technologies 인수).

창업 배경 (2022년 말): Brett Taylor와 Clay Bavor는 Google APM 동기(class 1 & 3)로 20년 우정. 18년 Google 근무 후 "planets aligned" — 언어 모델 대두 시점. 초기부터 agents 전략(2023년 4월, 아무도 관심 없을 때) 착수. React paper 저자(Princeton 교수)를 founding head of research로 영입.

⚔️ 오픈 vs Frontier Models — "Unbounded Demand" 테제

세분화된 관점 — 워크로드별 적합 모델:

결론: 양자택일 아님 → Mix-and-match 전략. 오픈 모델이 발전해도 frontier 수요는 사라지지 않음. "어제의 frontier = 오늘의 open weights" 어셈블리 라인.

💹 Token Economics & O1 Reasoning Models

토큰 비용 증가의 진짜 이유 — Reasoning models (O1): "thinking out loud" → 토큰 폭발적 증가. Test-time compute 차트: 더 많은 추론 = 더 높은 성능 (로그 스케일).

로컬 실행 가능성: On-device (phone) AI는 소비자 앱에만 적합. Frontier workloads는 "여전히 거대한 TPU/GPU 랙 필요."

🇨🇳 중국 오픈 소스 모델의 리더십

Clay의 분석: 중국 모델 = 대규모 distillation of US frontier models. 미국 labs가 자사 frontier 모델과 경쟁하는 open weights 출시를 기피 → 중국이 공백 메움.

"If you can't build frontier models yourself, distill them and offer them up."

💰 $100K Token Budget Reality

Mark Benioff (Salesforce) 사례: 연간 $300M Anthropic 지출 (dev team) → 개발자 연봉 대비 3.8%.

CFO의 미래 역할: Headcount = Salaries + SBC + Token budgets. "Here's your salary, here's your token budget, have at it."

🧠 Sierra의 기술 스택 전략

Pre-training 포기 이유: 2022-23년 당시 "AI 스타트업은 foundation model 안 만들면 nobody"라는 인식. Character, Inflection, Adept 등 → 막대한 자본 소요.

대신 선택한 길:

• Open weights fine-tuning — labs/hyperscalers 뒤에서 slipstream
• Agent framework 자체 개발 — React paper 저자와 from scratch
• 스택 깊이 투자 — Google 방식 계승, 필요한 만큼 수직 통합

🌲 Pine Cone — Sierra의 내부 AI 운영 시스템

구조:

• MCP Gateway: 모든 회사 시스템/서비스 단일 집계 (Slack, docs, op reviews)
• Pine Cone: 전사 harness, 권한 기반 접근, "superpowers" 수준

Sierra Brain: 20-30페이지 grounding document(회사 미션, 조직, 경쟁, 강약점). 최근 board letters + operating reviews 접근 → "strategy thought partner."

👥 채용 프로세스 혁신 — AI-Native Interviews

새 엔지니어링 인터뷰:

• 프롬프트 제공: "Build an application"
• $150 토큰 예산 지급
• 원하는 coding agent 선택 (Claude Code, Cursor 등)
• 본인 노트북/툴 사용
• 빌드 과정 설명 → architecture, systems design, product thinking 평가

"I will be disappointed if in no more than 2 months not every one of our interviews has some strong AI-native component."

🚀 엔터프라이즈 전략 — Forward-Deployed Team (FDT)

Palantir 모델 차용 (하지만 더 큰 규모): Palantir는 "low hundreds of customers." Sierra는 훨씬 더 큰 스케일 목표 — 도메인 전문성 + 산업 vertical 깊이.

초기 Design Partners (전설적 사례): Olai, SiriusXM, Sonos, Weight Watchers. 엔지니어를 고객사에 직접 embedded → 한 엔지니어는 Weight Watchers 직원처럼 근무 (performance review 이메일까지).

🔁 Customer Lifecycle — Service → Sales → Marketing

초기 foothold: Customer service/support.

확장 사례 — Rocket Mortgage:

1. Search & discovery (Redfin 검색 경험 재설계)
2. Outbound (refinance 관심 고객 리치)
3. Inbound (Rocket Assist: loan shaping & information gathering)
4. Servicing (기존 loan servicing)

Next 사례: Personalized product recommendations, Outfit/basket building → Sales, not support.

"That's an inbound and outbound sales machine."

📝 조직 운영 — 6주 Board Cycle

Why 6 weeks, not quarterly? "AI time clock moves a lot faster." 예: 겨울 휴가 후 → Claude 4.5, Codex 5.2 → 소프트웨어 개발 & 제품 전략 근본 변화.

내용 구조: 예상 초과 달성 실적 · 7가지 개선 필요 영역 (더 빨리, 더 잘, 채용 필요) · 진정한 초대: "Challenge us, sharpen our thinking."

대표적 실수 사례: Early 2024 — 수요 데이터 있었지만 채용 속도 부족 → 기회 상실.

💎 가치 — Craftsmanship, Intensity, Family

Craftsmanship

"If it's worth doing, it's worth doing well." 수천 개의 훌륭한 것들 = 위대한 회사. 고객 신뢰: "How we show up with them = how we'll show up with their customers." 첫 Black Friday Cyber Monday → Clay/Brett/엔지니어가 모든 agent 대화 실시간 읽음.

Intensity

"Smart, nice, intense" — 3가지 다 갖춘 사람 찾기 어려움. 거대 시장 = 거대 경쟁 → "We don't have the luxury of patience." Founders가 pace setter: "Why can't it happen tomorrow instead of next week?"

Family

Clay: 4 kids, Brett: 3 kids. "Only thing more important than Sierra is our families." No performative grind: 공항 픽업, 친구 생일, parent-teacher conference 모두 OK. Balance = smarter work.

🏛️ In-Person Culture

Why so opinionated? 문화·공유 규범·camaraderie 구축은 Zoom Brady bunch로 불가능. 젊은 직원: apprenticeship & mentorship (어깨 너머 배우기).

Clay의 효율: 왕복 출퇴근 1.5~2시간 → Starlink mini + 2개 cellular networks → "beautiful connectivity."

🏷️ 가격 전략 — "Guided to Lower"

Clay 답변:

• 밸류가 아닌 필요 자본 중심 사고
• "Milestone to milestone funding"
• Dilution 민감하지만 최대화 아님
• Every round: 가능 가격보다 낮은 가격 유도 & 수용

🧭 Sundar Pichai에게 배운 것

Dynamic range in thinking: "Wildly different zoom levels." Highest-level strategy (5년 후) ↔ Pixels (drop shadows, sound, texture).

리더십: 제품 & 작업에 극도로 집중. "Wonderful human being" + 주변 사람들의 인간성에 깊이 공감.

👨‍👩‍👧‍👦 부모됨 & 파트너십

4명 자녀 조언: "Greatest gift," 인생 최대 변화. Clear goals + good habits. Family dinner rituals, Maker mornings (일요일 2시간 아들과 제작). 아이의 관심을 본인 관심으로: Clay는 농구 못하지만 아들 위해 NBA 팔로우, 코칭 공부.

30년 결혼 (고등학교 연인): "Great marriage is a partnership." Shared goals: 행복한 아이들, 가치 정렬, 서로의 thriving 지원. 다른 관심사 OK, but "shared interest in enabling each other."

❤️ 부모님의 영향 — 가장 친절한 일

아버지(심장내과 의사), 어머니(quilt maker) — 기술 배경 없음. Clay의 첫 컴퓨터 obsession 발견 → "lit up." Power Mac 구매 시 아버지: "More memory = 더 잘할 수 있나?" → 업그레이드 지원.

어머니: 연 1회 학교 빼주고 Ken's Pancakes → Macworld → "Nirvana."

💬 핵심 인용구