Four CEOs on the Future of AI Infrastructure

☁️ Michael Intrator (CoreWeave) — GPU 클라우드의 모든 것

배경: 크립토 → AI

• 2017년 설립, 알고리즘 헤지펀드 출신
• 처음엔 이더리움 채굴 → GPU 유연성에 주목
• 크립토 겨울을 버티며 CGI 렌더링, 의료 연구로 확장
• 2020~2021년 A100 구매 → Eleuther AI에 기부하며 AI 인프라 학습
• "튜이션 비용처럼 GPU 샀다. 그게 교육비였다."
• 연구자들이 본업 복귀 → "우리 인프라 그대로 쓰고 싶다" → 사업 시작

비즈니스 모델: "The Box" 구조

클라이언트(예: Microsoft)와 5년 계약 체결

"Box"라는 SPV(특수목적회사) 설립:

• 1. 계약서 넣음
• 2. Nvidia GPU 구매 계약 넣음
• 3. 데이터센터 임대 계약 넣음

Box가 독립적 캐시플로우 생성:

• 클라이언트 → Box 지불 → 데이터센터 비용, 전력, 이자/원금 상환 → 나머지 CoreWeave 수익
• 2.5년 안에 원금+이자 회수, 나머지 2.5년은 순수익
• 18개월간 $35B(35조원) 조달 — 각 Box 독립적이라 리스크 격리
• 자본비용 600bp(6%) 하락 — 하이퍼스케일러 수준으로 근접

GPU 수명 논쟁 — "16개월 진부화설은 헛소리"

• 평균 계약 5년, 실제 사용 6년 이상 예상
• A100(Ampere) 가격 올해 올라감
  • 신규 스타트업, 소형 모델 수요자가 계속 구매
  • "iPhone 12가 남미/아프리카에서 $50에 팔리는 것과 같다"
• 진부화는 전력 대비 마진이 역전될 때 발생 — 아직 멀었음
• CoreWeave 감가상각: 6년

수요 & 공급 — "세상에 GPU가 부족하다"

• 4년간 수요는 끊임없고 압도적
• 제약: GPU뿐 아니라 전력, 메모리, 스토리지, 네트워킹, 광학
• 메모리가 현재 병목:
  • AI 수요 + 2023년 투자 사이클 놓침 → 팹 캐패시티 부족
  • 과거 붐/버스트 사이클(파이버 버블 같은) 반복 중
• H100 → H200 → GB200 → GB300 순차 도입
  • 최신 칩으로 학습 → 이전 세대로 추론 이동 → 오래 사용

🤖 Arthur Mensch (Mistral AI) — 오픈소스 + 기업 특화 모델

전략: 유럽 기업 + 오픈소스 커스터마이징

• 미국 빅테크 AI 뒤처진 유럽 기업들에게 Forge/Studio 제공
• 오픈소스 모델 → 금융, 제조, 헬스케어 버티컬 특화
  • ASML(반도체), HSBC(금융) 등 고객
• Forward Deployment Engineers(PhD급) 파견 → 고객과 협업
• 현장 전문가(SME)와 함께 모델 재훈련

데이터 격리 — 경쟁사 간 데이터 유출 방지

• Portable 플랫폼 → 고객 인프라에 배포
• 데이터는 Mistral로 돌아오지 않음 (IT 보안 충족)
• ASML 예시: 이미지 스캐닝 결함 탐지 → PhD 엔지니어 파견 → 모델 재훈련 → 인수인계

합성 데이터 vs. 인간 신호

• 합성 데이터: 초기 워밍업, 큰 모델 → 작은 모델 압축(distillation)
• 인간 신호: 최종적으로 반드시 필요 (전문가 피드백)

OpenClaw 모멘트와 엔터프라이즈 AI

• OpenClaw의 폭발적 인기 → 자동화 가능성 입증
• BUT 엔터프라이즈는 더 필요함:
  • 거버넌스, 관찰 가능성, deterministic gates (HSBC KYC 프로세스 같은)
  • 보상 데이터 접근 제어 — HR vs. 엔지니어링 팀 분리 필요
• Context Engine: 데이터 메타데이터 매핑 → 누가 뭘 볼 수 있는지 통제

⚡ Daniel Roberts (IREN) — 데이터센터 & 전력 인프라

배경: 비트코인 → AI 전환

• 8년 전 시드니에서 형제와 창업
• 비트코인 채굴로 시작 → "디지털 세계 폭발, 물리 세계 한계" 예측
• 2020년 Dell과 AI MOU → 너무 이름 → 비트코인 계속
• 2년 전부터 AI 수요 폭발 → 비트코인 → H100 전환

전략: 전력 따라가기

• 4.5GW 확보 (샌프란시스코 베이 에리어 연간 전력과 비슷)
• West Texas 중심 — 풍력/태양광 45~50GW, 송전선은 12GW만
  • 재생에너지 100% since inception
  • "사막에 에너지 생산, 수요 없음 → 데이터센터가 수익화"
• 750MW 데이터센터 (4년 전엔 "미쳤다" 소리 들음)

Microsoft 계약: $9.7B — 전체 캐패시티의 5%

• "바쁘다"는 건 과소표현

리얼 월드 제약 — Time to Compute

• GPU 부족 아니라 건설 인력, 공급망
  • 웨스트 텍사스 트레일러 캠프에 수천 명 투입
  • 옛 제조업 지역 → 전기 인프라 재활용 + 인력 재교육
• 전기공 초봉: $150K~ (하단 기준)
• AI가 일자리 뺏는다 vs. 인력 부족 역설

Jevons Paradox — 공급 늘리면 수요도 폭발

• "ChatGPT 이미지 생성 2분 → 10초로 줄이면?"
• → 10배 공급 증가해도 수요는 더 늘어남 (다이얼업 인터넷 → 초고속 같은)

원자력

• SMR(소형모듈원자로) 논의 시작 — 10년 걸림
• 현재 원자력 옆 데이터센터 없음, 하지만 추적 중