Oberon → KyberHBM3E → HBM4Vera SOCAMM2NVHBM (future)E1.S/M.2 eSSD
Vera Rubin·Vera CPU용 차세대 memory 협력은 공식 확인됐지만 개별 SKU별 공급량은 미공개다. NVHBM은 향후 계획이며 현재 적용 제품과 SK hynix 참여 여부가 모두 미확인이다.
MEMORY INDUSTRY INTELLIGENCE
벤더·메모리 비교
VENDOR LENS / FULL-STACK MEMORY플랫폼 요구에서
플랫폼 요구에서
메모리 공급 기회까지
NVIDIA·AMD·Google·OpenAI·AWS의 메모리 계층과 플랫폼을 비교하고, SK하이닉스의 제품·협력·미확인 공급 기회를 구분합니다.
6+1일반 계층 + HBF
5비교 벤더
56연결 원문
자료 기준 2026.09.12 · PAPER에 정리된 자료와 해석을 옮겼습니다. 기준일 이후 변경은 각 원문에서 확인합니다.
01 / MEMORY TIER ATLAS
어느 계층에서 무엇을 공급하고, 누가 채택하는가
HBM부터 공유 스토리지까지 6개 일반 계층과 가속기 연결 HBF의 비순위 계층 X1을 비교합니다.
공식 채택·제품생태계·상호운용제품 적합·파트너·계획공개 없음
표를 좌우로 밀어 벤더를 비교하세요. 필요한 열만 남기고, ‘전체 보기’로 복원할 수 있습니다.
| MEMORY계층·경로 | PLACEMENT GUIDE워크로드·데이터·용도 | SUPPLY VIEWSK하이닉스 | ADOPTION VIEWNVIDIA | ADOPTION VIEWAMD | ADOPTION VIEWGoogle | ADOPTION VIEWOpenAI | ADOPTION VIEWAWS |
|---|---|---|---|---|---|---|---|
| T1Accelerator HBM가속기 연산 메모리 최저 지연 · 최고 대역폭 |
HOT / ACTIVEHot KV cache · active model weights·MoE experts · activations/state
|
제품·샘플 공개HBM3E · HBM4 · HBM4E 16Hi 48GB HBM4와 12Hi 48GB HBM4E까지 이어지는 accelerator memory portfolio | 공식 platformRubin GPU당 288GB HBM4 · 22TB/s | 공식 platformMI455X 432GB HBM4 · 12 stacks · 23.3TB/s | 공식 platformIronwood TPU7x Chip당 192GB HBM · 7.38TB/s | 자체 ASIC 공개Jalapeño + multi-silicon 자체 ASIC은 216GiB HBM4 · 15.4TB/s. 전체 infrastructure는 외부 accelerator도 병행 | 공식 platformTrainium3 Chip당 144GB HBM3E · 4.9TB/s |
| T2Host / CPU Memory호스트·CPU 메모리 Staging · orchestration · CPU work |
WARM / STAGINGHBM에서 내린 warm·overflow KV · CPU tensor·metadata · staging buffer
|
제품·양산 공개SOCAMM2 + Server DRAM 192GB SOCAMM2 LPDDR5X · 64GB RDIMM · 256GB 3DS RDIMM · 128GB MRDIMM | 공식 채택Vera + SOCAMM2 CPU당 최대 1.5TB LPDDR5X · 1.2TB/s | 공식 platformEPYC 9006 Venice 16-channel DDR5 · MRDIMM 최대 12.8GT/s | 공식 VM 사양TPU7x 4-chip VM VM당 960GB host RAM · TPU와 host는 PCIe 연결 | 자체 BOM 미공개배치 platform 종속 Jalapeño system의 host DRAM 용량·규격은 공개되지 않음 | Trn2 공식 사양2TB host DRAM trn2.48xlarge instance 기준 |
| T2.5CXL Expansion / Pooling메모리 확장·공유 pool Host capacity를 fabric으로 확장 |
WARM / POOLEDPooled warm KV·model staging · 대형 CPU working set
|
제품·상호운용 공개CMM-DDR5 + Niagara 2.0 128GB CXL 2.0+ → 256GB CXL 3.2 · CMM-Ax · pooled memory · HMSDK | 공식 지원Vera · CXL 3.1 Coherent expansion · pooling · composable infrastructure | OEM 공식 명시EPYC 9006 · CXL 3.1 Q3'26 공개 platform 사양 · memory expansion · multi-host sharing. System 출하는 OEM별 별도 schedule | 공개 architecture 없음TPU7x CXL tier 미기재 공개 hierarchy는 HBM · VMEM · host memory · PCIe까지 | 공개 architecture 없음자체 CXL tier 미공개 Jalapeño system의 host expansion 구조는 공개되지 않음 | 전용 tier 미공개Trainium CXL memory 미공개 Trn2·Trn3 공개 사양에서 전용 CXL memory tier는 확인되지 않음 |
| X1Accelerator-Attached HBF가속기 직접 연결형 고대역폭 NAND 높은 총 read BW · latency 비순위 |
READ-MOSTLY / EMERGINGRead-mostly model weights · inactive MoE expert·대형 immutable tensor 후보
|
표준 공개·상용화 전HBF with Sandisk 8Hi/16Hi NAND · 최대 512GB · 약 0.4–3.0TB/s · UCIe · HBM보다 높은 latency와 큰 page | 공개 채택 없음HBF 탑재 미발표 CMX는 NVMe 기반 G3.5 tier이며 accelerator-attached HBF와 다른 구조 | 공개 채택 없음공개 platform 없음 MI455X·Helios 공식 architecture에서 HBF tier는 확인되지 않음 | 표준 생태계 참여HBF consortium member 기술 검증·표준 수립 참여. TPU 탑재 발표와는 구분 | 공개 채택 없음공개 architecture 없음 Jalapeño 사양에는 HBF tier가 기재되지 않음 | 공개 채택 없음공개 architecture 없음 Trainium3 공개 사양에는 HBF tier가 기재되지 않음 |
| T3Node-Local NVMe / Flash노드 로컬 SSD Boot · checkpoint · warm data |
WARM / NODE-LOCALWarm KV cache · model/checkpoint shard · container·data cache
|
제품 portfolioSK hynix + Solidigm eSSD PEB210 · PS1110 · PS1101 · Solidigm D7-PS1010 | 계층 공식G3 Local SSD NVIDIA 자체 SSD가 아닌 partner NVMe를 쓰는 node-local tier | OEM 구성 영역Partner NVMe Helios 고정 local SSD BOM은 미공개 · Salina DPU가 storage service를 offload | Local SSD 미기재TPU7x · Hyperdisk 공식 지원 목록은 Hyperdisk Balanced와 Hyperdisk ML | 자체 BOM 미공개배치 platform 종속 Jalapeño local domain의 NVMe/SSD 사양은 공개되지 않음 | Trn2 공식 사양최대 8TB local NVMe Instance당 약 8TB · UltraServer 최대 32TB |
| T3.5Shared Context / KV Flash공유 context·KV-cache flash Reusable KV · pod-level warm context |
WARM / POD-SHAREDShared reusable KV blocks · active multi-turn·prefix context
|
직접 대응 portfolioSolidigm Context Tier D7-PS1010 TLC + D5-P5336 QLC + CSAL software | 공식 platformCMX · G3.5 별도 STX rack의 BlueField-4 + DOCA Memos + Spectrum-X + partner NVMe · Ethernet-attached pod-shared KV를 G1/G2로 pre-stage | 독립 tier 미공개CMX형 제품 없음 Salina의 storage offload 방향은 공개됐지만 별도 context tier는 미발표 | 독립 tier 미공개공개 context-flash 없음 TPU7x hierarchy에는 pod-level KV flash 제품이 기재되지 않음 | 자체 HW 미공개CMX형 architecture 없음 KV tiering은 제품 기회지만 공개된 자체 hardware는 없음 | 전용 제품 미공개Trainium 전용 tier 없음 FSx·S3는 shared storage service이며 독립 G3.5 제품과는 구분 |
| T4Shared / Distributed Storage공유·분산 storage Dataset · checkpoint · durable history |
COLD / DURABLEModel master·dataset · checkpoint · inactive context·history·log
|
Media·software 공급D5-P5336 QLC + eSSD 최대 122.88TB QLC와 PS1101 등. SK hynix 자체 완성형 shared-storage platform은 아님 | Partner ecosystemG4 Shared Storage CMX G3.5 아래 durable object/file tier · 실제 system은 storage partner가 구성 | Partner ecosystemNVMe-oF · distributed storage Salina DPU가 NVMe와 storage services를 offload | Cloud serviceGoogle storage portfolio Cloud Storage · Hyperdisk · Filestore · Managed Lustre | 자체 architecture 미공개Infrastructure partner 종속 공개된 OpenAI 자체 shared-storage hardware architecture는 없음 | Cloud serviceS3 · FSx · EBS Durable object, file, block storage를 managed service로 제공 |
판단 기준 ‘공개 없음’은 미사용을 뜻하지 않습니다. 공식 제품·설계 자료에서 독립 계층 또는 BOM을 확인할 수 없는 상태입니다. X1은 지연 시간 순위가 아니라 가속기 연결 경로이며, 대역폭을 DRAM급 접근 지연으로 해석하지 않습니다. 제품 사양과 실제 공급 채택도 구분합니다.
SELECT ACCOUNTS
2 / 3비교할 벤더를 1~3개 선택
선택한 벤더의 비교표·랙 구조·플랫폼을 함께 표시합니다.
Helios · Meta ORW432GB HBM4/GPUDDR5 MRDIMMOpen UALinkDPU + NVMe
MI455X·Helios 요구 사양과 Venice host-memory 상한은 공식 공개됐지만 SK hynix의 개별 HBM4·DRAM·SSD design win은 공개 확인되지 않았다.
TPU 8t/8iHBM + VMEMManaged LustreVector/KV compression
TPU 8t/8i의 HBM 공급사와 세대·stack은 공개 확인되지 않았다. SK hynix의 제품 적합성만 구분해 표시한다.
Jalapeño6-stack HBM4Inference latencyKV tiering
Jalapeño memory 사양은 공개됐지만 HBM4 공급사, host DRAM과 SSD design win은 공개 확인되지 않았다.
Trainium3HBM3ENeuronLinkFSx for Lustre + S3
Trainium3의 HBM3E 사양은 공개됐지만 SK hynix 공급 여부와 host/local SSD 구성은 공개 확인되지 않았다.
02 / SIDE-BY-SIDE
벤더가 추구하는 것과 메모리 사업 기회
플랫폼·메모리 사양·공급 확인 수준·다음 검토를 같은 축에서 비교합니다.
| 비교 기준 | NVIDIA | AMD | OpenAI | AWS | |
|---|---|---|---|---|---|
| 추구하는 것 | Prefill, decode-attention, FFN, tool execution과 context storage를 서로 다른 engine과 memory tier에 배치해 tokens/W를 높인다. | GPU당 memory capacity와 open software·network 선택권으로 더 적은 accelerator에서 큰 모델을 수용하려 한다. | Gemini·Search workload와 TPU topology, quantization, managed storage를 fleet 단위로 최적화한다. | 모델·kernel·serving 지식을 chip과 network에 반영해 interactive inference의 latency와 공급 통제력을 개선한다. | Trainium을 EC2·Bedrock·Neuron software와 묶어 고객의 training/inference price-performance를 낮춘다. |
| 대표 플랫폼 | GB300 · Vera Rubin · Rubin CPX · Groq 3 LPX | MI455X · Helios | TPU 8t Superpod · TPU 8i Pod | Jalapeño local domain · full system | Trn3 UltraServer |
| 랙 구조 | Oberon NVL72·ETL256 → Kyber NVL144·NVL1152 | Helios · Meta ORW open double-wide rack | TPU Pod/Superpod · 물리 rack family와 BOM 미공개 | Local domain/full system만 공개 · 물리 rack family 미공개 | Trn3 UltraServer logical domain · 물리 rack family 미공개 |
| 가속기 메모리 | Rubin은 HBM4 · CPX 최신 analyst 전망은 168GB HBM4(기존안 128GB GDDR7) · LPX는 SRAM | 432GB HBM4/GPU · 12 stack | 216GB/288GB HBM · 세대 미공개 | 216GiB HBM4/ASIC · 6 stack | 144GB HBM3E/chip · rack 20.7TB |
| 호스트 메모리 | Grace는 fixed on-module LPDDR5X · Vera는 detachable SOCAMM2: SK 192GB 제품 / 96GB 구성은 report | DDR5 · reference 18TB/rack · 공식 최대 36TB/rack | Arm Axion · 용량 미공개 | 공개 용량 없음 | 공개 용량 없음 |
| 기업용 스토리지 | Local E1.S/M.2 + BlueField-4/CMX 외부 context tier | OEM/ODM local NVMe 선택 · Salina DPU offload | TPUDirect·Managed Lustre·Hyperdisk·Cloud Storage | Local·system SSD 사양 미공개 | FSx for Lustre + S3 managed tier |
| 메모리 설계 방향 | Current: standard HBM3E/HBM4 + Vera SOCAMM2 · Future: NVHBM option | Open standards: JEDEC HBM4 + DDR5 MRDIMM + DPU-managed NVMe | System co-design: TPU HBM/VMEM + TPUDirect Storage + TurboQuant | Model–chip–memory co-design; named proprietary memory format not public | Trainium3 HBM3E today → Trainium4 NVHBM/NVLink Fusion collaboration |
| SK하이닉스 관계 | 일부 공동개발·통합 공식 · CPX/NVHBM/용량 mix는 전망 또는 공개 공백 | 제품 적합 · design win 미확인 | 공급사 미확인 · 공동설계 후보 | 공급사 미확인 · custom HBM 후보 | 공급사 미확인 · solution opportunity |
| 다음 사업 검토 | GPU당 HBM만 보지 말고 rack당 SOCAMM2·eSSD까지 attach 가능한 qualification bundle을 설계 | 고용량 HBM4가 GPU 수 감소와 TCO 개선으로 이어지는 workload proof를 OEM과 공동 검증 | TPU nameplate보다 Gemini trace와 compression format을 기준으로 custom HBM·vector eSSD PoC 제안 | OpenAI workload trace로 HBM4 base-die 기능과 KV eSSD tier를 함께 검증 | HBM 사양보다 EC2 instance utilization과 Anthropic workload의 token/$로 메모리 가치를 증명 |
03 / RACK ARCHITECTURE MAP
제품명과 물리 랙·연결 범위 구분
Oberon·Kyber와 Helios ORW의 물리 설계와 scale-up 범위를 비교합니다.
NVIDIA
Oberon NVL72·ETL256 → Kyber NVL144·NVL1152
CURRENT · MGX RACK FAMILY
GTC 2026 officialOberon
랙·시스템Oberon NVL72 · Oberon ETL256
Scale-up 범위NVL72는 72 GPU/rack · Rubin Ultra NVL576은 8개 MGX NVL rack
- 물리 구조
- Single-wide third-generation MGX · horizontal compute/switch tray · copper NVLink spine
- 연결 구조
- MGX NVL은 NVLink scale-up · MGX ETL은 Spectrum-X Ethernet 또는 direct chip-to-chip spine
- 메모리·스토리지
- GB300의 HBM3E·Grace LPDDR5X부터 Vera Rubin의 HBM4·SOCAMM2, Vera CPU·LPX까지 역할별 구성
사업 해석Oberon은 GPU명이 아니라 여러 NVIDIA system을 담는 현재 rack 계열이다. NVL과 ETL을 나누면 HBM 중심 compute rack과 CPU·LPX·storage-attached rack의 memory wallet이 분리된다.
NEXT · HIGH-DENSITY MGX
Official roadmapKyber
랙·시스템Kyber NVL144 · Feynman Kyber NVL1152
Scale-up 범위144 GPU/rack · NVL1152는 8개 Kyber rack의 단일 scale-up domain
- 물리 구조
- Vertical compute blade · rear cable-free midplane · 800VDC power architecture
- 연결 구조
- 랙당 scale-up domain을 Oberon NVL72 대비 2배로 확장하고 8 rack을 연결
- 메모리·스토리지
- Vera Rubin Ultra에서 NVL144로 도입 · Feynman NVL1152까지 확장 예정; HBM 용량은 accelerator 세대별 별도 사양
사업 해석Kyber는 HBM 제품명이 아니라 전력·냉각·배선·GPU 밀도를 바꾸는 차세대 rack architecture다. SK hynix에는 GPU/rack 증가에 따른 HBM 총량과 rack-level storage·serviceability 요구를 함께 보는 신호다.
AMD
Helios · Meta ORW open double-wide rack
RACK-SCALE REFERENCE PLATFORM
Official open designHelios · Meta ORW
랙·시스템72× MI455X · 18× 4-GPU compute tray · 18× EPYC Venice
Scale-up 범위1 open double-wide rack · 260TB/s scale-up · 43TB/s scale-out
- 물리 구조
- Meta Open Rack Wide(ORW) · OCP DC-MHS · quick-disconnect liquid cooling
- 연결 구조
- UALink scale-up · UEC scale-out · Pensando Vulcano AI NIC
- 메모리·스토리지
- 약 31TB HBM4/rack · DDR5 MRDIMM reference 18TB, 공식 최대 36TB/rack · Local NVMe 용량 미공개
사업 해석Helios는 단순 GPU 묶음이 아니라 CPU·GPU·NIC·냉각을 결합한 AMD의 첫 rack-scale AI reference다. NVIDIA의 폐쇄형 계열명과 달리 ORW·UALink·UEC 기반의 개방형 OEM/ODM 생태계를 추구한다.
TPU Pod/Superpod · 물리 rack family와 BOM 미공개
LOGICAL POD TOPOLOGY
Physical rack 미공개TPU 8t Superpod / 8i Pod
랙·시스템8t는 최대 9,600 TPU Superpod · 8i는 Pod 단위
Scale-up 범위ICI 기반 scale-up topology는 공개 · rack당 chip/tray 구성은 미공개
- 물리 구조
- Oberon·Kyber·ORW처럼 비교 가능한 물리 rack family 명칭과 serviceability blueprint 미공개
- 연결 구조
- TPU Inter-Chip Interconnect + Google Cloud network
- 메모리·스토리지
- 216GB/288GB HBM·VMEM · host DRAM과 local NVMe BOM 미공개 · Managed Lustre 연결
사업 해석Google은 물리 rack보다 cloud-visible Pod/Superpod topology를 공개한다. 따라서 공급 기회는 rack BOM 추정보다 TPU HBM qualification과 managed storage path에서 검증해야 한다.
OpenAI
Local domain/full system만 공개 · 물리 rack family 미공개
SYSTEM TOPOLOGY
Physical rack 미공개Jalapeño system
랙·시스템16-ASIC local domain · 2,048-ASIC full system
Scale-up 범위200GB/s/ASIC global fabric · rack 경계와 rack당 ASIC 수 미공개
- 물리 구조
- 물리 rack, tray, power, cooling architecture 미공개
- 연결 구조
- OpenAI–Broadcom scale-up/scale-out fabric
- 메모리·스토리지
- 216GiB HBM4/ASIC · 432TiB/full system · host DRAM과 NVMe/SSD 미공개
사업 해석OpenAI는 모델에 보이는 system topology를 공개했지만 물리 rack BOM은 공개하지 않았다. 2,048 ASIC을 1 rack으로 오인하지 않고 HBM 총량과 KV storage를 system 단위로 본다.
AWS
Trn3 UltraServer logical domain · 물리 rack family 미공개
CLOUD SYSTEM DOMAIN
Physical rack 미공개Trn3 UltraServer
랙·시스템최대 144 Trainium3 chip의 UltraServer domain
Scale-up 범위NeuronLink-v4 scale-up · EC2 UltraCluster scale-out
- 물리 구조
- Oberon·Kyber·ORW에 대응하는 물리 rack family와 tray·cooling BOM은 공개 자료에 미기재
- 연결 구조
- NeuronLink-v4 + EFA/UltraCluster
- 메모리·스토리지
- 144GB HBM3E/chip · 최대 20.7TB/domain · host DRAM/local SSD 미공개 · FSx for Lustre + S3
사업 해석UltraServer는 고객이 소비하는 logical system 단위다. 물리 rack을 임의 환산하지 말고 cloud service KPI와 managed storage attach에서 기회를 계산해야 한다.
04 / MEMORY OWNERSHIP TRACKER
자체 규격·표준 채택·시스템 확장
NVHBM·SOCAMM2와 각 벤더의 대응 방향을 현재 적용과 향후 계획으로 구분합니다.
MEMORY ARCHITECTURE
2개 방향NVIDIA
CUSTOM HBM BASE DIE발표 단계 · 현재 적용 없음
NVHBM (future plan)
향후 NVLink Fusion custom XPU를 위해 NVIDIA memory controller를 HBM base die로 옮기는 계획이다. 현재 Rubin, CPX, Trainium에 NVHBM이 적용됐다는 공식 발표는 없다.
SK하이닉스 관점
복수 memory provider 제공 계획만 공개됐고 업체명은 미정이다. SK hynix에는 잠재적인 base-die 공동검증 기회지만 현재 design win으로 계산하면 안 된다.
LPDDR5X MODULE192GB 제품·Vera 설계 확인
SOCAMM2 ecosystem
Detachable SOCAMM2는 Vera CPU의 LPDDR5X memory다. Grace는 120/240/480GB fixed on-module LPDDR5X를 사용하므로 SOCAMM2로 묶으면 안 된다.
SK하이닉스 관점
SK hynix는 192GB SOCAMM2 양산을 공식화했다. 다만 NVIDIA 공식 상한은 1.5TB/CPU이고, 공급망 자료는 96GB×8=768GB/CPU 구성 추가를 제시하므로 용량 mix를 나눠 봐야 한다.
MEMORY ARCHITECTURE
2개 방향AMD
OPEN STANDARD MEMORYPlatform 채택 공식
JEDEC HBM4 + MRDIMM
MI455X는 432GB HBM4, Venice는 최대 16-channel DDR5와 12.8GT/s MRDIMM을 사용한다. 공개 자료에서 NVHBM 같은 AMD 고유 memory 규격명은 확인되지 않는다.
SK하이닉스 관점
SK hynix 경쟁축은 proprietary 규격 소유보다 12-stack HBM4와 고속·고용량 MRDIMM을 OEM별 BOM에 먼저 qualification하는 데 있다.
DPU-MANAGED NVME TIER방향 공식 · Local 용량 미공개
Salina storage offload
Salina DPU가 NVMe와 storage services를 offload해 HBM 밖의 dataset·KV-cache 계층을 연결한다. Helios reference blueprint의 local SSD 용량은 고정 공개되지 않았다.
SK하이닉스 관점
E1.S/E3.S eSSD는 rack 공통 BOM보다 OEM·storage node 설계별로 접근해야 하며, DPU data path와 함께 성능을 입증해야 한다.
MEMORY ARCHITECTUREGoogle
2개 방향CUSTOM SILICON + STANDARD HBMArchitecture 공식
TPU memory hierarchy
TPU 8t/8i는 HBM과 on-chip VMEM, ICI topology를 함께 설계한다. 다만 HBM 세대·stack 수·공급사는 공개하지 않았고 별도 명칭의 물리 memory 표준도 확인되지 않는다.
SK하이닉스 관점
SK hynix에는 TPU silicon에 맞춘 HBM qualification과 workload별 base-die 기능 제안이 핵심이며, 공개 용량만으로 공급 관계를 단정할 수 없다.
STORAGE PATH + COMPRESSION제품·공식 연구 확인
TPUDirect + TurboQuant
TPUDirect Storage는 host CPU/DRAM을 우회해 TPU HBM과 Managed Lustre를 직접 연결한다. TurboQuant는 KV/vector를 압축하는 software algorithm이며 DRAM module 규격은 아니다.
SK하이닉스 관점
Google의 방향은 새 module 이름보다 data movement 제거와 logical memory 확대다. eSSD 제안도 capacity보다 direct path와 compressed data handling을 보여줘야 한다.
MEMORY ARCHITECTURE
1개 방향OpenAI
WORKLOAD-SPECIFIC HBM4Platform 공식 · 공급사 미정
Jalapeño memory co-design
Jalapeño는 6-stack·216GiB HBM4와 15.4TB/s를 사용하며 OpenAI는 model, serving software, chip, memory, network를 함께 설계한다고 밝혔다.
SK하이닉스 관점
공개 자료에는 NVHBM이나 SOCAMM2처럼 별도 명칭의 물리 규격이 없다. SK hynix에는 model trace 기반 custom HBM4 base-die와 KV storage 공동설계 기회가 남는다.
MEMORY ARCHITECTURE
2개 방향AWS
CUSTOM HBM COLLABORATION협업 공식 · 양산/공급사 미정
Trainium4 × NVHBM
AWS Annapurna Labs는 NVHBM과 NVLink Fusion의 첫 협업 파트너이며, Trainium4부터 NVIDIA 공통 rack architecture를 지원할 계획이다.
SK하이닉스 관점
AWS는 다른 hyperscaler 중 NVIDIA식 custom base-die 생태계에 가장 명시적으로 들어왔다. 다만 Trainium4 memory 용량과 SK hynix 참여는 공개되지 않았다.
HBM + FSX + S3Current service 공식
Managed memory–storage tier
현재 Trn3 UltraServer는 144GB HBM3E/chip을 쓰며, host DRAM과 local instance-store 용량은 공개하지 않는다. 대규모 dataset은 FSx for Lustre와 S3 service로 연결한다.
SK하이닉스 관점
SK hynix 기회는 HBM 공급만이 아니라 cloud fleet의 checkpoint·dataset·KV tier를 위한 eSSD/AI-NAND 성능을 service KPI로 증명하는 것이다.
05 / PLATFORM BOM LENS
플랫폼별 SK하이닉스 공급 기회
가속기·호스트 메모리·기업용 스토리지의 공개 사양과 실제 공급 확인 수준을 구분합니다.
NVIDIA 플랫폼
Prefill, decode-attention, FFN, tool execution과 context storage를 서로 다른 engine과 memory tier에 배치해 tokens/W를 높인다.
학습·추론 / 현재 매출 기반
채택·통합 확인GB300 NVL72
- A가속기 메모리
- B300당 288GB HBM3E · 8×36GB / rack 약 20TB
- H호스트·시스템 메모리
- Grace당 최대 480GB fixed on-module/co-packaged LPDDR5X · rack 약 17TB · SOCAMM2 아님
- S기업용 스토리지
- Local 276.48TB E1.S cache + 34.56TB M.2 boot
SK하이닉스 제품·공급 확인 수준
36GB HBM3E 적용PEB110 E1.S 통합PE9010 M.2 통합
사업 해석HBM 매출에 host DRAM과 boot/data NVMe를 함께 붙일 수 있는 검증된 full-stack 출발점이다.
학습·prefill·decode attention
Official max · lower config reportVera Rubin NVL72
- A가속기 메모리
- Rubin당 288GB HBM4 · 12-high 8 stack / rack 20.7TB
- H호스트·시스템 메모리
- Vera SOCAMM LPDDR5X · 공식 최대 1.5TB/CPU·54TB/rack · 공급망 report 8×96GB=768GB/CPU·약 27.6TB/rack · SK hynix 192GB SOCAMM2 제품
- S기업용 스토리지
- Local NVMe 용량 미공개 · BlueField-4 STX/CMX는 별도 external storage tier
SK하이닉스 제품·공급 확인 수준
HBM4 공동개발·공급 협력192GB SOCAMM2 양산96GB mix는 SK 공급 미확인PEB210 E1.S 제품 적합·통합 미확인
사업 해석1.5TB는 공식 최대치이지 모든 Vera의 기본 용량이 아니다. 96GB 하향 구성은 공급망 report이므로 실제 96/192GB mix와 SK hynix 점유율을 별도 추적해야 한다.
million-token context·영상 prefill
Analyst 전망 · NVIDIA 미확인Rubin CPX · revised 2027 plan
- A가속기 메모리
- 최신 전망 CPX당 168GB HBM4 · stack/BW 미공개 · 기존 2025 공식안은 128GB GDDR7
- H호스트·시스템 메모리
- 전망상 64-GPU standalone MGX ETL rack · host DRAM 구성 미공개 · Vera Rubin NVL72와 1:1 pairing 권고
- S기업용 스토리지
- Local NVMe/SSD 미공개 · 64×168GB 기준 accelerator HBM4 약 10.75TB/rack(산술 파생)
SK하이닉스 제품·공급 확인 수준
168GB HBM4 opportunityGDDR7은 기존안공급사·stack 구성 미확인
사업 해석현재 사업기회는 GDDR7 확정 매출이 아니라 HBM4로 바뀔 가능성이 있는 공급망 신호다. NVIDIA 최종 사양 전까지 forecast와 official을 분리한다.
agentic sandbox·RL·CPU data processing
Official recommended + maxVera CPU Rack
- A가속기 메모리
- GPU/HBM 없음 · 최대 256 Vera CPU/rack
- H호스트·시스템 메모리
- SOCAMM LPDDR5X · 공식 권장 200TB/rack · 최대 400TB/rack · 1.2TB/s/CPU
- S기업용 스토리지
- BlueField-4 DPU 포함 · local NVMe/SSD 용량 미공개
SK하이닉스 제품·공급 확인 수준
192GB SOCAMM2 제품96GB-class opportunity는 reportLPDDR5X supply mix 미확인
사업 해석NVIDIA도 권장치와 최대치를 분리한다. 200TB 권장 구성은 lower-capacity SOCAMM 확산 신호지만 96GB SK hynix 공급을 확정하지는 않는다.
저지연 decode FFN·MoE
Platform 공개 · DRAM 공급사 미확인Groq 3 LPX Rack
- A가속기 메모리
- HBM 없음 · 128GB on-chip SRAM/rack · 40PB/s
- H호스트·시스템 메모리
- 12TB DDR5/rack · 8TB fabric-attached + 4TB host CPU
- S기업용 스토리지
- Local SSD 미공개 · BlueField-4를 통한 external NVMe-oF/file/object path
SK하이닉스 제품·공급 확인 수준
DDR5 opportunityExternal eSSD opportunityHBM attach 없음
사업 해석모든 NVIDIA accelerator가 HBM 수요를 만드는 것은 아니다. LPX는 DDR5와 외부 storage 쪽의 기회다.
AMD 플랫폼
GPU당 memory capacity와 open software·network 선택권으로 더 적은 accelerator에서 큰 모델을 수용하려 한다.
대규모 학습·추론 reference rack
제품 적합 · 공급사 미확인AMD Helios
- A가속기 메모리
- MI455X당 432GB HBM4 · 12 stack / rack 약 31TB
- H호스트·시스템 메모리
- DDR5 MRDIMM · reference 실물 18TB/rack(1TB/tray, 16×64GB) · AMD 공식 최대 36TB/rack · 1.6TB/s/CPU
- S기업용 스토리지
- Local SSD/NVMe 미기재 · OEM/ODM 구성 · Salina DPU가 storage service offload
SK하이닉스 제품·공급 확인 수준
432GB-class HBM4 후보DDR5 MRDIMM 후보E1.S/E3.S eSSD 후보
사업 해석18TB는 공개된 실물 reference 구성이고 36TB는 AMD 공식 최대치다. AMD가 18TB를 '기본 용량'으로 명명하지 않았으므로 둘을 구분해야 하며, OEM별 BOM과 qualification 경로가 중요하다.
Google 플랫폼
Gemini·Search workload와 TPU topology, quantization, managed storage를 fleet 단위로 최적화한다.
8t pre-training · 8i inference/RL
Memory 세대·공급사 미공개TPU 8t / TPU 8i
- A가속기 메모리
- 8t 216GB·6.528TB/s / 8i 288GB·8.601TB/s · HBM 세대 미공개
- H호스트·시스템 메모리
- Arm Axion · host memory 용량/BW 미공개
- S기업용 스토리지
- TPUDirect Storage·Managed Lustre 10TB/s(8t) · Hyperdisk·Cloud Storage
SK하이닉스 제품·공급 확인 수준
Custom HBM 후보Vector/KV eSSD 후보CXL/SOCAMM 후보
사업 해석부품 최대치보다 model–silicon–storage를 함께 최적화하는 fleet efficiency가 구매 논리다.
OpenAI 플랫폼
모델·kernel·serving 지식을 chip과 network에 반영해 interactive inference의 latency와 공급 통제력을 개선한다.
LLM inference ASIC
Platform 사양 공개 · 공급사 미확인Jalapeño
- A가속기 메모리
- ASIC당 216GiB HBM4 · 6 stack · 15.4TB/s
- H호스트·시스템 메모리
- Host rack memory 사양 미공개
- S기업용 스토리지
- Local domain·full system 모두 NVMe/SSD 사양 미기재
SK하이닉스 제품·공급 확인 수준
Custom HBM4 후보Quant Assist 후보KV eSSD/HBF 후보
사업 해석표준 HBM 용량 경쟁보다 model-specific data path와 inference TCO 공동설계가 핵심이다.
AWS 플랫폼
Trainium을 EC2·Bedrock·Neuron software와 묶어 고객의 training/inference price-performance를 낮춘다.
Cloud training·inference
HBM 공급사·host BOM 미공개Trn3 UltraServer
- A가속기 메모리
- Trainium3당 144GB HBM3E·4.9TB/s / 최대 144 chip·20.7TB
- H호스트·시스템 메모리
- Host DRAM 용량/BW 미공개
- S기업용 스토리지
- Local instance store 미공개 · FSx for Lustre와 S3는 별도 managed service
SK하이닉스 제품·공급 확인 수준
HBM3E 후보Server DRAM 후보AI-NAND/eSSD tier 후보
사업 해석직접 hardware BOM보다 cloud service의 성능·가격과 fleet utilization이 qualification KPI가 된다.