더 빠른 분산 학습
논블로킹 InfiniBand 패브릭으로 GPU 활용률을 극대화합니다
오늘 온라인 GPU
16,384
노드당 InfiniBand
3.2 Tb/s
가동 시간 SLA
99.99%
첫 부팅까지
<60s
몇 초 만에 GPU 클러스터 배포
온디맨드 및 예약형 H100, H200, B200 — 레일 최적화, 수랭식, 서울에서 InfiniBand 사용 가능.
최대 GPU 성능을 위한 설계
네트워킹, 냉각, 스토리지, 컴퓨팅을 하나의 시스템으로 최적화하여 GPU가 병목을 기다리는 시간을 줄이고 모델 학습에 더 많은 시간을 쓰도록 합니다.
분산 학습에 최적화
토폴로지별로 사전 프로파일링된 집합 연산으로 첫날부터 all-reduce가 라인 속도에 도달합니다.
선호하는 도구 사용
베어메탈에서 Slurm, Kubernetes 또는 순수 SSH. 클러스터를 제공하면 — 원하는 방식으로 운영하세요.
레퍼런스 노드 · B200
GPU8× B200 SXM
GPU 메모리1,536 GB
NVLink 도메인1.8 TB/s
네트워크8× 400G XDR
CPU2× Intel Xeon
시스템 RAM2 TB DDR5
로컬 NVMe30 TB
냉각다이렉트 투 칩
GPU를 둘러싼 모든 것
GPU 처리량에 최적화된 스토리지와 첫 SSH 접속 전에 준비되는 소프트웨어 환경.
속도를 따라가는 스토리지
병렬 파일시스템 — 데이터셋 스트리밍을 위해 1 TB/s+ 총 읽기 속도를 제공하는 VAST / WEKA 티어.
로컬 NVMe 스크래치 — 체크포인트와 샤드 캐시를 위한 노드당 최대 60 TB.
S3 호환 오브젝트 — 리전 내 안정적인 데이터셋 및 아티팩트 스토리지, 티어 간 이그레스 비용 없음.
GPUDirect Storage — CPU 바운스 버퍼를 건너뛰고 NVMe에서 GPU 메모리로 직접 DMA.
즉시 학습 가능한 이미지
CUDA 12.x와 드라이버가 GPU 세대에 맞춰 사전 설치 및 버전 고정.
토폴로지별로 사전 튜닝된 NCCL과 이미 설정된 올바른 환경 변수.
기본 탑재 프레임워크 — PyTorch, JAX, Megatron-LM, DeepSpeed, vLLM.
자체 컨테이너 사용 — 모든 OCI 이미지가 베어메탈에서 실행되며 종속성이 없습니다.
모든 AI 워크로드를 위한 설계
4,096 GPU 사전 학습부터 단일 추론 레플리카까지 — 하나의 플랫폼, 하나의 청구서, 하나의 네트워크.
사전 학습
전용 GPU 클러스터에서 파운데이션 모델을 대규모로 구축하고 학습하세요.
파인튜닝 & RLHF
유연한 온디맨드 GPU 용량으로 기존 모델을 더 빠르게 커스터마이징하세요.
추론
낮은 지연 시간, 자동 확장, 사용량 기반 과금으로 AI 애플리케이션을 서빙하세요.
알아야 할 모든 것
자주 묻는 질문
온디맨드 노드는 표준 사양에서 60초 이내에 부팅됩니다. 1,024개 이상의 GPU를 포함하는 대규모 예약 클러스터는 예약이 확인된 후 일반적으로 영업일 기준 하루 이내에 준비됩니다.
네. 모든 노드는 비차단 NDR/XDR InfiniBand에 연결되며, 토폴로지별로 NCCL이 사전 튜닝되어 all-reduce가 수동 설정 없이 최대 속도에 도달합니다. Slurm과 Kubernetes 오퍼레이터를 사용하거나 raw torchrun을 실행할 수 있습니다.
병렬 파일시스템 계층은 1 TB/s 이상의 집계 읽기를 제공하며, 노드당 최대 60 TB의 로컬 NVMe 스크래치와 GPUDirect Storage를 통해 GPU 메모리로 직접 DMA가 가능합니다. 동일 리전의 오브젝트 스토리지가 데이터셋과 아티팩트를 가까이 유지합니다.
항상 가능합니다. DanaIX는 설계상 주권적입니다 — 데이터, 가중치, 체크포인트는 선택한 리전의 단일 테넌트 베어메탈에 보관되며, 프라이빗 네트워킹과 BYOK를 지원합니다.
스팟은 실행 중일 때만 초 단위로 청구됩니다. 체크포인트를 위한 2분 중단 알림을 받으며, 활성화 시 용량이 확보되면 작업이 자동으로 재개됩니다.