홈 › 서비스 › AI Clusters

AI 클러스터: 솔루션 13개 비교

셀프 호스팅하거나 Mac에서 실행하거나 연결할 수 있는 AI 클러스터 도구는 무엇입니까? FrontierStack 카탈로그에는 AI 클러스터 선택지가 13개 있습니다: Apache Spark, Backend.AI (Lablup, 래블업), Dask, DCGM Exporter, Distributed Llama, JupyterLab 등. 13개는 FrontierStack이 Mac이나 서버에 설치하거나 이미 운영 중인 서비스에 연결하고, 해당되는 경우 상태, 포트, 인증서를 확인합니다.

서비스 설명은 앱 카탈로그를 따라 영어로 표시합니다.
이름유형FrontierStack이 하는 일
Apache Spark셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Backend.AI (Lablup, 래블업)셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Dask셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
DCGM Exporter셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Distributed Llama셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
JupyterLab셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
NVIDIA Base Command Manager셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
NVIDIA DCGM셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Petals셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Ray셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Run:ai셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
Slurm셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인
TORQUE Resource Manager셀프 호스팅 또는 연결설치 또는 연결 후 해당되는 경우 상태, 포트, 인증서 확인

Apache Spark

Distributed big-data processing engine

Apache Spark is a unified engine for large-scale data processing — SQL, structured streaming, MLlib and GraphX — across a cluster. brew install apache-spark; run locally or start a standalone master (start-master.sh, master UI :8080) with workers. The running app's driver UI is on :4040. Pairs with JupyterLab/PySpark and reads from S3/HDFS/Delta.

Apache Spark을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Backend.AI (Lablup, 래블업)

Lablup's GPU / AI-infrastructure orchestration platform · GPU Infrastructure

Backend.AI is an open-source GPU cluster/session manager by Lablup. Users get an access key/secret key pair from their Backend.AI web console (per-user keypairs) for the endpoint their organisation runs. Requests are signed with a date+endpoint-derived HMAC-SHA256 key.

Backend.AI (Lablup, 래블업)을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Dask

Parallel computing for Python (scales pandas/NumPy)

Dask scales Python from a laptop to a cluster — parallel DataFrames, arrays and arbitrary task graphs that mirror the pandas/NumPy APIs. pip install 'dask[distributed]', then dask scheduler (dashboard :8787) and dask worker <addr>. A lighter-weight, Python-native alternative to Spark; pairs with JupyterLab.

Dask을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

DCGM Exporter

Export NVIDIA GPU metrics to Prometheus · GPU Infrastructure

dcgm-exporter scrapes DCGM and exposes GPU metrics (temperature, power, utilization, memory, ECC) in Prometheus format on :9400 — the bridge between DCGM and Prometheus/Grafana dashboards. Runs as a container or systemd unit on each GPU host; the standard GPU exporter for Kubernetes/NVIDIA fleets.

DCGM Exporter을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Distributed Llama

Tensor-parallel Llama across cheap nodes (root + workers)

Distributed Llama splits Llama-family models across multiple low-cost devices over the network (tensor parallelism) to speed up inference and pool RAM — one root node coordinates several workers. Build from the repo (make dllama), start workers with dllama worker --port 9998, then run the root with --workers <ip:port …>. Works on CPUs/Raspberry-Pi clusters and Macs; pairs well with a small fleet of identical nodes.

Distributed Llama을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

JupyterLab

Interactive notebooks for data & AI (Python)

JupyterLab is the web-based notebook IDE for data science and ML — notebooks, consoles, terminals and a file browser in one. pip install jupyterlab, then jupyter lab serves on :8888 (token-authed). The front-end of choice for Spark (PySpark), Dask and Ray work.

JupyterLab을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

NVIDIA Base Command Manager

GPU/HPC cluster provisioning & management (ex-Bright)

NVIDIA Base Command Manager (BCM, formerly Bright Cluster Manager) provisions and manages AI/HPC clusters — node imaging, monitoring, health checks, and integrated Slurm/Kubernetes plus DCGM GPU metrics. Head node runs CMDaemon; manage via Base View (web), the cmsh CLI, and a REST API. Add the head node as a web/API admin target; pull DCGM/GPU and node health.

NVIDIA Base Command Manager을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

NVIDIA DCGM

NVIDIA Data Center GPU Manager — telemetry & health · GPU Infrastructure

DCGM is NVIDIA's toolset for managing and monitoring data-center GPUs — utilization, temperature, power, memory, ECC errors and health checks. Run dcgmi for live readings, or the DCGM Exporter to feed Prometheus + Grafana. The standard for GPU fleet observability (Linux/CUDA hosts).

NVIDIA DCGM을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Petals

BitTorrent-style distributed inference of big models

Petals runs large language models (e.g. Llama-class) collaboratively — you load a small slice of the model and connect over the public/private swarm to other peers serving the rest, BitTorrent-style, for inference and fine-tuning of models too big for local RAM. pip install petals; run a server with python -m petals.cli.run_server <model> to contribute, or use the client to generate. Linux/CUDA-oriented; private swarms supported.

Petals을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Ray

Distributed compute for AI (training/serving/tuning)

Ray scales Python/AI workloads across a cluster — Ray Train, Tune, Serve and RLlib, with autoscaling and GPU scheduling. pip install 'ray[default]', then ray start --head (dashboard on :8265, GCS on :6379) and join workers with ray start --address=…. Monitor via the dashboard or ray status / the Jobs & State REST API (:8265). Pairs with vLLM (Ray Serve) and KubeRay on Kubernetes.

Ray을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Run:ai

GPU orchestration & fractional GPUs on Kubernetes (NVIDIA)

Run:ai (now part of NVIDIA) is a Kubernetes-based GPU orchestration platform — GPU pooling, fractional GPUs, quotas/fair-share and workload scheduling for training and inference. Cluster runs on Kubernetes; manage in the Run:ai control-plane UI and the runai CLI (runai list jobs, runai cluster), with a REST API. Add the control plane as a web/API admin target and watch GPU allocation & queues.

Run:ai을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

Slurm

HPC workload manager / job scheduler

Slurm is the dominant HPC/GPU job scheduler — partitions, queues, fair-share and GPU (GRES) allocation across a cluster. Linux: controller slurmctld (:6817) + slurmd on nodes. Monitor with sinfo (node/partition state), squeue (jobs), scontrol show nodes, sacct (accounting). Run it on your Linux cluster and watch node/GPU state over SSH (GPU Fabric Manager / AI Harness).

Slurm을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다.

TORQUE Resource Manager

PBS-style batch scheduler for HPC clusters

TORQUE (Terascale Open-source Resource and QUEue Manager) is a PBS-derived batch system: jobs are submitted with qsub scripts, queued and dispatched to compute nodes. The head node runs pbs_server (:15001) with trqauthd (:15005) and a scheduler — the basic pbs_sched (:15004) or Maui/Moab; every compute node runs pbs_mom (:15002–15003). Configure it with qmgr; check health with qstat -B (server), qstat -Q (queues), qstat -a (jobs) and pbsnodes -a (node state and GPUs). Open-source development stopped at 6.1 when Adaptive Computing made it commercial; Linux builds come from source or the AUR on Arch Linux. Watch node and GPU state over SSH in GPU Fabric or the AI Harness.

TORQUE Resource Manager을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 백업으로 이동할 수 있습니다. 전체 페이지 →

모든 서비스 장르 →

Mac에서 모두 운영하십시오.

FrontierStack은 이 Mac과 연결된 서버에서 서비스를 설치, 모니터링, 보호하며 — 암호와 키는 어떤 AI에게도 보이지 않게 지킵니다.

FrontierStack 다운로드

Apple 공증 완료 · 안전 & 보안 · macOS 13 Ventura 이상