제15장
AI 스택
AI의 또 다른 측면입니다. 서버를 운영하는 어시스턴트가 아니라, 서버가 실행하는 AI 인프라 — 에이전트 런타임, 로컬 모델, 샌드박스, GPU, 그리고 이 모든 것에 드는 비용을 하나의 윈도우에서 지켜봅니다.
앞의 두 장은 AI가 FrontierStack을 조작하는 방법을 다루었습니다. 내장 관리자(13장)와, 직접 사용하는 도구에서 MCP를 통해 앱을 구동하는 방법(14장)입니다. 이 장은 그 반대입니다. FrontierStack이 운영하고 모니터링하도록 도와주는 AI 인프라, 즉 에이전트 플랫폼, 로컬 모델 서버, 코드 샌드박스, 브라우저 자동화, GPU 패브릭, ML 도구, 거버넌스, 그리고 이 모든 것의 비용을 다룹니다. 이들은 다른 서비스와 마찬가지로 카탈로그에 있는 서비스이며 사이드바의 AI 카테고리 아래에 묶여 있지만, 따로 한 장을 할애할 만합니다. 이제 AI를 운영한다는 것은 호출만 하면 되는 상자가 아니라 직접 운영하는 스택이기 때문입니다.
15.1에이전트 운영
사이드바에서 에이전트 운영을 열면 에이전트 작업을 서버 중심으로 볼 수 있습니다. 모든 플릿 호스트가 연결 가능 여부, 환경, CPU와 메모리, 감지된 에이전트 워커와 함께 표시되며, 호스트 세부 정보와 상황별 셸을 여는 버튼이 있습니다. 셸은 이 Mac에서는 로컬로 열리고, 원격 머신에서는 해당 호스트에 구성된 SSH, mosh 또는 SSH3 신뢰 설정을 따릅니다. 런타임 상태, 로컬 코딩 에이전트 프로세스, FrontierStack 세션, 에이전트 컨테이너도 같은 보드에 함께 표시됩니다. AI 도구 get_agent_platforms가 런타임 상태를 관리자에게 제공하므로 “어떤 에이전트 런타임이 다운되어 있어?”처럼 평이한 말로 물어볼 수 있습니다.
런타임은 두 종류로 나뉩니다. 일부는 CLI 런타임으로, 명령줄 도구가 설치되어 있고 --version에 응답하는지로 감지합니다. Amp, DeepSeek Harness Alpha, Claude Code, Gemini CLI, OpenAI Codex, Factory의 droid가 여기에 속합니다. 나머지는 상태 엔드포인트를 제공하는 HTTP 런타임으로, 폴링하여 실시간 지표를 가져옵니다. 몇몇 클라우드 에이전트 제품(OpenHands, Manus, Devin, OpenAI Operator, E2B)은 아래쪽에 폴링 대상이 아니라 연결해서 사용하는 카탈로그 항목으로 표시됩니다.
| 플랫폼 | 설명 |
|---|---|
| OpenClaw | 자체 호스팅 에이전트 런타임. 실행 상태와 모델을 모니터링합니다. |
| Hermes | HTTP로 폴링하여 상태, 모델, 세션을 가져오는 에이전트 런타임. |
| DeerFlow | 심층 리서치 / 다단계 에이전트 런타임. |
| Paperclip | 에이전트 팀을 하나의 회사처럼 운영합니다(조직도, 예산, 목표, 승인). 포트 3100. 패널에는 회사 수와 에이전트 수가 표시되며, 인증 모드에서는 보드 API 키를 추가하십시오. Paperclip 에이전트로 일하기(베타): 하트비트 명령을 설치하고 FrontierStack을 시스템 엔지니어 겸 네트워크 관리자로 회사에 고용합니다. 변경 사항은 여전히 FrontierStack에서 승인해야 합니다. |
| Nod | 자체 컴퓨터와 브라우저를 갖춘 n8n Labs의 개인 에이전트. 서버 포트 4310. 패널에서 이 Mac(Docker Desktop) 또는 SSH로 연결된 서버(SSH 터널, 또는 Nod 자체 Caddy의 HTTPS 도메인)에 서버를 설치하고, 액세스 토큰만 키체인에 복사하며, 열린 작업, 사용자를 기다리는 작업, Nod 한도 대비 이번 달 지출을 표시. 서버가 멈추거나 한도에 도달하면 알림. 액세스 토큰 교체는 Nod의 절차를 따르며 Vault 키는 바꾸지 않음. 호스트는 NOD_PUBLIC_URL과 같은 것(http://localhost:4310)을 사용. |
| LangSmith Deployment | LangChain의 Agent Server(이전 이름 LangGraph Platform). :2024의 langgraph dev 또는 LangSmith 배포 — 어시스턴트, 스레드, 실행. LangSmith 서비스는 같은 키로 추적 프로젝트의 실행 수, 오류율, 지연 시간, 비용을 읽고 오류율로 알립니다. LangChain(오픈 소스)은 langgraph CLI를 감지합니다. |
| CrewAI AMP | CrewAI의 호스팅 플랫폼(이전 이름 CrewAI Enterprise)에 배포한 크루를 그 URL(https://<crew>.crewai.com)과 Status 탭의 Bearer 토큰으로 감시합니다. 직접 실행하는 크루는 CrewAI(오픈 소스) 서비스를 사용합니다. |
| Mastra | TypeScript 에이전트와 워크플로. :4111의 mastra dev / mastra start 서버에서 에이전트, 워크플로, 실행 중이거나 일시 중단된 워크플로 실행을 보여 줍니다. |
| Vercel eve | Vercel의 오픈 소스 TypeScript 에이전트 프레임워크. /eve/v1/info(모델, 도구, 스킬, 서브에이전트, 일정) 또는 공개 /eve/v1/health를 읽습니다. eve dev는 :2000, eve start는 :3000. |
| Microsoft AutoGen | 멀티 에이전트 대화 프레임워크. |
| Genspark | 자율 에이전트 플랫폼. |
| Agent Zero | 범용 자율 에이전트. |
| NVIDIA NemoClaw | NVIDIA 에이전트 런타임. |
| OpenAI Codex / Claude Code / Gemini CLI / Factory Droid | 코딩 에이전트 CLI. 설치 여부와 버전으로 감지하며, 온디맨드로 표시됩니다. |
| Amp | 코딩 에이전트 CLI 겸 헤드리스 러너. FrontierStack이 로컬 또는 SSH로 버전을 감지하고, Amp 프로세스가 실행 중인 호스트를 표시합니다. |
| DeepSeek Harness (Alpha) | DeepSeek의 플러그인 기반 개발자 프리뷰 에이전트 하네스. FrontierStack이 dsh CLI와 실행 중인 작업을 로컬 또는 SSH로 감지합니다. 선택 사항인 FrontierStack 플러그인은 MCP 패널에서 명시적으로 설치합니다. |
| Docker Agent | YAML로 정의한 에이전트와 멀티 에이전트 팀을 MCP 도구와 함께 실행하는 Docker의 오픈 소스 런타임(이전 이름 cagent). FrontierStack이 세션 저장소에서 세션 수, 토큰, 비용, 마지막 모델을 읽고, 실행 중인 에이전트와 서버를 나열하며, 에이전트 실행·제공(A2A, MCP, 채팅 API)과 Docker Hub, ghcr.io 또는 임의의 레지스트리에 대한 OCI 아티팩트 pull/push, 가져온 에이전트의 업데이트 확인을 지원합니다. docker agent 플러그인이 없는 Docker에서는 체크섬을 확인한 플러그인만 이 Mac 또는 연결된 서버에 설치합니다. |
| Unreal Agent | Unreal Labs의 오픈 소스 비동기 우선 에이전트 하네스. 모델이 작업을 계속하는 동안 도구 호출이 백그라운드에서 실행됩니다. OpenAI, Codex, OpenRouter, Fireworks, Ollama와 함께 사용할 수 있습니다. go install(Go 1.27 이상)로 설치하십시오. FrontierStack이 unreal-agent-runner를 로컬 또는 SSH로 감지하고, 실행 중인 호스트를 표시합니다. |
| Gemini API CLI | Google의 실험적인 gemini-api. 다른 에이전트가 셸에서 실행해 Gemini 모델, 미디어 생성, 파일 분석, 관리형 에이전트를 쓰게 하는 도구입니다. 로컬 또는 SSH로 감지하며 설치, 업데이트, 키 설정 명령을 제공합니다. GEMINI_API_KEY나 직접 저장한 키를 읽습니다. |
| Qwen Code / Cline / Pi / Oh My Pi / Poolside / OpenCode | 기타 터미널 코딩 에이전트(qwen, cline, pi, omp, pool, opencode). 로컬 또는 SSH로 설치와 버전을 감지하며, 각 패널에 설치, 업데이트, 로그인 명령이 있습니다. MCP 패널에서는 Factory Droid, OpenCode, Qwen Code, Cline, Oh My Pi, Poolside에 FrontierStack의 자격 증명 없는 브리지를 한 번의 클릭으로 추가할 수 있습니다. Pi는 설계상 MCP 클라이언트가 없습니다. Hermes Desktop은 Hermes 패널에 표시되며(열기 또는 hermes desktop으로 빌드) Hermes 설정을 공유하므로 Hermes MCP 설정이 담당합니다. |
| Antigravity CLI(agy) | 개인 Google 계정용 Gemini CLI의 후속입니다(2026년 6월 18일부터. Gemini CLI는 이제 유료 API 키, Vertex AI 또는 Gemini Code Assist가 필요합니다). 로컬 또는 SSH로 감지하며, 패널에서 Google 스크립트로 설치·업데이트하고 agy doctor와 agy plugin import gemini를 실행합니다. MCP 패널은 CLI, Antigravity 앱, IDE가 공유하는 ~/.gemini/config/mcp_config.json에 FrontierStack을 추가합니다. |
| Devin CLI / GitHub Copilot CLI / Kiro CLI | Cognition(devin), GitHub(copilot), AWS(kiro-cli)의 터미널 코딩 에이전트로, 로컬 또는 SSH로 설치 여부와 버전을 감지하고 설치·업데이트·로그인 명령을 제공합니다. MCP 패널은 도구를 자동 승인하지 않고 FrontierStack의 자격 증명 없는 브리지를 ~/.config/devin/mcp_config.json, ~/.copilot/mcp-config.json, ~/.kiro/settings/mcp.json에 추가합니다. MCP 서버 위치를 mcp.servers로 옮긴 OpenCode 2에서는 설치된 버전이 읽는 형식으로 씁니다. OpenCode 패널은 실행 중인 터미널 UI, 서버(상태, 작업 중 세션), 실행과 읽기 전용 세션 저장소에서 가져온 최근 세션(모델, 토큰, 비용)을 표시하며, 확인 후 프로세스를 중지합니다. |
구성된 런타임은 시스템 전반에 연동되므로, 런타임이 다운되거나 토큰 할당량(속도 제한, 429, 결제)에 도달하면 알림이 발생하고 로컬 상태 보드의 서비스 그룹에 빨간색으로 표시됩니다. 각 런타임의 엔드포인트와 자격 증명은 한 번만 구성하면 되며, 그 후로는 다른 서비스와 똑같이 감시됩니다.

15.2활동, 작업, 런타임 및 라우팅
네 가지 보조 뷰가 에이전트 플릿을 운영 작업별로 나누어 보여 주며, 모두 같은 실시간 상태를 읽습니다.
- 활동 — 종 모양 아이콘의 운영자 받은편지함입니다. 확인 필요에는 런타임 실패, 연결이 끊긴 워커, 실패한 세션/작업이 모이고, 실행 중에는 현재 작업이, 최근 완료에는 짧은 실행 기록이 표시됩니다. 도구 막대의 종 아이콘으로 어디서든 열 수 있습니다.
- 작업 — 런타임 대기열, 목표 기반 관리자 세션, 격리된 Codex/Claude 샌드박스 작업의 세 탭으로 구성됩니다. OpenClaw cron 작업, 일시 정지 상태, 토큰, 일회성 작업 상태는 대기열에서 계속 확인할 수 있습니다.
- 런타임 — 구성된 모든 로컬/HTTP 엔진, 감지된 T3 Code 워커, 클라우드 에이전트 제품을 연결 가능 여부 또는 자격 증명 상태와 함께 표시합니다.
- 라우팅 및 통합 — 모델 라우팅/제공업체 키와 저장소 접근을 두 탭에서 관리합니다. GitHub, GitLab, Bitbucket, Cursor Origin 자격 증명은 키체인에 보관되며 API로 실시간 확인됩니다.
에이전트 런타임과 커넥터는 한 번 저장한 자격 증명으로 인증합니다. FrontierStack의 다른 모든 곳과 마찬가지로 이 토큰은 macOS 키체인에 보관되며, 앱 설정 파일에 저장되거나 클라우드 모델로 전송되는 일은 없습니다.
15.8.1Cursor Origin (Early Beta)
버전 관리 ▸ Cursor Origin은 Cursor의 Git 포지를 위한 실시간 대시보드입니다. cursor.com/codebase에 표시되는 코드베이스 이름을 입력하십시오. FrontierStack은 최대 30개의 저장소와, 처음 12개 저장소의 열린 풀 리퀘스트를 나열합니다. 저장소 행을 클릭하면 Origin에서 열립니다. 개인 로그인에는 Cursor 자체의 origin auth login을 권장합니다. FrontierStack은 origin api를 호출할 뿐 사용자 자격 증명을 받지 않습니다. 자동화에는 같은 패널과 저장소 커넥터에서 키체인에 저장된 서비스 계정 API 자격 증명이나 수명이 짧은 Origin 설치 토큰을 사용할 수 있습니다.
oit_로 시작하며 15분 이내에 만료됩니다. Origin App 설치는 GitHub에서 Origin으로 미러링된 저장소에 접근할 수 없으므로, 그런 저장소에는 FrontierStack의 GitHub 커넥터를 사용하십시오. Cursor API 또는 CLI가 업데이트된 후에는 커넥터를 점검하십시오.repository:contents:read를 사용하고, 그때가 되면 선택한 저장소에 대해서만 repository:contents:write를 추가하십시오.15.3작업 세션, T3 워커 및 내장 터미널
작업 ▸ 세션은 사용자가 직접 만드는 목표 기반 운영 및 SaaS 루프(일회성 또는 반복)를 관리합니다. 세션에는 평이한 말로 쓴 목표, 제목, 단계 예산, 그리고 변경을 허용할지 여부를 정하는 스위치가 있습니다. 각 세션은 관리자(13장)와 같은 보호된 도구를 구동하며, 모든 단계를 언제든 중지할 수 있는 기록으로 스트리밍합니다. 세션 루프에서는 스크립트가 절대 허용되지 않습니다.
FrontierStack은 127.0.0.1:3773/.well-known/t3/environment가 유효한 환경 응답을 반환할 때만 T3 Code 워커로 식별합니다. 일반 Node 프로세스나 열린 포트만으로는 해당하지 않습니다. 탐색은 읽기 전용이며 루프백으로만 이루어집니다. T3 서버를 외부에 노출하거나, FrontierStack을 페어링하거나, T3 스레드와 승인에 대한 접근 권한을 부여하지 않습니다. macOS 및 iOS 플릿 목록에서 해당 서버에 T3 표시가 나타납니다. 원격 워커의 경우 FrontierStack은 존재 여부만 보고합니다.
15.8.2이 Mac의 T3 Code
에이전트 플랫폼의 T3 Code 패널은 ~/.t3/userdata/server-runtime.json을 따라 로컬 서버를 찾아가며(해당 포트가 사용 중이면 서버는 :3773보다 높은 포트로 이동합니다), 서버의 공개 환경 디스크립터인 버전, 가동 시간, 프로세스 ID를 읽습니다.
- T3 Code 패널을 여십시오. T3 Code가 설치되어 있지 않으면 설치 / 실행에서
brew install --cask t3-code,npx t3@latest, 헤드리스t3 serve, 백그라운드 LaunchAgent용t3 service install을 제공합니다. - 읽기 전용으로 연결을 클릭하십시오. FrontierStack이
t3 auth pairing create를 실행하여 5분 후 만료되는 일회용 자격 증명을 받고, 이를orchestration:read로 제한된 토큰으로 교환합니다. 데스크톱 앱만 설치되어 있다면 페어링 링크로 연결을 열고 대신 T3 Code 설정의 페어링 링크를 붙여넣으십시오. - 이제 패널에 사용자를 기다리는 스레드(승인 또는 질문), 작업 중인 스레드, 실패한 스레드가 프로젝트, 제공업체, 모델, 브랜치와 함께 나열됩니다. 또한 오늘의 토큰 사용량과 모델별 예상 비용, T3 Code 및 T3 Code가 실행하는 모든 에이전트의 CPU와 메모리도 표시됩니다.
사용자를 기다리는 스레드는 활동 ▸ 확인 필요, 페어링된 iPhone, 서버 활동 윈도우의 AI 에이전트 보드에도 표시되며, 이 보드에서 T3 Code는 서버처럼 CPU와 메모리가 표시되는 타일을 갖습니다. 승인에 대한 응답은 T3 Code 자체에서 합니다.
15.8.3Rex
Rex는 Superlogical의 터미널 멀티플렉서로, libghostty를 기반으로 하며 현재 베타 버전입니다. rex 바이너리 하나가 서버와 CLI를 겸합니다. Mac 앱에는 자체 로컬 서버가 있고 Linux와 FreeBSD 컴퓨터에서도 서버를 실행할 수 있으므로, 아무것도 연결되어 있지 않아도 세션은 계속 실행됩니다. 패널은 설치 프로그램을 셸로 파이프하지 않고 링크를 제공합니다. Mac 앱은 superlogical.com/rex에서 받고, Linux는 Rex의 안내에서 설치 프로그램을 검토한 후 실행하십시오. Debian과 Ubuntu에는 rex라는 이름의 관련 없는 Perl 도구가 있습니다. FrontierStack은 둘을 구분하며 다른 도구를 찾으면 그렇게 알려 줍니다.
에이전트 플랫폼의 Rex 패널은 rex 명령으로 이 Mac 또는 SSH 필드에 지정한 연결된 서버의 서버를 읽습니다. 서버의 버전과 가동 시간, 세션, 사용자를 기다리거나(승인, 응답, 로그인) 작업 중이거나 실패했다고 보고하는 프로그램, 그 아래에서 실행되는 코딩 에이전트의 CPU와 메모리를 표시합니다. 이 프로그램들은 활동 ▸ 확인 필요와 실행 중, 사이드바의 주의 배지, 페어링된 iPhone에도 표시됩니다. 서버 활동 윈도우의 AI 에이전트 보드에는 이 Mac의 Rex와 Rex를 실행하는 각 서버의 타일이 있으며, 서버의 개요에는 Rex 카드가 추가됩니다. 이런 서버에는 Mac과 iPhone에 Rex 서버 배지가 붙고, 런타임 목록에서는 Rex 서버 아래에 표시됩니다. 서버가 중지된 것은 정상이며 알림이 아닙니다. 개인 서버는 마지막 세션이 끝나면 종료됩니다.
REX_AUTOSTART=0을 설정하므로 서버가 시작되는 일은 없습니다. FrontierStack이 읽는 것은 세션 레이블, 블록 레이블, 프로그램이 Rex의 상태 프로토콜(OSC 7501)로 스스로 보고하는 상태뿐이므로, 이 프로토콜을 사용하지 않는 프로그램은 표시되지 않습니다. 화면 내용은 읽지 않으며 터미널에 입력하거나 프롬프트에 응답할 수 없습니다. 응답은 Rex에서 하십시오.패널에서 세션을 생성하고(rex new), 확인 후 ID로 세션을 종료할 수 있습니다(rex kill). rex attach 명령은 없고 Rex 자체 앱만 연결할 수 있으므로, 원격 서버의 세션은 Rex 앱의 Add Remote Host…로 여십시오. 에이전트용 Rex 설정은 클릭했을 때만 보이는 콘솔에서 rex skill setup을 실행하며, 패널에는 rex skill status 결과가 표시됩니다. 이 명령은 이 Mac의 Claude Code, Codex, OpenCode, Pi에 Rex의 스킬과 후크를 추가하고 해당 에이전트의 설정 파일을 변경하므로, 콘솔에서 계획을 확인하십시오. FrontierStack 자체 도구에 대해서는 MCP 장의 Rex 항목을 참조하십시오.
15.8.4Ghostty
Ghostty 서비스 패널(Fleet & Remote)에서 Ghostty를 터미널에서 열기에 사용할 터미널로 지정할 수 있습니다. Ghostty 1.3 이상에서는 명령이 AppleScript API를 통해 열리며 macOS는 Ghostty 제어 권한을 한 번 묻습니다. 이전 버전이나 macos-applescript = false인 경우 스크립트 파일을 열며, Ghostty가 매번 확인을 요청합니다. 앱 내 콘솔에서 Ghostty 테마 사용(터미널 스타일에서는 Ghostty의 현재 테마 사용)은 Ghostty 구성과 거기에 지정된 테마를 읽고, 이 Mac에 맞춰 라이트 또는 다크 버전을 사용합니다. 구성은 읽기만 합니다.
xterm-ghostty를 모르는 서버에서는 SSH를 통한 tmux, vim, clear에서 “missing or unsuitable terminal”이 표시됩니다. 서버로 SSH의 설치는 tic -x로 Ghostty의 설명을 해당 로그인(~/.terminfo, root이면 시스템 전체)에 복사하며 그 외에는 변경하지 않습니다. Ghostty 구성에 shell-integration-features = ssh-env,ssh-terminfo를 추가하면 연결할 때 Ghostty가 처리하게 할 수도 있습니다.
15.8.5셸과 지속 터미널 세션
에이전트 운영의 모든 워커 행에는 셸 버튼이 있습니다. FrontierStack은 로컬에서는 로그인 zsh를, 원격에서는 서버에 구성된 SSH/mosh/SSH3 명령을 앱의 다른 곳에서도 쓰이는 동일한 SwiftTerm PTY 안에서 엽니다. 터미널 스타일에서는 iTerm2(.itermcolors), Ghostty, Alacritty, Warp 테마를 가져올 수 있습니다.
옆에 있는 터미널 세션 버튼은 해당 호스트에서 지속되는 tmux, GNU screen, Zellij, Rex 세션을 찾아내고, 해당 호스트에 있는 도구와 버전, 각 tmux 세션의 클라이언트 수, 마지막 활동, 폴더를 표시합니다. 범위가 제한된 읽기 전용 목록 조회만 사용하며, 터미널 화면, 스크롤백, 명령 기록, 프로세스 환경, 명령을 읽는 일은 없습니다. FrontierStack의 실제 PTY에서 세션에 연결하거나(Rex 세션은 Rex 자체 앱에서 엽니다), 확인 후 이름이 지정된 세션 하나를 종료할 수 있습니다. 세션 이름과 관리자는 엄격하게 검증되고, tmux 명령은 정확한 이름을 지정하므로 api를 종료할 때 api-staging이 영향을 받지 않으며, 종료는 호스트가 세션이 사라졌음을 확인한 후에만 성공으로 보고됩니다.
같은 시트에서 세션을 시작할 수 있습니다(폴더를 선택적으로 지정하는 tmux, screen, Zellij, Rex). tmux 세션에는 연결하고 다른 클라이언트 분리, 모든 클라이언트 분리, 이름 변경…도 있습니다. tmux가 없으면 tmux 설치가 호스트의 패키지 관리자를 콘솔에서 실행하며, sudo 입력은 거기서 하십시오. tmux 서비스 패널(Fleet & Remote)에는 이 Mac과 모든 연결된 서버가 나열되며 각각 이 시트를 열 수 있습니다.
iPhone과 iPad에서는 더 보기 ▸ 에이전트 활동에서 페어링된 Mac의 상태 전용 뷰를 제공하며, 실행 중인 에이전트 프로세스, FrontierStack 세션 및 작업, 구성된 런타임, 감지된 워커 머신을 보여 줍니다. 프롬프트, 명령줄, 기록, 환경 변수, 터미널 내용, 자격 증명은 의도적으로 제외됩니다. 서버 ▸ 호스트 ▸ 터미널 세션에는 같은 지속 세션이 나열됩니다. 목록 조회와 종료는 페어링된 Mac을 통해 이루어지며, 전체 화면 연결은 Direct SSH가 이 iPhone의 키를 설치하고 서버 신원을 확인한 경우에만 제공됩니다.
15.4로컬 모델 실행
클라우드 모델에 아무것도 보내지 않아도 됩니다. FrontierStack은 로컬 추론 서버를 관리하며, 관리자가 그중 하나를 사용하도록 지정할 수 있습니다. 대표적인 세 가지 로컬 앱은 정식으로 지원됩니다.
- Ollama — 가장 간단한 로컬 모델 러너입니다. 모델을 받아 제공하고, 그중 하나를 관리자의 엔진으로 선택할 수 있습니다.
- LM Studio — LM Studio 패널은 설치를 감지하고,
lmsCLI를 통해 로드된 모델과 다운로드된 모델을 나열하며, 헤더에 “N개 모델 로드됨” 또는 “로드된 모델 없음”을 표시합니다. - LocalAI — 포트 8080에서 카탈로그 서비스로 실행하는 자체 호스팅 OpenAI 호환 서버입니다.
- MLX 패널: MLX-LM, oMLX 및 Splash — 하나의 패널에서 Apple 실리콘으로 모델을 제공하는 세 가지 방법입니다. oMLX(jundot/omlx)는 연속 배치 처리와 RAM+SSD KV 캐시를 갖춘 본격적인 추론 서버로, 메뉴 막대 앱이나 자체 CLI(
omlx start)로 실행합니다. GitHub 릴리스에서 앱을 설치하거나brew tap jundot/omlx https://github.com/jundot/omlx후brew install jundot/omlx/omlx로 설치하십시오. 패널은 포트 8000에서 서버가 실행 중인지, 어떤 모델을 제공하는지 표시하고 대시보드와 채팅을 엽니다. Splash(Inco AI)는brew install incoai/tap/splash로 설치하고 패널에서 포트 8100으로 시작하므로 포트 8000의 oMLX와 충돌하지 않습니다. OpenAI API와 Anthropic API를 모두 제공하며, M3 이상, macOS 26.4, 36 GB 메모리가 필요합니다.
이 밖에도 AI / LLM 카테고리에는 자체 호스팅 추론 도구가 모두 갖춰져 있습니다. vLLM, llama.cpp, Apple의 MLX-LM 서버, Jan, LiteLLM(100개 이상의 제공업체 앞단에 서는 프록시), Open WebUI, AnythingLLM, PrivateGPT, 그리고 RAG/벡터 도구입니다. 로컬에서 실행하는 목적은 개인정보 보호와 비용입니다. 관리자의 엔진이 로컬 모델(Ollama, 루프백 엔드포인트, Apple의 온디바이스 모델)이면 Mac 밖으로 나가는 것이 없으므로 아무것도 가려지지 않습니다. 클라우드 엔진을 보호하는 비밀 값 제거 처리가 아예 필요하지 않기 때문입니다.
15.5코드 샌드박스 및 브라우저 자동화
에이전트에게는 코드를 안전하게 실행할 장소와 실시간 웹을 읽을 수단이 필요합니다. FrontierStack은 두 가지를 모두 관리합니다.
코드의 경우 E2B 패널이 e2b CLI를 통해 안전한 클라우드 샌드박스를 관리합니다. API 키를 입력하거나(키체인에 E2B_API_KEY로 저장됨) e2b auth login으로 한 번 인증한 다음, 실행 중인 샌드박스를 나열하고, 템플릿에서 생성하고, 강제 종료할 수 있습니다. 정리용 모두 강제 종료와 “일시 정지 포함” 토글도 있습니다. 녹색 점은 실행 중인 샌드박스, 주황색 점은 일시 정지된 샌드박스를 나타냅니다. 이는 에이전트가 사용하는 일회용 격리 머신으로, 에이전트의 코드가 사용자의 서버에 닿지 않게 합니다.
웹의 경우 AI 카테고리에 브라우저 및 크롤링 도구가 포함되어 있습니다. Browserbase(관리형 헤드리스 브라우저), 사이트를 모델이 바로 쓸 수 있는 깔끔한 텍스트로 바꾸는 Crawl4AI, Firecrawl, Apify, 그리고 스크립트 자동화를 위한 Playwright입니다. 이 도구들 덕분에 에이전트는 API가 없는 페이지도 볼 수 있습니다.
15.6GPU 인프라 및 클러스터
AI를 실제 GPU에서 실행한다면 GPU Fabric 패널에서 하드웨어 상태를 읽기 전용으로 확인할 수 있습니다. 연결된 서버를 선택하고 SSH로 진단을 실행하십시오. GPU 인벤토리와 온도(nvidia-smi), NVLink 상태, GPU 토폴로지 매트릭스, NVSwitch Fabric Manager 상태, DCGM 인벤토리(dcgmi), InfiniBand 및 RoCE/RDMA 링크, Slurm GPU 할당, 컴포저블 패브릭 CLI(WEKA, Liqid, GigaIO)를 확인할 수 있습니다. GPU는 Linux 호스트에 있으므로 플릿의 서버를 대상으로 하며, GPU가 없는 머신에서는 도구가 단순히 “찾을 수 없음”을 보고합니다. 검사를 하나씩 실행하거나 모든 검사 실행으로 한꺼번에 실행하십시오.
에이전트가 설치되어 있으면 호스트의 GPU 온도와 부하도 표준 호스트 모니터(8장)를 통해 표시되므로, 과열된 GPU 머신은 다른 머신과 마찬가지로 알림을 발생시킵니다. 스케일아웃을 위해 AI 클러스터 카테고리에는 Exo(여러 대의 Mac에서 하나의 모델 실행), Petals, Distributed Llama, Ray, Slurm, Run:ai가 있고, ML 워크벤치 카테고리에는 학습 쪽을 위한 실험 추적 및 파이프라인 도구(MLflow, ClearML, Weights & Biases, Kubeflow, JupyterLab)가 있습니다.
15.7AI 거버넌스 및 안전
프로덕션에서 에이전트를 운영한다는 것은 에이전트가 하는 일을 감시하고 할 수 있는 일을 제한한다는 뜻입니다. FrontierStack은 AI 거버넌스 및 안전 도구군을 카탈로그에 수록하여 이 도구들을 감시 대상 런타임 바로 옆에 둡니다. LLM 관측성과 추적을 위한 Langfuse, Helicone, Arize Phoenix, 평가와 레드팀 테스트를 위한 Promptfoo, Ragas, garak, 입출력 검증과 프롬프트 인젝션 방어를 위한 Guardrails AI, NeMo Guardrails, Lakera Guard, 그리고 Credo AI와 Holistic AI 같은 거버넌스 플랫폼이 있습니다. 이들을 카탈로그 서비스로 설치하고 모니터링하십시오. 위 보드에 있는 에이전트의 감사 기록이자 안전벨트 역할을 합니다.
15.8AI 비용 모니터
어시스턴트, 직접 만든 에이전트, 여러 로컬 모델, 외부 하네스를 운영하면 여러 곳에서 비용이 발생합니다. AI 모델 비용은 이를 하나의 뷰로 모읍니다. 헤더에는 이번 달 합계와 예산 대비 비율이 표시되며, 색상으로 구분된 막대가 80%에서 주황색, 100%에서 빨간색으로 바뀝니다. AI 도구 get_ai_costs가 같은 수치를 관리자에게 제공합니다.
대시보드는 네 가지 흐름을 함께 추적합니다.
- 종량제 API 지출 — 제공업체 및 모델별로, 편집 가능한 가격표(100만 토큰당 USD)로 계산하거나 청구서에서 직접 입력합니다. 계정 연결은 OpenAI, Anthropic, OpenRouter, DeepSeek, Fish Audio(지갑의 충전 합계에서 남은 크레딧을 빼서 계산), 자체 호스팅 LiteLLM 프록시에서 이번 달 누적 지출을 자동으로 가져옵니다. 제공업체당 여러 계정을 연결할 수 있으며, 각 계정은 별도의 비용 행이 됩니다. Apify도 함께 연결할 수 있습니다. 플랫폼 사용 금액을 하루 단위로 읽어 달력 기준 한 달로 합산하며, 계정에 별도 토큰을 넣지 않으면 Apify 패널의 토큰을 사용합니다.
- 모든 정기 결제 — AI만이 아닙니다. 프리셋은 주요 AI 플랜, 클라우드 및 호스팅(Cloudflare, Vercel, DigitalOcean, Hetzner, Backblaze…), SaaS 도구(Apple One, Google Workspace, 1Password, Figma, Adobe…), 그리고 도메인 갱신, Apple Developer, TLS 인증서 같은 연간 비용을 다룹니다. 또한 어떤 이름이든 직접 입력할 수 있으므로, API가 없는 서비스도 앱이 조회할 수 있는 서비스와 똑같이 추적됩니다. 각 항목은 주간, 월간 또는 연간으로 청구되며, 행에는 실제 지불액이 표시되고 합계는 월간 금액으로 환산됩니다. 항목은 카테고리별로 묶여 각각 소계가 표시되고, 헤더에는 월간 합계와 연간 합계가 모두 표시됩니다. 행을 끄면 삭제하지 않고 합계에서만 제외되므로, 무엇을 해지할지 따져 볼 때 유용합니다. FrontierStack 라이선스는 등급에 맞는 가격으로 자동 추가됩니다.
- 로컬 CLI 사용량 — 이 Mac의 Claude Code 및 Codex 로그를 클릭 한 번으로 스캔하여 이번 달 모델별 토큰을 추정치로 합산합니다.
- 의사 결정 모델 — TypeSafe의 Jev, Cloudflare의 Clef / Clef-flash, OpenAI Decisions(
gpt-6-luna, OpenAI 키 사용)는 정형화된 질문에 텍스트가 아니라 확률로 답하며, 입력 토큰에 대해서만 과금합니다. 이들의 키는 AI 모델 › 의사 결정 모델에 보관됩니다(채팅 모델 선택 목록에는 절대 나타나지 않습니다). FrontierStack이 하는 모든 호출은 응답에 포함된 토큰 수를 바탕으로 이곳에 자동으로 기록되며(모델별·월별 한 행), AI 모델 행에는 이번 달의 토큰과 비용이 표시됩니다. KeyRotate가 두 키를 모두 동기화합니다.
비용은 각 서비스가 청구하는 통화 그대로 들어옵니다. 미국 SaaS는 달러, 유럽 등록 대행업체는 유로, FrontierStack 라이선스는 엔화입니다. 모든 항목은 원래 금액과 통화를 유지하며, 합계는 모두 선택한 표시 통화로 환산됩니다. 환율은 편집할 수 있고 날짜가 기록되며, 필요할 때 ECB 일일 고시 환율로 새로 고칠 수 있고, 변경하면 과거 내역의 금액도 즉시 다시 계산됩니다. 이는 회계 기장이 아니라 예산 수립용 추정치입니다. 대부분의 서비스 패널에도 플랜 및 비용 섹션이 있으므로, 서비스를 관리하는 바로 그 자리에서 지불 금액을 기록하면 즉시 이 합계에 반영됩니다.
모든 구독에는 갱신일을 지정할 수 있습니다. 갱신일이 지정되면 예정된 갱신에 표시되고, 알림 기간(기본 7일, 행마다 조정 가능)에 들어서면 도메인 및 TLS 만료와 같은 경로로 알림을 발생시킵니다. 자동 갱신 행은 날짜가 스스로 앞으로 넘어가며, Mac이 몇 달 동안 꺼져 있었더라도 따라잡습니다. 수동 행은 그대로 남아 연체로 표시됩니다. 아무것도 청구되지 않았기 때문입니다. 행을 무료 체험으로 표시하면 유료로 전환되는 날까지 합계에 전혀 포함되지 않으며, 청구되기 전에 경고합니다. 특정 날짜부터 해지됨으로 표시하면 그날까지는 계속 집계되다가 그 후 중단되므로, 절감액이 실제로 발생하는 시점에 반영됩니다. 무엇으로 대체되었는지 지정하면 대체 항목을 상계하므로, $20 플랜을 $15 플랜으로 바꾼 경우 $20가 아니라 $5 절감으로 표시됩니다. 갱신 편집기에서 가격을 변경하면 이전 가격이 기록되므로, 슬금슬금 오른 플랜은 오른 것이 눈에 보입니다.
이미 오픈 소스 자체 호스팅 구독 관리 도구인 Wallos로 구독을 관리하고 있다면 두 번 입력할 필요가 없습니다. 카탈로그에서 Wallos를 추가하고, 프로필 페이지에서 받은 API 키로 패널을 사용자의 인스턴스에 연결한 다음, 지출 및 청구로 가져오기를 실행하면 구독(가격, 통화, 청구 주기, 다음 결제일, 해지일)이 복사됩니다. 가져온 구독은 다른 모든 항목과 함께 하나의 합계에 포함되며 같은 갱신 알림을 받습니다. 다시 가져오면 중복을 만드는 대신 앞서 만든 행을 업데이트하므로, Wallos가 변경될 때마다 안심하고 실행할 수 있습니다. FrontierStack은 Wallos에서 읽기만 하고 다시 쓰지 않으므로, 여기서 실수하더라도 그쪽 데이터에는 영향이 없습니다.
ID 및 SSE 제공업체의 라이선스 좌석. 일부 행은 이미 감시 중인 서비스에서 자동으로 채워집니다. Microsoft Entra ID, Google Workspace, JumpCloud, PingOne은 유료 라이선스, 에디션, 제품마다 좌석 수가 담긴 행을 유지하고, Duo는 에디션을 기록합니다(11장). API가 라이선스를 제공하는 SSE 및 SASE 모니터는 구매한 시트 수와 사용 중인 수를 추가합니다(9장). 금액은 제공업체가 정가를 공개한 경우에만 채워집니다 — Entra ID P1 사용자당 월 $7, P2 $10(연간 결제), Duo Essentials $3, Advantage $6, Premier $9, 종량제 Cloudflare One $7. 다른 행에는 실제 지불액을 입력하십시오(SSE 제공업체 대부분은 견적 판매입니다). 사용되지 않는 유료 좌석이 너무 많거나 라이선스의 좌석이 부족해지면 알림을 보낼 수 있습니다. 서버 BMC 라이선스는 영구 라이선스이거나 서버와 함께 구매하므로 여기에는 아무것도 추가하지 않습니다.
제공업체별 내역(도넛 차트), 예산선이 포함된 6개월 추이, 지출 내역을 비용 최적화 어드바이저에게 넘기는 AI에게 묻기 버튼이 화면을 완성합니다. 결제 상태 감시자는 연결된 유료 서비스에서 크레딧 소진, 하드 한도 도달, 연체, 정지 상태를 확인하여 알림을 발생시키므로, 곧 작동을 멈출 키를 멈추기 전에 잡아냅니다. 지출 임계값 알림이 이를 보완합니다. 월간 예산의 80% 또는 100%를 넘으면 알림이 발생하고(복구 알림 포함), 동기화된 각 AI 계정에 별도의 월간 한도를 설정할 수 있으며, DigitalOcean, Vultr, Linode 패널은 제공업체 API에서 이번 달 요금을 읽어 각자의 임계값을 적용합니다.
키 사용 감시(지출 및 청구)는 AI 키를 다른 사람이 사용하면 경고합니다. AI 제공업체는 호출 출처를 알려 주지 않으므로, 이미 연결한 관리자 키로 Anthropic, OpenAI, OpenRouter의 키별 사용량을 15분마다 읽어 이 Mac이 보낸 양과 비교합니다. FrontierStack은 자신의 호출을 키별로 측정하며(키의 지문만 보관), 이 Mac의 Claude Code와 Codex 사용도 셀 수 있습니다. 설명할 수 없는 사용(특히 Mac이 잠자기 중일 때), 키의 평소 패턴을 크게 넘는 시간대, 한 번도 쓰지 않은 모델, '유휴'로 표시한 키의 사용, 저장하지 않은 키의 사용이 있으면 키 교체… 버튼이 있는 알림을 보냅니다. KeyRotate도 같은 측정값을 FrontierStack에서 읽고, AWS Bedrock의 호출 주소를 CloudTrail에서 확인합니다.
저장된 각 키는 공급업체가 보여 주는 가려진 값과 대조해 공급업체의 키 목록에 연결합니다. 대조되지 않거나 비슷해 보이는 키가 있으면 키의 추적 ID 칸에 ID를 입력하세요. OpenAI는 API keys 페이지의 추적 ID(key_…), Anthropic은 apikey_…입니다. 비밀 정보가 아니며, 키처럼 보이는 값은 받지 않습니다. 페어링된 KeyRotate와는 이 ID가 동기화되며(키 지문 단위, 최신 편집 우선), KeyRotate는 교체 전 키를 OpenAI, Anthropic, OpenRouter, Mistral, Fireworks, Linode, AWS IAM, Paddle에서 ID로 폐기할 수 있습니다.
FrontierStack 사용자 설명서 · 버전 1.0.0 · 제15장