AI 스택

앞의 두 장은 AI가 FrontierStack을 조작하는 방법을 다루었습니다. 내장 관리자(13장)와, 직접 사용하는 도구에서 MCP를 통해 앱을 구동하는 방법(14장)입니다. 이 장은 그 반대입니다. FrontierStack이 운영하고 모니터링하도록 도와주는 AI 인프라, 즉 에이전트 플랫폼, 로컬 모델 서버, 코드 샌드박스, 브라우저 자동화, GPU 패브릭, ML 도구, 거버넌스, 그리고 이 모든 것의 비용을 다룹니다. 이들은 다른 서비스와 마찬가지로 카탈로그에 있는 서비스이며 사이드바의 AI 카테고리 아래에 묶여 있지만, 따로 한 장을 할애할 만합니다. 이제 AI를 운영한다는 것은 호출만 하면 되는 상자가 아니라 직접 운영하는 스택이기 때문입니다.

15.1에이전트 운영

사이드바에서 에이전트 운영을 열면 에이전트 작업을 서버 중심으로 볼 수 있습니다. 모든 플릿 호스트가 연결 가능 여부, 환경, CPU와 메모리, 감지된 에이전트 워커와 함께 표시되며, 호스트 세부 정보와 상황별 셸을 여는 버튼이 있습니다. 셸은 이 Mac에서는 로컬로 열리고, 원격 머신에서는 해당 호스트에 구성된 SSH, mosh 또는 SSH3 신뢰 설정을 따릅니다. 런타임 상태, 로컬 코딩 에이전트 프로세스, FrontierStack 세션, 에이전트 컨테이너도 같은 보드에 함께 표시됩니다. AI 도구 get_agent_platforms가 런타임 상태를 관리자에게 제공하므로 “어떤 에이전트 런타임이 다운되어 있어?”처럼 평이한 말로 물어볼 수 있습니다.

런타임은 두 종류로 나뉩니다. 일부는 CLI 런타임으로, 명령줄 도구가 설치되어 있고 --version에 응답하는지로 감지합니다. Amp, DeepSeek Harness Alpha, Claude Code, Gemini CLI, OpenAI Codex, Factory의 droid가 여기에 속합니다. 나머지는 상태 엔드포인트를 제공하는 HTTP 런타임으로, 폴링하여 실시간 지표를 가져옵니다. 몇몇 클라우드 에이전트 제품(OpenHands, Manus, Devin, OpenAI Operator, E2B)은 아래쪽에 폴링 대상이 아니라 연결해서 사용하는 카탈로그 항목으로 표시됩니다.

구성된 런타임은 시스템 전반에 연동되므로, 런타임이 다운되거나 토큰 할당량(속도 제한, 429, 결제)에 도달하면 알림이 발생하고 로컬 상태 보드의 서비스 그룹에 빨간색으로 표시됩니다. 각 런타임의 엔드포인트와 자격 증명은 한 번만 구성하면 되며, 그 후로는 다른 서비스와 똑같이 감시됩니다.

15.2활동, 작업, 런타임 및 라우팅

네 가지 보조 뷰가 에이전트 플릿을 운영 작업별로 나누어 보여 주며, 모두 같은 실시간 상태를 읽습니다.

• 활동 — 종 모양 아이콘의 운영자 받은편지함입니다. 확인 필요에는 런타임 실패, 연결이 끊긴 워커, 실패한 세션/작업이 모이고, 실행 중에는 현재 작업이, 최근 완료에는 짧은 실행 기록이 표시됩니다. 도구 막대의 종 아이콘으로 어디서든 열 수 있습니다.
• 작업 — 런타임 대기열, 목표 기반 관리자 세션, 격리된 Codex/Claude 샌드박스 작업의 세 탭으로 구성됩니다. OpenClaw cron 작업, 일시 정지 상태, 토큰, 일회성 작업 상태는 대기열에서 계속 확인할 수 있습니다.
• 런타임 — 구성된 모든 로컬/HTTP 엔진, 감지된 T3 Code 워커, 클라우드 에이전트 제품을 연결 가능 여부 또는 자격 증명 상태와 함께 표시합니다.
• 라우팅 및 통합 — 모델 라우팅/제공업체 키와 저장소 접근을 두 탭에서 관리합니다. GitHub, GitLab, Bitbucket, Cursor Origin 자격 증명은 키체인에 보관되며 API로 실시간 확인됩니다.

에이전트 런타임과 커넥터는 한 번 저장한 자격 증명으로 인증합니다. FrontierStack의 다른 모든 곳과 마찬가지로 이 토큰은 macOS 키체인에 보관되며, 앱 설정 파일에 저장되거나 클라우드 모델로 전송되는 일은 없습니다.

15.8.1Cursor Origin (Early Beta)

버전 관리 ▸ Cursor Origin은 Cursor의 Git 포지를 위한 실시간 대시보드입니다. cursor.com/codebase에 표시되는 코드베이스 이름을 입력하십시오. FrontierStack은 최대 30개의 저장소와, 처음 12개 저장소의 열린 풀 리퀘스트를 나열합니다. 저장소 행을 클릭하면 Origin에서 열립니다. 개인 로그인에는 Cursor 자체의 origin auth login을 권장합니다. FrontierStack은 origin api를 호출할 뿐 사용자 자격 증명을 받지 않습니다. 자동화에는 같은 패널과 저장소 커넥터에서 키체인에 저장된 서비스 계정 API 자격 증명이나 수명이 짧은 Origin 설치 토큰을 사용할 수 있습니다.

15.3작업 세션, T3 워커 및 내장 터미널

작업 ▸ 세션은 사용자가 직접 만드는 목표 기반 운영 및 SaaS 루프(일회성 또는 반복)를 관리합니다. 세션에는 평이한 말로 쓴 목표, 제목, 단계 예산, 그리고 변경을 허용할지 여부를 정하는 스위치가 있습니다. 각 세션은 관리자(13장)와 같은 보호된 도구를 구동하며, 모든 단계를 언제든 중지할 수 있는 기록으로 스트리밍합니다. 세션 루프에서는 스크립트가 절대 허용되지 않습니다.

FrontierStack은 127.0.0.1:3773/.well-known/t3/environment가 유효한 환경 응답을 반환할 때만 T3 Code 워커로 식별합니다. 일반 Node 프로세스나 열린 포트만으로는 해당하지 않습니다. 탐색은 읽기 전용이며 루프백으로만 이루어집니다. T3 서버를 외부에 노출하거나, FrontierStack을 페어링하거나, T3 스레드와 승인에 대한 접근 권한을 부여하지 않습니다. macOS 및 iOS 플릿 목록에서 해당 서버에 T3 표시가 나타납니다. 원격 워커의 경우 FrontierStack은 존재 여부만 보고합니다.

15.8.2이 Mac의 T3 Code

에이전트 플랫폼의 T3 Code 패널은 ~/.t3/userdata/server-runtime.json을 따라 로컬 서버를 찾아가며(해당 포트가 사용 중이면 서버는 :3773보다 높은 포트로 이동합니다), 서버의 공개 환경 디스크립터인 버전, 가동 시간, 프로세스 ID를 읽습니다.

1. T3 Code 패널을 여십시오. T3 Code가 설치되어 있지 않으면 설치 / 실행에서 brew install --cask t3-code, npx t3@latest, 헤드리스 t3 serve, 백그라운드 LaunchAgent용 t3 service install을 제공합니다.
2. 읽기 전용으로 연결을 클릭하십시오. FrontierStack이 t3 auth pairing create를 실행하여 5분 후 만료되는 일회용 자격 증명을 받고, 이를 orchestration:read로 제한된 토큰으로 교환합니다. 데스크톱 앱만 설치되어 있다면 페어링 링크로 연결을 열고 대신 T3 Code 설정의 페어링 링크를 붙여넣으십시오.
3. 이제 패널에 사용자를 기다리는 스레드(승인 또는 질문), 작업 중인 스레드, 실패한 스레드가 프로젝트, 제공업체, 모델, 브랜치와 함께 나열됩니다. 또한 오늘의 토큰 사용량과 모델별 예상 비용, T3 Code 및 T3 Code가 실행하는 모든 에이전트의 CPU와 메모리도 표시됩니다.

사용자를 기다리는 스레드는 활동 ▸ 확인 필요, 페어링된 iPhone, 서버 활동 윈도우의 AI 에이전트 보드에도 표시되며, 이 보드에서 T3 Code는 서버처럼 CPU와 메모리가 표시되는 타일을 갖습니다. 승인에 대한 응답은 T3 Code 자체에서 합니다.

에이전트 운영의 모든 워커 행에는 셸 버튼이 있습니다. FrontierStack은 로컬에서는 로그인 zsh를, 원격에서는 서버에 구성된 SSH/mosh/SSH3 명령을 앱의 다른 곳에서도 쓰이는 동일한 SwiftTerm PTY 안에서 엽니다. 터미널 스타일에서는 iTerm2(.itermcolors), Ghostty, Alacritty, Warp 테마를 가져올 수 있습니다.

옆에 있는 터미널 세션 버튼은 해당 호스트에서 지속되는 tmux, GNU screen, Zellij 세션을 찾아냅니다. 범위가 제한된 읽기 전용 목록 조회만 사용하며, 터미널 화면, 스크롤백, 명령 기록, 프로세스 환경, 명령을 읽는 일은 없습니다. FrontierStack의 실제 PTY에서 세션에 연결하거나, 확인 후 이름이 지정된 세션 하나를 종료할 수 있습니다. 세션 이름과 관리자는 엄격하게 검증되며, 종료는 호스트가 세션이 사라졌음을 확인한 후에만 성공으로 보고됩니다.

iPhone과 iPad에서는 더 보기 ▸ 에이전트 활동에서 페어링된 Mac의 상태 전용 뷰를 제공하며, 실행 중인 에이전트 프로세스, FrontierStack 세션 및 작업, 구성된 런타임, 감지된 워커 머신을 보여 줍니다. 프롬프트, 명령줄, 기록, 환경 변수, 터미널 내용, 자격 증명은 의도적으로 제외됩니다. 서버 ▸ 호스트 ▸ 터미널 세션에는 같은 지속 세션이 나열됩니다. 목록 조회와 종료는 페어링된 Mac을 통해 이루어지며, 전체 화면 연결은 Direct SSH가 이 iPhone의 키를 설치하고 서버 신원을 확인한 경우에만 제공됩니다.

15.4로컬 모델 실행

클라우드 모델에 아무것도 보내지 않아도 됩니다. FrontierStack은 로컬 추론 서버를 관리하며, 관리자가 그중 하나를 사용하도록 지정할 수 있습니다. 대표적인 세 가지 로컬 앱은 정식으로 지원됩니다.

• Ollama — 가장 간단한 로컬 모델 러너입니다. 모델을 받아 제공하고, 그중 하나를 관리자의 엔진으로 선택할 수 있습니다.
• LM Studio — LM Studio 패널은 설치를 감지하고, lms CLI를 통해 로드된 모델과 다운로드된 모델을 나열하며, 헤더에 “N개 모델 로드됨” 또는 “로드된 모델 없음”을 표시합니다.
• LocalAI — 포트 8080에서 카탈로그 서비스로 실행하는 자체 호스팅 OpenAI 호환 서버입니다.
• MLX 패널: MLX-LM, oMLX 및 Splash — 하나의 패널에서 Apple 실리콘으로 모델을 제공하는 세 가지 방법입니다. Splash(Inco AI)는 brew install incoai/tap/splash로 설치하고 패널에서 포트 8100으로 시작하므로 포트 8000의 oMLX와 충돌하지 않습니다. OpenAI API와 Anthropic API를 모두 제공하며, M3 이상, macOS 26.4, 36 GB 메모리가 필요합니다.

이 밖에도 AI / LLM 카테고리에는 자체 호스팅 추론 도구가 모두 갖춰져 있습니다. vLLM, llama.cpp, Apple의 MLX-LM 서버, Jan, LiteLLM(100개 이상의 제공업체 앞단에 서는 프록시), Open WebUI, AnythingLLM, PrivateGPT, 그리고 RAG/벡터 도구입니다. 로컬에서 실행하는 목적은 개인정보 보호와 비용입니다. 관리자의 엔진이 로컬 모델(Ollama, 루프백 엔드포인트, Apple의 온디바이스 모델)이면 Mac 밖으로 나가는 것이 없으므로 아무것도 가려지지 않습니다. 클라우드 엔진을 보호하는 비밀 값 제거 처리가 아예 필요하지 않기 때문입니다.

15.5코드 샌드박스 및 브라우저 자동화

에이전트에게는 코드를 안전하게 실행할 장소와 실시간 웹을 읽을 수단이 필요합니다. FrontierStack은 두 가지를 모두 관리합니다.

코드의 경우 E2B 패널이 e2b CLI를 통해 안전한 클라우드 샌드박스를 관리합니다. API 키를 입력하거나(키체인에 E2B_API_KEY로 저장됨) e2b auth login으로 한 번 인증한 다음, 실행 중인 샌드박스를 나열하고, 템플릿에서 생성하고, 강제 종료할 수 있습니다. 정리용 모두 강제 종료와 “일시 정지 포함” 토글도 있습니다. 녹색 점은 실행 중인 샌드박스, 주황색 점은 일시 정지된 샌드박스를 나타냅니다. 이는 에이전트가 사용하는 일회용 격리 머신으로, 에이전트의 코드가 사용자의 서버에 닿지 않게 합니다.

웹의 경우 AI 카테고리에 브라우저 및 크롤링 도구가 포함되어 있습니다. Browserbase(관리형 헤드리스 브라우저), 사이트를 모델이 바로 쓸 수 있는 깔끔한 텍스트로 바꾸는 Crawl4AI, Firecrawl, Apify, 그리고 스크립트 자동화를 위한 Playwright입니다. 이 도구들 덕분에 에이전트는 API가 없는 페이지도 볼 수 있습니다.

15.6GPU 인프라 및 클러스터

AI를 실제 GPU에서 실행한다면 GPU Fabric 패널에서 하드웨어 상태를 읽기 전용으로 확인할 수 있습니다. 연결된 서버를 선택하고 SSH로 진단을 실행하십시오. GPU 인벤토리와 온도(nvidia-smi), NVLink 상태, GPU 토폴로지 매트릭스, NVSwitch Fabric Manager 상태, DCGM 인벤토리(dcgmi), InfiniBand 및 RoCE/RDMA 링크, Slurm GPU 할당, 컴포저블 패브릭 CLI(WEKA, Liqid, GigaIO)를 확인할 수 있습니다. GPU는 Linux 호스트에 있으므로 플릿의 서버를 대상으로 하며, GPU가 없는 머신에서는 도구가 단순히 “찾을 수 없음”을 보고합니다. 검사를 하나씩 실행하거나 모든 검사 실행으로 한꺼번에 실행하십시오.

에이전트가 설치되어 있으면 호스트의 GPU 온도와 부하도 표준 호스트 모니터(8장)를 통해 표시되므로, 과열된 GPU 머신은 다른 머신과 마찬가지로 알림을 발생시킵니다. 스케일아웃을 위해 AI 클러스터 카테고리에는 Exo(여러 대의 Mac에서 하나의 모델 실행), Petals, Distributed Llama, Ray, Slurm, Run:ai가 있고, ML 워크벤치 카테고리에는 학습 쪽을 위한 실험 추적 및 파이프라인 도구(MLflow, ClearML, Weights & Biases, Kubeflow, JupyterLab)가 있습니다.

15.7AI 거버넌스 및 안전

프로덕션에서 에이전트를 운영한다는 것은 에이전트가 하는 일을 감시하고 할 수 있는 일을 제한한다는 뜻입니다. FrontierStack은 AI 거버넌스 및 안전 도구군을 카탈로그에 수록하여 이 도구들을 감시 대상 런타임 바로 옆에 둡니다. LLM 관측성과 추적을 위한 Langfuse, Helicone, Arize Phoenix, 평가와 레드팀 테스트를 위한 Promptfoo, Ragas, garak, 입출력 검증과 프롬프트 인젝션 방어를 위한 Guardrails AI, NeMo Guardrails, Lakera Guard, 그리고 Credo AI와 Holistic AI 같은 거버넌스 플랫폼이 있습니다. 이들을 카탈로그 서비스로 설치하고 모니터링하십시오. 위 보드에 있는 에이전트의 감사 기록이자 안전벨트 역할을 합니다.

15.8AI 비용 모니터

어시스턴트, 직접 만든 에이전트, 여러 로컬 모델, 외부 하네스를 운영하면 여러 곳에서 비용이 발생합니다. AI 모델 비용은 이를 하나의 뷰로 모읍니다. 헤더에는 이번 달 합계와 예산 대비 비율이 표시되며, 색상으로 구분된 막대가 80%에서 주황색, 100%에서 빨간색으로 바뀝니다. AI 도구 get_ai_costs가 같은 수치를 관리자에게 제공합니다.

대시보드는 네 가지 흐름을 함께 추적합니다.

• 종량제 API 지출 — 제공업체 및 모델별로, 편집 가능한 가격표(100만 토큰당 USD)로 계산하거나 청구서에서 직접 입력합니다. 계정 연결은 OpenAI, Anthropic, OpenRouter, DeepSeek, 자체 호스팅 LiteLLM 프록시에서 이번 달 누적 지출을 자동으로 가져옵니다. 제공업체당 여러 계정을 연결할 수 있으며, 각 계정은 별도의 비용 행이 됩니다.
• 모든 정기 결제 — AI만이 아닙니다. 프리셋은 주요 AI 플랜, 클라우드 및 호스팅(Cloudflare, Vercel, DigitalOcean, Hetzner, Backblaze…), SaaS 도구(Apple One, Google Workspace, 1Password, Figma, Adobe…), 그리고 도메인 갱신, Apple Developer, TLS 인증서 같은 연간 비용을 다룹니다. 또한 어떤 이름이든 직접 입력할 수 있으므로, API가 없는 서비스도 앱이 조회할 수 있는 서비스와 똑같이 추적됩니다. 각 항목은 주간, 월간 또는 연간으로 청구되며, 행에는 실제 지불액이 표시되고 합계는 월간 금액으로 환산됩니다. 항목은 카테고리별로 묶여 각각 소계가 표시되고, 헤더에는 월간 합계와 연간 합계가 모두 표시됩니다. 행을 끄면 삭제하지 않고 합계에서만 제외되므로, 무엇을 해지할지 따져 볼 때 유용합니다. FrontierStack 라이선스는 등급에 맞는 가격으로 자동 추가됩니다.
• 로컬 CLI 사용량 — 이 Mac의 Claude Code 및 Codex 로그를 클릭 한 번으로 스캔하여 이번 달 모델별 토큰을 추정치로 합산합니다.
• 의사 결정 모델 — TypeSafe의 Jev와 Cloudflare의 Clef / Clef-flash는 정형화된 질문에 텍스트가 아니라 확률로 답하며, 입력 토큰에 대해서만 과금하고, 사용량 API를 제공하지 않습니다. 이들의 키는 AI 모델 › 의사 결정 모델에 보관됩니다(채팅 모델 선택 목록에는 절대 나타나지 않습니다). FrontierStack이 하는 모든 호출은 응답에 포함된 토큰 수를 바탕으로 이곳에 자동으로 기록되며(모델별·월별 한 행), AI 모델 행에는 이번 달의 토큰과 비용이 표시됩니다. KeyRotate가 두 키를 모두 동기화합니다.

비용은 각 서비스가 청구하는 통화 그대로 들어옵니다. 미국 SaaS는 달러, 유럽 등록 대행업체는 유로, FrontierStack 라이선스는 엔화입니다. 모든 항목은 원래 금액과 통화를 유지하며, 합계는 모두 선택한 표시 통화로 환산됩니다. 환율은 편집할 수 있고 날짜가 기록되며, 필요할 때 ECB 일일 고시 환율로 새로 고칠 수 있고, 변경하면 과거 내역의 금액도 즉시 다시 계산됩니다. 이는 회계 기장이 아니라 예산 수립용 추정치입니다. 대부분의 서비스 패널에도 플랜 및 비용 섹션이 있으므로, 서비스를 관리하는 바로 그 자리에서 지불 금액을 기록하면 즉시 이 합계에 반영됩니다.

모든 구독에는 갱신일을 지정할 수 있습니다. 갱신일이 지정되면 예정된 갱신에 표시되고, 알림 기간(기본 7일, 행마다 조정 가능)에 들어서면 도메인 및 TLS 만료와 같은 경로로 알림을 발생시킵니다. 자동 갱신 행은 날짜가 스스로 앞으로 넘어가며, Mac이 몇 달 동안 꺼져 있었더라도 따라잡습니다. 수동 행은 그대로 남아 연체로 표시됩니다. 아무것도 청구되지 않았기 때문입니다. 행을 무료 체험으로 표시하면 유료로 전환되는 날까지 합계에 전혀 포함되지 않으며, 청구되기 전에 경고합니다. 특정 날짜부터 해지됨으로 표시하면 그날까지는 계속 집계되다가 그 후 중단되므로, 절감액이 실제로 발생하는 시점에 반영됩니다. 무엇으로 대체되었는지 지정하면 대체 항목을 상계하므로, $20 플랜을 $15 플랜으로 바꾼 경우 $20가 아니라 $5 절감으로 표시됩니다. 갱신 편집기에서 가격을 변경하면 이전 가격이 기록되므로, 슬금슬금 오른 플랜은 오른 것이 눈에 보입니다.

이미 오픈 소스 자체 호스팅 구독 관리 도구인 Wallos로 구독을 관리하고 있다면 두 번 입력할 필요가 없습니다. 카탈로그에서 Wallos를 추가하고, 프로필 페이지에서 받은 API 키로 패널을 사용자의 인스턴스에 연결한 다음, 지출 및 청구로 가져오기를 실행하면 구독(가격, 통화, 청구 주기, 다음 결제일, 해지일)이 복사됩니다. 가져온 구독은 다른 모든 항목과 함께 하나의 합계에 포함되며 같은 갱신 알림을 받습니다. 다시 가져오면 중복을 만드는 대신 앞서 만든 행을 업데이트하므로, Wallos가 변경될 때마다 안심하고 실행할 수 있습니다. FrontierStack은 Wallos에서 읽기만 하고 다시 쓰지 않으므로, 여기서 실수하더라도 그쪽 데이터에는 영향이 없습니다.

제공업체별 내역(도넛 차트), 예산선이 포함된 6개월 추이, 지출 내역을 비용 최적화 어드바이저에게 넘기는 AI에게 묻기 버튼이 화면을 완성합니다. 결제 상태 감시자는 연결된 유료 서비스에서 크레딧 소진, 하드 한도 도달, 연체, 정지 상태를 확인하여 알림을 발생시키므로, 곧 작동을 멈출 키를 멈추기 전에 잡아냅니다. 지출 임계값 알림이 이를 보완합니다. 월간 예산의 80% 또는 100%를 넘으면 알림이 발생하고(복구 알림 포함), 동기화된 각 AI 계정에 별도의 월간 한도를 설정할 수 있으며, DigitalOcean, Vultr, Linode 패널은 제공업체 API에서 이번 달 요금을 읽어 각자의 임계값을 적용합니다.