맥에서 LiteLLM
Proxy/gateway for 100+ LLM APIs (OpenAI-compatible) · AI / LLMs
LiteLLM is a unified gateway that puts an OpenAI-compatible API in front of 100+ providers (OpenAI, Anthropic, Bedrock, Azure, Ollama, vLLM…). Run the proxy (pip install 'litellm[proxy]' then litellm --config config.yaml) on :4000 for one endpoint with routing, fallbacks, rate limits, key management and spend tracking — a natural front door for the Model Costs pane. Self-host or use the Python SDK.
FrontierStack으로 LiteLLM 실행하기
LiteLLM을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 악성코드 감사, 백업으로 이동할 수 있습니다.
Mac에서 모두 운영하십시오.
FrontierStack은 이 Mac과 연결된 서버에서 서비스를 설치, 모니터링, 보호하며 — 암호와 키는 어떤 AI에게도 보이지 않게 지킵니다.
FrontierStack 다운로드Apple 공증 완료 · 안전 & 보안 · macOS 13 Ventura 이상