맥에서 Petals
BitTorrent-style distributed inference of big models · AI Clusters
Petals runs large language models (e.g. Llama-class) collaboratively — you load a small slice of the model and connect over the public/private swarm to other peers serving the rest, BitTorrent-style, for inference and fine-tuning of models too big for local RAM. pip install petals; run a server with python -m petals.cli.run_server to contribute, or use the client to generate. Linux/CUDA-oriented; private swarms supported.
FrontierStack으로 Petals 실행하기
Petals을(를) 설치하거나 연결한 뒤 FrontierStack에서 상태, 포트, 인증서를 확인하십시오. 해당되는 경우 같은 화면에서 방화벽 점검, 악성코드 감사, 백업으로 이동할 수 있습니다.
Mac에서 모두 운영하십시오.
FrontierStack은 이 Mac과 연결된 서버에서 서비스를 설치, 모니터링, 보호하며 — 암호와 키는 어떤 AI에게도 보이지 않게 지킵니다.
FrontierStack 다운로드Apple 공증 완료 · 안전 & 보안 · macOS 13 Ventura 이상