Petals を Mac で
BitTorrent-style distributed inference of big models · AI Clusters
Petals runs large language models (e.g. Llama-class) collaboratively — you load a small slice of the model and connect over the public/private swarm to other peers serving the rest, BitTorrent-style, for inference and fine-tuning of models too big for local RAM. pip install petals; run a server with python -m petals.cli.run_server to contribute, or use the client to generate. Linux/CUDA-oriented; private swarms supported.
Petals を FrontierStack で使う
FrontierStack は Petals を AI Clusters カタログに収録しています。ひとつの場所でインストール／接続し、状態・ポート・証明書を監視、ファイアウォールとマルウェア監査で保護し、バックアップできます。
すべてをひとつの Mac アプリで。
FrontierStack は、ローカルでもフリート全体でも、スタック全体のインストール・監視・保護をひとつのネイティブ macOS アプリで行います。
FrontierStack をダウンロード