リーカーのAaron Perris氏がXに投稿した内容によると、Appleの子会社であるClarisが、Appleシリコン搭載のMacをプライベートなAIサーバーにするアプリ「Harbor」をテストしているそうです。
MacをAI推論サーバーにする「Harbor」
「Harbor」は、オープンウェイトのAIモデルをMac上でローカルに実行するためのアプリです。データは手元のハードウェアの外に出ず、クラウドにも届かないため、プライバシーを保ったままAIを利用できます。
1台のMacでも動作しますが、Thunderbolt 5で複数のMacを接続すると、ユニファイドメモリを1つにまとめて、より大きなモデルを実行したり、多くのリクエストを同時に処理したりできます。
接続したデバイスは自動で検出され、モデルの検索やダウンロード、読み込みまでアプリ内で完結します。手動の設定やコマンドラインの操作は不要で、数分でセットアップできるとされています。
「Harbor」は現在アーリーアクセスの段階で、一般には公開されていません。
MacでローカルAIサーバーを動かす手段としては、クラスタ化に対応するオープンソースの「Exo」や、1台向けの「LM Studio」といった無料の選択肢がすでにあります。「Harbor」は、LM Studioのような手軽な操作画面とクラスタ化を組み合わせたアプリになりそうです。
