MLXHub: ローカルAIチャット

端末内でAIを実行。あなたのデバイス。あなたのデータ。 MLXHubは、Apple Siliconとmlx-swift推論エンジンを搭載し、オープンソースの言語モデルをiPhoneとiPadで動かします。クラウド不要。データは端末の外に出ません。 強力なモデルとチャット LLMや画像対応のVLM(視覚言語モデル)を端末内でダウンロードして実行できます。テキストや写真を送るだけで、モデルはサーバーに触れることなく応答します。 Apple Intelligence内蔵 対応デバイス(Apple Intelligenceが有効なiPhone 15 Pro/16以降)では、ダウンロード済みのモデルと並行してAppleの端末内モデルによる即時のプライベートな応答を利用できます。 あなただけのアシスタント グローバルなAgent Personalityを設定して、AIの口調やスタイルを決められます。会話ごとにシステム指示で上書きすることも可能。プロンプトの知識は不要——欲しい応答を説明するだけです。 モデルを探してインストール 1GB未満で動く0.6Bモデルから、高度な推論向けの7Bモデルまで、最適化されたモデルのカタログをご覧いただけます。色分けされたRAMバッジで、そのモデルが端末に収まるか一目で分かります。Hugging Faceを直接検索して、対応する任意のモデルをインストールできます。 ローカルLANサーバー iPhoneやiPadを、ローカルネットワーク上で動くOpenAI互換の推論エンドポイントに変えられます。MLXHubのオプションのLANサーバーは/v1/chat/completionsを公開し、Continue.devを動かすMacから独自のスクリプトまで、あらゆるアプリが端末のモデルを利用できます。インターネット不要。認証保護。Bonjourで検出可能。 Apple Silicon向けに設計 MLXHubはAppleのML基盤であるmlx-swiftを使用し、Metal GPUのフルスピードでモデルを実行します。モデルの重みは4-bit/8-bitで量子化され、iPhoneとiPadのハードウェアで最良のGB当たり品質を実現します。 プライバシー最優先 アナリティクスなし。トラッキングなし。広告なし。アカウント登録不要。推論は端末の外に出ません。オプションのLANサーバーはローカルネットワークのみで待ち受け、初期状態ではオフです。 利用規約(EULA):https://www.apple.com/legal/internet-services/itunes/dev/stdeula/

Hugging FaceからMLXモデルを直接開けるようになりました。 対応するHugging FaceモデルのページでMLXHubをタップすると、アプリで詳細を開いてダウンロードできます。MLXHubが未インストールの場合はApp Storeへ移動します。