Ollama、MLXを標準としてApple-Silicon-Macsでモデルを実行

Ollama 0.40.0は、Apple-Silicon-MacsでMLXを介してモデルを標準的に実行することを発表しました。MLXは、Apple-Siliconチップ上での機械学習のためのAppleのオープンソースフレームワークです。このアップデートにより、MLXのサポートが他の言語モデル、意思決定モデル、及び埋め込みモデルに拡大されます。

Ollamaはオープンソースソフトウェアで、ユーザーはAIモデルをダウンロード、管理し、ローカルで実行できます。コマンドラインを通じてモデルに直接アクセスでき、ローカルAPIサーバーを介してアプリケーションに統合することが可能です。