macOS 26 TahoeのApple Intelligenceに利用されている3BパラメータのLLMをコマンドラインで利用できるようにするツール「apfel」がリリース。

　macOS 26 TahoeのApple Intelligenceに利用されている3BパラメータのLLMをコマンドラインで利用できるようにするツール「apfel」がリリースされています。詳細は以下から。

　Appleは同社の生成AIを利用したパーソナル人工知能システム「Apple Intelligence」をWWDC24で発表し、現在最新のmacOS 26 TahoeやiOS/iPadOS 26では開発者向けにもFoundationModelsフレームワークを通してAppleの生成AI/LLMが利用できるようになっていますが、

Apple Intelligence Platforms State of the Union WWDC24

このApple Intelligenceにも利用されている3B(30億)パラメータのLLMを、コマンドラインから利用できるようにするコマンドラインツール「apfel」が新たに公開されています。

Apple Intelligence from the command line. On-device LLM via FoundationModels framework. No API keys, no cloud, no dependencies.

Your Mac Already Has AI – apfel

apfel

　apfelを公開したのはオーストリアのウィーンでスタートアップを支援するFull Stack OptimizationのFranz Enzenhoferさんが公開したコマンドラインツールで、システム要件はmacOS 26 Tahoe以降のApple Silicon Macとなっており、Homebrewがインストールされていればワンライナーでインストールすることができます。

brew install Arthur-Ficial/tap/apfel

　後は、apfelコマンドでAppleのオンデバイスLLMとチャットしたり、文章作成やドキュメントの要約、翻訳、他のコマンドとの連係などを完全にオンデバイスで実行することが可能で、

コマンドラインツールの他に、OpenAIサーバーと互換性のあるサーバー機能を搭載しているため、WebベースのGUI(apfel-gui)も用意されており、MCPにも対応しているため、他のAIツールとの連係も可能なので、プライバシー重視のオンデバイスLLMが欲しかった方は試してみて下さい。

• Arthur-Ficial/apfel – GitHub
• Your Mac Already Has AI – apfel