macOS 15 SequoiaやiOS 18では、CoreMLのアップデートによりAI/機械学習処理を行うアプリのパフォーマンスが大幅に向上ます。詳細は以下から。
Appleは現地時間2024年09月16日、iPhoneの画面をMacに映し出し操作できるiPhoneミラーリング機能やアプリケーションウィンドウをタイル状に並べられるウィンドウマネージャー機能、パスワードアプリを搭載した「macOS 15 Sequoia」と「iOS 18/iPadOS 18」をリリースしましたが、これらのアップデートではAppleの機械学習フレームワーク「Core ML」が最適化され、AIアプリや機械学習処理を行うアプリのパフォーマンスが大幅に向上します。
これは、WWDC24のセッション10161で発表されており、A17 Proチップを搭載したiPhone 15 ProをiOS 17.5からiOS 18へアップグレードすると、軽量なMobileNet v3が1.02倍、Swin Transformerが1.55倍、ALBERTが1.66倍、DistilBERTが2.84倍、GPT2が3.7倍、Appleが開発する物体検出モデルのSSD (Single Shot MultiBox Detector) MobileVit v2は最大7倍高速化されると発表されていました。
たとえばiOS 17と18の相対的な予測時間を比較すると多くのモデルでiOS 18の方が高速であることがわかります。モデルの再コンパイルやコードの変更は必要ありません。
WWDC24:Deploy machine learning and AI models on-device with Core MLより
Geekbench AIベンチマーク
本日正式リリースにリリースされたiOS 18へアップグレードしたA17 Pro搭載のiPhone 15 Proで、iOS 18のCoreMLアップデートに対応した「Geekbench AI v1.1」でベンチマークを測定してみても、CPUを利用した処理でSingle/Half Precision Score (総合スコア)が1.14~1.32倍、Quantized Score (量子化スコア)が1.24倍、
GPUを利用した処理では総合スコアが約1.2倍、量子化スコアが3.20倍、Neural Engineを利用した処理では総合スコアが1.38~1.7倍、量子化スコアが1.89倍と、どのコアを利用しても機械学習処理パフォーマンスの向上が見込まれます。
実際に、iOS 18のBeta段階でもOpenAIの音声認識モデルWhisperを、Core MLフレームワークに最適化したWhisperKitでは、iPhone 15 Proを利用した音声書き起こしがiOS 17と比較して約40%高速に処理できているので、Appleは年内にアメリカでリリースを予定しているApple Intelligenceへ向けて、かなりのCore MLのチューニングを行ったようです。
WhisperKit is 40% faster on iOS 18
Improved from 165 to 237 tok/s on whisper-base
Repo: https://t.co/xlfA6XLSI4
Test App: https://t.co/jifODN4EHB https://t.co/eq06prc1Tn pic.twitter.com/clqcAzZQn5— argmax (@argmaxinc) June 18, 2024
コメント