Whisper Large V3 Turbo対V3：速度・精度・ローカル利用
デコーダーを短縮したlarge-v3-turboの構造、速度、言語別品質、Mac・iPhoneでの再現可能な比較方法を解説します。
更新
要点
- turboは約809Mパラメータでデコーダーを短縮しています。
- 高速化しても全音声で品質が同一とは限りません。
- まずturboを試し、難しい音声だけlarge-v3と比較します。
large-v3-turboの変更点
large-v3を基にデコーダーを32層から4層へ減らし、約809Mパラメータにしています。生成負荷を減らし、小さな品質差で速度を上げる設計です。
速度を再現可能に測る
同じ端末、実装、精度、設定で、起動、読込、初回結果、総時間を複数回測ります。60分を12分で処理すれば5倍速です。
平均値が隠す誤り
言語、訛り、雑音で差が出ます。WER/CERに加え、氏名、数字、否定、無音や音楽での幻覚を記録します。
MacとiPhoneでの選択
Macの日常処理はturboから始め、難しい音声をlarge-v3で再確認します。モバイルはメモリ、熱、電池のため小型やturboが現実的です。
実用的な既定モデル規則
代表音声で重要語、幻覚、時間を確認し、条件を満たせばturboを既定にします。更新ごとに固定テストを再実行します。
よくある質問
turboとlarge-v3の主な違いは？
デコーダーを32層から4層へ減らし、パラメータと処理時間を削減しています。
turboは音声翻訳に向きますか？
OpenAIは翻訳用ではないと説明しています。翻訳対応モデルを使って確認してください。
iPhoneは最大モデルを使うべきですか？
必ずしも必要ありません。メモリ、電池、熱、待ち時間を考え、turboや小型から試します。