Ubuntu 24.04 LTS whisper.cpp + CUDA + Whisper-large-v3-turbo-q8_0 完全構築ガイド

このガイドでは、Ubuntu 24.04 LTS環境でwhisper.cppをCUDA対応でビルドし、最新の8bit量子化されたWhisper Large V3 Turboモデル（q8_0）を使用する手順を完全に解説し

ます。

システム要件の確認
システムのアップデート
必要なパッケージのインストール
NVIDIA ドライバーのインストール
CUDA Toolkit のインストール
環境変数の設定
whisper.cpp のクローン
CUDA対応ビルド
Whisper Large V3 Turbo q8_0 モデルのダウンロード
動作確認
実用例

1. システム要件の確認

必須要件

OS: Ubuntu 24.04 LTS (Noble Numbat)
GPU: NVIDIA GPU (Compute Capability 3.5以上)
RAM: 最低8GB、推奨16GB以上
ストレージ: 最低10GB以上の空き容量

GPU確認

lspci | grep -i nvidia

NVIDIA GPUが表示されることを確認してください。

2. システムのアップデート

まず、システムを最新の状態にします。

sudo apt update
sudo apt upgrade -y

再起動を推奨：

sudo reboot

3. 必要なパッケージのインストール

基本的な開発ツールのインストール

sudo apt install -y build-essential git cmake wget curl

追加パッケージのインストール

sudo apt install -y pkg-config libssl-dev

ffmpegのインストール（音声変換用）

sudo apt install -y ffmpeg

確認：

gcc --version
cmake --version
git --version
ffmpeg -version

4. NVIDIA ドライバーのインストール

推奨ドライバーの確認

ubuntu-drivers devices

推奨ドライバーの自動インストール

sudo ubuntu-drivers autoinstall

または、特定のバージョンを指定：

sudo apt install -y nvidia-driver-550

システムの再起動

sudo reboot

ドライバーのインストール確認

nvidia-smi

以下のような出力が表示されればOK：

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.54.15              Driver Version: 550.54.15      CUDA Version: 12.4     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce RTX 3090        Off |   00000000:01:00.0  On |                  N/A |
| 30%   35C    P8             29W /  350W |     500MiB /  24576MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

5. CUDA Toolkit のインストール

CUDA 12.4 のインストール（Ubuntu 24.04推奨）

# CUDA リポジトリの追加
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update

CUDA Toolkit のインストール

sudo apt install -y cuda-toolkit-12-4

cuDNN のインストール（オプション、推奨）

sudo apt install -y libcudnn8 libcudnn8-dev

6. 環境変数の設定

.bashrc に環境変数を追加

echo 'export PATH=/usr/local/cuda-12.4/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.4/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
echo 'export CUDA_HOME=/usr/local/cuda-12.4' >> ~/.bashrc

設定を反映

source ~/.bashrc

CUDA インストールの確認

nvcc --version

以下のような出力が表示されればOK：

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Thu_Mar_28_02:18:24_PDT_2024
Cuda compilation tools, release 12.4, V12.4.131

7. whisper.cpp のクローン

ホームディレクトリに移動

cd ~

whisper.cpp をクローン

git clone https://github.com/ggerganov/whisper.cpp.git
cd whisper.cpp

8. CUDA対応ビルド

CMakeを使用したビルド（推奨）

mkdir build
cd build
cmake .. -DGGML_CUDA=ON
cmake --build . --config Release -j$(nproc)
cd ..

オプション説明:

-DGGML_CUDA=ON: CUDA サポートを有効化
-j$(nproc): 利用可能なすべてのCPUコアを使用して並列ビルド

Makeを使用したビルド（代替方法）

make clean
GGML_CUDA=1 make -j$(nproc)

ビルドの確認

./main --help

または

./build/bin/main --help

ヘルプメッセージが表示されればビルド成功です。

9. Whisper Large V3 Turbo q8_0 モデルのダウンロード

モデルについて

モデル名: ggml-large-v3-turbo-q8_0.bin
量子化: 8bit量子化（q8_0）
サイズ: 約1.7GB
特徴:
- 精度: large-v3とほぼ同等
- 速度: 8倍高速
- メモリ: 少ないメモリで動作

modelsディレクトリの作成（存在しない場合）

mkdir -p models

ダウンロード方法 1: wget を使用（推奨）

wget https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3-turbo-q8_0.bin -O models/ggml-large-v3-turbo-q8_0.bin

ダウンロード方法 2: curl を使用

curl -L "https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3-turbo-q8_0.bin" -o models/ggml-large-v3-turbo-q8_0.bin

ダウンロード方法 3: Hugging Face CLI（オプション）

# Hugging Face CLI のインストール
pip install -U "huggingface_hub[cli]"

# モデルのダウンロード
huggingface-cli download ggerganov/whisper.cpp ggml-large-v3-turbo-q8_0.bin --local-dir models --local-dir-use-symlinks False

ダウンロード確認

ls -lh models/ggml-large-v3-turbo-q8_0.bin

ファイルサイズが約1.7GBであることを確認：

-rw-rw-r-- 1 user user 1.7G Oct 19 12:34 models/ggml-large-v3-turbo-q8_0.bin

10. サンプル音声での動作確認

サンプル音声のダウンロード

bash ./models/download-sample.sh

または手動でダウンロード：

wget https://github.com/ggerganov/whisper.cpp/raw/master/samples/jfk.wav -O samples/jfk.wav

英語音声の認識テスト

./main -m models/ggml-large-v3-turbo-q8_0.bin -f samples/jfk.wav

GPU使用を明示的に指定

./main -m models/ggml-large-v3-turbo-q8_0.bin -f samples/jfk.wav -ngl 999

オプション説明:

-ngl 999: すべてのレイヤーをGPUにオフロード（最大限GPU使用）

期待される出力

whisper_init_from_file_with_params_no_state: loading model from 'models/ggml-large-v3-turbo-q8_0.bin'
whisper_model_load: loading model
whisper_model_load: n_vocab       = 51866
whisper_model_load: n_audio_ctx   = 1500
whisper_model_load: n_audio_state = 1280
whisper_model_load: n_audio_head  = 20
whisper_model_load: n_audio_layer = 32
whisper_model_load: n_text_ctx    = 448
whisper_model_load: n_text_state  = 1280
whisper_model_load: n_text_head   = 20
whisper_model_load: n_text_layer  = 32
whisper_model_load: n_mels        = 128
whisper_model_load: ftype         = 7 (Q8_0)
whisper_model_load: type          = 5 (large v3 turbo)
whisper_model_load: adding 1608 extra tokens
whisper_model_load: n_langs       = 100
whisper_backend_init: using CUDA backend
ggml_cuda_init: GGML_CUDA_FORCE_MMQ:    no
ggml_cuda_init: GGML_CUDA_FORCE_CUBLAS: no
ggml_cuda_init: found 1 CUDA devices:
  Device 0: NVIDIA GeForce RTX 3090, compute capability 8.6, VMM: yes

[00:00.000 --> 00:08.000]   And so my fellow Americans, ask not what your country can do for you, ask what you can do for your country.

11. 日本語音声ファイルの準備と認識

MP3/MP4から16kHz WAVに変換

ffmpeg -i input.mp3 -ar 16000 -ac 1 -c:a pcm_s16le output.wav

動画ファイルの場合:

ffmpeg -i video.mp4 -ar 16000 -ac 1 -c:a pcm_s16le audio.wav

日本語音声の認識

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999

オプション説明:

-l ja: 日本語を指定
-ngl 999: すべてのレイヤーをGPUで処理

12. 実用的な使用例

字幕ファイル（SRT）生成

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -osrt -of subtitle

出力: subtitle.srt

字幕ファイル（VTT）生成

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -ovtt -of subtitle

出力: subtitle.vtt

テキストファイルのみ出力

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -otxt -of transcript

出力: transcript.txt

JSON形式で出力

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -oj -of result

出力: result.json

全フォーマット同時出力

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -osrt -ovtt -otxt -oj -of output

出力:

output.srt
output.vtt
output.txt
output.json

高精度設定（ビームサーチ使用）

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -bs 5 -bo 5 -osrt -of subtitle

オプション説明:

-bs 5: ビームサーチサイズを5に設定（精度向上）
-bo 5: ベストオブを5に設定（精度向上）

日本語から英語に翻訳

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999 -tr -osrt -of english_subtitle

オプション説明:

-tr: 翻訳モード（認識した言語を英語に翻訳）

13. よく使うオプション一覧

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav [オプション]

主要オプション

オプション	説明	推奨値/例
`-l`	言語指定	`-l ja` (日本語)
`-ngl`	GPUにオフロードするレイヤー数	`-ngl 999` (全レイヤー)
`-t`	CPUスレッド数	`-t 8`
`-bs`	ビームサーチサイズ	`-bs 5` (精度重視)
`-bo`	ベストオブ	`-bo 5` (精度重視)
`-osrt`	SRT字幕出力	`-osrt`
`-ovtt`	VTT字幕出力	`-ovtt`
`-otxt`	テキスト出力	`-otxt`
`-oj`	JSON出力	`-oj`
`-of`	出力ファイル名	`-of output`
`-tr`	英語に翻訳	`-tr`
`-pp`	タイムスタンプなし	`-pp`

14. パフォーマンステスト

処理時間の計測

time ./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -l ja -ngl 999

GPU使用状況のモニタリング

別のターミナルで実行：

watch -n 1 nvidia-smi

期待されるパフォーマンス

RTX 3090の場合:

1時間の音声: 約3-5分で処理
リアルタイムファクター: 約12-20倍速

RTX 4090の場合:

1時間の音声: 約2-3分で処理
リアルタイムファクター: 約20-30倍速

15. バッチ処理スクリプト

複数ファイルを一括処理

batch_transcribe.sh を作成：

#!/bin/bash

MODEL="models/ggml-large-v3-turbo-q8_0.bin"
LANG="ja"

for file in *.mp3; do
    echo "Processing: $file"
    
    # MP3をWAVに変換
    ffmpeg -i "$file" -ar 16000 -ac 1 -c:a pcm_s16le "${file%.mp3}.wav" -y
    
    # 文字起こし
    ./main -m "$MODEL" -f "${file%.mp3}.wav" -l "$LANG" -ngl 999 -osrt -ovtt -otxt -of "${file%.mp3}"
    
    # WAVファイルを削除（オプション）
    # rm "${file%.mp3}.wav"
    
    echo "Completed: $file"
    echo "---"
done

echo "All files processed!"

スクリプトの実行

chmod +x batch_transcribe.sh
./batch_transcribe.sh

16. トラブルシューティング

エラー: “CUDA error: no kernel image is available”

原因: CUDAコンパイル時のアーキテクチャ指定が不適切

解決策:

cd build
rm -rf *
cmake .. -DGGML_CUDA=ON -DCMAKE_CUDA_ARCHITECTURES="80;86;89;90"
cmake --build . --config Release -j$(nproc)

Compute Capabilityに合わせて調整：

RTX 30シリーズ: 86
RTX 40シリーズ: 89
A100/H100: 80/90

エラー: “failed to allocate CUDA memory”

原因: GPU メモリ不足

解決策1: レイヤー数を減らす

./main -m models/ggml-large-v3-turbo-q8_0.bin -f audio.wav -ngl 20

解決策2: より小さいモデルを使用

wget https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-medium-q5_0.bin -O models/ggml-medium-q5_0.bin
./main -m models/ggml-medium-q5_0.bin -f audio.wav -l ja -ngl 999

エラー: “error while loading shared libraries: libcuda.so.1”

解決策:

sudo ldconfig

または

export LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu:$LD_LIBRARY_PATH

GPU が認識されない

確認手順:

# ドライバー確認
nvidia-smi

# CUDA確認
nvcc --version

# 環境変数確認
echo $CUDA_HOME
echo $LD_LIBRARY_PATH

# 再ビルド
cd ~/whisper.cpp
make clean
GGML_CUDA=1 make -j$(nproc)

17. アップデート方法

whisper.cppを最新版に更新

cd ~/whisper.cpp
git pull origin master
cd build
rm -rf *
cmake .. -DGGML_CUDA=ON
cmake --build . --config Release -j$(nproc)

新しいモデルのダウンロード

cd ~/whisper.cpp
wget https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3-turbo-q8_0.bin -O models/ggml-large-v3-turbo-q8_0.bin

18. その他の量子化モデル

利用可能なモデル一覧

モデル	サイズ	精度	推奨用途
ggml-large-v3-turbo.bin	1.6GB	最高	最高精度が必要な場合
ggml-large-v3-turbo-q8_0.bin	1.7GB	非常に高	推奨バランス
ggml-large-v3-turbo-q5_0.bin	1.1GB	高	メモリ制限がある場合
ggml-medium-q5_0.bin	539MB	中-高	軽量で高速
ggml-small-q5_0.bin	182MB	中	テスト・開発用

他の量子化モデルのダウンロード

# q5_0 量子化版（より軽量）
wget https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3-turbo-q5_0.bin -O models/ggml-large-v3-turbo-q5_0.bin

# medium q5_0（バランス型）
wget https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-medium-q5_0.bin -O models/ggml-medium-q5_0.bin

まとめ

以上で、Ubuntu 24.04 LTS環境でのwhisper.cpp + CUDA + Whisper Large V3 Turbo q8_0の完全構築が完了しました。

完了した項目: ✅ Ubuntu 24.04 LTS システムセットアップ
✅ NVIDIA ドライバーインストール
✅ CUDA Toolkit 12.4 インストール
✅ whisper.cpp CUDA対応ビルド
✅ Whisper Large V3 Turbo q8_0 モデル導入
✅ 日本語音声認識の実行
✅ 字幕ファイル生成
✅ バッチ処理対応

パフォーマンスまとめ:

速度: CPUの約8-10倍高速
精度: Large V3とほぼ同等
メモリ: 約1.7GB（q8_0量子化）
リアルタイムファクター: 12-30倍速（GPUによる）

このセットアップで、高速かつ高精度な音声認識環境が完成しました！

参考リンク

whisper.cpp GitHub: https://github.com/ggerganov/whisper.cpp
モデル一覧: https://huggingface.co/ggerganov/whisper.cpp/tree/main
CUDA Toolkit: https://developer.nvidia.com/cuda-downloads
NVIDIA ドライバー: https://www.nvidia.com/download/index.aspx

カテゴリーサーバ関連

目次

1. システム要件の確認

必須要件

GPU確認

2. システムのアップデート

3. 必要なパッケージのインストール

基本的な開発ツールのインストール

追加パッケージのインストール

ffmpegのインストール（音声変換用）

4. NVIDIA ドライバーのインストール

推奨ドライバーの確認

推奨ドライバーの自動インストール

システムの再起動

ドライバーのインストール確認

5. CUDA Toolkit のインストール

CUDA 12.4 のインストール（Ubuntu 24.04推奨）

CUDA Toolkit のインストール

cuDNN のインストール（オプション、推奨）

6. 環境変数の設定

.bashrc に環境変数を追加

設定を反映

CUDA インストールの確認

7. whisper.cpp のクローン

ホームディレクトリに移動

whisper.cpp をクローン

最新版に更新

8. CUDA対応ビルド

CMakeを使用したビルド（推奨）

Makeを使用したビルド（代替方法）

ビルドの確認

9. Whisper Large V3 Turbo q8_0 モデルのダウンロード

モデルについて

modelsディレクトリの作成（存在しない場合）

ダウンロード方法 1: wget を使用（推奨）

ダウンロード方法 2: curl を使用

ダウンロード方法 3: Hugging Face CLI（オプション）

ダウンロード確認

10. サンプル音声での動作確認

サンプル音声のダウンロード

英語音声の認識テスト

GPU使用を明示的に指定

期待される出力

11. 日本語音声ファイルの準備と認識

MP3/MP4から16kHz WAVに変換

日本語音声の認識

12. 実用的な使用例

字幕ファイル（SRT）生成

字幕ファイル（VTT）生成

テキストファイルのみ出力

JSON形式で出力

全フォーマット同時出力

高精度設定（ビームサーチ使用）

日本語から英語に翻訳

13. よく使うオプション一覧

主要オプション

14. パフォーマンステスト

処理時間の計測

GPU使用状況のモニタリング

期待されるパフォーマンス

15. バッチ処理スクリプト

複数ファイルを一括処理

スクリプトの実行

16. トラブルシューティング

エラー: “CUDA error: no kernel image is available”

エラー: “failed to allocate CUDA memory”

エラー: “error while loading shared libraries: libcuda.so.1”

GPU が認識されない

17. アップデート方法

whisper.cppを最新版に更新

新しいモデルのダウンロード

18. その他の量子化モデル

利用可能なモデル一覧

他の量子化モデルのダウンロード

まとめ

参考リンク