
Hugging Face 入門 全10回-【第6回】
【第5回】はこちら
【第6回】GPU を使って高速化する
CPU と GPU の違い
AI が推論(モデルに入力を与えて結果を得ること)するとき、大量の数値計算を並列に処理している。
CPU はこの並列処理が苦手ですが、GPU は数千のコアを持ち、並列計算を高速に処理できます。
モデルが大きくなるほど、CPU と GPU の速度差は広がっていきます。
Google Colab で GPU を有効にする
Colab のメニューから以下の手順で GPU を有効化できます。
メニュー → ランタイム → ランタイムのタイプを変更 → T4 GPU を選択 → 保存GPU を使うコード
from transformers import pipeline
classifier = pipeline(
"text-classification",
model="bert-base-uncased",
device=0, # 0 = 1枚目の GPU(Colab 無料枠では GPU は1枚だけなので常に 0)
batch_size=32 # 一度にまとめて処理するデータ数
)GPU の使用確認
import torch
print(torch.cuda.is_available()) # True なら GPU 使用可能
print(torch.cuda.get_device_name(0)) # GPU の型番を表示バッチ処理で効率化する
texts = [
"Nuclear fusion is a promising energy source.",
"The experiment failed due to equipment issues.",
"Results exceeded all expectations.",
]
results = classifier(texts) # 複数まとめて処理
for r in results:
print(r)複数のテキストをリストで渡すと、GPU の並列性を活かしてまとめて処理できます。
用語解説
GPU(Graphics Processing Unit) もともとは画像処理用の半導体。数千の小さなコアを持ち、並列計算が得意。AI の学習・推論を大幅に高速化できる。NVIDIA の製品(GeForce、Tesla 等)が広く使われている。
CPU(Central Processing Unit) コンピュータの中央演算処理装置。逐次処理は高速だが、AI の大規模並列計算には GPU が適している。
CUDA(クーダ: Compute Unified Device Architecture) NVIDIA が開発した、GPU 上でプログラムを実行するための仕組み。PyTorch は CUDA を通じて GPU を使う。
device=0 使用するデバイスを指定するパラメータ。-1 は CPU、0 以上の整数は GPU のインデックス番号を意味する。複数の GPU を搭載したサーバーでは 0・1・2… と番号で区別する。Colab 無料枠では GPU は1枚しか割り当てられないため、常に device=0 が唯一の選択肢となる。torch.cuda.get_device_name(0) を実行すると、割り当てられた GPU の型番(T4 など)を確認できる。
バッチ処理(Batch Processing) データを一件ずつではなく、まとめて(バッチで)処理すること。GPU の並列性を活かして効率化できる。
T4 GPU NVIDIA が開発したデータセンター向け GPU。Google Colab の無料プランで利用できる GPU の一つ。
torch.cuda.is_available() PyTorch で GPU が使用可能かどうかを確認する関数。True が返れば GPU を使える状態。
次回はよくあるエラーとその対処法をまとめます。
(2026年3月10日記)
#HuggingFace #GPU #機械学習入門 #GoogleColab #PyTorch