メインコンテンツへスキップ
見出し画像

Hugging Face 入門 全10回-【第6回】

    【第5回】はこちら

    【第6回】GPU を使って高速化する

    CPU と GPU の違い

    AI が推論(モデルに入力を与えて結果を得ること)するとき、大量の数値計算を並列に処理している。

    CPU はこの並列処理が苦手ですが、GPU は数千のコアを持ち、並列計算を高速に処理できます。

    モデルが大きくなるほど、CPU と GPU の速度差は広がっていきます。

    Google Colab で GPU を有効にする

    Colab のメニューから以下の手順で GPU を有効化できます。

    メニュー → ランタイム → ランタイムのタイプを変更 → T4 GPU を選択 → 保存

    GPU を使うコード

    from transformers import pipeline
    
    classifier = pipeline(
        "text-classification",
        model="bert-base-uncased",
        device=0,        # 0 = 1枚目の GPU(Colab 無料枠では GPU は1枚だけなので常に 0)
        batch_size=32    # 一度にまとめて処理するデータ数
    )

    GPU の使用確認

    import torch
    
    print(torch.cuda.is_available())   # True なら GPU 使用可能
    print(torch.cuda.get_device_name(0))  # GPU の型番を表示

    バッチ処理で効率化する

    texts = [
        "Nuclear fusion is a promising energy source.",
        "The experiment failed due to equipment issues.",
        "Results exceeded all expectations.",
    ]
    
    results = classifier(texts)  # 複数まとめて処理
    for r in results:
        print(r)

    複数のテキストをリストで渡すと、GPU の並列性を活かしてまとめて処理できます。

    用語解説

    GPU(Graphics Processing Unit) もともとは画像処理用の半導体。数千の小さなコアを持ち、並列計算が得意。AI の学習・推論を大幅に高速化できる。NVIDIA の製品(GeForce、Tesla 等)が広く使われている。

    CPU(Central Processing Unit) コンピュータの中央演算処理装置。逐次処理は高速だが、AI の大規模並列計算には GPU が適している。

    CUDA(クーダ: Compute Unified Device Architecture) NVIDIA が開発した、GPU 上でプログラムを実行するための仕組み。PyTorch は CUDA を通じて GPU を使う。

    device=0 使用するデバイスを指定するパラメータ。-1 は CPU、0 以上の整数は GPU のインデックス番号を意味する。複数の GPU を搭載したサーバーでは 0・1・2… と番号で区別する。Colab 無料枠では GPU は1枚しか割り当てられないため、常に device=0 が唯一の選択肢となる。torch.cuda.get_device_name(0) を実行すると、割り当てられた GPU の型番(T4 など)を確認できる。

    バッチ処理(Batch Processing) データを一件ずつではなく、まとめて(バッチで)処理すること。GPU の並列性を活かして効率化できる。

    T4 GPU NVIDIA が開発したデータセンター向け GPU。Google Colab の無料プランで利用できる GPU の一つ。

    torch.cuda.is_available() PyTorch で GPU が使用可能かどうかを確認する関数。True が返れば GPU を使える状態。


    次回はよくあるエラーとその対処法をまとめます。

    (2026年3月10日記)

    #HuggingFace #GPU #機械学習入門 #GoogleColab #PyTorch

    【第7回】を公開しました


     
     
    科学技術や株式投資に関する執筆依頼を随時受け付けています。専門的な解説記事から気軽なエッセイまで幅広く対応可能です。

    あなたへのおすすめ