メインコンテンツへスキップ
見出し画像
Photo bydreamy_boar9935

G検定#08|教師あり学習とは? 学習を支える7つのアルゴリズム

    皆さん、ご安全に!! 技術屋たかちゃんです。

    迷惑メールを見分けるAI、売上を予測するAI、画像から犬と猫を判別するAI。いったい、何を根拠に判断しているのでしょうか。

    例えば、工場の検査ラインを想像してみてください。

    ベルトコンベアが低い音を立てながら製品を運んでくる。カメラが表面を撮影し、モニターには「正常」「不良」の判定が次々と表示される。

    人間なら傷を見れば気づきます。では、AIは何を手掛かりに判断しているのでしょうか?

    実は、その裏側には大量の「問題と答え」があります。

    AIに答えを教える教師あり学習

    教師あり学習とは、入力データと正解データをセットにしてAIに学習させる方法です。

    例えば、傷のある製品の画像には「不良」、傷のない画像には「正常」というラベルを付ける。AIは大量の画像を見比べながら、両者の違いを学習していきます。

    仕事の種類は大きく2つ。

    • 分類:犬か猫か、正常か不良かなど、カテゴリーを判定する。

    • 回帰:売上高や気温など、連続した数値を予測する。

    相棒のAI(アイ)君が調べたところでは、代表的なアルゴリズムには、それぞれ異なる計算方法と得意分野があるそうです。

    代表的な7つのアルゴリズム

    1. 線形回帰

    データの傾向を直線で表し、数値を予測する方法です。

    例えば、気温が上がるとアイスクリームの売上が増えるという関係から、売上を予測します。

    説明変数(予測に使う情報)が1つなら単回帰分析、複数なら重回帰分析と呼びます。

    気をつけたいのが多重共線性。相関の強い説明変数を同時に使うと、回帰係数の推定が不安定になる現象です。

    2. ロジスティック回帰

    名前に「回帰」と付いていますが、主に分類問題に使います。

    例えば、クレジットカードの不正利用が起きる確率を0〜1の範囲で予測します。

    分類の境目になる数値を閾値(しきい値)と呼びます。一般的には0.5を使いますが、不正利用の見逃しを減らしたい場合などは、目的に応じて調整します。

    3. サポートベクターマシン(SVM)

    データを2つのグループに分ける境界線を引く方法です。

    特徴は、境界線と最も近いデータとの距離、マージンを最大化すること。

    直線では分けられない複雑なデータにはカーネル法を使います。高次元空間でデータを扱い、複雑な境界を表現する技術です。カーネルトリックによって、高次元空間での計算を効率化します。

    4. 決定木

    「温度は何度以上か?」「傷はあるか?」と質問を繰り返し、枝分かれしながら判断する方法です。

    ジニ不純度やエントロピーという指標を使い、異なるクラスが混ざった状態を減らすように分割します。

    判断の道筋を図で確認できるので、人間にも理解しやすい手法です。

    5. 過学習(オーバーフィッティング)

    過去の問題は完璧に解けるのに、本番では間違いだらけ。

    これが過学習です。

    訓練データに適合しすぎて、未知のデータに対応できなくなった状態です。決定木を深くしすぎると発生しやすくなります。

    対策には、木の深さを制限する、学習データを増やす、正則化を行うなどの方法があります。

    6. アンサンブル学習

    複数のモデルを組み合わせて予測する方法です。

    代表的な手法は2つ。

    • バギング:複数のモデルを並列に学習させ、多数決や平均で結果をまとめる。代表例はランダムフォレスト。

    • ブースティング:モデルを順番に学習させ、前のモデルの誤りを次のモデルが補う。代表例は勾配ブースティング。XGBoostやLightGBMもこの仲間です。

    7. 自己回帰モデル(ARモデル)

    過去の数値を使って、未来の数値を予測する時系列モデルです。

    例えば、過去の売上や人口の推移から次の値を予測します。何期前までのデータを使うかによってモデルの構成が変わります。

    教師あり学習を調べて感じたこと

    今回、僕が気になったのは、AIに何を正解として教えるかという点です。

    工場の検査で、傷のある製品を「正常」として登録してしまえば、AIはその誤った情報を学習します。

    どれほど高性能なモデルでも、教えるデータが間違っていれば判断も狂います。

    アルゴリズムの名前や計算方法を覚えるのもG検定の勉強ですが、その先には現場で正解データを作る人間の仕事があります。

    検査ラインを流れる製品の一つひとつに、誰かが「正常」「不良」とラベルを付けている。

    AIの学習は、そんな地道な作業から始まっているのです。

    技術屋たかちゃんでした。ご安全に!!


    G検定 連載
    前回:

    次回:

    目次(マガジン):


    G検定重要用語集:教師あり学習と代表的なアルゴリズム

    1. 教師あり学習の基本用語

    1. 教師あり学習(Supervised Learning)

    入力データと、それに対応する正解データ(ラベル)をセットにして学習する機械学習の手法。学習済みモデルは、未知のデータに対して分類や数値予測を行う。

    2. 特徴量(Feature)

    機械学習モデルが予測や分類に利用する入力データの項目。製品検査なら、画像の色、形状、傷の大きさなどが特徴量になる。適切な特徴量の選択がモデルの性能に影響する。

    3. 正解データ・ラベル(Label)

    学習データに付与された正解情報。画像分類なら「犬」「猫」、製品検査なら「正常」「不良」などが該当する。教師あり学習では、入力データとラベルの組み合わせを使って学習する。

    4. 分類(Classification)

    入力データが、あらかじめ定められたカテゴリーのどれに属するかを予測するタスク。犬と猫の判別や迷惑メールの検出、不良品の判定などに利用される。

    5. 回帰(Regression)

    入力データから連続的な数値を予測するタスク。住宅価格、売上高、気温などの予測に利用される。分類がカテゴリーを予測するのに対し、回帰は数値を予測する。

    6. 説明変数(Explanatory Variable)

    目的変数を予測・説明するために使う入力側の変数。例えば、アイスクリームの売上を予測する場合、気温や湿度が説明変数になる。機械学習では特徴量に相当する概念として扱われる。

    7. 目的変数(Objective Variable)

    予測したい対象となる変数。アイスクリームの売上予測なら売上高が目的変数に当たる。説明変数を使って目的変数の値やカテゴリーを予測する。

    2. 回帰・分類アルゴリズム

    8. 線形回帰(Linear Regression)

    説明変数と目的変数の関係を線形の式で表現し、数値を予測する手法。データに最もよく適合する直線や超平面を求める。単回帰分析と重回帰分析がある。

    9. 単回帰分析

    説明変数が1つの線形回帰。例えば、気温という1つの情報からアイスクリームの売上を予測する。2つの変数の関係を直線で表す基本的な回帰分析の手法。

    10. 重回帰分析

    複数の説明変数を使って目的変数を予測する線形回帰。気温、湿度、曜日などから売上を予測する。説明変数同士の相関が強い場合は、多重共線性に注意する。

    11. 多重共線性(Multicollinearity)

    重回帰分析で、説明変数同士に強い相関がある状態。回帰係数の推定が不安定になり、係数の解釈が難しくなることがある。相関の強い変数を同時に使う場合に注意が必要。

    12. ロジスティック回帰(Logistic Regression)

    入力データから、あるクラスに属する確率を予測する分類アルゴリズム。シグモイド関数などを利用して確率を0〜1の範囲に変換する。名前に回帰と付くが、主に分類に使われる。

    13. シグモイド関数(Sigmoid Function)

    入力値を0〜1の範囲に変換するS字型の関数。ロジスティック回帰やニューラルネットワークで利用される。入力値が大きくなるほど出力は1に近づき、小さくなるほど0に近づく。

    14. ソフトマックス関数(Softmax Function)

    複数クラスの分類で、各クラスのスコアを確率分布に変換する関数。出力された各クラスの確率の合計は1になる。多クラス分類の出力層などで利用される。

    15. 閾値(Threshold)

    予測された確率などを、実際のクラス判定に変換する境界値。ロジスティック回帰では0.5がよく使われるが、目的に応じて変更できる。閾値を変えると適合率や再現率にも影響する。

    3. サポートベクターマシン

    16. サポートベクターマシン(SVM)

    分類問題などに使われる機械学習アルゴリズム。クラスを分ける境界を決める際、境界と最も近いデータとの距離(マージン)が最大になるように学習する。

    17. マージン(Margin)

    SVMにおいて、クラスを分ける境界と、その境界に最も近い学習データとの距離を基に定義される余裕幅。SVMはこのマージンを最大化する境界を求める。

    18. カーネル法(Kernel Method)

    データを高次元の特徴空間で扱い、元の空間では直線で分けにくいデータを分離しやすくする手法。SVMでは非線形な分類境界を表現するために利用される。

    19. カーネルトリック(Kernel Trick)

    高次元空間にデータを明示的に変換することなく、カーネル関数によって内積を計算する方法。SVMなどで利用され、高次元空間での計算を効率化できる。

    4. 決定木と過学習

    20. 決定木(Decision Tree)

    データを条件に従って枝分かれさせ、分類や数値予測を行うモデル。「はい・いいえ」の質問を繰り返す木構造で表現される。判断過程を可視化しやすく、解釈性が高い。

    21. 分類木

    決定木のうち、データをカテゴリーに分類するためのモデル。ジニ不純度やエントロピーなどの指標を使ってデータを分割し、最終的なクラスを予測する。

    22. 回帰木

    決定木のうち、連続的な数値を予測するモデル。条件分岐によってデータを分割し、各葉ノードに含まれるデータの平均値などを使って予測値を求める。

    23. ジニ不純度(Gini Impurity)

    決定木でノード内のクラスの混在具合を測る指標。値が小さいほどノード内のクラスが均一であることを示す。分類木の分割基準として利用される。

    24. エントロピー(Entropy)

    情報理論に基づく不確実性の尺度。決定木ではノード内のクラスの混在具合を測るために使われる。エントロピーが小さいほどクラスの偏りが大きく、純度が高い。

    25. 過学習(Overfitting)

    訓練データに過度に適合し、未知のデータに対する予測性能が低下する現象。決定木を深くしすぎた場合などに発生しやすい。汎化性能の低下につながる。

    26. 正則化(Regularization)

    モデルの複雑さを抑え、過学習を防ぐための方法。損失関数にペナルティ項を加える方法などがある。代表例にL1正則化とL2正則化がある。

    5. アンサンブル学習

    27. アンサンブル学習(Ensemble Learning)

    複数の機械学習モデルを組み合わせ、単独モデルより予測性能を高めることを狙う手法。代表的な方法にバギングとブースティングがある。

    28. バギング(Bagging)

    Bootstrap Aggregatingの略。訓練データから復元抽出によって複数のデータセットを作り、複数のモデルを並列に学習させる。分類では多数決、回帰では平均などで予測を統合する。

    29. ランダムフォレスト(Random Forest)

    複数の決定木を組み合わせるアンサンブル学習の手法。バギングを基本とし、各分割で使用する特徴量もランダムに選択する。個々の決定木の予測を統合して分類や回帰を行う。

    30. ブースティング(Boosting)

    複数のモデルを順番に学習させるアンサンブル学習の手法。先行モデルの予測誤差などを次のモデルの学習に反映させる。バギングとは異なり、モデル間に逐次的な依存関係がある。

    31. 勾配ブースティング(Gradient Boosting)

    ブースティングの一種。損失関数を小さくする方向、すなわち負の勾配を利用してモデルを逐次的に追加する。決定木を弱学習器として使う構成が広く利用されている。

    32. XGBoost

    勾配ブースティングを高速かつ効率的に実行するために開発されたライブラリ。正則化や計算の並列化などの工夫を取り入れている。表形式データの分類・回帰で広く利用される。

    33. LightGBM

    Microsoftが開発した勾配ブースティング系の機械学習フレームワーク。ヒストグラム方式などを利用して学習を高速化する。大規模な表形式データの分類や回帰に利用される。

    6. 時系列データ

    34. 時系列データ(Time Series Data)

    時間の経過に沿って記録されたデータ。株価、気温、売上高、人口推移などが該当する。時間的な順序や過去の値との関係を考慮して分析・予測する。

    35. 自己回帰モデル(ARモデル)

    AutoRegressive Modelの略。過去の自分自身の値を使って、現在や未来の値を予測する時系列モデル。AR(1)なら1期前、AR(2)なら2期前までの値を利用する。


     
     
    ご安全に!技術屋たかちゃんです! 「これって実際どうなの?」という日常の疑問を、エンジニアの視点で相棒のAI(アイ)君と一緒に調べて、3つのテーマ(AI、安全、暮らしの技術) をわかりやすく解説しています。技術や社会の仕組みを知ると世の中の見え方が少し変わるかもしれません。

    あなたへのおすすめ