1 定義と基礎概念

1.1 機械学習の定義

機械学習とは、コンピュータが明示的なプログラムによる指示なしに、データからパターンや規則性を自動的に学習し、未知のデータに対して予測判断を行う能力を獲得するための手法群を指す。アルゴリズム統計モデルを用いて経験的なデータに基づき性能を向上させる点に特徴がある。Tom Mitchellの定義では「プログラムがタスクTと性能指標Pにおいて、経験Eを通じてPが改善される場合、そのプログラムは経験Eから学習したと言える」とされる。

1.2 学習の種類

1.2.1 教師あり学習

教師あり学習は、入力データとそれに対応する正解ラベル(教師信号)の組を用いて学習する手法である。モデルは入力から出力を予測する関数を学習し、分類回帰などのタスクに用いられる。代表的なアルゴリズムに線形回帰ロジスティック回帰決定木、サポートベクターマシン、ニューラルネットワークなどがある。

1.2.2 教師なし学習

教師なし学習は、正解ラベルなしでデータの内在的な構造やパターンを発見する手法である。クラスタリング(データのグループ分け)や次元削減(データの圧縮)が主な応用であり、k平均法や主成分分析などが代表的である。顧客セグメンテーション異常検知などに利用される。

1.2.3 強化学習

強化学習は、エージェントが環境と相互作用しながら、報酬を最大化するように行動を学習する枠組みである。試行錯誤を通じて最適な方策(ポリシー)を獲得する。ゲームプレイ、ロボット制御、自動運転などに応用される。Q学習深層強化学習(DQNなど)が有名である。

1.3 データと特徴量

1.3.1 訓練データテストデータ

機械学習モデルの性能を正しく評価するためには、データを訓練データとテストデータに分割する。訓練データでモデルを学習し、テストデータで汎化性能(未知データへの適応能力)を測定する。典型的には全体の70~80%を訓練、残りをテストとする。交差検証も併用される。

1.3.2 特徴量エンジニアリング

特徴量エンジニアリングとは、生データからモデルが学習しやすい形に特徴量を変換・選択・生成するプロセスである。数値化、正規化、欠損値補完カテゴリ変数のダミー変数化、時系列特徴の抽出などが含まれる。適切な特徴量はモデルの性能を大きく左右する。

2 主要なアルゴリズム

2.1 回帰と分類

2.1.1 線形回帰

線形回帰は、入力変数(特徴量)と連続値の出力変数の間に線形関係を仮定する回帰手法である。最小二乗法を用いて回帰直線を当てはめ、予測を行う。単回帰(1変数)と重回帰(多変数)がある。シンプルで解釈しやすく、ベースラインモデルとして広く使われる。

2.1.2 ロジスティック回帰

ロジスティック回帰は、二値分類(yes/no)問題に用いられる分類手法である。線形モデルの出力をシグモイド関数で0~1の確率に変換し、閾値でクラスを決定する。本質的には線形分類器だが、確率的解釈が容易で、医療診断やクレジットスコアリングなどで実用的に利用される。

2.1.3 決定木とランダムフォレスト

決定木は、特徴量の条件分岐を木構造で表現する分類・回帰モデルである。解釈性が高く、非線形な関係も扱えるが、過学習しやすい。ランダムフォレストは、複数の決定木をアンサンブル(多数決・平均)して性能と安定性を向上させた手法であり、実務で高い精度を示す。

2.2 クラスタリングと次元削減

2.2.1 k平均法(k-means)

k平均法は、与えられたデータをk個のクラスタに分割する教師なし学習アルゴリズムである。各クラスタの重心(平均ベクトル)を反復的に更新し、データ点と最寄りの重心との距離の総和を最小化する。シンプルで高速だが、クラスタ数kの事前指定や初期値依存性が課題である。

2.2.2 主成分分析(PCA)

主成分分析は、多次元データの分散が大きい方向(主成分)を抽出し、低次元に射影する次元削減手法である。データの情報を可能な限り保持しながら特徴量数を減らすことで、可視化や計算効率化、ノイズ除去に役立つ。無相関化の効果もある。

2.3 ニューラルネットワークと深層学習

2.3.1 パーセプトロン

パーセプトロンは、ニューラルネットワークの基本単位であり、入力に重みを掛けて総和をとり、活性化関数(ステップ関数など)で出力する単純なモデルである。線形分類が可能だが、XOR問題のような非線形分離は解けない。多層パーセプトロン(MLP)へ発展した。

2.3.2 畳み込みニューラルネットワーク(CNN)

CNNは、画像や時系列データに特化したニューラルネットワークである。畳み込み層とプーリング層を積み重ね、局所的なパターンを階層的に学習する。画像認識、物体検出、画像生成などで圧倒的な性能を発揮する。代表的なアーキテクチャにAlexNet、ResNetなどがある。

2.3.3 再帰型ニューラルネットワーク(RNN)

RNNは、系列データ(テキスト、音声、時系列)を扱うためのニューラルネットワークであり、過去の情報を内部状態(隠れ状態)として保持する。長期的な依存関係を学習するのが難しいという課題があるが、LSTMやGRUといった改良型により実用的に使われる。機械翻訳や音声認識に応用される。

3 モデルの評価と最適化

3.1 過学習と未学習

過学習(オーバーフィッティング)は、モデルが訓練データに過度に適合し、テストデータに対する汎化性能が低下する現象である。一方、未学習(アンダーフィッティング)は、モデルが訓練データすら十分に学習できない状態を指す。適切なモデル複雑度の選択、正則化(L1/L2正則化、ドロップアウト)、データ拡張などで対策する。

3.2 交差検証

交差検証は、限られたデータを効率的に使いモデルの汎化性能を評価する手法である。典型的にはk分割交差検証(データをk個に分割し、k-1個で訓練、残り1個で評価をk回繰り返す)が用いられる。ハイパーパラメータのチューニングやモデル選択に広く利用される。

3.3 損失関数と勾配降下法

3.3.1 損失関数の種類

損失関数は、モデルの予測と真の値との誤差を定量化する関数である。回帰では平均二乗誤差(MSE)、分類では交差エントロピー誤差が一般的。また、huber損失のように外れ値に頑健なものや、ランク学習用のPairwise損失など、タスクに応じて選択される。

3.3.2 最適化アルゴリズム(SGD, Adam)

勾配降下法は、損失関数の勾配に沿ってパラメータを更新する最適化手法である。確率的勾配降下法(SGD)は、一度に1サンプルまたはミニバッチ単位で勾配を計算し、計算効率と局所解からの脱出に優れる。Adamは、SGDに慣性(モーメンタム)と適応的な学習率調整を組み合わせた手法で、多くの深層学習タスクで標準的に使われる。

4 応用と実践

4.1 画像と映像認識

機械学習、特にCNNは画像認識で大きな成功を収めている。画像分類(物体が何か)、物体検出(位置と種類)、セマンティックセグメンテーション(ピクセル単位のクラス分類)などが実用化され、自動運転、監視カメラ、医用画像診断などに応用される。映像認識では行動認識や追跡にも利用される。

4.2 自然言語処理

4.2.1 感情分析

感情分析は、テキストから書き手の感情(ポジティブ、ネガティブ、中立など)を自動判定するタスクである。製品レビュー、ソーシャルメディア分析、カスタマーサービスなどで活用される。BERTやGPTなどのトランスフォーマーモデルが高精度を達成している。

4.2.2 機械翻訳

機械翻訳は、ある言語のテキストを別の言語に自動変換する技術である。従来は統計的機械翻訳が主流だったが、現在はニューラル機械翻訳(NMT)が主流であり、Transformerアーキテクチャが高性能を示す。Google翻訳やDeepLなどが代表的サービスである。

4.3 推薦システム

推薦システムは、ユーザーにアイテム(商品、動画、記事など)をパーソナライズして提示する技術である。協調フィルタリング(ユーザー間またはアイテム間の類似性)、コンテンツベースフィルタリング、さらに深層学習を用いたモデルが併用される。Netflix、Amazon、YouTubeなどで広く使われる。

4.4 医療診断

機械学習は医療分野で診断支援に用いられる。画像診断(X線、CT、MRIからの病変検出)、病理画像解析、ゲノムデータ解析、電子カルテからの病気予測などが進んでいる。AIは医師の判断を補完し、診断精度向上や業務効率化に貢献するが、臨床導入には規制や倫理面の課題も残る。

5 倫理と課題

5.1 バイアスと公平性

訓練データに含まれる社会的偏見(性別、人種、年齢など)がモデルに学習され、不公平な判断を引き起こす可能性がある。採用、融資、司法判断などでの差別を防ぐため、データの偏りを可視化し、公平性を考慮したアルゴリズム設計(公平性制約、逆学習など)が研究されている。

5.2 プライバシーとデータ保護

機械学習は大量の個人データを必要とすることが多く、プライバシー侵害のリスクがある。匿名化、差分プライバシー、連合学習(後述)などの技術でデータ保護を図る。また、GDPRなどの法規制に対応したデータ管理が求められる。

5.3 説明可能性と解釈性

深層学習モデルは「ブラックボックス」とされ、予測理由を人間が理解しにくい。医療や金融などの重要領域では説明可能性が要求される。LIMEやSHAPといったモデル非依存の説明手法や、注意機構、解釈可能なモデル自体の開発が進められている。

6 将来展望

6.1 自己教師あり学習

自己教師あり学習は、ラベルなしデータから擬似的な教師信号を生成して学習する手法である。自然言語処理(BERT、GPT)や画像(SimCLR、MAE)で大きな成功を収め、ラベル付けコストを大幅に削減できる。今後さらに多くの領域で基盤技術となると期待される。

6.2 連合学習

連合学習は、データを中央サーバーに集約せず、各端末(スマートフォン、病院など)で局所的にモデルを学習し、更新情報のみを共有することでプライバシーを保護しつつ協調学習を実現する手法である。医療や金融など機密性の高い領域での応用が期待される。

6.3 機械学習の軽量応用(エッジAI)

エッジAIは、クラウドではなくデバイス上(スマートフォン、IoT機器、自動車など)で推論や学習を行う技術である。モデル圧縮、量子化、知識蒸留などの手法により、限られた計算資源でも高速に動作する軽量モデルが開発されている。リアルタイム性、オフライン動作、プライバシー保護の観点から重要度が増している。