1 歴史と背景
1.1 前史：パーセプトロンと初期の神経回路モデル
コネクショニズムの起源は、1940年代から1950年代にかけての神経回路モデルの研究に遡る。ウォーレン・マカロックとウォルター・ピッツは1943年、単純化された論理ニューロンモデルを提案し、神経活動を二値論理で記述できることを示した。その後、フランク・ローゼンブラットは1958年、パーセプトロンを開発した。パーセプトロンは単層のニューラルネットワークであり、線形分離可能なパターンを学習できるが、排他的論理和（XOR）のような非線形問題を解けないことがマービン・ミンスキーとシーモア・パパートの1969年の著書『パーセプトロン』で指摘され、研究は一時的に停滞した。
1.2 冬の時代とルネサンス
1.2.1 並列分散処理（PDP）の登場
1980年代に入り、デイヴィッド・ラメルハート、ジェームズ・マクレランドらを中心とする「並列分散処理（PDP）」研究グループが結成された。彼らは1986年に『並列分散処理：認知のミクロ構造の探求』を出版し、ニューラルネットワークによる認知機能のモデル化を体系的に提示した。この著作はコネクショニズムのルネサンスを象徴し、認知科学と人工知能に大きな変革をもたらした。PDPモデルは、情報が単一の記号ではなく、多くのユニットに分散して表現されるという分散表現の概念を強調した。
1.2.2 誤差逆伝播法の再発見
多層パーセプトロンの学習を可能にする誤差逆伝播法（バックプロパゲーション）は、1974年にポール・ウェルボスが博士論文で提案していたが、1986年にラメルハート、ヒントン、ウィリアムズによって独立に再発見され、広く認知されるようになった。このアルゴリズムは、出力層の誤差を隠れ層へ逆向きに伝播させて重みを更新することで、非線形問題の学習を可能にした。これにより、コネクショニズムは実用的な計算基盤を獲得した。
1.3 現代への展開：深層学習への架橋
2000年代以降、計算機の性能向上と大規模データの利用可能により、多層のニューラルネットワーク（深層学習）が再評価された。ジェフリー・ヒントンらによる制約ボルツマンマシンを用いた事前学習法や、2010年代のGPUの活用により、画像認識や音声認識で従来手法を凌駕する性能を示した。コネクショニズムの理念は現代の深層学習の基盤となり、認知モデルとしても、工学的応用としても発展を続けている。
2 理論的基盤
2.1 ニューラルネットワークの基本構造
2.1.1 ユニットと活性化関数
ニューラルネットワークの基本構成要素はユニット（ノード）であり、生物学的ニューロンを抽象化したものである。各ユニットは、入力の重み付き和にバイアスを加えた値を計算し、その結果を活性化関数によって非線形変換する。代表的な活性化関数には、シグモイド関数、tanh関数、ReLU（Rectified Linear Unit）関数などがある。活性化関数の選択はネットワークの表現力と学習の安定性に影響する。
2.1.2 ネットワークのトポロジー
ユニットの接続構造（トポロジー）はネットワークの種類を決定する。代表的なものに、層状にユニットが並び信号が一方向に流れるフィードフォワード型、循環結合を持つ再帰型、全結合型、局所結合型（畳み込み型）などがある。トポロジーの設計は、扱うデータの構造やタスクの性質に依存する。
2.2 学習アルゴリズム
2.2.1 ヘッブ則
1949年にドナルド・ヘッブが提唱したヘッブ則は、「一緒に発火するニューロンは結合を強める」という原理に基づく。具体的には、前シナプスニューロンと後シナプスニューロンが同時に活性化すると、その間の結合強度が増加する。この単純な局所学習則は、自己組織化や記憶形成の基礎モデルとして重要な役割を果たす。
2.2.2 誤差逆伝播法と勾配降下法
誤差逆伝播法は、出力層での損失関数の勾配を計算し、連鎖律を用いて各層の重みに対する勾配を効率的に求める手法である。得られた勾配に基づき、重みを損失を減少させる方向に更新する勾配降下法と組み合わせて用いられる。学習率やモーメンタムなどのハイパーパラメータが学習の収束に影響を与える。
2.2.3 教師なし学習と競合学習
教師なし学習では、入力データのみから構造を発見する。競合学習（コホーネンの自己組織化マップなど）では、ユニットが互いに競合し、最も類似した入力に反応するユニット（勝者）がその重みを更新する。これにより、データのクラスタリングやトポロジカルな秩序が形成される。
2.3 分散表現と並列処理の原理
2.3.1 分散表現の特性
分散表現では、各概念や特徴が複数のユニットの活性化パターンとして表現され、各ユニットは複数の概念に寄与する。これにより、類似した概念は似たパターンを持つため、汎化性能が高まる。また、一部のユニットが損傷しても全体の機能が緩やかに劣化するという「グレースフル・デグラデーション」の特性を持つ。
2.3.2 状態空間とエネルギー関数
ネットワーク全体の状態は、ユニットの活性化値からなる多次元状態空間上の点として捉えられる。特にホップフィールドネットワークでは、エネルギー関数（リヤプノフ関数）が定義され、状態遷移はエネルギーを減少させる方向に進む。ネットワークはエネルギー極小値（アトラクタ）に収束し、それは記憶の想起に対応する。
3 主要なモデルとアーキテクチャ
3.1 順伝播型ネットワーク（フィードフォワードネット）
最も基本的なアーキテクチャで、入力層、隠れ層、出力層から構成され、信号は一方向にのみ伝播する。多層パーセプトロンとも呼ばれ、ユニバーサル近似定理により、十分な隠れユニットがあれば任意の連続関数を近似できることが証明されている。画像認識や回帰問題など幅広いタスクに応用される。
3.2 再帰型ネットワーク（RNN）
3.2.1 単純再帰型ネットワーク
再帰型ネットワークは、内部状態（隠れ状態）を持ち、時系列データを処理するために設計された。各時刻において、現在の入力と前時刻の隠れ状態から新しい隠れ状態を計算する。しかし、長期依存性の学習において勾配消失・勾配爆発問題が生じやすい。
3.2.2 LSTMとGRU
Long Short-Term Memory（LSTM）は、忘却ゲート、入力ゲート、出力ゲートを導入することで、長期記憶の保持と短期記憶の更新を制御する。Gated Recurrent Unit（GRU）はLSTMを簡略化したもので、リセットゲートと更新ゲートのみで構成される。これらのゲート付きRNNは、自然言語処理や音声認識で高い性能を示す。
3.3 自己組織化マップ（SOM）
テウボ・コホーネンによって提案された自己組織化マップは、競合学習と近傍関数を用いて、高次元の入力データを低次元（通常は2次元）の格子状マップ上にトポロジカルに写像する。類似した入力は近い位置にマッピングされ、教師なしでデータの構造を可視化・クラスタリングできる。
3.4 確率的ネットワーク
3.4.1 ボルツマンマシン
ボルツマンマシンは、確率的なユニットを持つ全結合型ネットワークであり、エネルギー関数に基づいて状態遷移する。ユニットは確率的に活性化されるため、組み合わせ最適化や確率分布の学習に利用される。ただし、学習には膨大な計算コストがかかる。
3.4.2 制約ボルツマンマシン（RBM）
制約ボルツマンマシンは、可視層と隠れ層の二層構造を持ち、層内結合がない二部グラフである。対照発散（CD法）により効率的に学習できる。RBMを積み重ねた深層信念ネットワークは、深層学習の事前学習手法として重要な役割を果たした。
4 応用と関連分野
4.1 認知心理学への影響
4.1.1 記号接地問題への応答
記号接地問題とは、記号がどのように意味を得るかという問題である。コネクショニズムは、シンボルを明示的に操作するのではなく、感覚運動経験に基づく分散表現によって意味を獲得する枠組みを提供する。これにより、記号を実世界の感覚データに接地する可能性が示された。
4.1.2 カテゴリ化とプロトタイプ理論
コネクショニストモデルは、人間のカテゴリ化がプロトタイプ（典型例）に基づくことを説明する。ニューラルネットワークは学習を通じてカテゴリの典型パターンを内部表現として形成し、曖昧な事例に対しても類似性に基づいて柔軟に分類できる。これは古典的な古典的カテゴリ理論に対する有力な代替案となった。
4.2 機械学習・パターン認識
4.2.1 画像認識と音声認識
畳み込みニューラルネットワーク（CNN）は画像認識において、局所受容野と階層的な特徴抽出によって高い精度を達成した。また、深層学習ベースの音声認識システムは、リカレントニューラルネットワークとCTC（Connectionist Temporal Classification）などの手法により、従来の隠れマルコフモデルを凌駕する性能を示している。
4.2.2 自然言語処理への応用
分散表現（ワードエンベディング）やリカレントニューラルネットワーク、Transformerアーキテクチャにより、機械翻訳、感情分析、質問応答などの自然言語処理タスクで画期的な成果が得られた。これらのモデルは、単語の意味や文法構造を分散表現として捉えるコネクショニズムの原理に基づいている。
4.3 神経科学との連関
4.3.1 神経可塑性と学習則の対応
ヘッブ則やその変種であるスパイクタイミング依存可塑性（STDP）は、生物学的なシナプス可塑性の現象と対応する。コネクショニストモデルの学習則は、神経科学における長期増強（LTP）や長期抑圧（LTD）のメカニズムと関連づけて研究されている。
4.3.2 脳機能のモデル化
コネクショニストモデルは、視覚野の階層的処理、海馬の記憶機能、大脳基底核の行動選択など、脳のさまざまな領域の情報処理を計算論的にモデル化するために用いられる。特に、PDPモデルは読字障害や失語症などの神経心理学的事象のシミュレーションにも成功している。
5 批判と限界
5.1 シンボリックアプローチとの比較
5.1.1 規則性の表現能力
シンボリックアプローチ（古典的人工知能）は、明示的なルールと論理推論に基づき、規則的な処理を正確に実行できる。一方、コネクショニストモデルは統計的なパターン学習に優れるが、明示的なルールを欠くため、厳密な論理推論や記号操作が苦手である。
5.1.2 構成性と系統性の問題
ジェリー・フォーダーやゼノン・ピリッシンらは、コネクショニストモデルが人間の言語に見られる構成性（複合表現の意味が構成要素の意味と結合規則から決まる性質）や系統性（ある構文構造を理解できれば類似した構造も理解できる性質）を十分に説明できないと批判した。この議論は、コネクショニズムとシンボリックアプローチの統合の必要性を浮き彫りにした。
5.2 解釈可能性とブラックボックス性
ディープニューラルネットワークは、多数の非線形変換とパラメータを持つため、なぜ特定の出力が得られたのかを人間が理解することが困難なブラックボックスとなりやすい。医療診断や自動運転など、説明責任が求められる領域では、モデルの解釈可能性が重要な課題となっている。
5.3 計算資源と汎化能力のトレードオフ
大規模なニューラルネットワークの学習には膨大な計算資源とデータが必要である。また、過学習（訓練データに適合しすぎて未知データに汎化できない現象）を防ぐために正則化やドロップアウトなどの手法が用いられるが、モデルサイズと汎化性能の適切なバランスを取ることは依然として難しい問題である。
6 今後の展望
6.1 深層学習との統合と発展
コネクショニズムの原理は深層学習の基盤として確立し、今後もモデルの大規模化・効率化が進むと予想される。自己教師あり学習、転移学習、マルチモーダル学習などの新しいパラダイムが、より汎用的な知能の実現を目指している。
6.2 ニューラルシンボリック統合
コネクショニズムの統計的学習能力とシンボリックアプローチの論理的推論能力を融合するニューラルシンボリック統合が注目されている。ニューラルネットワークに外部記憶や推論モジュールを組み込むことで、構成性や解釈可能性の向上が期待される。
6.3 生物学的妥当性の追求
現在のニューラルネットワークは、実際の脳の神経回路と比較して多くの単純化を含む。スパイキングニューラルネットワークや学習則の生物学的制約の導入により、より脳に近い計算モデルを構築する研究が進んでいる。これにより、認知機能の理解が深まるとともに、省エネルギーなハードウェア実装への応用も期待される。