ニューラルネットワーク

概要

ニューラルネットワークは、脳の神経細胞（ニューロン）のつながりを大まかに模した計算モデルで、機械学習の一手法です。単純な計算しかしない「ノード」を層状に大量に並べてつなぎ、つながりの強さ（重み）をデータから調整することで、画像の中の猫を見つける、音声を文字に起こす、文章の続きを予測するといった複雑なパターン認識を実現します。

層を深く（ディープに）重ねたニューラルネットワークを使う機械学習は「深層学習（ディープラーニング）」と呼ばれ、2010年代以降のAIブームの中心にあります。画像認識、音声認識、機械翻訳、そしてLLMまで、現在「AI」と呼ばれているものの中身は、ほぼ例外なくこのニューラルネットワークです。

なぜ生まれたか

出発点は1950年代の「パーセプトロン」で、複数の入力に重みを掛けて足し合わせ、しきい値を超えたら発火するという、神経細胞一個の単純なモデルでした。ところが単層のパーセプトロンには「直線で分けられる問題しか解けない」という理論的限界が指摘され、研究は一度冬の時代に入ります。層を重ねれば表現力が上がることは分かっていましたが、多層のネットワークをどう学習させればよいかが分からなかったのです。

その壁を破ったのが1980年代に普及した誤差逆伝播法（バックプロパゲーション）で、多層ネットワークの学習が理論上可能になりました。それでも実用性能が出るには、大量の学習データ（インターネットの普及）と大量の計算力（GPUの転用）という二つの条件が揃う2010年代を待つ必要がありました。2012年、画像認識コンテストILSVRCで深層学習モデルAlexNetが従来手法に圧勝したことが転機となり、「特徴の捉え方を人間が設計する」時代から「特徴の捉え方ごと機械に学ばせる」時代へと一気に転換したのです。

詳細

構造 — 層・重み・活性化関数

ニューラルネットワークの基本構造は、入力層・隠れ層・出力層の三種類の層です。入力層はデータ（画像ならピクセル値の並び）を受け取り、隠れ層が変換を重ね、出力層が答え（「猫である確率」など）を出します。各ノードは前の層の全ノードから値を受け取り、それぞれの重みを掛けて足し合わせ、活性化関数という非線形な変換を通して次の層へ渡します。この非線形変換が重要で、これがなければ何層重ねてもただの一次式にしかならず、複雑な形の境界を学べません。

深層学習が強力なのは、層が階層的な抽象化を担うからです。画像認識のネットワークでは、浅い層が輪郭や色の傾きのような単純な特徴に反応し、中間の層がそれを組み合わせた目や耳のようなパーツに、深い層が「猫の顔」のような概念に反応するようになります。かつて専門家が手作業で設計していた「特徴量」を、ネットワークがデータから自動で獲得するのです。

学習の直観 — 誤差逆伝播と勾配降下

学習の手順は、原理だけ見れば素朴です。まず入力を流して予測を出し（順伝播）、正解との差（誤差）を測ります。次に「どの重みをどちらに動かせば誤差が減るか」を、出力側から入力側へ向かって層をさかのぼりながら計算します。これが誤差逆伝播法で、数学的には微分の連鎖律の系統的な適用です。各重みを誤差が減る方向へほんの少しずつ動かす（勾配降下法）ことを、大量のデータで何百万回も繰り返すと、ネットワーク全体が徐々に正解に近づいていきます。山の斜面で霧の中に立ち、足元の傾きだけを頼りに一歩ずつ谷底へ降りていく様子に例えられます。

重要なのは、この繰り返しの中身がほぼすべて行列の掛け算だという点です。同じ形の単純な計算を膨大な回数実行する処理は、GPUの大量並列計算と相性が抜群で、深層学習の実用化はGPUの転用と表裏一体でした。逆に言えば、学習には潤沢な計算資源が必須で、それがクラウドのGPUインスタンス需要を生み出しています。

発展形と実務での位置づけ

基本形の全結合ネットワークから、用途に応じた発展形が生まれています。画像に強い畳み込みニューラルネットワーク（CNN）、時系列を扱う再帰型ネットワーク（RNN）、そして文中の離れた単語同士の関係を一度に捉えるTransformerです。Transformerを桁外れの規模で学習させたものがLLMであり、単語や文を意味の座標に変換する埋め込みもニューラルネットワークの中間表現から生まれた技術です。

実務での注意点は、まず「常に最適な手法ではない」ことです。データが少ない場合や表形式データでは、より単純な手法のほうが精度も解釈性も高いことが珍しくありません。また、数億〜数兆個の重みが絡み合った判断根拠は人間には読み解きにくく（ブラックボックス問題）、説明責任が求められる領域では採用のハードルになります。ゼロから学習する代わりに、公開されている学習済みモデルを土台にファインチューニングする転移学習が現在の主流であり、「巨大モデルは借りて、自分のデータで仕上げる」という分業が実務の標準形になりつつあります。