強化学習深層学習

DQN

ディーキューエヌ · Deep Q-Network
22 views

DQN(Deep Q-Network)は、強化学習のアルゴリズムであるQ学習に深層学習(ディープラーニング)を組み合わせた手法です。Google DeepMind社が開発し、アタリ社のゲームを人間以上の精度でプレイしたことで一躍注目を集めました。複雑で高次元な画像などの状態空間を直接扱えることが特徴です。

DQNとは

DQN(Deep Q-Network)とは、強化学習の基本的な手法であるQ学習に、深層学習(ディープラーニング)を融合させたアルゴリズムです。これにより、従来の手法では扱いきれなかった膨大な状態を持つ複雑なタスクに対処可能となりました。

詳しく解説

従来のQ学習では、状態と行動の組み合わせに対する価値(Q値)をテーブルとして保持していました。しかし、画像のピクセル情報のように状態数が膨大になると、テーブルのサイズが現実的でなくなる「次元の呪い」に直面します。DQNはこのQ値をニューラルネットワークによって近似することで、高次元の入力情報から最適な行動を直接学習できるようにしました。DQNの成功を支える重要な技術として、過去の経験データをメモリに保存してランダムに再利用することで学習の相関性を下げる「Experience Replay(経験再生)」と、学習の安定化を図るために行動価値を算出するネットワークを一時的に固定する「Target Network(ターゲットネットワーク)」の2つが挙げられます。

具体例・使われ方

DQNの最も有名な利用例は、Atari 2600の各種ビデオゲーム(ブロック崩しやスペースインベーダーなど)での自動プレイです。画面のピクセル(画像データ)とスコア(報酬)だけをインプットとして与えられ、人間を超えるスコアを叩き出しました。また、この技術を応用して、ロボットの自律的な制御、自動運転車における障害物回避の最適化、データセンターの冷却システムの電力効率化など、複雑な環境下での意思決定シミュレーションにも活用されています。

似た用語との違い

Q学習との違いは、状態と行動の価値をテーブルで管理するか、ニューラルネットワークで近似するかです。Q学習は状態数が少ない単純な問題に適していますが、DQNは画像などの高次元データに適しています。また、Policy Gradient(政策勾配法)との違いは、DQNが価値の予測を介して間接的に行動を決定するのに対し、政策勾配法は行動の出力確率を直接最適化する点にあります。

注意点

DQNは強力ですが、過学習に陥りやすく、学習が不安定になりやすいという課題があります。特に、行動価値を過大評価しやすい「過大評価問題」が知られており、これらを解決するためにDouble DQNやDueling DQNなどの改良型が提案されています。また、学習には膨大な試行回数と計算資源(GPUなど)が必要であり、実世界のリアルタイムな試行錯誤だけで学習を進めるのは困難な場合が多いです。

更新日時: 2026年9月2日 19:51