DenseNetは、畳み込みニューラルネットワークにおいてすべての層の間を直接結合することで、情報の伝達効率を高め、勾配消失問題を軽減する画像認識モデルです。パラメータ数を抑えつつ高い精度を発揮する特徴があります。
DenseNetとは
DenseNetとは、CNNの全ての層を結合し、特徴量の再利用性を高めることで高精度な画像認識を実現する深層学習アーキテクチャのことです。
詳しく解説
DenseNetは、Dense Convolutional Networkの略称です。従来の畳み込みニューラルネットワークでは、層が直列につながっているため、入力に近い層の情報が遠くの層へ伝わる過程で減衰するという課題がありました。DenseNetでは、ある層への入力として、それ以前のすべての層から出力された特徴マップを結合して用いる「Dense Connectivity」を採用しています。これにより、勾配消失問題が大きく軽減され、ネットワーク全体で情報と勾配が効率よく流れるようになります。また、パラメータ数が比較的少なくても十分な表現力を獲得できる点も重要な特徴です。
具体例・使われ方
DenseNetは、医療画像診断における病変の検出や、自動運転システムにおける複雑な道路状況の物体認識など、高い精度と効率性が求められる画像認識タスクで活用されています。
似た用語との違い
ResNetと混同されやすいですが、ResNetが層への入力を出力に足し合わせる「スキップ接続」を採用しているのに対し、DenseNetはすべての層の出力を結合するという、より密な接続構造を持っている点が異なります。
注意点
DenseNetの最大の欠点は、すべての層を結合するため、ネットワークが深くなるにつれてメモリの消費量が非常に大きくなる点です。そのため、ハードウェアのメモリ容量に制限がある場合には実装上の工夫や注意が必要となります。