学習 訓練誤差:モデル性能の落とし穴
訓練誤差とは、機械学習の仕込みの段階で、学習に使った情報に対する予想の正しさをはかる目安のことです。言い換えると、作った仕組みが予想した値と、実際の正解との間の違いの大きさを示します。この違いが小さいほど、仕組みは学習した情報の特ちょうをよく捉え、正確な予想ができていると考えられます。学習に使った情報への仕組みの馴染み具合を表すものと言えるでしょう。
たとえば、犬と猫を見分ける仕組みを作るときに、たくさんの犬と猫の写真を学習させたとします。訓練誤差は、この学習に使った写真に対して、仕組みがどれくらい正確に犬と猫を区別できたかを表す数値です。訓練誤差が小さいということは、学習に使った写真については、犬と猫をきちんと見分けられているということです。
仕組みの学習は、この訓練誤差をなるべく小さくするように進められます。学習が進むにつれて、仕組みは情報の特ちょうをより深く学ぶため、訓練誤差は一般的に小さくなっていきます。しかし、訓練誤差が小さければ小さいほど良いというわけではありません。あまりに訓練誤差を小さくしようとすると、学習に使った情報に過剰に適応しすぎてしまい、新しい情報に対してはうまく予想できないという問題が起こることがあります。これは、いわば「詰め込みすぎ」の状態です。
たとえば、先ほどの犬と猫の例で、学習に使った写真にたまたま特定の背景が多かったとします。過剰に訓練誤差を小さくしようとすると、仕組みはその背景まで学習してしまい、背景が異なる新しい写真では犬と猫を正しく見分けられなくなる可能性があります。このような状態を「過学習」と呼びます。良い仕組みを作るためには、訓練誤差を小さくしつつも、過学習に陥らないように注意深く調整する必要があります。そのためには、学習に使わなかった情報を使って仕組みの性能を確かめる「検証誤差」も重要な指標となります。
