局所的最小解への収束問題は、関数の形状を変化させることで解決する。
これ以上二乗誤差が減少しなくなった時点で、ニューラルネットワークの重みにホワイトノイズを与える。
すると近似すべき関数の形状が変化するため、大域的最小解への収束へ向けて、止まっていたボールが動き出す。
再度局所的最小解へ収束した場合も同様の手続きを経ることで、徐々に大域的最小解へとにじり寄っていくのだ。
ただし、関数の形状を変化させたとき、一時的に誤差が大きくなりモデルの精度が低下するだろう。
以前、タイガーウッズのフォーム改造を題材としたフィットネスランドスケープの記事を書いた。
長期的視点に立って高いパフォーマンスを出そうと思えば、堅牢に組み上げた自分の必勝スタイルを壊して再構築する必要がある、というお話。
必勝スタイルを崩せば当然、一時的な不調に陥るだろう。
だが、今の堅牢なトレードシステムを頑なに運用し続けても、エントロピー最大化の法則に従い、パフォーマンスは経年劣化していく。
その認識に到ったなら、一度自分のシステムを要素分解し、それらを個別評価してみよう。
そして、時代に合わなくなった要素を最新の要素に組み替える、普遍性の高い要素に磨きをかけウェイトを高める、既存要素と新たに見いだした要素の組み合わせによる交互効果の発露を期待して検証してみる、などなど、偏見を持たず全数検索前提の再構築に着手していく。
きっと孤独に暗闇を歩み続けるがごとき不安と恐怖に襲われるだろう。
しかし、変化に不安と恐怖はつきもの。
恐れがないならば、前進へ向けたその行動は今を追認する自己満足と現実の認識拒否以外のなにものでもない。
必死に努力している自分の姿に酔いしれ、現実からの乖離に目を背け、過ぎ去ったよき時代を懐古する。
かつての大域的最小解はすでに局所的最小解に変化しているというのに、本人だけは依然、井の中を大海だと信じ込むための作業に膨大な時間と労力を費やす。
時代の変遷、外部環境の変容を感じたのならば、それに合わせて自分という巨大な関数の形状も変化させなければならない。
さて、読者自慢のトレードシステム。
今、その収束地点はいづれにあるだろうか。
局所的最小解からの脱却のときにさしかかってはいないだろうか。
冷徹な認識と合目的な行動を期待したい。
