(Non-linear) Conjugation Gradient

http://www.cs.cmu.edu/~quake-papers/painless-conjugate-gradient.pdf
すげぇwww. CG について説明しているのに CG のアルゴリズムの表式がちゃんと出てくるのが30ページ目www.自分が知りたい non-linear な場合にいたっては42ページ目.つか, CG が非線型問題の最適化に使えることをさっき初めて知った俺バカス. quadratic form にしか使えないと思っておったですよよよ?
昔,ME に対する最適化手法を比較した論文読んでいて,そこにちゃんと書いてあったのに記憶に残ってなかったという.どうせ convex だから BFGS なり L-BFGS でいーんですよがはは,という当時の俺のてきとーさに対する報いが, convex でない問題にぶち当たった今になって返ってきました的な.
でもやっぱ面倒くさいから,「初期値が local minimum に十分近いから BFGS でも多分だいじょぶだいじょぶ.がはははは」というてきとーさが通じにゃいかにゃー,という淡い期待.
どーでも良いけれどいちいち objective function が convex かどうか確認するのまんどくせ.

なんか画期的な手法思いついたかも知れない,みたいな

思いついた瞬間は「大発見wwwテラスゴスwww」とか興奮してたんだけれど,振り返って発想を整理してみると案外大したことでもなかった,ってゆ〜.まー,研究なんてそんなもんか.
理論的には完璧に見通しが立ったけれど実験含めて26日までに間に合うかな?しかし思いついたタイミングが最悪.もし結果が出ても出せる会議がない.あと2ヶ月早けりゃなー.