http://www.cs.cmu.edu/~quake-papers/painless-conjugate-gradient.pdf
すげぇｗｗｗ． CG について説明しているのに CG のアルゴリズムの表式がちゃんと出てくるのが30ページ目ｗｗｗ．自分が知りたい non-linear な場合にいたっては42ページ目．つか， CG が非線型問題の最適化に使えることをさっき初めて知った俺バカス． quadratic form にしか使えないと思っておったですよよよ？
昔，ME に対する最適化手法を比較した論文読んでいて，そこにちゃんと書いてあったのに記憶に残ってなかったという．どうせ convex だから BFGS なり L-BFGS でいーんですよがはは，という当時の俺のてきとーさに対する報いが， convex でない問題にぶち当たった今になって返ってきました的な．
でもやっぱ面倒くさいから，「初期値が local minimum に十分近いから BFGS でも多分だいじょぶだいじょぶ．がはははは」というてきとーさが通じにゃいかにゃー，という淡い期待．
どーでも良いけれどいちいち objective function が convex かどうか確認するのまんどくせ．
