ロジスティック回帰は、最適化が収束したと仮定して常にグローバル最適を見つけるか？このような場合には

Question

は、私は確信がもてないの両方（ロジスティック回帰は、常にグローバルな最適解を見つけるん） 一般的に

と 特に（最適化が収束するとき、ロジスティック回帰は、常にグローバルな最適解を見つけるん）

ありがとう

Answer 1

データが分離可能な場合、最適値は無限大であるため、決して到達できません。しかし、通常は、使用している最適化アルゴリズムは、それ以上の反復処理によって目立った改善が得られないポイントに達します。

損失関数がconvexであるため、適切に調整されたアルゴリズムでは、これが当てはまらない場合に最終的に大域最適値を見つけることになります。