統計コンサルの議事メモ

統計や機械学習の話題を中心に、思うがままに

最小二乗法

データを小集団に分割しながら線形回帰の解を推定する

背景 手順 実装 1. 共通処理 1. X、yをそれぞれ小集団に分割する 2. 各小集団のXをQR分解する 2. R^{-1}を計算する 1. 各小集団からのRを統合する 2. 再度QR分解してRを得る 3. Rの逆行列を求める(R^{-1}) 3. Q'を計算する 1. 1-2で得られたQを2-2で得たQ…

最小二乗法と解の特性

こんばんは、ushi-goroshiです。この名前の由来はそのうちに。 今日は最小二乗法によって得られる解の特性について書いておきます。 先日、とあるWebページを見ていると、以下のような文章が目に入りました。 「残差分散が不均一であるときに最小二乗法を使…