不偏分散のn-1のお気持ち
お気持ち記事なので後日大幅に加筆修正するかもしれない。
PRMLにこのお気持ちっぽい記述があった。(2019/06/06加筆)
不偏分散のとは
母平均を標本平均から最尤推定すると以下のようになり、このような単なる等号で結ばれる関係を不偏推定量と呼ぶ。
さて件の分散についてであるが、以下のような不偏推定量が存在する。
標本ほげふがを計算する場合には標本数で割るのが自然であると思われるが、不偏分散ではで割られている。
のお気持ち
計算上そうなることはわかる。が、平均に推定量が割り当てられている分自由度が下がりになる、などとという世間の説明はお気持ちがあまりわからない。
以下では標本分散では母分散を過少に評価してしまうことに関する自分のお気持ちを記す。
お気持ち表明
実際に標本分散は平均に標本平均を採用することにより母分散よりも小さくなっている。これは以下の式でについての最小値を考えると理解できる。
最小値を与えるは以下である。の微分を考えることでわかる。
標本平均は母平均の不偏推定量であるが当然真値であることは保証されない。に母平均を採用した場合には母分散の不偏推定量となりそう(なる?)だがこれは標本分散よりも大きい値となる。(最小値を与えるのは標本平均なので)
以上から母平均と標本平均との差がに表れる差とみなせそう。(めんどくさくなって論理が飛躍してしまった気がする)で母平均と標本平均との差はとなることととなることから納得感がある。