2006年01月24日

松縄規 エントロピ・情報・統計

松縄規(Tadashi MATSUNAWA)教授 -  キャッシュ -
エントロピ・情報・統計
統計数理研究所彙報 32(2),207-230,1984(ISSN 0563685X) (統計数理研究所 〔編〕/統計数理研究所)
Boltzmannの仕事を踏まえたAkaike(1973)による情報量規準の発見……(P.207)
しかしそれ以前そして現在でも統計学におけるエントロピや情報量は,「何故これらの量が統計の広範囲の問題に共通に利用できる自然な量であるのか」と言う疑問に十分納得のゆく説明を阻み続けている様に見える.その原因の一つとして,統計学もこれらの量を主としてShannon流の情報理論に納まる量として導入し,しかも依然としてその影響が続いていることが考えられる.(P.207)
Clausiusクラウジウスのエントロピ,BoltzmannボルツマンのエントロピSB,GibbsギブスのエントロピSG(P.207)

この事についてはJaynes(1965)の指摘が役立つ。


古典力学に於るエントロピとの対応を持つSBあるいはSGに於て通常意味を持つのはそれら自身の値ではなく,異なる状態あるいは異なる分布に対するSBあるいはSGの差である.(引用者追記。ここでSBあるいはSGの差の量の肩に「*」を付す)その観点からするとSB*あるいはSG*はより実用的で広範囲な応用を持つ量であると言える.(5.14)からSB自身が適当な条件下でSB*に比例しているから,K‐L情報量が時には負のエントロピ(より正確にはf の に関する負のエントロピ)と呼ばれるのも納得できる.(P.227)
posted by raycy at 15:47| Comment(0) | TrackBack(2) | 解説覚書など | このブログの読者になる | 更新情報をチェックする
この記事へのコメント
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント:

認証コード: [必須入力]


※画像の中の文字を半角で入力してください。

この記事へのトラックバック

資源性=捨て場と組の枯渇。資源性⇔神里のネゲントロピー⇔ボルツマン、熱い太陽光の冷地温への遷移負火商
Excerpt: 捨て場の枯渇、資源性の枯渇。資源性⇔神里のネゲントロピー⇔ボルツマン「熱い太陽の冷たい地表温への遷移負エントロピー 資源性=捨て場と組の枯渇。資源性⇔神里のネゲントロピー⇔ボルツマン、熱い太陽光の冷地..
Weblog: 霊犀社2
Tracked: 2008-02-20 13:28

赤池 ボルツマンのエントロピー
Excerpt: 赤池 ボルツマンのエントロピー 「情報量」I(p;q):ボルツマンのエントロピーの議論に原始的な形で登場 赤池 負のエントロピー OR 負エントロピー [参考] −I(q; p)は負のエントロピーと..
Weblog: 霊犀社2
Tracked: 2008-02-22 01:19
×

この広告は1年以上新しい記事の投稿がないブログに表示されております。