contents memorandum はてな

目次とメモを置いとく場

『情報理論』(甘利俊一 ちくま学芸文庫 2011//1970)

著者:甘利 俊一 [あまり・しゅんいち](1936-) 数理工学(神経回路網理論、情報幾何学)。囲碁マチュア六段。
カバーデザイン:竹智 淳
初出:『数理工学』(昭和43年5月〜44年9月)
NDC:007.1 情報理論


筑摩書房 情報理論 / 甘利 俊一 著


【目次】
まえがき(1970年8月 甘利俊一) [003-004]
目次 [005-007]


第1章 情報の数量的認識 011
第1節 情報量とエントロピー 011
  1.1 情報の量をいかに定めるか 011
  1.2 エントロピー 018
  1.3 複合事象のエントロピー 024
  1.4 条件付エントロピー 029
  1.5 相互情報量 035
  1.6 雑談 041

第2節 情報源 047
  2.1 情報源のモデル 047
  2.2 マルコフ的情報源 054
  2.3 情報源の冗長度 065
  2.4 情報源の大数の法則 070
  2.5 情報源のエルゴード性 078
  2.6 雑談 083


第2章 雑音のない通話路による情報伝送 089
第1節 雑音のない離散通話路 089
  1.1 情報伝送のモデル 089
  1.2 雑音のない通話路の容量 092
  1.3 雑音のない離散通話路の符号化定理 099
  1.4 雑談 106

第2節 符号化による冗長度の除去 107
  2.1 符号化と冗長度の除去 107
  2.2 簡単な符号化 111
  2.3 最適な符号化法 120
  2.4 雑談 123


第3章 雑音のある通話路での情報伝送 125
第1節 雑音のある離散通話路の容量 125
  1.1 雑音の妨害下での情報伝送量 125
  1.2 通話路容量 132
  1.3 雑音のある通話路を用いた誤りのない情報伝送 138
  1.4 雑談 146 

第2節 誤り訂正符号 149
  2.1 誤り訂正の仕組み 149
  2.2 Hamming距離 155
  2.3 Hamming符号 157
    A. 符号
    B. 符号化法
    C. 誤り訂正能力
    D. 誤り訂正の仕方
  2.4 線形符号 165
    A. 線形符号の定義
    B. 線形符号の符号化法
    C. 線形符号の復号化法
    D. 線形符号の誤り訂正能力
  2.5 巡回符号 175
  2.6 雑談 182


第4章 連続情報と信号空間 187
第1節 連続信号のエントロピー 187
  1.1 連続信号のエントロピーの定義 187
  1.2 種々の信号のエントロピー 194
    A. n次元信号のエントロピー
    B. 一定領域上でのエントロピー最大の信号分布
    C. 平均エネルギー一定でエントロピーを最大にする分布
    D. 多次元正規分布エントロピー
  1.3 条件付きエントロピー相互情報量 199
  1.4 信号の変換とエントロピー 202
  1.5 雑談 205

第2節 信号空間の構成 209
  2.1 信号空間 209
    A. 信号空間の座標
    B. 信号空間よの座標変換
    C. 正規直交系
  2.2 標本化定理 215
    A. 信号の周波数領域表示
    B. 周波数帯域制限信号
    C. 継続時間と周波数帯域の両方が制限されている信号
  2.3 時間領域表示と周波数領域表示の間の関係 226
    A. 時間と周波数の不確定性関係
    B. 時間‐周波数の中間領域での信号の表示
  2.4 雑談 237

第3節 連続通話路 242
  3.1 連続通話路による情報伝送 242
  3.2 白色ガウス雑音を発生する通話路の容量 247
  3.3 連続通話路による誤りのない通信 253
  3.4 雑談 260

第4節 信号空間の情報幾何学 264
  4.1 信号空間の雑音と計量 264
  4.2 リーマン的信号空間 271
  4.3 信号空間の情報理論 275
  4.4 雑談 282


第5章 信号空間の写像と通信系の理論 287
第1節 通信系の構造 287
  1.1 通信系の構成 287
  1.2 符号伝送系 293
  1.3 連続写像を用いた通信系 298
  1.4 量子化通信方式 300
  1.5 雑談 304

第2節 連続通信系の理論 306
  2.1 信号空間の挿入写像 306
  2.2 信号空間の退化写像 315
  2.3 退化写像による雑音構造の変換 322
  2.4 最適退化写像 325
  2.5 雑談 336


参考文献 [341-342]
文庫版あとがき 情報理論の現代における展開(2010年年末、那須の山荘にて 甘利俊一) [343-345]
索引 [347-348]