cheader

シラバス詳細照会

シラバス詳細照会

  • 講義要項やWebシラバスの記載内容は、登録された受講生の人数や理解度に応じて、授業開始後に変更となる可能性があります。

main start

授業情報

開講年度 2017年度 開講箇所 先進理工学部
科目名
情報理論

担当教員 井上 真郷
学期曜日時限 春学期  月1時限
科目区分 専門選択 配当年次 1年以上 単位数 2
使用教室 54-402教室 キャンパス 西早稲田(旧大久保)
科目キー 2806021048 科目クラスコード 01
授業で使用する言語 日本語
  コース・コード INFY31ZL
大分野名称 情報学
中分野名称 総合
小分野名称 一般
レベル 上級レベル 授業形態 講義

シラバス情報

最終更新日時:2017/03/22 09:56:44

授業概要 私たちは日常的に多種雑多な情報に接し,それらの価値を明示的に計算したりすることなく,殆ど無意識のうちに取捨選択したり活用したりしている.このようなヒトの能力,知能は素晴らしいものであるが,これを客観的,量的に記述しようとしたのが情報理論である.残念ながらヒトの知能を模すまでには至っていないが,コンピュータファイルの圧縮解凍や,通信における誤り訂正,暗号などの分野では,十分実用的なものが出来上がっている.また,ちょっとしたトランプゲームなどでも,確率のあるところには情報理論の活躍する場がある.必ず間違える通信路の方が,時々間違える通信路よりも性能が良い,などというちょっと変わった素養も身に付けることができる.是非,背後にある原理を読み取って欲しい.履修に当たっては,予め確率・統計を修得していることが望ましい(修得していなくとも可).
授業の到達目標 情報量とエントロピーに関する目標
・自己情報量・エントロピー・条件付エントロピー・相互情報量を使いこなすことができる
情報源符号化に関する目標
・Shannon符号・Huffman符号・算術符号・Lempel-Ziv符号を符号化・復号化できる
通信路符号化に関する目標
・基礎的な通信路について通信路容量が計算できる
・Hamming符号を符号化・復号化できる
事前・事後学習の内容 予習として,CourseN@viに掲載する講義資料の読了が必要.毎回30分~2時間程度を要する.
講義中に行った演習課題の理解度が悪い場合は,復習が必要.30分~2時間程度を要する.
授業計画 第01回 講義概要
第02回 自己情報量
第03回 エントロピー
第04回 情報源符号化
第05回 Shannon-Fano符号
第06回 Huffman符号
第07回 算術符号
第08回 理解度の確認(1)
第09回 相互情報量
第10回 通信路
第11回 Hamming符号
第12回 線形符号
第13回 ランダム符号
第14回 連続通信路
第15回 理解度の確認(2)
教科書 特に指定しない.
参考文献 ・甘利俊一著「情報理論」ちくま学芸文庫
・平澤茂一著「情報数理シリーズA-6 情報理論入門」培風館
・平澤茂一著「情報数理シリーズB-1 情報理論」培風館
・橋本猛著「情報理論」培風館
・Thomas M. Cover, Joy A. Thomas, "Elements of Information Theory", Wiley-Interscience
・David J. C. MacKay, "Information Theory, Inference, and Learning Algorithms", Cambridge Univ. Press
成績評価方法
割合 評価基準
試験: 80% 2回の「理解度の確認」により理解度に応じて評価する.
レポート: 20% 毎回,講義中に演習課題を課し,講義終了時に提出とする.
備考・関連URL

ページの先頭へ戻る

Copyright © Media Network Center,Waseda University 2006-2019.All rights reserved.

read