タイトル

開講年度 開講学部等
2017 理学部
開講学期 曜日時限 授業区分 AL（アクティブ・ラーニング）ポイント YFL育成プログラム
後期 金5～6 講義 0.8  
時間割番号 科目名[英文名] 使用言語 単位数
1042200010 確率論と情報理論[Probability and Information Theory] 日本語 2
担当教員（責任）[ローマ字表記] メディア授業
野﨑　隆之[NOZAKI Takayuki] ー
担当教員[ローマ字表記]
野﨑　隆之　[NOZAKI Takayuki], 川村　正樹　[KAWAMURA Masaki]
区分   対象学生   対象年次 2～4
ディプロマ・ポリシーに関わる項目 カリキュラムマップ(授業科目とDPとの対応関係はこちらから閲覧できます)
開設科目名（英訳）
確率論と情報理論　（Probability and Information Theory）
概要（共通教育の場合は平易な授業案内）
確率論はギャンブルの勝ち負けの予測を起源とする学問である．中世から今日に至るまで現実の問題を扱っており，現在では理工学の幅広い分野で利用されている．特に情報分野では，データとシステムのモデル化・推定・分析やアルゴリズム・通信システムの解析などをはじめとする様々な理論の基礎になっている．本講義の前半では確率論の基礎を講義・演習を通じて修得する．

一方，情報理論は符号化による通信効率の限界を数学的に明らかにし，その限界を達成する符号化法を構成する学問である．情報理論は数学的におもしろいだけでなく，データ圧縮や誤り制御のように情報通信システムに欠かすことのできない重要な技術を与えている．情報通信システムを数学的に扱う上で確率論は必須の道具であるため，情報理論を学ぶには確率論の修得が前提となる．本講義の後半では情報理論の基礎を講義・演習を通じて修得する．
一般目標
・確率の計算とその意味を説明できる．
・情報源符号を具体的に構成でき，その限界を説明できる．
・通信路符号化定理について説明できる．
授業の到達目標
知識・理解の観点
1. 確率論の諸概念が説明できる．
2. 情報量・エントロピー・相互情報量・通信路容量の意味が説明できる．
3. 情報源符号化定理・通信路符号化の意味を説明できる．
思考・判断の観点
1. 確率の計算ができる．
2. 情報量・エントロピー・相互情報量・通信路容量の計算ができる．
3. ハフマン符号，シャノン・ファノ符号の構成ができる．
4. ハミング符号の符号化と復号ができる．
関心・意欲の観点
身近に使われている確率論の応用や情報理論の応用に関心をもつ
授業計画
【全体】
第1週から第8週では確率論の基礎を学修する．
第9週から第16週では情報理論の基礎を学修する．
項目 内容 授業外指示 授業記録 ※
A B C D E F
第1回 確率論の基礎 確率の定義，事象・標本空間， 授業の復習 ----- ----- ----- ----- ----- -----
第2回 確率変数と確率分布 確率空間，
確率変数と確率分布， 		授業の復習 ----- ----- ----- ----- ----- -----
第3回 確率分布と期待値 期待値と分散 授業の復習 ----- ----- ----- ----- ----- -----
第4回 様々な確率分布 二項分布、ポアソン分布、指数分布、正規分布 授業の復習 ----- ----- ----- ----- ----- -----
第5回 多次元確率分布 同時確率分布，周辺確率分布，
 		授業の復習 ----- ----- ----- ----- ----- -----
第6回 多次元確率分布 共分散と相関係数 授業の復習 ----- ----- ----- ----- ----- -----
第7回 条件付確率 条件付確率 授業の復習 ----- ----- ----- ----- ----- -----
第8回 確率論の試験 第1週から第7週までの内容の試験 ----- ----- ----- ----- ----- -----
第9回 情報理論と通信システム 通信システムのモデル化，情報理論の導入，情報源と通信路のモデル化 ----- ----- ----- ----- 【あり】 -----
第10回 自己情報量とエントロピー 自己情報量・エントロピー・エントロピーの性質 ----- ----- ----- ----- 【あり】 【あり】
第11回 相互情報量とエントロピー 自己情報量・2個の確率変数によるエントロピー ----- ----- ----- ----- 【あり】 【あり】
第12回 情報源符号化１（情報源符号の基礎・符号の木・クラフトの定理） 情報源符号の分類・符号の木・クラフトの定理 ----- ----- ----- ----- 【あり】 【あり】
第13回 情報源符号化２（ハフマン符号・情報源符号化定理） ハフマン符号の構成・情報源符号化定理
 		----- ----- ----- ----- 【あり】 【あり】
第14回 通信路符号化１（通信路容量・通信路符号化・通信路符号化定理） 通信路容量・通信路符号化・通信路符号化定理 ----- ----- ----- ----- 【あり】 【あり】
第15回 通信路符号化２（線形符号） 線形符号とその例 ----- ----- ----- ----- 【あり】 -----
第16回 情報理論の試験 第8週から第15週までの内容の試験 ----- ----- ----- ----- ----- -----
※AL（アクティブ・ラーニング）欄に関する注　
①A〜Fのアルファベットは、以下の学修形態を指しています。
【A：グループワーク】、【B：ディスカッション・ディベート】、【C：フィールドワーク（実験・実習、演習を含む）】、【D：プレゼンテーション】
【E：振り返り】、【F：宿題】
②【多】、【中】、【少】は授業時間内におけるALが占める時間の割合を指しています。
【多】：授業時間の50％超、【中】：授業時間の15％〜50％、【少】：授業時間の15％未満。「振り返り」と「宿題」については該当する場合に【あり】と表示されます。
成績評価法
【全体】
主として試験により評価する。
【観点別】
知識・理解思考・判断関心・意欲態度技能・表現その他評価割合（％）JABEE収集資料
定期試験（中間・期末試験） ◎ ◎ --- --- --- --- 80% ---
小テスト・授業内レポート --- --- --- ○ --- --- --- ---
宿題・授業外レポート ◎ ◎ --- --- --- --- 20% ---
授業態度・授業への参加度 --- --- --- --- --- --- --- ---
受講者の発表（プレゼン）・授業内での制作作品 --- --- --- --- --- --- --- ---
演習 --- --- --- --- --- --- --- ---
出席 --- --- --- --- --- --- 欠格条件 ---
その他 --- --- --- --- --- --- --- ---
教科書にかかわる情報
教科書 書名 情報・符号理論 ISBN 978-4-274-21317-5
著者名 楫　勇一 出版社 オーム社 出版年 2013
備考
参考書にかかわる情報
参考書 書名 入門確率過程 ISBN 978-4489006593
著者名 松原 望 出版社 東京図書 出版年 2003
参考書 書名 情報理論　基礎と広がり ISBN 978-4-320-12300-7
著者名 T.M. Cover, J.A. Thomas 著 山本ら 訳 出版社 共立出版 出版年 2012
参考書 書名 情報理論 ISBN 978-4-274-21601-5
著者名 今井秀樹 出版社 オーム社 出版年 2014
備考
適時紹介する．
メッセージ
キーワード
持続可能な開発目標（SDGs）

関連科目
情報科学基礎実習
連絡先
【匿名アクセスではこの情報を閲覧できません。】
オフィスアワー
【匿名アクセスではこの情報を閲覧できません。】

ページの先頭へ