山口大学教務システム - 1041200047-情報理論Ⅰ

開講年度	開講学部等
2022	理学部
開講学期	曜日時限	授業区分	AL（アクティブ・ラーニング）ポイント	YFL育成プログラム
前期前半	月5～6	講義	6.6
時間割番号	科目名[英文名]			使用言語	単位数
1041200047	情報理論Ⅰ[Information Theory Ⅰ]			日本語	1
担当教員（責任）[ローマ字表記]					メディア授業
野﨑　隆之[NOZAKI Takayuki]					ー
担当教員[ローマ字表記]
野﨑　隆之　[NOZAKI Takayuki]
区分		対象学生	平成30年度以降入学者対象	対象年次	3～4
ディプロマ・ポリシーに関わる項目			カリキュラムマップ(授業科目とDPとの対応関係はこちらから閲覧できます)

開設科目名（英訳）

情報理論Ⅰ　（Information Theory I）

概要（共通教育の場合は平易な授業案内）

情報理論は符号化による通信効率の限界を数学的に明らかにし，その限界を達成する符号化法を構成する学問である．情報理論は数学的におもしろいだけでなく，データ圧縮や誤り制御のように現代の情報通信システムに欠かすことのできない重要な技術を与えている．情報通信システムを数学的に扱う上で確率論は必須の道具であるため，情報理論を学ぶには確率論の修得が前提となる．本講義では，データ圧縮の手法である情報源符号化とその理論限界を与える情報源符号化定理を与える．

一般目標

・自己情報量・エントロピー・同時エントロピー・相互情報量の意味を説明でき，計算ができる．
・情報源符号を具体的に構成でき，その限界を説明できる．

授業の到達目標

知識・理解の観点	1. 情報量・エントロピー・相互情報量の意味が説明できる． 2. 情報源符号化定理の意味を説明できる． 3. 情報理論に関する基礎的な定理の証明ができる．
思考・判断の観点	1. 情報量・エントロピー・相互情報量・通信路容量の計算ができる． 2. いくつかの情報源符号が構成できる．
関心・意欲の観点	身近に使われている情報理論の応用に関心をもつ
態度の観点	授業内容を復習し，文献から知識を補うことができる．
技能・表現の観点	基礎的な証明を正確に記述できる．

授業計画

【全体】

情報量とエントロピーについて講義をした後に，情報源符号化について講義する．各授業回開始前に講義動画を視聴済みであることを前提に講義・演習を進める．

	項目	内容	授業外指示	授業記録	※
	項目	内容	授業外指示	授業記録	A	B	C	D	E	F
第1回	情報理論と通信システム	通信システムのモデル化，情報理論の導入，情報源と通信路のモデル化	講義動画（第1回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：4時間）	通信システムのモデル化，情報理論の導入，情報源と通信路のモデル化	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【あり】	-----


第2回	情報量とエントロピー（１：自己情報量とエントロピー）	自己情報量，エントロピー，シャノンの補助定理	・講義動画（第2回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：3時間）・演習内容の復習をすること（目安時間：1時間）	自己情報量，エントロピー，シャノンの補助定理	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	【あり】	-----


第3回	情報量とエントロピー（２：２個の確率変数のエントロピーと相互情報量）	同時エントロピー，条件付きエントロピー，相互情報量	・講義動画（第3回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：3時間）・演習内容の復習をすること（目安時間：1時間）	同時エントロピー，条件付きエントロピー，相互情報量，チェイン則	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	【あり】	-----


第4回	情報量とエントロピー（３：チェイン則とn個の確率変数のエントロピー）	チェイン則，n個の確率変数のエントロピー	・講義動画（第4回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：3時間）・演習内容の復習をすること（目安時間：1時間）	3個の確率変数のエントロピー，n個の確率変数のエントロピー，情報源モデル，情報源のエントロピー，情報源符号化の基礎	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	【あり】	-----


第5回	情報源符号化（１：情報源モデルと情報源符号化の基礎）	情報源モデル，符号の分類，符号の木，語頭符号	・講義動画（第5回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：3時間）・演習内容の復習をすること（目安時間：1時間）	符号の分類，語頭符号，符号の木，クラフトの不等式	【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	【あり】	-----


第6回	情報源符号化（２：クラフトの不等式と情報源符号化定理）	クラフトの不等式，情報源符号化定理	・講義動画（第6回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：3時間）・演習内容の復習をすること（目安時間：1時間）		【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	【あり】	-----


第7回	情報源符号化（３：ハフマン符号）	ハフマン符号の構成	・講義動画（第7回）を視聴の上，その内容を教科書と照らし合わし理解すること（目安時間：3時間）・演習内容の復習をすること（目安時間：1時間）		【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	【あり】	-----


第8回	総括と期末試験	これまでの内容を総括するとともに，試験を実施する．	・講義全体を振り返り，要点を理解するとともに説明できるようにすること（目安時間：4時間）		【少】（授業時間の15％未満）	【少】（授業時間の15％未満）	【多】（授業時間の50％超）	【少】（授業時間の15％未満）	-----	-----

※AL（アクティブ・ラーニング）欄に関する注　
①A〜Fのアルファベットは、以下の学修形態を指しています。
【A：グループワーク】、【B：ディスカッション・ディベート】、【C：フィールドワーク（実験・実習、演習を含む）】、【D：プレゼンテーション】
【E：振り返り】、【F：宿題】
②【多】、【中】、【少】は授業時間内におけるALが占める時間の割合を指しています。
【多】：授業時間の50％超、【中】：授業時間の15％〜50％、【少】：授業時間の15％未満。「振り返り」と「宿題」については該当する場合に【あり】と表示されます。

成績評価法

【全体】

主として試験により評価する。

【観点別】

	知識・理解	思考・判断	関心・意欲	態度	技能・表現	その他	評価割合（％）	JABEE収集資料
定期試験（中間・期末試験）	◎	◎	○	---	○	---	85%	---
小テスト・授業内レポート	◎	◎	○	○	◎	---	15%	---
宿題・授業外レポート	---	---	---	---	---	---	---	---
授業態度・授業への参加度	---	---	---	---	---	---	---	---
受講者の発表（プレゼン）・授業内での制作作品	---	---	---	---	---	---	---	---
演習	---	---	---	---	---	---	---	---
出席	---	---	---	---	---	---	欠格条件	---
その他	---	---	---	---	---	---	---	---

教科書にかかわる情報

教科書	書名	情報・符号理論				ISBN	978-4-274-21317-5
教科書	著者名	楫　勇一	出版社	オーム社				出版年	2013

備考

特になし

参考書にかかわる情報

参考書	書名	情報理論　基礎と広がり				ISBN	978-4-320-12300-7
参考書	著者名	T.M. Cover, J.A. Thomas 著山本ら訳	出版社	共立出版				出版年	2012

参考書	書名	情報理論				ISBN	978-4-274-21601-5
参考書	著者名	今井秀樹著	出版社	オーム社				出版年	2014

参考書	書名	通信理論入門				ISBN	978-4-339-02464-7
参考書	著者名	坂庭好一, 笠井健太共著	出版社	コロナ社				出版年	2014

参考書	書名	イラストで学ぶ情報理論の考え方				ISBN	978-4-06-153817-7
参考書	著者名	植松友彦著 ; 講談社サイエンティフィク編	出版社	講談社				出版年	2012

備考

その他の参考書については，授業内で紹介する。

メッセージ

微分および確率論に関する知識を有することを前提としています。

キーワード

情報量，エントロピー，情報源符号化，情報通信

持続可能な開発目標（SDGs）

(インフラ、産業化、イノベーション)強靱（レジリエント）なインフラ構築、包摂的かつ持続可能な産業化の促進及びイノベーションの推進を図る。

メディア授業