2023年 理工学部 シラバス - 電気工学科
設置情報
科目名 | 情報エントロピーの科学 | ||
---|---|---|---|
設置学科 | 電気工学科 | 学年 | 3年 |
担当者 | 戸田 健 | 履修期 | 前期 |
単位 | 2 | 曜日時限 | 火曜4 |
校舎 | 駿河台 | 時間割CD | I24P |
クラス | A・B | ||
履修系統図 | 履修系統図の確認 |
概要
学修到達目標 | 工学系学府にける“情報”を”情報工学”と言い換えれば,社会に役立つようにエンジニアリングする技術の総称と言える.一方”エントロピー”とは,その"情報"の量や不確定性確を理論的に示す量のことである.本講義では,我々を取り巻く情報化社会におけるエントロピーを科学的な視点から捉え、その分析や理解を深めることに役立つ情報理論について学修する.そこでは,電気工学系の学生が情報工学分野に興味関心を持つための基礎的素養と,広大な情報工学技術分野を見通しよく体系的に学修し,後期科目「情報工学」の学修に繋がり,さらに卒業研究や卒業後のキャリアの礎として役立てることを将来的な目的とする. 本科目を履修することにより,具体的には,以下の項目について,論理的に概要説明がおこなえることを目標とする. ・情報理論の概要 ・情報の表現 ・確率の基礎 ・情報量 ・情報量の性質 ・情報源のモデルとエントロピーレート ・典型系列とその性質 本授業科目はDP3・5及びCP3・5に該当しています。 |
---|---|
授業形態及び 授業方法 |
教室において,プロジェクタと板書を利用した講義形式 授業時間外においては,Google classroomを用いて,教員は連絡事項を伝えたり、課題を掲載したり、生徒の質問に回答する.また学生は,課題の提出を行う. 課題の演習ではPCを使用し課題に取り組む演習を実施することもある. |
履修条件 | 学修効果を高めるため,授業回毎に予習・復習を合わせて240分程度を目安に行うこと.興味関心持った点だけでなく,明確にならなかった専門用語や技術といった疑問点等は,まず各自において,教科書や配布資料はもちろんのこと,参考書籍やWEB検索を通して適切な情報にアクセスし調べること.さらに授業あるいはオフィスアワーを利用して,担当教員とコミュニケーションし理解を深めること. |
授業計画
第1回 | 講義の概要説明 |
---|---|
第2回 | 情報理論の概要 ・情報源の符号化 ・通信路の符号化 |
第3回 | 情報の表現 ・集合 ・2進数 |
第4回 | 確率の基礎(1/3) ・事象と確率 |
第5回 | 確率の基礎(2/3) ・条件付き確率と事象の独立性 |
第6回 | 確率の基礎(3/3) ・確率変数と確率分布 |
第7回 | 情報量(1/3) ・エントロピー |
第8回 | 情報量(2/3) ・同時エントロピーと条件付きエントロピー |
第9回 | 情報量(3/3) ・ダイバージェンスと相互情報量 |
第10回 | 中間総合演習:第2~9回までの講義内容及び演習内容について,理解度を確認する |
第11回 | 情報源のモデルとエントロピーレート(1/2) ・情報源のモデル ・マルコフ情報源 |
第12回 | 情報源のモデルとエントロピーレート(2/2) ・エントロピーレート ・定常情報源のエントロピーレート |
第13回 | 典型系列とその性質(1/2) ・大数の法則 ・漸近等分割性と典型系列 |
第14回 | 典型系列とその性質(2/2) ・典型系列の応用 |
第15回 | 期末総合演習:第2~14回までの講義及び演習内容について,理解度を確認する |
その他
教科書 |
植松友彦 『情報理論の考え方』 講談社 2019年 第12版
必要に応じて教科書を補足する資料を配付する
|
---|---|
参考書 |
塩野 充 『わかりやすいディジタル情報理論』 オーム社 1998年
相河 聡 『情報理論: 情報量~誤り訂正がよくわかる』 森北出版 2018年
山本 宙 『情報量- 情報理論への招待』 コロナ社 2019年
稲井 寛 『はじめての情報理論』 森北出版 2017年 第5版
|
成績評価の方法 及び基準 |
課題及び期末総合演習から総合的に評価する |
質問への対応 | zoomやメール等による対応 |
研究室又は 連絡先 |
研究室: 駿河台校舎 理工学部タワースコラ15F 1505 toda.takeshi@nihon-u.ac.jp Tel: 03-3259-0791 |
オフィスアワー |
月曜 駿河台 12:15 ~ 13:15
|
学生への メッセージ |
情報工学は今となっては,すべての技術分野に応用されている.この広大な情報工学技術分野を見通しよく体系的に学修することでし,後期科目「情報工学」の学修に繋がり,さらには卒業研究や卒業後のキャリアの礎として役立てることができることをモチベーションに,教科書を中心とした予習・復習だけでなく,課題実習のための調査を通して,興味関心持った点だけでなく,明確にならなかった専門用語や技術といった疑問点等は,まず各自において,教科書や配布資料はもちろんのこと,参考書籍やWEB検索を通して適切な情報にアクセスし調べること.さらに授業あるいはオフィスアワーを利用して,担当教員とコミュニケーションすることで,理解を深めることで,後々の関連履修科目や卒業研究,さらには卒業後のキャリアに役立てて欲しい. |