2025年 理工学部 シラバス - 電気工学科
設置情報
科目名 | 情報エントロピーの科学 | ||
---|---|---|---|
設置学科 | 電気工学科 | 学年 | 3年 |
担当者 | 戸田 健 | 履修期 | 前期 |
単位 | 2 | 曜日時限 | 火曜4 |
校舎 | 駿河台 | 時間割CD | I24N |
クラス | A・B | ||
履修系統図 | 履修系統図の確認 | ||
その他 | 実務経験のある教員による授業科目 |
概要
学修到達目標 | 工学系学府にける“情報”を“情報工学”と言い換えれば,社会に役立つようにエンジニアリングする技術の総称と言える.一方“エントロピー”とは,その“情報”の量や不確定性確を理論的に示す量のことである.本講義では,我々を取り巻く情報化社会におけるエントロピーを科学的な視点から捉え、その分析や理解を深めることに役立つ情報理論について学修する.そこでは,電気工学系の学生が情報工学分野に興味関心を持つための基礎的素養と,広大な情報工学技術分野を見通しよく体系的に学修し,後期科目「情報工学」の学修に繋がり,さらに卒業研究や卒業後のキャリアの礎として役立てることを将来的な目的とする. 本科目を履修することにより,具体的には,以下の項目について,論理的に概要説明がおこなえることを目標とする. ・工学的な“情報”とは何か,“情報”及び“情報量”の定義 ・“情報源符号化”及び“通信路符号化” ・“期待値”,“情報エントロピー”及び情報の“出現確率” ・情報源符号化定理 ・“シャノン・ファノ符号化法”及び“ハフマン符号化法” ・相互情報量 ・通信路容量 ・通信路符号化定理 ・シャノンの標本化定理 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと.興味関心持った点だけでなく,明確にならなかった専門用語や技術といった疑問点等は,まず各自において,教科書や配布資料はもちろんのこと,参考書籍やWEB検索を通して適切な情報にアクセスし調べること.さらに授業あるいはオフィスアワーを利用して,担当教員とコミュニケーションし理解を深めること. |
---|---|
授業形態及び 授業方法 |
教室において,プロジェクタと板書を利用した講義形式 授業時間外においては,Google classroomを用いて,教員は連絡事項を伝えたり、課題を掲載したり、生徒の質問に回答する.また学生は,課題の提出を行う. 課題の演習ではPCを使用し課題に取り組む演習を実施することもある. |
履修条件 | 2年次科目「情報の基礎」の履修が望ましい |
ディプロマ・ポリシー(DP)及びカリキュラム・ポリシー(CP)との関連 | 本授業科目はDP3・5及びCP3・5に該当しています. |
授業計画
第1回 | 講義の概要説明 情報とは何か(概要) | 事前学修:2年次科目「情報の基礎」を課題を中心に復習. 事後学修:教科書の講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
---|---|---|---|
第2回 | 情報とは何か? ・情報の定義 ・情報源符号化とは何か? ・通信路符号化とは何か? | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第3回 | 情報の価値(1/4) ・期待値 ・情報エントロピー ・情報量(1/2) | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第4回 | 情報の価値(2/4) ・情報量(2/2) ・自己情報量 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第5回 | 情報の価値(3/4) ・情報の出現確率 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて240分程度を目安に行うこと. |
第6回 | 情報の価値(4/4) ・情報エントロピーと通信路容量 ・アルファベットの出現確率 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第7回 | 情報源符号化定理(1/2) ・符号化と情報量 ・複合可能:一意復号可能と瞬時符号 ・平均符号長 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第8回 | 情報源符号化定理(2/2) ・シャノン・フォノ符号化法 ・ハフマン符号化法 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第9回 | 通信路符号化定理(1/4) ・通信路と相互情報量 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第10回 | 通信路符号化定理(2/4) ・相互情報量とデータマインニング(決定木による分析) | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第11回 | 通信路符号化定理(3/4) ・通信路容量(通信路の処理速度) ・相互情報量による通信路の評価 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第12回 | 通信路符号化定理(4/4) ・通信路符号化の具体例 ・情報速度 | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第13回 | 標本化定理:連続した波形を“情報”として扱う方法 ・周波数領域及び時間領域の情報として捉える ・標本化定理の実際(1/2) | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第14回 | 標本化定理:連続した波形を“情報”として扱う方法 ・標本化定理の実際(2/2) | 事前学修:教科書の講義範囲の予習. 事後学修:講義内容の振り返り及び課題の実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
第15回 | 期末総合演習:第2~14回までの講義及び演習内容について,理解度を確認する | 事前学修:第2~14回までの講義内容に及び課題の振り返りを通して,期末総合演習の準備を実施 | 学修効果を高めるため,授業回毎に予習・復習を合わせて4時間程度を目安に行うこと. |
その他
教科書 |
高岡 詠子 『シャノンの情報理論入門』 講談社 2019年 第4版
必要に応じて教科書を補足する資料を配付する
|
---|---|
参考書 |
植松友彦 『情報理論の考え方』 講談社 2019年 第12版
塩野 充 『わかりやすいディジタル情報理論』 オーム社 1998年
相河 聡 『情報理論: 情報量~誤り訂正がよくわかる』 森北出版 2018年
山本 宙 『情報量- 情報理論への招待』 コロナ社 2019年
稲井 寛 『はじめての情報理論』 森北出版 2017年 第5版
|
成績評価の方法 及び基準 |
課題及び期末総合演習から総合的に評価する |
定期試験等に ついて |
理解度確認期間(14週目又は15週目)に平常試験を実施予定 |
質問への対応 | zoomやメール等による対応 |
研究室又は 連絡先 |
研究室: 駿河台校舎 理工学部タワースコラ15F 1505 toda.takeshi@nihon-u.ac.jp Tel: 03-3259-0791 |
オフィスアワー |
月曜 駿河台 12:15 ~ 13:15
|
学生への メッセージ |
情報工学は今となっては,すべての技術分野に応用されている.この広大な情報工学技術分野を見通しよく体系的に学修することでし,後期科目「情報工学」の学修に繋がり,さらには卒業研究や卒業後のキャリアの礎として役立てることができることをモチベーションに,教科書を中心とした予習・復習だけでなく,課題実習のための調査を通して,興味関心持った点だけでなく,明確にならなかった専門用語や技術といった疑問点等は,まず各自において,教科書や配布資料はもちろんのこと,参考書籍やWEB検索を通して適切な情報にアクセスし調べること.さらに授業あるいはオフィスアワーを利用して,担当教員とコミュニケーションすることで,理解を深めることで,後々の関連履修科目や卒業研究,さらには卒業後のキャリアに役立てて欲しい. |