2019年 理工学部 シラバス - 電気工学科
設置情報
科目名 | 情報エントロピーの科学 | ||
---|---|---|---|
設置学科 | 電気工学科 | 学年 | 2年 |
担当者 | 山﨑 恒樹 | 履修期 | 後期 |
単位 | 2 | 曜日時限 | 木曜2 |
校舎 | 駿河台 | 時間割CD | I42N |
クラス | A・B | ||
ポリシー | ディプロマ・ポリシー【DP】 カリキュラム・ポリシー【CP】 | ||
履修系統図 | 履修系統図の確認 |
概要
学修到達目標 | 「情報とは何か」と情報の基本礎概念を理解するには情報量をどの様にして測るのか,情報の伝送や処理はどの様にして行えばよいのかを考える。情報を概念的な言葉としてではなく,量として定量的に扱うため演習やプログラム演習を通して、情報源のエントロピー,離散的な通信路の容量,符号化など情報理論の基本的な理解および、情報セキュリティの基礎を学び、暗号の理解と公開鍵方式であるRSA暗号について、プログラム演習を通して、暗号・解読アルゴリズムを習得する。 |
---|---|
授業形態及び 授業方法 |
情報はどの様にして測るかの説明し,平均情報量(エントロピー)が情報の基礎となっていることを説明する。平均情報量は統計エントロピーと同じ内容を持っている。また情報量をbitの単位で測るため2を底とする対数の計算法を説明する。併せて情報セキュリティの立場から暗号の理解を演習やプログラム演習により深める。これらを授業・演習・プログラム演習により学生へのコニュニケーションをはかりながら進める。 |
履修条件 | 確率の概念を修得していることが望ましい。 |
授業計画
第1回 | 講義の概要説明:情報の本質的機能は,人,物,エネルギー,を制御する点にある。情報を変形したり伝送したり保存するには記号を用いる。記号の持つ情報や情報量の測り方を説明し、情報の基礎概念ならぶに情報セキュリティの概念を習得させる。 シラバスの内容を確認の上、授業に臨むこと。 事後学習:配布資料や実験テキストをよく読み、次回の実験講義に備える。(60分) |
---|---|
第2回 | 情報は事象の不確定度を減らす効果を持つ。A地点の天候をB地点に伝えると言う通信のモデルを用いて確率による情報量の測り方を説明。情報量は確率変数の関数として表すことができることを理解する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第3回 | 記号によって運ばれる情報量は2を底とする対数関数で表す。無条件確率と条件確率を用いて相互情報量を定義し,相互情報量の特別な場合として自己情報量(=情報量)を決めることができる。身近な問題について情報量の求め方を学習する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第4回 | 条件付確率,結合確率,Bayesの定理など確率の復習と演習。電卓の数字を表す7個の表示ランプは何ビットの情報を表示できるか?,使う情報が0,1,2…9の場合,この情報量は全情報量の何パーセントか,等学習する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第5回 | 情報源から送出される記号が独立な場合に平均情報量の求め方を説明。平均情報量は熱力学の第2法則で用いられているエントロピーある。確率とエントロピーの関係,統計エントロピーと情報エントロピーの関係を説明する。事前学習:演習解答を理解し、次回について予習しておくこと。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第6回 | 記号が正則な1次マルコフ過程のエントロピーの求め方を説明。遷移確率行列が与えられた時に定常確率行列とエントロピーの求め方を学習する」。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第7回 | 情単位時間に送られる平均の情報量は符号化の方法によって異なる。情報源から独立に送出される記号を「0」と「1」で符号化する場合,通信速度を最大(=通信路容量)にする記号の確率と符号長との関係を理解する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第8回 | 情報源から送出される記号が独立な場合と記号間に一定の束縛条件がある場合の通信路容量を比較する。簡単な例題を上げて説明し,演習を行う。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第9回 | 雑音のない離散的通信路における符号化の方法として, Shannonの方法, Fanoの方法, Huffmanの方法について説明。情報源の記号を使用確率にもとづいて符号化し,三者の方法で得られた符号の符号化効率,冗長度を演習やプログラム演習により比較する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第10回 | 情報セキュリティの基礎となる整数論を学び、ユークリッドの互除法より最大公約数のアルゴリズムを利用して、不定方程式の求め方を演習・プログラム演習により学ぶ。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第11回 | 暗号は情報セキュリティに必要な素数・合同式・法(mod)の概念について学び、関連してフェルマーの小定理・オイラーの関数について演習・プログラム演習により理解する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第12回 | 行列・逆行列による暗号化を情報セキュリティの立場から理解し、累乗計算・2進数展開のmod計算法について演習・プログラム演習により情報セキュリティが行なえることを習得する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第13回 | 情報セキュリティを実用的な面から利用する暗号・復号方式について理解し、実用化されている、公開鍵暗号方式の一つであるRSA暗号について、暗号化と復号化を理解させる。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第14回 | 具体的にRSA暗号について、暗号化と復号化を演習・プログラム演習通して、暗号・復号化の一体化が情報セキュリティの構築となることを習得する。 事前学習:演習解答を理解し、次回について予習しておくこと。(60分) 事後学習:与えられた課題を行ない、講義内容を理解すること。(60分) |
第15回 | 今まで講義した符号化・情報セキュリティの項目について重要な箇所を再度説明し、これまでの演習を通して理解を深める。 事後学習:配布資料やテキストを復習し、試験に臨むこと。(180分) |
その他
教科書 |
細野敏夫 『情報工学の基礎』 コロナ社 1963年 第23版
『情報数学の基礎ー暗号・符号・データベース・ネットワーク・CGー』 寺田 文行・中村 直人・釈氏 孝浩・松居 辰則 サイエンス社 1999年 第8版
必要に応じて教科書を補足する資料を配付する
|
---|---|
参考書 |
田中幸吉 『情報工学』 朝倉書店
細野敏夫 『エントロピーの科学』 新コロナシリーズ⑪ コロナ社 1991年
都築卓司 『マックスウエルの悪魔-確率から物理学へ-』 BLUE BACKS 講談社 1970年
|
成績評価の方法 及び基準 |
試験70% 演習・宿題 30% |
質問への対応 | 随時対応。 |
研究室又は 連絡先 |
研究室:駿河台校舎(タワー・スコラ)15階1509号室, E-mail:yamasaki.tsuneki@nihon-u.ac.jp 電話:03-3259-0771 |
オフィスアワー |
土曜 駿河台 10:00 ~ 12:00
|
学生への メッセージ |
教科書を良く読んで,自分で考えて講義ノートをとってほしい。 授業中に行う演習や与えられた宿題は,自分自身の力で解けるように復習すること。 |