答案資訊理論基礎階段考核試卷

2022-01-01 09:49:29 字數 754 閱讀 2068

北京城市學院資訊學部考試試卷答案

2014-2015學年第一學期階段考核試卷2

課程名稱: 資訊理論基礎使用班級:13電信公升、11電信本1、2考試時間:45分鐘

考試形式: 閉卷共1頁,共 3 道大題空白答題紙1頁

一、定義題(共 4分)

1、 散布度: 所表示的平均互資訊量等於觀察y所獲得的資訊量h(y)或集y的平均不確定性,減去傳送x時由於干擾影響使之轉移成y所存在的平均不確定性h(y丨x)。

2.含糊度:當把x作為系統的輸入集,y作為系統的輸出集時, 表示互資訊i(x;y)等於輸入集的平均不確定性h(x)減去在觀察到輸出y後集x還保留的不確定性h(x丨y)。

二、描述題(共3分)

1、請描述資訊處理定理的意義。

資訊處理定理:級聯系統對集z到集y的任意變換y=f(z),有

定理2.4.1說明,若將集x作為觀測物件,z作為觀測到的資料集,而y作為對觀測結果z進行某種處理的結果,則對於觀測得到的資料做任何處理都會帶來資訊損失,絕對不會使資訊增加。

處理得細緻些,會使資訊損失少些,但付出的代價,如裝置複雜性、計算量或處理時間等要加大。這個資訊不增原理是互資訊的重要性質之一,它和熱熵的不減原理正好對應。

三、問答題(共3分)

1、 請寫出熵和最大離散熵定理公式。

定義2.2.1 集上定義的自資訊量i(x)的數學期望

稱做集x的平均自資訊量,又稱做是集x的資訊熵,簡稱熵。

最大離散熵定理:在離散情況下,集x中各事件等概率出現,即服從平均分布時,熵值最大。

資訊理論雨編碼課後題答案

2.1 設有 12 枚同值硬幣,其中有一枚為假幣。只知道假幣的重量與真幣的重量不同,但不知究竟是重還是輕。現用比較天平左右兩邊輕重的方法來測量。為了在天平上稱出哪 一枚是假幣,試問至少必須稱多少次?解 從資訊理論的角度看,12 枚硬幣中,某一枚為假幣 該事件發生的概率為 p 112 假幣的重量比真的...

資訊理論與編碼基礎複習題

1.從通訊的實質意義來講,如果信宿收到的訊息是已知的,則等於沒有收到任何訊息。2.當乙個信源中所有的符號訊息為等概時,該信源的熵最大。3.即時碼一定是單義可解碼。4.不使用間隔即可區分碼字,就必然要求碼字具有惟一性。5.雜訊熵為0的通道稱為確定通道。6.從通訊的實質意義來講,人們對訊息中所包含的未知...

氯鹼生產整流工段考核試題2019 含答案

整流工段考核試題 姓名計分 一 填空題 每題2.5分 1 電路是由和組成的。2 交流電是指和都隨時間做週期性變化的電流 電壓。3構成電路的三種基本元件。4 矽整流二極體是一種以為基本材料,利用半導體pn結單向導電性製成的因為它在電路中所起的作用跟單向閥門在流體管路中所起的作用相似,所以通常稱整流元件...