問題詳情

五、有一個資訊源(information source),它會傳送出去的訊符(symbol),包括有

, k =1, 2,…, 7 等 7 種,而且傳送

的機率為

。假設

的數值如下所示:


【題組】(一)請計算此資訊源的熵值(entropy)。請將熵值的衡量單位以位元(bits)來表示-也就是說,當你作相關的對數計算時,請以 2 為底。(7 分)
附註:你可能會需要這些數值:  log2(3)≅1.585  、  log2(5)≅2.322、 log2(7)≅2.807 。

參考答案