Pagina 1 di 1

Primo teorema di Shannon

MessaggioInviato: 14 mar 2018, 22:57
da Patras
Ciao a tutti! Sto cercando in tutti i modi di capire una cosa nella formula della codifica di sorgente per simboli di codice:

Sia X una variabile casuale a valori in un alfabeto finito \Sigma _{1} e sia f un codice decifrabile (ossia una funzione univoca) da {\displaystyle \Sigma _{1}^{*}} a {\displaystyle \Sigma _{2}^{*}}, dove {\displaystyle |\Sigma _{2}|=a}. Sia S la risultante lunghezza della parola di codice f(X).

Se f è ottima nel senso che ha la minima lunghezza attesa per la parola di codice X, allora


\frac{H(X)}{\log_2 a} \leq \mathbb{E}\left\lbrace S\right\rbrace < \frac{H(X)}{\log_2 a} +1

Non capisco la cardinalità dell'insieme a cosa vuol dire?
perché prima mi confondevo con il numero di codici poi ho visto che la formula non si verificava... ora non so cosa vuol dire... è per caso la base del sistema numerico diciamo usato per il codice.. se fosse binario allora a=2??