Csatornakapacitás
A Wikipédiából, a szabad enciklopédiából.
A kommunikációban és az informatikában a csatorna kapacitás, annak a diszkrét információnak a mennyisége, amelyet az adott csatornán ténylegesen át lehet vinni. A zajos csatorna kódolási elmélet szerint, egy adott csatorna kapacitását az információs ráta (időegységre eső információ entrópia) korlátozza, amit elérhető elegendően kicsiny hibavalószínűséggel.
A Claude Shannon által 1948-ban kidolgozott információelméletben szerepelő matematikai modellben jelenik meg a csatorna kapacitás fogalma, ami a csatornán átvihető indormáció mennyiség maximumát jelenti. A modell szerint (lásd később), létezik egy bizonyos információ mennyiség – a kölcsönös információ – a csatorna bemenet és kimenete közötti információkra értelmezve, amely maximalizálható a csatornán áttvitt információk eloszlás alapján.
[szerkesztés] Formális meghatározás
Esetünkben X felel meg az elküldött üzenetek terének, és Y az adott idő alatt a csatornán keresztül érkezett üzenetek tere. Legyen a használt csatorna egy lényeges tulajdonsága (esetünkben ezt a zaj reprezentálja) a kimenő információknak a bemenő információtól való eltérése.
Ennek jellemzésére alkalmas a kölcsönös információ I(X;Y), aminek a maximumát nevezik csatorna kapacitásnak, és ezt matematikailag a következő formában adhatjuk meg:
[szerkesztés] Zajos csatorna kódolási tétel
A csatorna kódolási tétel kimondja, hogy bármilyen ε > 0 esetében az R információs ráta csak kisebb lehet, mint a C csatorna kapacitás, azaz létezik olyan kódolási és dekódolási eljárás, ami biztosítja, hogy a blokk átvitel hibavalószínűsége kisebb, mint ε bármilyen elegendően hosszú kód esetében. Tehát, bármilyen, az adott csatorna kapacitásnál nagyobb ráta esetén a blokk hiba valószínűsége 1-hez tart, ha a blokk hossza egyre kisebb lesz.
