Bit

Na predchádzajúcej stránke sme mali vyriešiť úlohu ak máme dva javy ktoré sa navzájom vylučujú Npríklad budeme sledovať či na nejako mieste v danom dni pršalo alebo nie. Pravdepodobnosť že pršalo osnačme ako p. Pravdepodobnosť že nepršalo sa potom vypočíta ako 1-p Máme teda dve pravdepodobnosyi pričom nám stačí poznať iba jednu. druhá sa dá ľahko vypočítať. Vsťah na výpočet entrópie:
H = − ∑ i = 1 n p i * log 2 ( p i )
sa dá upraviť na:
H = − p * log 2 ( p ) − ( 1 − p ) * log 2 ( 1 − p )

Pomocou tabuľkového kalkulátora sa dá ľahko nakresliť graf funkcie H pre všetky možné hodnoty p.

Z tohoto grafu vidíme strednú hodnotu informácie pre jednotlivé p Pre krajné hodnoty p je výsledná informačná hodnota nulová. Akú informačnú hodnotu na púšti má správa že dnes nepršalo ak vieme na púšti nikdy neprší? Ďalej si môžeme všimnúť že funkcia má maximum presne v bode kde sú obe pravdepodobnosti rovnaké. Na základe tohoto teraz môžeme presne definovať čo je to jeden bit.

Jeden bit je informácia ktorú získame ak sa dozvieme výsledok pokusu ktorý má dva rovnako pravdepodobné výsledky.

Alebo inak.

Jeden bit je informácia ktorú získame ak nastane jeden z dvoch možných stavov, ktoré sú rovnako pravdepodobné.

Príklad:

Vypočítajte entrópiu pre tri javy, pravdepodobnosť prvého javu je 0,2 pravdepodobnosť druhého javu je 0,3. Pravdepodobnosť tretieho javu si vypočítajte a vypočítajte výslednú hodnotu entrópie.

Zoskupenia bitov

Jeden bit je veľmi malá jednotka a preto sa postupne začli používať jednotky väčšie. Pri nasledovných skupinách bitov si všimnite že prvý a posledný bit sú farebne zvýraznené. Je to preto že tieto bity majú špeciálne pomenovanie
MSB Most Significant bit znamená najviac významný bit (bit ktorý má najvyššiu váhu)
LSB Low Significant bit znamená najmenej významný bit (bit ktorý má najmenšiu váhu)
Pri zobrazovaní čísel je pozícia MSB a LSB jednoznačná. MSB je úplne vľavo a LSB je úplne vpravo.

Nibble

Prvé mikroprovesory boli 4 bitové - manipulovali naraz s štvoricou bitov. Pre 4 bity sa používá názov nibble. Jej použitie je dnes už veľmi zriedkavé.
Dnes sa môžete so 4bitovou informáciou stretnúť napríklad pre desiatkových čítačoch napríklad 7490 alebo pri binárnych čítačoch 7493

Byte/oktet

Pokrok v zvyšovaní hustoty integrácie umožnil aby nová generácia dokázala pracovať s dvojnásobkom bitov. pre osmicu bitov oktet sa prijalo pomenovanie byte/bajt

Word

Následne sa začali používať 16 bitové procesory a 16 bitov dostalo označenie word/slovo.

Double word

Nie je to tak dávno čo najlepšie procesory mali možnosť manipulovať naraz až s 32 bitmi. 32 bitov sa začalo označovať ako double word/dvojslovo Skrátene sa to označuje ako dword

Quad word

Dnešné procesory však umožňujú naraz spracovať až 64 bitov. Tento počet označujeme pojmom quad word /štvorslovo. Skrátene qword

Násobky kB/KiBy

Stále sú to ale malé množstvá ktoré nám nepostačujú pre vyjadrenie množstva informácií uložených v súboroch. pre takéto účely máme v sústave SI predpony ktoré označujú násobky. Bohužiaľ sa tieto násobky začali v informatike používať v niektorých prípadoch nesprávne. Prvé pamäte mali napríklad 10 adresných vstupov. to dovoľuje adresovať 2 10 pamäťových buniek. Toto sa spočiatku označovalo ako 1kB. Lenže napríklad v telekomunikáciach sa označovala prenosová rýchlosť telefónnych modemov napríklad ako 33kb čo znamenalo 33000bit za sekundu. Podobná situácia bola pri označovaní kapacity diskov alebo CD a DVD médií Túto situáciu
predpona názov násobok
kb kilo bit 1000 bitov
kB kilo byte 1000 bytov
KiB kilo byte 1024 bytov