V video, entropija, povprečna količina informacij, ki zastopa simbol v sporočilo, je odvisna od modela, uporabljenega za proizvodnjo tega sporočila in lahko zmanjša s povečanjem zapletenosti modela, tako da bolje odraža dejanske distribucije vir simbolov v izvirnem sporočilu. Entropija je mera za podatke, vsebovane v sporočilu, je spodnja meja za stiskanje.