在視頻中，熵，由一個在郵件中，符號表示的平均資訊量是一個函數用於生成該消息的模型，並通過增加模型的複雜性，使它更好地反映了實際分佈情況源符號在原始郵件中，可減少。熵是消息中包含的資訊的衡量，它是壓縮的下限。