數據壓縮，又叫“信源編碼”，大約是乾這樣一件事。假設有個信息源，就是一個能不停往外蹦信息的東西，比如一直在想神秘數字的俺，夜觀星象的俺，寫小說的俺，等等等等。信息源產生的信息從數學上說就是一個隨機變量序列(更有文化的說法叫隨機過程)。這個隨機變量序列可以有很多種形式，最簡單形式就是其中的隨機變量都相互獨立而且服從相同的分布。對這個信息源進行數據壓縮包括了兩個環節，編碼和解碼。編碼就是把從信息源蹦出來的隨機序列表示成比特序列，而且越短越好;解碼就是從比特序列中還原出信息源蹦出來的隨機序列。數據壓縮可以大幅度降低數據存儲和通訊需要的資源，已經是現代通信技術的一個重要組成部分。