泛化測試是指模型很好地擬合以前未見過的新資料（從用於建立該模型的同一分佈中抽取）的能力。機器學習的目標是對從真實概率分佈（已隱藏）中抽取的新資料做出良好預測。過擬合模型在訓練過程中產生的損失很低，但在預測新資料方面的表現卻非常糟糕。模型只能從訓練資料集中取樣，無法檢視整體情況。
