調(diào)參得好不好往往對最終模型性能有關(guān)鍵性影響.給定包含m個樣本的數(shù)據(jù)集D,在模型評估與選擇過程中由于需要留出一部分數(shù)據(jù)進行評估測試,事實上我們只使用了一部分數(shù)據(jù)訓(xùn)練模型.
大多數(shù)學(xué)習(xí)算法都有些參數(shù)(parameter)需要設(shè)定,參數(shù)配置不同,學(xué)得模型的性能往往有顯著差別.因此,在進行模型評估與選擇時,除了要對適用學(xué)習(xí)算法進行選擇,還需對算法參數(shù)進行設(shè)定,這就是通常所說的“參數(shù)調(diào)節(jié)”或簡稱“調(diào)參”(parameter tuning)