모델선택의 한계와 현실적인 해결책

모델 집합 Ω = 서로 다른 차수의 다항식이 있는 집합

언급된 알고리즘들이 하는 일은 모델 집함Ω 에 있는 모델 중 가장 좋은 것을 찾아내는 일임

경험에 의한 큰 틀 선택한 후, 모델 선택 알고리즘으로 세부 모델 선택하는 전략 사용

용량이 충분히 큰 모델을 선택 한 후, 선택한 모델이 정상을 벗어나지 않도록 여러 가지 규제 (regularization) 기법을 적용함 예) 12차 다항식을 선택한 후 적절히 규제를 적용함