При небольшом объеме обучающих данных используйте небольшие модели с одним или двумя промежуточными слоями, чтобы избежать серьезного переобучения.
• В том случае, когда данные делятся на большое число категорий, у вас может возникнуть узкое место для информации, если вы слишком сильно ограничите размерность промежуточных слоев.
• При небольшом объеме входных данных надежно оценить качество модели поможет метод перекрестной проверки по K блокам.
Глубокое обучение на Python. 2-е межд. издание
·
Франсуа Шолле