• Нейронные сети могут автоматически адаптироваться к поставленной задаче.

• Нейронные сети обеспечивают возможность удобного доступа к аналитически выраженным производным функции потерь относительно любого из параметров модели, что позволяет очень эффективно обновлять эти параметры. Благодаря механизму автоматического дифференцирования PyTorch с легкостью предоставляет подобные производные.

• Функции активации, в дополнение к линейным преобразованиям, позволяют нейронным сетям аппроксимировать сильно нелинейные функции, оставляя их при этом достаточно простыми для оптимизации.

• Модуль nn, вместе со стандартной библиотекой для работы с тензорами, обеспечивает все необходимое для создания нейронных сетей.

• Чтобы выявить переобучение, необходимо отделять обучающий набор точек данных от проверочного набора. Не существует единого рецепта борьбы с переобучением, но для начала имеет смысл найти дополнительные или более разнообразные данные, а также ограничиться более простыми моделями.

• Всем, кто занимается исследованием данных, следует постоянно визуализировать их.