автордың кітабынан сөз тіркестері  Глубокое обучение на Python. 2-е межд. издание

Франсуа Шолле

Как оказалось, ведущие команды отдавали предпочтение методам глубокого обучения (обычно с применением библиотеки Keras) или деревьям с градиентным бустингом (как правило, с использованием библиотеки LightGBM или XGBoost).

Метод градиентного бустинга (во многом напоминающий случайный лес) — это прием машинного обучения, основанный на объединении слабых моделей прогнозирования, обычно — деревьев решений

Деревья решений — это иерархические структуры, которые позволяют классифицировать входные данные или предсказывать выходные значения по заданным исходным значениям

Модель логистической регрессии — это алгоритм классификации. Так же как наивный байесовский алгоритм, модель логистической регрессии была разработана задолго до появления компьютеров, но до сих пор остается востребованной благодаря своей простоте и универсальной природе. Часто это первое, что пытается сделать исследователь со своим набором данных, чтобы получить представление о классификации.

Наивный байесовский алгоритм — это вид классификатора машинного обучения, основанный на применении теоремы Байеса со строгими (или «наивными» — отсюда и название алгоритма) предположениями о независимости входных данных

Вероятностное моделирование — применение принципов статистики к анализу данных. Это одна из самых ранних форм машинного обучения, которая до сих пор находит широкое использование. Одним из наиболее известных алгоритмов в данной категории является наивный байесовский алгоритм

Однако всегда помните о репрезентативности проверочного набора и проявляйте осмотрительность, чтобы не допустить избыточности между обучающим и проверочным наборами.

В главе 5 мы рассмотрели три распространенных протокола оценки, таких как:
• выделение из общей выборки отдельного проверочного набора данных — этот способ хорошо подходит при наличии большого объема данных;
• перекрестная проверка по K блокам — оптимальный вариант при небольшом количестве исходных образцов, из которых нельзя выделить представительную выборку для проверки;
• итерационная проверка по K блокам с перемешиванием — позволяет с высокой точностью оценить модель, когда в вашем распоряжении имеется ограниченный объем данных.

Для задач ранжирования или многозначной классификации пригодится среднее математическое ожидание

Для задач симметричной классификации, когда каждый класс одинаково вероятен, часто используются такие показатели, как близость и площадь под кривой рабочей характеристики приемника (area under curve of receiver operating characteristic, ROC AUC). Для задач несимметричной классификации можно взять точность и полноту.