На этом шаге мы перечислим различные способы настройки модели.
Получив модель, обладающую статистической мощностью, и добившись ее переобучения, вы будете спокойны в том, что движетесь в верном направлении. С этого момента вашей целью становится максимизация общности.
Этот этап занимает больше всего времени: вам придется многократно изменять свою модель, обучать ее, оценивать качество на проверочных данных (контрольные данные не должны принимать здесь никакого участия), снова изменять ее и повторять цикл, пока качество модели не достигнет желаемого уровня. Вот кое-что из того, что вы должны попробовать:
- добавить прореживание;
- опробовать разные архитектуры, добавлять и удалять слои;
- если модель не очень большая, то добавить L1- и/или L2-регуляризацию;
- опробовать разные гиперпараметры (например, число нейронов на слой или шаг обучения оптимизатора), чтобы найти оптимальные настройки;
- дополнительно можно выполнить цикл курирования данных или конструирования признаков: собрать больше данных и выполнить их маркировку, добавить новые признаки или удалить имеющиеся, которые не кажутся информативными.
Большую часть подобной работы можно автоматизировать с помощью программного обеспечения для автоматической настройки гиперпараметров, такого как KerasTuner. Эту возможность мы рассмотрим позднее.
Помните: каждый раз, когда вы используете обратную связь из процесса проверки для настройки модели, происходит утечка информации в модель. Если цикл повторяется лишь несколько раз, в этом нет ничего страшного; но если цикл проверки и настройки выполняется многократно, в конечном итоге это приведет к переобучению модели на проверочных данных (даже притом, что модель напрямую не получает их). Это снижает надежность процесса оценки.
Получив удовлетворительную конфигурацию, можно обучить окончательный вариант модели на всех доступных данных (обучающих и проверочных) и оценить ее качество на контрольном наборе. Если качество модели на контрольных данных окажется значительно хуже, чем на проверочных, это может означать, что ваша процедура проверки была ненадежной или в процессе настройки параметров модели проявился эффект переобучения на проверочных данных. Тогда можно попробовать переключиться на использование другого, более надежного протокола оценки (такого как итерационная проверка по K блокам с перемешиванием).
Со следующего шага мы начнем рассматривать развертывание модели.
