На этом шаге мы обобщим изученное на предыдущих шагах.
Как мы уже знаем из предыдущих шагов, обучение нейронных сетей основывается на следующих концепциях: o
- во-первых, тензоры и низкоуровневые операции с ними - основа всего современного машинного обучения. В TensorFlow это:
- тензоры, в том числе специальные, хранящие состояние сети (переменные);
- тензорные операции, такие как сложение, relu, matmul;
- обратное распространение - механизм вычисления градиента математических выражений (в TensorFlow этот механизм предоставляет объект GradientTape);
- во-вторых, высокоуровневые идеи глубокого обучения. В Keras это:
- слои, которые объединяются в модель;
- функция потерь, которая определяет сигнал обратной связи, используемый для обучения;
- оптимизатор, определяющий порядок продвижения обучения;
- метрики для оценки качества модели (такие как точность);
- цикл обучения, действующий методом стохастического градиентного спуска.
В предыдущих шагах мы уже познакомились с некоторыми компонентами TensorFlow и Keras: с классом Variable, операцией matmul и объектом GradientTape из TensorFlow; вы создали экземпляры слоев Dense в Keras, упаковали их в модель Sequential и обучили эту модель с помощью метода fit().
Теперь более подробно рассмотрим реализацию всех этих идей на практике с помощью TensorFlow и Keras.
На следующем шаге мы рассмотрим тензоры-константы и тензоры-переменные.
