вычисление градиента любого дифференцируемого выражения по отношению к любому из его входов. Просто откройте контекст GradientTape, примените некоторые вычисления к одному или нескольким входным тензорам — и получите градиент результата относительно входов.
Листинг 3.10. Пример использования GradientTape
input_var = tf.Variable(initial_value=3.)
with tf.GradientTape() as tape:
result = tf.square(input_var)
gradient = tape.gradient(result, input_var)
Этот прием чаще всего используется для получения градиентов потерь модели относительно ее весов: gradient = tape.gradient(loss, weights). Вы уже видели, как это делается, в главе 2.
Глубокое обучение на Python. 2-е межд. издание
·
Франсуа Шолле
