Pytorch
pytorhにoptimizerのzero_grad()とモデルのzero_grad()があることに気づいたので違いを調べた.optimizer がmodel.paremeters()を対象にしている場合,つまり全パラメタを対象にしている場合は両者は同じもの. Optimizer.zero_grad() と nn.Module.zero_gra…
pytorhにoptimizerのzero_grad()とモデルのzero_grad()があることに気づいたので違いを調べた.optimizer がmodel.paremeters()を対象にしている場合,つまり全パラメタを対象にしている場合は両者は同じもの. Optimizer.zero_grad() と nn.Module.zero_gra…