【Tensorflow】结果可复现设置-随机种子设置(Random Seed)

引言

在进行深度学习实验的时候,可能经常会发现,虽然输入的数据都是一样的,但是输出的结果总是会有不同的波动,这主要是由于在神经网络中,很多网络层参数的初始化会涉及到随机,这个就会导致最终的结果会有一些差距,因此如果我们想要固定某一个结果,并复现这个结果,我们就需要提前设置固定的随机种子

设置

一般来说,我们可以通过对每一层的网络层设置固定的随机种子,保持结果可复现,但是显然这是比较麻烦的一件事,所以我们可以通过 tf.random.set_seed() 来全局固定CPU上的随机性,但是当我们使用GPU训练时,则无法起作用,需要通过 tensorflow-determinism库来实现在GPU上固定随机性


pip install tensorflow-determinism
tensorflow-determinism = 0.3.0
tensorflow = 2.9.1

import random
import numpy as np
import tensorflow as tf

random_seed = 42
random.seed(random_seed )  # set random seed for python
np.random.seed(random_seed )  # set random seed for numpy
tf.random.set_seed(random_seed )  # set random seed for tensorflow-cpu
os.environ['TF_DETERMINISTIC_OPS'] = '1' # set random seed for tensorflow-gpu

Original: https://www.cnblogs.com/lovefisho/p/16865087.html
Author: LoveFishO
Title: 【Tensorflow】结果可复现设置-随机种子设置(Random Seed)

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/806527/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球