在TensorFlow中實現批量歸一化可以使用tf.keras.layers.BatchNormalization()函數來添加批量歸一化層。以下是一個示例代碼:
import tensorflow as tf
model = tf.keras.models.Sequential([
tf.keras.layers.Dense(128, input_shape=(784,)),
tf.keras.layers.BatchNormalization(),
tf.keras.layers.Activation('relu'),
tf.keras.layers.Dense(10),
tf.keras.layers.BatchNormalization(),
tf.keras.layers.Activation('softmax')
])
在上面的代碼中,我們首先創建了一個Sequential模型,然后通過添加tf.keras.layers.BatchNormalization()層來實現批量歸一化。在訓練過程中,模型將自動計算每個批次的均值和方差,并將其用于規范化輸入數據。