网站做全景图,ppt接单兼职网站,济南网站设计哪家好,网站单页面可以做302跳转吗文章目录 Github官网文档Playground安装声明张量常量变量 张量计算张量数据类型转换张量数据维度转换ReLU 函数Softmax 函数卷积神经网络训练模型测试模型数据集保存目录显示每层网络的结果 TensorFlow 是一个开源的深度学习框架#xff0c;由 Google Brain 团队开发和维护。它… 文章目录 Github官网文档Playground安装声明张量常量变量 张量计算张量数据类型转换张量数据维度转换ReLU 函数Softmax 函数卷积神经网络训练模型测试模型数据集保存目录显示每层网络的结果 TensorFlow 是一个开源的深度学习框架由 Google Brain 团队开发和维护。它被广泛应用于机器学习和深度学习领域可用于构建各种人工智能模型包括图像识别、自然语言处理、语音识别、推荐系统等。 灵活性和可扩展性TensorFlow 提供了灵活且可扩展的架构可以在各种硬件平台上运行包括 CPU、GPU 和 TPUTensor Processing Unit。这使得 TensorFlow 成为构建大规模深度学习模型的理想选择。 计算图TensorFlow 使用静态计算图的概念来表示机器学习模型。在构建模型时首先定义计算图然后执行计算图以训练模型或进行推理。 自动求导TensorFlow 提供了自动求导功能能够自动计算模型中各个参数的梯度。这简化了模型训练过程中的反向传播步骤。 高级 APITensorFlow 提供了多种高级 API如 tf.keras、tf.estimator 和 tf.data 等使得构建、训练和部署机器学习模型更加简单和高效。 跨平台支持TensorFlow 不仅支持在各种硬件平台上运行还可以在多种操作系统上运行包括 Linux、Windows 和 macOS。 社区支持TensorFlow 拥有庞大的开发者社区提供了丰富的文档、教程和示例代码使得学习和使用 TensorFlow 更加容易。
Github
https://github.com/tensorflow/tensorflow
官网
https://tensorflow.google.cn/?hlzh-cn
文档
https://tensorflow.google.cn/api_docs/python/tf
Playground
https://playground.tensorflow.org/ TensorFlow Playground 是一个交互式可视化工具旨在帮助用户理解和探索神经网络的基本概念和行为。它提供了一个易于使用的界面可以在浏览器中运行不需要编写代码。用户可以通过调整参数和观察结果直观地理解神经网络的工作原理。 安装
清理所有安装包
pip freeze | xargs pip uninstall -ypip install tensorflow2.13.1
pip install matplotlib3.7.5
pip install numpy1.24.3查看版本
pip listimport tensorflow as tf
print(TensorFlow version:, tf.__version__)声明张量
常量
https://tensorflow.google.cn/api_docs/python/tf/constant
tf.constant(value, dtypeNone, shapeNone, nameNone)value常量张量的值。可以是标量、列表、数组等形式的数据。如果传入的是标量则创建的是一个标量张量如果传入的是列表或数组则创建的是一个多维张量。 dtype常量张量的数据类型。可选参数默认为 None。如果未指定数据类型则根据传入的 value 推断数据类型。 shape常量张量的形状。可选参数默认为 None。如果未指定形状则根据传入的 value 推断形状。 name常量张量的名称。可选参数默认为 None。如果未指定名称则 TensorFlow 将自动生成一个唯一的名称。
import tensorflow as tftensor_constant tf.constant([[1, 2], [3, 4]], dtypetf.int32, shape(2, 2), nameconstant)
print(常量张量:, tensor_constant)输出
常量张量: tf.Tensor(
[[1 2][3 4]], shape(2, 2), dtypeint32)变量
https://tensorflow.google.cn/api_docs/python/tf/Variable
tf.Variable(initial_value, dtype, nameNone)initial_value变量张量的初始值。可以是标量、列表、数组等形式的数据。如果传入的是标量则创建的是一个标量张量如果传入的是列表或数组则创建的是一个多维张量。 dtype变量张量的数据类型。此参数是必须的不能为 None。你需要明确指定变量张量的数据类型。 name变量张量的名称。可选参数默认为 None。如果未指定名称则 TensorFlow 将自动生成一个唯一的名称。
import tensorflow as tftensor_variable tf.Variable(initial_value[1, 2], dtypetf.int32, namevariable)
print(变量张量:, tensor_variable)输出
变量张量: tf.Variable variable:0 shape(2,) dtypeint32, numpyarray([1, 2], dtypeint32)张量计算
import tensorflow as tfa_constant tf.constant([[1, 2], [3, 4]], dtypetf.int32, shape(2, 2), namea)
print(常量张量:, a_constant)b_variable tf.Variable(initial_value[1, 2], dtypetf.int32, nameb)
print(变量张量:, b_variable)# 定义加法操作节点
c tf.add(a_constant, b_variable, namec)
# 执行加法操作并获取结果
print(输出结果: a b , c.numpy())输出
常量张量: tf.Tensor(
[[1 2][3 4]], shape(2, 2), dtypeint32)
变量张量: tf.Variable b:0 shape(2,) dtypeint32, numpyarray([1, 2], dtypeint32)
输出结果: a b [[2 4][4 6]]张量数据类型转换
import tensorflow as tfint_tensor tf.constant([[1, 2], [3, 4]], dtypetf.int32, shape(2, 2), nameconstant)
print(整型张量:, int_tensor)
# 将整数张量转换为浮点数张量
float_tensor tf.cast(int_tensor, dtypetf.float32)
print(浮点张量:, float_tensor)输出
整型张量: tf.Tensor(
[[1 2][3 4]], shape(2, 2), dtypeint32)
浮点张量: tf.Tensor(
[[1. 2.][3. 4.]], shape(2, 2), dtypefloat32)张量数据维度转换
张量转换为指定形状的新张量而不改变张量中的元素值
import tensorflow as tf# [2, 3] 形状的张量
tensor tf.constant([[1, 2, 3], [4, 5, 6]])
# [3, 2] 形状的张量
new_tensor tf.reshape(tensor, [3, 2])print([2, 3] 形状的张量:, tensor)
print([3, 2] 形状的张量:, new_tensor)输出
[2, 3] 形状的张量: tf.Tensor(
[[1 2 3][4 5 6]], shape(2, 3), dtypeint32)
[3, 2] 形状的张量: tf.Tensor(
[[1 2][3 4][5 6]], shape(3, 2), dtypeint32)ReLU 函数 ReLU(x)max(0,x) 即当输入值 x 大于0时输出 否则输出0。 引入非线性 ReLU 函数能够引入非线性使得 CNN 能够学习和表示更复杂的模式和特征。卷积操作本身是线性的而非线性激活函数使得网络可以逼近任意复杂的函数。 计算效率高 计算 ReLU 非常简单只需要对输入进行比较操作这使得训练和推理过程更加高效。 缓解梯度消失问题 相比 Sigmoid 和 TanhReLU 的梯度在正区间是常数1这帮助梯度在反向传播时不会消失使得深层网络的训练更加稳定。 稀疏激活 ReLU 的一部分输出为零这使得神经元在同一时间不必全部激活导致更为稀疏和高效的计算。
import numpy as np
import matplotlib.pyplot as plt# 定义ReLU函数
def relu(x):return np.maximum(0, x)# 生成输入数据
x np.linspace(-10, 10, 400)
y relu(x)# 绘制ReLU函数图形
plt.figure(figsize(8, 6))
plt.plot(x, y, labelReLU(x) max(0, x), colorb)
plt.xlabel(x)
plt.ylabel(ReLU(x))
plt.title(ReLU Activation Function)
plt.legend()
plt.grid(True)
plt.show()Softmax 函数
Softmax 函数是一种用于多分类问题的激活函数通常用在神经网络的输出层。它将一个未归一化的数字向量称为“logits”转换为一个归一化的概率分布。
在卷积神经网络CNN中Softmax 函数通常用于多分类问题的输出层。 概率分布 Softmax 函数将网络的输出转换为概率分布使得每个类别的输出值在0到1之间且所有类别的输出值之和为1。这使得输出值可以直接解释为各个类别的概率。 分类决策 在多分类任务中通常选择 Softmax 函数输出概率最高的类别作为模型的预测结果。 梯度计算 Softmax 函数与交叉熵损失函数Cross-Entropy Loss结合使用效果很好。交叉熵损失函数能够很好地衡量预测的概率分布与真实标签分布之间的差异从而指导模型参数的优化。
import numpy as np
import matplotlib.pyplot as plt# Softmax 函数
def softmax(x):exp_x np.exp(x - np.max(x)) # 稳定计算防止溢出return exp_x / exp_x.sum(axis0)# 定义输入值范围
x np.linspace(-2, 2, 400)
scores np.vstack([x, np.ones_like(x), 0.2 * np.ones_like(x)])# 计算 Softmax 输出
softmax_scores softmax(scores)# 绘制图形
plt.plot(x, softmax_scores[0], labelx)
plt.plot(x, softmax_scores[1], label1)
plt.plot(x, softmax_scores[2], label0.2)
plt.title(Softmax Function)
plt.xlabel(Input Value)
plt.ylabel(Softmax Output)
plt.legend()
plt.show()Softmax 函数如何将不同输入转换为概率分布并且可以清晰地看到随着输入值 x 的变化Softmax 输出的动态变化。 第一条线label‘x’代表输入值从 -2 到 2 的变化范围。由于 x 的变化较大Softmax 函数的输出也会随之变化反映出该行输入在整个向量中的相对影响力。第二条线label‘1’代表一个常数值 1 的输入。由于这个值是常数Softmax 的输出会相对稳定不会随着 x 的变化而变化太大。第三条线label‘0.2’代表一个常数值 0.2 的输入。与常数值 1 类似这条线也相对稳定但因为 0.2 小于 1在 Softmax 输出中其影响力会更小。
卷积神经网络
卷积神经网络Convolutional Neural NetworkCNN是一类深度学习模型主要用于图像识别、语音识别和自然语言处理等领域。CNN 在计算机视觉任务中取得了巨大成功是许多图像识别任务的首选模型。
CNN 的核心思想是通过卷积层和池化层来提取输入图像的特征并将这些特征输入到全连接层中进行分类或回归。 卷积层Convolutional Layer 卷积层通过使用卷积核也称为过滤器来提取图像中的特征。卷积操作会在输入图像上滑动卷积核并将卷积核与输入图像的局部区域进行点积运算从而得到特征图也称为卷积特征映射。 池化层Pooling Layer 池化层用于降低特征图的空间尺寸同时保留重要的特征信息。最常见的池化操作是最大池化Max Pooling它选取输入区域的最大值作为输出还有平均池化Average Pooling它计算输入区域的平均值作为输出。 激活函数Activation Function 激活函数引入非线性性质使得 CNN 能够学习非线性的特征。常用的激活函数包括ReLURectified Linear Unit、Sigmoid、Tanh等。 全连接层Fully Connected Layer 全连接层将卷积层和池化层提取的特征进行展开并连接到一个或多个全连接层中。全连接层通常用于将特征映射到输出类别或进行回归预测。 损失函数Loss Function 损失函数用于衡量模型预测值与真实标签之间的差异。在分类任务中常用的损失函数包括交叉熵损失函数Cross Entropy Loss等。 优化器Optimizer 优化器用于更新模型的参数以最小化损失函数。常用的优化器包括随机梯度下降SGD、Adam、RMSProp等。
训练模型 Conv2D 层用于提取图像特征。每个 Conv2D 层都包括一组卷积核filters用于对输入图像进行卷积操作。在这个模型中我们使用了三个 Conv2D 层每个 Conv2D 层后面跟着一个 ReLU 激活函数以引入非线性。 MaxPooling2D 层用于下采样和减少模型复杂度。MaxPooling2D 层通过在局部区域内取最大值来减小特征图的空间大小从而降低计算量和参数数量。在这个模型中我们使用了两个 MaxPooling2D 层每个层将特征图的大小减半。 Flatten 层用于将多维的特征图展平成一维向量以便与全连接层相连。 Dense 层全连接层用于最终分类。我们使用了两个 Dense 层其中最后一个 Dense 层的激活函数为 softmax用于输出每个类别的概率分布。
import tensorflow as tf
from tensorflow.keras import layers, models
import matplotlib.pyplot as plt# 加载 MNIST 数据集这个数据集包含手写数字的图像0 到 9
mnist tf.keras.datasets.mnist
(train_images, train_labels), (test_images, test_labels) mnist.load_data()# 归一化处理将像素值从 0-255 缩放到 0-1 之间
train_images, test_images train_images / 255.0, test_images / 255.0# 创建卷积神经网络模型
model models.Sequential([# 第一层卷积层使用 32 个 3x3 的卷积核激活函数为 ReLU输入形状为 28x28x1layers.Conv2D(32, (3, 3), activationrelu, input_shape(28, 28, 1)),# 第一层池化层使用 2x2 的池化窗口layers.MaxPooling2D((2, 2)),# 第二层卷积层使用 64 个 3x3 的卷积核激活函数为 ReLUlayers.Conv2D(64, (3, 3), activationrelu),# 第二层池化层使用 2x2 的池化窗口layers.MaxPooling2D((2, 2)),# 第三层卷积层使用 64 个 3x3 的卷积核激活函数为 ReLUlayers.Conv2D(64, (3, 3), activationrelu),# 将多维的卷积层输出展平成一维向量layers.Flatten(),# 第一个全连接层包含 64 个神经元激活函数为 ReLUlayers.Dense(64, activationrelu),# 输出层包含 10 个神经元对应 10 个类别使用 Softmax 激活函数输出概率分布layers.Dense(10, activationsoftmax)
])# 编译模型指定优化器、损失函数和评估指标
model.compile(optimizeradam,losssparse_categorical_crossentropy,metrics[accuracy])# 调整数据维度以匹配卷积层输入的形状要求 (28, 28, 1)
train_images train_images[..., tf.newaxis]
test_images test_images[..., tf.newaxis]# 开始跟踪计算图记录模型结构和计算过程
tf.summary.trace_on(graphTrue)# 训练模型使用训练数据进行 5 个周期epochs的训练
model.fit(train_images, train_labels, epochs5)# 停止跟踪计算图并将其写入日志文件以便在 TensorBoard 中进行可视化
with tf.summary.create_file_writer(logs).as_default():tf.summary.trace_export(namemodel_trace,step0,profiler_outdirlogs)# 评估模型使用测试数据集输出损失值和准确率
test_loss, test_acc model.evaluate(test_images, test_labels)
print(Test accuracy:, test_acc)# 保存模型将模型结构和权重保存到文件 mnist_model.h5
model.save(mnist_model.h5)
print(Model saved successfully.)输出
Epoch 1/5
1875/1875 [] - 33s 17ms/step - loss: 0.1454 - accuracy: 0.9555
Epoch 2/5
1875/1875 [] - 34s 18ms/step - loss: 0.0465 - accuracy: 0.9856
Epoch 3/5
1875/1875 [] - 30s 16ms/step - loss: 0.0320 - accuracy: 0.9902
Epoch 4/5
1875/1875 [] - 30s 16ms/step - loss: 0.0251 - accuracy: 0.9923
Epoch 5/5
1875/1875 [] - 30s 16ms/step - loss: 0.0196 - accuracy: 0.9935
313/313 [] - 2s 4ms/step - loss: 0.0293 - accuracy: 0.9906
Test accuracy: 0.9905999898910522
Model saved successfully.Adam优化器Adam Optimizer是深度学习中广泛使用的一种优化算法它结合了动量优化和RMSProp优化的优点。Adam是“Adaptive Moment Estimation”的缩写即自适应动量估计。它在处理稀疏梯度和非平稳目标函数方面表现良好。 sparse_categorical_crossentropy 是一种用于多类别分类问题的损失函数特别适用于目标标签为整数编码的情形。它在深度学习中广泛应用尤其是在处理类别数量较多且标签为整数编码如0, 1, 2, …的分类问题中。 accuracy准确率是衡量分类模型性能的一个常用指标。它表示模型预测正确的样本数量占总样本数量的比例。准确率适用于各种分类问题但在类别不平衡的数据集中需要谨慎使用因为它可能会误导模型性能的真实情况。
测试模型
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt# 加载 MNIST 测试集
mnist tf.keras.datasets.mnist
(_, _), (test_images, test_labels) mnist.load_data()# 加载保存的模型
loaded_model tf.keras.models.load_model(mnist_model.h5)
print(Model loaded successfully.)# 选择五个测试图片
num_samples 5
indices np.random.randint(0, len(test_images), sizenum_samples)
test_images_sample test_images[indices]
test_labels_sample test_labels[indices]# 归一化处理并添加批处理维度
test_images_sample np.expand_dims(test_images_sample / 255.0, axis(3))# 进行预测
predictions loaded_model.predict(test_images_sample)
predicted_labels np.argmax(predictions, axis1)# 输出预测结果和真实标签
for i in range(num_samples):print(fTrue label: {test_labels_sample[i]}, Predicted label: {predicted_labels[i]})# 显示测试图片
plt.figure(figsize(15, 3))
for i in range(num_samples):plt.subplot(1, num_samples, i 1)plt.imshow(test_images_sample[i, :, :, 0], cmapgray)plt.title(fTrue: {test_labels_sample[i]}, Predicted: {predicted_labels[i]})plt.axis(off)plt.subplots_adjust(wspace0.5)
plt.show()输出
Model loaded successfully.
1/1 [] - 0s 125ms/step
True label: 6, Predicted label: 6
True label: 0, Predicted label: 0
True label: 4, Predicted label: 4
True label: 2, Predicted label: 2
True label: 1, Predicted label: 1数据集保存目录
cd ~/.keras/datasets显示每层网络的结果
import numpy as np
import tensorflow as tf
import matplotlib.pyplot as plt
from tensorflow.keras import layers, models# 加载MNIST数据集
(train_images, train_labels), (test_images, test_labels) tf.keras.datasets.mnist.load_data()
train_images train_images.reshape(-1, 28, 28, 1).astype(float32) / 255.0# 创建卷积神经网络模型
model models.Sequential([layers.Conv2D(32, (3, 3), activationrelu, input_shape(28, 28, 1)),layers.MaxPooling2D((2, 2)),layers.Conv2D(64, (3, 3), activationrelu),layers.MaxPooling2D((2, 2)),layers.Conv2D(64, (3, 3), activationrelu),layers.Flatten(),layers.Dense(64, activationrelu),layers.Dense(10, activationsoftmax)
])# 创建一个新的模型该模型的输出为每一层的输出
layer_outputs [layer.output for layer in model.layers] # 获取所有层的输出
activation_model models.Model(inputsmodel.input, outputslayer_outputs)# 选择一张训练集中的图像并进行预测
img train_images[0][np.newaxis, ...]
activations activation_model.predict(img)# 可视化每一层的输出
layer_names [layer.name for layer in model.layers] # 获取所有层的名称for i, (layer_name, layer_activation) in enumerate(zip(layer_names, activations)):plt.figure(figsize(15, 15))if len(layer_activation.shape) 4: # 处理卷积层输出n_features layer_activation.shape[-1] # 特征图的数量size layer_activation.shape[1] # 特征图的大小n_cols n_features // 8 # 显示列数display_grid np.zeros((size * n_cols, 8 * size))for col in range(n_cols): # 遍历所有的特征图for row in range(8):channel_image layer_activation[0, :, :, col * 8 row]channel_image - channel_image.mean() # 标准化图像if channel_image.std() ! 0:channel_image / channel_image.std()channel_image * 64channel_image 128channel_image np.clip(channel_image, 0, 255).astype(uint8)display_grid[col * size: (col 1) * size,row * size: (row 1) * size] channel_image# 显示每一层的特征图plt.title(layer_name)plt.grid(False)plt.imshow(display_grid, aspectauto, cmapviridis)plt.axis(off)else: # 处理展平层和全连接层输出plt.title(layer_name)plt.grid(False)plt.plot(layer_activation[0])plt.axis(off)plt.show()
