开发也能看懂的大模型：CNN

三年之约
402 阅读8分钟

前情提要：后端开发自学AI知识，内容比较浅显，偏实战；仅适用于入门了解，解决日常沟通障碍。

卷积神经网络（CNN）是一种专门用于处理数据具有格点结构（如图像）的深度学习模型。CNN尤其擅长处理图像数据，广泛应用于图像分类、目标检测等领域。

它的基本原理和结构包括以下几个关键部分：

  1. 卷积层（Convolutional Layer） ：

    • 核心组件是卷积核（又称为滤波器），通常是一个小的二维矩阵，对输入数据执行卷积操作。
    • 卷积核在输入图像上滑动，通过计算内积来提取特征，如边缘、纹理等局部信息。
    • 每个卷积核会生成一个特征图（feature map），多个卷积核可以提取不同的特征。

  2. 激活函数（Activation Function） ：

    • 常用的激活函数是ReLU（Rectified Linear Unit），它将所有负值置为零，引入非线性特性，提高模型的表达能力。

  3. 池化层（Pooling Layer） ：

    • 主要用于降低特征图的尺寸，减少参数量和计算负担，同时保留重要信息。
    • 常用的池化方法有最大池化（Max Pooling）和平均池化（Average Pooling）。

  4. 全连接层（Fully Connected Layer） ：

    • 位于网络的尾部，将前面提取的特征进行整合，用于最终的分类任务。
    • 全连接层与传统神经网络类似，每个神经元与上一层的所有神经元相连。

  5. Dropout层：

    • 在训练过程中随机忽略一部分神经元，有助于防止过拟合。

  6. Softmax层：

    • 用于多类别分类的问题，将输出转化为概率分布，确保输出的和为1。

工作原理：

  • 特征提取：通过多个卷积层和池化层来提取输入数据的多层次特征。低层次的卷积层通常提取简单的特征（如边缘），而高层次的卷积层则提取复杂的特征（如物体的一部分）。
  • 特征组合与分类：在经过多层的卷积和池化后，特征图被展平，并传递到全连接层进行特征组合，最终通过Softmax层输出分类结果。

应用场景

卷积神经网络广泛应用于图像处理、自然语言处理以及其他需要处理结构化数据的任务中。

1. 图像相关任务

1.1 图像分类

  • 功能：识别图像的类别。

  • 典型应用：

    • 手写数字识别（如MNIST）。
    • 动物、交通工具、人脸等图片分类（ImageNet）。
    • 医学影像分类（如检测是否存在肿瘤）。

1.2 目标检测

  • 功能：识别图像中多个对象的类别和位置。

  • 典型应用：

    • 安防领域：人脸检测、非法物品检测。
    • 自动驾驶：检测车辆、行人、交通标志。
    • 智能零售：商品识别和计价。

1.3 图像分割

  • 功能：将图像分割为具有语义的区域或像素。

  • 典型应用：

    • 医疗：肿瘤区域分割、器官分割。
    • 遥感：土地使用分类、水域检测。
    • 自动驾驶：分割道路、行人、车辆等场景。

1.4 图像生成与修复

  • 功能：生成新图像或修复缺损图像。

  • 典型应用：

    • 超分辨率重建：提升图像清晰度。
    • 图像去噪：去除噪声或模糊。
    • 风格迁移：将一种艺术风格应用到普通图像上。

2. 视频分析

2.1 视频分类

  • 功能：识别视频的主题或类别。

  • 典型应用：

    • 运动类型识别：篮球、足球、田径比赛分类。
    • 视频内容审核：检测敏感内容或非法信息。

2.2 动作识别

  • 功能：分析视频中人的行为或动作。

  • 典型应用：

    • 健康监测：老人摔倒检测。
    • 安防监控：非法入侵、打斗行为检测。
    • 体育：分析运动员动作。

2.3 视频分割

  • 功能：分割视频中的物体区域。

  • 典型应用：

    • 自动驾驶：连续检测视频中动态障碍物。
    • 视频编辑：背景替换、人物抠图。

案例：使用CNN进行CIFAR-10图像分类

这个案例将使用CIFAR-10数据集，该数据集是机器学习领域常用的一个图像识别任务。

环境准备

确保安装了以下Python库：

  • TensorFlow 或 PyTorch
  • Keras（如果使用TensorFlow作为后端）
  • NumPy
  • Matplotlib（用于可视化）

步骤 1：加载与预处理数据

首先，我们需要加载CIFAR-10数据集，并将其分成训练集和测试集。此外，还需对数据进行归一化处理，以提高模型的收敛速度。

CIFAR-10数据集可以通过其官方网站下载，以下是相关的下载地址：

from tensorflow.keras.datasets import cifar10
from tensorflow.keras.utils import to_categorical

# 加载数据集
(x_train, y_train), (x_test, y_test) = cifar10.load_data()

# 将图像像素值归一化到0到1之间
x_train, x_test = x_train / 255.0, x_test / 255.0

# 将标签转化为one-hot编码
y_train = to_categorical(y_train, 10)
y_test = to_categorical(y_test, 10)

步骤 2：构建CNN模型

定义一个简单的卷积神经网络模型。这个模型包含多个卷积层、池化层和全连接层。

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Conv2D, MaxPooling2D, Flatten, Dense, Dropout

model = Sequential([
    Conv2D(32, (3, 3), activation='relu', input_shape=(32, 32, 3)),
    MaxPooling2D((2, 2)),
    
    Conv2D(64, (3, 3), activation='relu'),
    MaxPooling2D((2, 2)),
    
    Conv2D(64, (3, 3), activation='relu'),
    MaxPooling2D((2, 2)),
    
    Flatten(),
    Dense(64, activation='relu'),
    Dropout(0.5),
    Dense(10, activation='softmax')
])

步骤 3：编译模型

选择合适的损失函数，优化器和评估指标来编译模型。

model.compile(optimizer='adam',
              loss='categorical_crossentropy',
              metrics=['accuracy'])

步骤 4：训练模型

使用训练数据拟合模型，通过验证集监控性能。

history = model.fit(x_train, y_train, epochs=10, 
                    validation_data=(x_test, y_test), 
                    batch_size=64)

步骤 5：评估模型

在测试数据集上评估模型性能。

test_loss, test_acc = model.evaluate(x_test, y_test, verbose=2)
print(f"Test accuracy: {test_acc}")

步骤 6：结果可视化

绘制训练过程中的损失和准确率曲线。

import matplotlib.pyplot as plt

plt.plot(history.history['accuracy'], label='accuracy')
plt.plot(history.history['val_accuracy'], label='val_accuracy')
plt.xlabel('Epoch')
plt.ylabel('Accuracy')
plt.ylim([0, 1])
plt.legend(loc='lower right')
plt.show()

image.png 比较尴尬，服务器性能太差，任务直接被kill掉，有人跑出来可评论区留言。

总结

通过上述步骤，我们成功地训练了一个卷积神经网络来对CIFAR-10的数据进行分类。我们可以进一步对模型进行调整，比如增加更多的卷积层、更复杂的架构、数据增强等，以改善模型性能。希望这对你理解CNN在图像分类中的应用有所帮助！

解释步骤 2：构建CNN模型

在步骤 2 中，我们构建一个卷积神经网络（CNN）模型，以便对图像数据进行分类。

下面逐层解释这个模型的构建过程：

  1. 导入所需模块：

    • 我们使用Sequential模型，适合简单的层堆叠。
    • 使用的层包括Conv2D、MaxPooling2D、Flatten、Dense和Dropout。

  2. 模型结构：

    model = Sequential([
    Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
    MaxPooling2D((2, 2)),
    
    Conv2D(64, (3, 3), activation='relu'),
    MaxPooling2D((2, 2)),

    Flatten(),
    Dense(64, activation='relu'),
    Dropout(0.5),
    Dense(10, activation='softmax')
])

    • Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)) :

      • 这是一个二维卷积层，包含32个过滤器，每个过滤器的大小是3x3。
      • activation='relu'表示我们使用ReLU激活函数，使模型具有非线性能力。
      • input_shape=(28, 28, 1)定义输入张量的形状，适用于MNIST灰度图像。

    • MaxPooling2D((2, 2)) :

      • 这是一个最大池化层，用于减小特征图的尺寸。
      • (2, 2)表示池化窗口的大小，将每2x2的区域中选取最大值来代表该区域，实现降采样。

    • Conv2D(64, (3, 3), activation='relu') :

      • 第二个卷积层，包含64个3x3的过滤器。
      • 不再需要指定输入形状，因为Keras会自动推断前一层的输出为本层的输入。

    • MaxPooling2D((2, 2)) :

      • 同样地应用最大池化，进一步减小特征图的尺寸。

    • Flatten() :

      • 将池化后的特征图展平成一维向量，为全连接层做准备。

    • Dense(64, activation='relu') :

      • 全连接层，包含64个神经元，使用ReLU激活函数。
      • 此层通过学习非线性组合特征进行更复杂的表示。

    • Dropout(0.5) :

      • Dropout层用于防止过拟合，在训练过程中随机断开50%的神经元连接。

    • Dense(10, activation='softmax') :

      • 输出层，包含10个神经元，对应于10个类别。
      • 使用Softmax激活函数，将输出转化为概率分布。

通过这个结构，模型能够提取图像中的空间层次特征，并最终根据特征判断图像属于哪个类别。不同的层负责不同的功能，如卷积层提取特征，池化层降低计算量，全连接层整合信息，而Dropout层则有助于提高模型的泛化能力。

完整代码


from tensorflow.keras.datasets import cifar10
from tensorflow.keras.utils import to_categorical
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Conv2D, MaxPooling2D, Flatten, Dense, Dropout
import matplotlib.pyplot as plt


# 加载数据集
(x_train, y_train), (x_test, y_test) = cifar10.load_data()

# 将图像像素值归一化到0到1之间
x_train, x_test = x_train / 255.0, x_test / 255.0

# 将标签转化为one-hot编码
y_train = to_categorical(y_train, 10)
y_test = to_categorical(y_test, 10)

# 定义模型
model = Sequential([
    Conv2D(32, (3, 3), activation='relu', input_shape=(32, 32, 3)),
    MaxPooling2D((2, 2)),
    
    Conv2D(64, (3, 3), activation='relu'),
    MaxPooling2D((2, 2)),
    
    Conv2D(64, (3, 3), activation='relu'),
    MaxPooling2D((2, 2)),
    
    Flatten(),
    Dense(64, activation='relu'),
    Dropout(0.5),
    Dense(10, activation='softmax')
])

# 编译模型
model.compile(optimizer='adam',
              loss='categorical_crossentropy',
              metrics=['accuracy'])

# 训练模型
history = model.fit(x_train, y_train, epochs=10, 
                    validation_data=(x_test, y_test), 
                    batch_size=64)

# 评估模型
test_loss, test_acc = model.evaluate(x_test, y_test, verbose=2)
print(f"Test accuracy: {test_acc}")

# 可视化
plt.plot(history.history['accuracy'], label='accuracy')
plt.plot(history.history['val_accuracy'], label='val_accuracy')
plt.xlabel('Epoch')
plt.ylabel('Accuracy')
plt.ylim([0, 1])
plt.legend(loc='lower right')
# plt.show()
plt.savefig('output.png')  # 保存为文件
avatar
文章
阅读
粉丝