python + sklearn实现手写数字识别

一、数据集

训练用的数据集使用的是sklearn框架中内置的数字数据集， 共 1797条数据，每条数据由64个特征点组成

import numpy as np
from sklearn import datasets

digits = datasets.load_digits()
X = digits.data
y = digits.target
print(X.shape)
print(X[0])
print(np.array(X[0]).reshape(8, 8))
print("第一条数据的标签是：", y[0])

结果如下：

(1797, 64)
[ 0.  0.  5. 13.  9.  1.  0.  0.  0.  0. 13. 15. 10. 15.  5.  0.  0.  3.

 -  2.  0. 11.  8.  0.  0.  4. 12.  0.  0.  8.  8.  0.  0.  5.  8.  0.

 -  9.  8.  0.  0.  4. 11.  0.  1. 12.  7.  0.  0.  2. 14.  5. 10. 12.

 -  0.  0.  0.  6. 13. 10.  0.  0.  0.]
[[ 0.  0.  5. 13.  9.  1.  0.  0.]
 [ 0.  0. 13. 15. 10. 15.  5.  0.]
 [ 0.  3. 15.  2.  0. 11.  8.  0.]
 [ 0.  4. 12.  0.  0.  8.  8.  0.]
 [ 0.  5.  8.  0.  0.  9.  8.  0.]
 [ 0.  4. 11.  0.  1. 12.  7.  0.]
 [ 0.  2. 14.  5. 10. 12.  0.  0.]
 [ 0.  0.  6. 13. 10.  0.  0.  0.]]
第一条数据的标签是： 0

二、分类器

可以使用框架中提供的基于SVM算法分类器SVC（或LinearSVC），也可以使用基于K-邻近算法的分类器KNN

• SVC分类器

import pickle
from sklearn import svm

def train_by_svc(name, x_train, y_train):
"""
    基于SVM的SVC分类器
    :param name: 训练好的分类器持久化存储到此名称的文件中
    :param x_train: 训练数据
    :param y_train: 预期结果
    :return:
"""
    classifier = svm.SVC(gamma=0.001)

    start = time.perf_counter()
    classifier.fit(x_train, y_train)
    print("训练完成, 耗时：%s" % (time.perf_counter() - start))
    with open(name, 'wb') as f:
        pickle.dump(classifier, f)

• KNN分类器

import pickle
from sklearn.neighbors import KNeighborsClassifier as KNN

def train_by_knn(name, x_train, y_train):
"""
    基于k-邻近算法的KNN分类器
    :param name: 训练好的分类器持久化存储到此名称的文件中
    :param x_train: 训练数据
    :param y_train: 预期结果
    :return:
"""
    classifier = KNN(n_neighbors=3, algorithm='auto')

    start = time.perf_counter()
    classifier.fit(x_train, y_train)
    print("训练完成, 耗时：%s" % (time.perf_counter() - start))
    with open(name, 'wb') as f:
        pickle.dump(classifier, f)

三、使用样本数据训练分类器

我们先将从框架中获取到的数据集，分成训练数据和测试数据两部分，使用框架提供的函数train_test_split 可以很容易完成数据的拆分

X_train, X_test, Y_train, Y_test = train_test_split(X, y, test_size=0.1)

开始训练分类器，我们这里训练SVC分类器，也可以使用函数train_by_knn训练KNN分类器

train_by_svc('手写数字分类器.cfr', X_train, Y_train)

训练完成, 耗时：0.05120200000000019

四、测试训练完的分类器，并输出报告

定义一个预测函数，用于从指定文件加载分类器，并返回预测结果

def predict(name, x_test):
"""
    从指定文件加载分类器，对数据集进行测试，并返回预测结果
    :param name: 分类器文件
    :param x_test: 测试数据
    :return:
"""
    with open(name, 'rb') as f:
        clsifier = pickle.load(f)
    start = time.perf_counter()
    predicted = clsifier.predict(x_test)
    print("预测完成, 耗时：%s" % (time.perf_counter() - start))
    return predicted

开始测试

pre = predict('手写数字分类器.cfr', X_test)

print("分类器结果如下：")
print(metrics.classification_report(Y_test, pre))
print(metrics.confusion_matrix(Y_test, pre))

预测完成, 耗时：0.01339659999999987
分类器结果如下：
              precision    recall  f1-score   support

           0       1.00      1.00      1.00        17
           1       1.00      1.00      1.00        21
           2       1.00      1.00      1.00        17
           3       1.00      1.00      1.00        15
           4       1.00      1.00      1.00        17
           5       1.00      0.93      0.96        27
           6       1.00      1.00      1.00        20
           7       1.00      1.00      1.00        12
           8       1.00      1.00      1.00        16
           9       0.90      1.00      0.95        18

    accuracy                           0.99       180
   macro avg       0.99      0.99      0.99       180
weighted avg       0.99      0.99      0.99       180

[[17  0  0  0  0  0  0  0  0  0]
 [ 0 21  0  0  0  0  0  0  0  0]
 [ 0  0 17  0  0  0  0  0  0  0]
 [ 0  0  0 15  0  0  0  0  0  0]
 [ 0  0  0  0 17  0  0  0  0  0]
 [ 0  0  0  0  0 25  0  0  0  2]
 [ 0  0  0  0  0  0 20  0  0  0]
 [ 0  0  0  0  0  0  0 12  0  0]
 [ 0  0  0  0  0  0  0  0 16  0]
 [ 0  0  0  0  0  0  0  0  0 18]]

五、报告解读

classification_report
最左侧的一列是标签0-9， 第二列precision代表准确度，能够看到标签9准确度为0.9，可以理解为预测为9的结果中，有百分之10不是9

              precision    recall  f1-score   support

           0       1.00      1.00      1.00        17
           1       1.00      1.00      1.00        21
           2       1.00      1.00      1.00        17
           3       1.00      1.00      1.00        15
           4       1.00      1.00      1.00        17
           5       1.00      0.93      0.96        27
           6       1.00      1.00      1.00        20
           7       1.00      1.00      1.00        12
           8       1.00      1.00      1.00        16
           9       0.90      1.00      0.95        18

    accuracy                           0.99       180
   macro avg       0.99      0.99      0.99       180
weighted avg       0.99      0.99      0.99       180

confusion_matrix(混淆矩阵)
这个矩阵中给我们展示真实值与预测值之间的数量关系，下边这个10×10的矩阵，
垂直代表真实值0-9， 水平代表预测值0-9
那么第6行第10列的数字2，代表：真实值是5， 但预测值是9的数量是2.

[[17  0  0  0  0  0  0  0  0  0]
 [ 0 21  0  0  0  0  0  0  0  0]
 [ 0  0 17  0  0  0  0  0  0  0]
 [ 0  0  0 15  0  0  0  0  0  0]
 [ 0  0  0  0 17  0  0  0  0  0]
 [ 0  0  0  0  0 25  0  0  0  2]
 [ 0  0  0  0  0  0 20  0  0  0]
 [ 0  0  0  0  0  0  0 12  0  0]
 [ 0  0  0  0  0  0  0  0 16  0]
 [ 0  0  0  0  0  0  0  0  0 18]]

六、手动创建测试数据

通过测试报告分析，感觉分类器的准确度还可以，接下来我们在白纸手写几个数字，并处理成特征数据，验证下分类器的效果。
测试图片， 数字0：

import cv2
import matplotlib.pyplot as plt

source = cv2.imread('test/0.jpg')
gray = cv2.cvtColor(source, cv2.COLOR_BGR2GRAY)
gray = cv2.GaussianBlur(gray, (51, 81), 0)

binary = cv2.threshold(gray, 140, 255, cv2.THRESH_TOZERO_INV)[1]

feature = cv2.resize(binary, (x, y)) / 10
plt.imshow(feature, cmap='gray')
plt.show()

feature_1d = feature.flatten()

测试下，能不能识别出来

pre = predict('手写数字分类器.cfr', [feature_1d])
print("识别结果：", pre)

呦呵，还真识别出来了

预测完成, 耗时：0.00033789999999989107
识别结果： [0]

Original: https://blog.csdn.net/momo3507/article/details/124941595
Author: 杀毒的炼金术士
Title: python + sklearn实现手写数字识别