КОНФЕРЕНЦІЇ ВНТУ електронні наукові видання, 
Молодь в науці: дослідження, проблеми, перспективи (МН-2026)

Розмір шрифта: 
ДОСЛІДЖЕННЯ ЕФЕКТИВНОСТІ ПІДБОРУ ГІПЕРПАРАМЕТРІВ ЗГОРТКОВОЇ НЕЙРОННОЇ МЕРЕЖІ ДЛЯ РОЗПІЗНАВАННЯ РУКОПИСНИХ ЦИФР MNIST
Євгеній Лавренюк, Ілона Вячеславівна Варчук

Остання редакція: 2026-06-21

Анотація


У роботі досліджено ефективність застосування згорткової нейронної мережі для розпізнавання рукописних цифр на основі набору даних MNIST/Digit Recognizer. Для експериментального дослідження використано табличне представлення зображень розміром 28×28 пікселів, де кожен об’єкт належить до одного з десяти класів — цифр від 0 до 9. Виконано завантаження даних, нормалізацію значень пікселів, зміну форми вхідних ознак, one-hot encoding цільових міток, а також аугментацію зображень. Побудовано згорткову нейронну мережу на основі бібліотеки Keras/TensorFlow. Проведено порівняння двох стратегій підбору гіперпараметрів: Random Search та Genetic Algorithm. Встановлено, що Random Search забезпечує швидший підбір параметрів, тоді як Genetic Algorithm дозволяє отримати вищу фінальну точність моделі. Найкраща модель, знайдена за допомогою генетичного алгоритму, досягла валідаційної точності 0,99429, що підтверджує ефективність використання еволюційних методів для оптимізації гіперпараметрів нейронних мереж.

RESEARCH ON THE EFFICIENCY OF HYPERPARAMETER TUNING OF A CONVOLUTIONAL NEURAL NETWORK FOR MNIST HANDWRITTEN DIGIT RECOGNITION

The paper investigates the effectiveness of a convolutional neural network for handwritten digit recognition using the MNIST/Digit Recognizer dataset. A tabular representation of 28×28 pixel images was used, where each object belongs to one of ten classes corresponding to digits from 0 to 9. Data loading, pixel normalization, input reshaping, one-hot encoding of target labels, and image augmentation were performed. A convolutional neural network was built using the Keras/TensorFlow framework. Two hyperparameter optimization strategies were compared: Random Search and Genetic Algorithm. The results showed that Random Search provides faster hyperparameter tuning, while Genetic Algorithm achieves higher final model accuracy. The best model found using the genetic algorithm achieved a validation accuracy of 0.99429, confirming the effectiveness of evolutionary methods for optimizing neural network hyperparameters.


Ключові слова


MNIST; convolutional neural network; CNN; Random Search; Genetic Algorithm; Keras; TensorFlow; digit recognition; machine learning

Посилання


Digit Recognizer. Kaggle [Електронний ресурс]. – Режим доступу: https://www.kaggle.com/competitions/digitrecognizer

 

TensorFlow Documentation. Keras API [Електронний ресурс]. – Режим доступу: https://www.tensorflow.org/api_docs/python/tf/keras

 

Bergstra J., Bengio Y. Random Search for Hyper-Parameter Optimization. Journal of Machine Learning Research, 2012.

 

Genetic Algorithm. Towards Data Science / Machine Learning Mastery [Електронний ресурс]. – Режим доступу: https://machinelearningmastery.com/simple-genetic-algorithm-from-scratch-in-python/

 

Pandas Documentation [Електронний ресурс]. – Режим доступу: https://pandas.pydata.org

 

NumPy Documentation [Електронний ресурс]. – Режим доступу: https://numpy.org

 

Matplotlib Documentation [Електронний ресурс]. – Режим доступу: https://matplotlib.org

 

Seaborn Documentation [Електронний ресурс]. – Режим доступу: https://seaborn.pydata.org

 

Scikit-learn Documentation. Metrics and train_test_split [Електронний ресурс]. – Режим доступу: https://scikitlearn.org


Повний текст: PDF