DOI: https://doi.org/10.26642/ten-2020-1(85)-135-146

Система розпізнавання рукописних цифр з оцінкою якості

Ольга Володимирівна Коротун, Галина Вікторівна Марчук, Дмитро Костянтинович Марчук, Олег Володимирович Талавер

Анотація


У статті розглянуто одну з областей штучного інтелекту – нейронні мережі, що застосовуються у різних галузях суспільства. Функціонування будь-якої системи стає набагато ефективніше за допомогою розв’язання задач на основі нейронних мереж. Класи задач, які можна розв’язувати за допомогою нейронних мереж, визначаються тим, як вони працюють і навчаються. Метою роботи є дослідження потенційних можливостей різних алгоритмів розпізнавання рукописних символів, зокрема цифр. Написання бібліотеки для роботи з нейронними мережами та розробка програмного додатка, який дасть можливість створювати, зберігати, тренувати та тестувати різні моделі нейронних мереж.

Результатом дослідження визначено перевірку спроєктованої моделі нейронної мережі з мінімальною кількістю шарів та аналіз якості розпізнавання.

У роботі проаналізовані різні моделі нейронних мереж, а саме мережі прямого поширення (feed forward neural networks) або багатошаровий персептрон (perceptrons). Досліджено найвідоміший алгоритм навчання – так званий алгоритм зворотного поширення (back propagation). Проведено аналіз порогової та сигмоїдальної функції активації. Для знаходження мінімуму функції використовувався градієнт.

Застосовано набір даних MNIST (Modified National Institute of Standards and Technology database) – це велика база рукописних цифр, яка зазвичай використовується для навчання різних систем обробки зображень. Побудована бібліотека для роботи з нейронною мережею, яка разом з набором тренувальних даних MNIST дала акуратність близько 98 %.

Методи, продемонстровані у роботі, є основою для побудови більш складних систем. Розроблений програмний додаток дає можливість створювати, зберігати, тренувати та тестувати нейронні мережі.


Ключові слова


нейрон; нейронна мережа; перцептрон; помилка; алгоритм; навчання; тренування

Повний текст:

PDF

Посилання


Neural, Michael (2015), «Networks and Deep Learning», Determination Press APK, 224 p.

Neural, M. «Neural Networks and Deep Learning», [Online], available at: http://neuralnetworksanddeeplearning.com

Optical character recognition, [Online], available at: https://en.wikipedia.org/wiki/Optical_character_recognition

Artificial neural network, [Online], available at: https://en.wikipedia.org/wiki/Artificial_neural_network

Machine learning, [Online], available at: https://en.wikipedia.org/wiki/Machine_learning

LeCun, Y., The mnist database, [Online], available at: http://yann.lecun.com/exdb/mnist/

EMNIST: an extension of MNIST to handwritten letters, [Online], available at: https://arxiv.org/pdf/1702.05373.pdf

Khaustov, P.A. (2017), «Algorithms for handwritten character recognition based on constructing structural models», Computer Optics, No. 41 (1), pp. 67–78.

Morugov, A.M. and Volkov, S.V. (2017), «Character Recognition Methods», Proceedings of the International Symposium «Reliability and quality», PSU, Penza, Vol. 1, [Online], available at: https://cyberleninka.ru/article/n/metody-raspoznavaniya-simvolov/viewer

Perceptron, [Online], available at: https://en.wikipedia.org/wiki/Perceptron

Deep learning, [Online], available at: https://en.wikipedia.org/wiki/Deep_learning

Upadhyay, Y. (2019), Introduction to FeedForward Neural Networks, [Online], available at: https://en.wikipedia.org/wiki/Perceptron

Haihan Lan (2017), The Softmax Function, Neural Net Outputs as Probabilities, and Ensemble Classifiers, [Online], available at: https://towardsdatascience.com/the-softmax-function-neural-net-outputs-as-probabilities-and-ensemble-classifiers-9bd94d75932


Пристатейна бібліографія ГОСТ


  1. Neural M. Networks and Deep Learning / M.Nielsen // Determination Press. – 2015. – Р. 224.
  2. Neural M. Neural Networks and Deep Learning / M.Neural [Електронний ресурс]. – Режим доступу : http://neuralnetworksanddeeplearning.com.
  3. Optical character recognition [Електронний ресурс]. – Режим доступу : https://en.wikipedia.org/wiki/Optical_character_recognition.
  4. Artificial neural network [Електронний ресурс]. – Режим доступу : https://en.wikipedia.org/wiki/Artificial_neural_network.
  5. Machine learning [Електронний ресурс]. – Режим доступу : https://en.wikipedia.org/wiki/Machine_learning.
  6. LeCun Y. The mnist database / Y.LeCun [Електронний ресурс]. – Режим доступу : http://yann.lecun.com/exdb/mnist/.
  7. EMNIST: an extension of MNIST to handwritten letters [Електронний ресурс]. – Режим доступу : https://arxiv.org/pdf/1702.05373.pdf.
  8. Khaustov P.A. Algorithms for handwritten character recognition based on constructing structural models / P.A. Khaustov // Computer Optics. – 2017. – № 41 (1). – Р. 67–78.
  9. Моругов А.М. Методы распознавания символов / А.М. Моругов, С.В. Волков // Труды Международного симпозиума «Надежность и качество». – Пенза : ПГУ, 2017. – Т. 1. [Електронний ресурс]. – Режим доступу : https://cyberleninka.ru/article/n/metody-raspoznavaniya-simvolov/viewer.
  10. Perceptron [Електронний ресурс]. – Режим доступу : https://en.wikipedia.org/wiki/Perceptron.
  11. Deep learning [Електронний ресурс]. – Режим доступу : https://en.wikipedia.org/wiki/Deep_learning.
  12. Upadhyay Y. Introduction to Feed Forward Neural Networks / Y.Upadhyay. – 2019 [Електронний ресурс]. – Режим доступу : https://en.wikipedia.org/wiki/Perceptron.
  13. Lan H. The Softmax Function, Neural Net Outputs as Probabilities, and Ensemble Classifiers / H.Lan. – 2017 [Електронний ресурс]. – Режим доступу : https://towardsdatascience.com/the-softmax-function-neural-net-outputs-as-probabilities-and-ensemble-classifiers-9bd94d75932.


Посилання

  • Поки немає зовнішніх посилань.


Copyright (c) 2020 Ольга Володимирівна Коротун, Галина Вікторівна Марчук, Дмитро Костянтинович Марчук, Олег Володимирович Талавер

Ліцензія Creative Commons
Це видання ліцензовано за ліцензією Creative Commons Із Зазначенням Авторства - Некомерційна 4.0 Міжнародна.