Розмір шрифта:
Метод градієнтного спуску в задачах навчання нейронних мереж
Остання редакція: 2026-05-24
Анотація
У роботі описано математичні засади методу градієнтного спуску, який є одним із найважливіших ал-горитмів оптимізації у задачах навчання штучних нейронних мереж. Розглянуто принципи обчислення градієнта функції втрат, механізм ітераційного коригування параметрів моделі та особливості викорис-тання різних модифікацій алгоритму у сучасних системах машинного навчання.
Gradient Descent Method in Neural Network Training Tasks
Abstract: The paper describes the mathematical foundations of the gradient descent method, which is one of the most important optimization algorithms used in training artificial neural networks. The principles of gradient compu-tation, the iterative process of updating model parameters, and the practical aspects of applying different varia-tions of the algorithm in modern machine learning systems are discussed.
Gradient Descent Method in Neural Network Training Tasks
Abstract: The paper describes the mathematical foundations of the gradient descent method, which is one of the most important optimization algorithms used in training artificial neural networks. The principles of gradient compu-tation, the iterative process of updating model parameters, and the practical aspects of applying different varia-tions of the algorithm in modern machine learning systems are discussed.
Ключові слова
метод градієнтного спуску; функція втрат; частинні похідні; машинне навчання; gradient descent method; loss function; partial derivatives; machine learning
Посилання
1. Ruder S. An overview of gradient descent optimization algorithms [Electronic resource]. – 2016. – Available at: https://arxiv.org/abs/1609.04747.
2. Bishop C. Pattern recognition and machine learning. – New York : Springer, 2006. 798 p.
2. Bishop C. Pattern recognition and machine learning. – New York : Springer, 2006. 798 p.
Повний текст:
PDF