У роботі розглянуто проблему чисельної стійкості алгоритмів лінійної алгебри, що використовуються в комп’ютерних системах. Проаналізовано вплив обмеженої розрядності представлення чисел та накопичення похибок округлення на точність результатів обчислень. Проведено порівняльний аналіз поширених методів розв’язання систем лінійних алгебраїчних рівнянь з точки зору їх чисельної стійкості. Запропоновано основні підходи до зменшення похибок та підвищення надійності чисельних обчислень у програмних і апаратних середовищах.

Numerical stability of linear algebra algorithms in computer systems

Abstract:
The paper addresses the problem of numerical stability of linear algebra algorithms used in computer systems. The influence of finite-precision arithmetic and rounding error accumulation on computational accuracy is analyzed. A comparative analysis of common methods for solving systems of linear algebraic equations from the standpoint of numerical stability is presented. Basic approaches to reducing numerical errors and improving the reliability of computational results in software and hardware environments are discussed.