Loss of Accuracy in Numerical Computations

Михаил М. Константинов, Петко Х. Петков - Разгледани са възможните катастрофални ефекти от неправилното използване на крайна машинна аритметика с плаваща точка. За съжаление, тази тема не винаги се разбира достатъчно добре от студентите по приложна и изчислителна математика, като положението в инженерните и икономическите специалности в никакъв случай не е по-добро. За преодоляване на този образователен пропуск тук сме разгледали главните виновници за загубата на точност при числените компютърни пресмятания. Надяваме се, че представените резултати ще помогнат на студентите и лекторите за по-добро разбиране и съответно за избягване на основните фактори, които могат да разрушат точността при компютърните числени пресмятания. Последното не е маловажно – числените катастрофи понякога стават истински, с големи щети и човешки жертви.

In this tutorial paper we consider possible catastrophic effects of improper use of finite machine arithmetic. Unfortunately, this topic is not well understood even by students in applied and computational mathematics. The situation in engineering and economic specialities is by no means better. To overcome this educational gap we describe the main reasons for loss of accuracy in numerical computer calculations. We hope that the results presented will help both students and lecturers to understand better and avoid the main factors that may destroy the accuracy in computer calculations. The latter is serious – numerical catastrophes sometimes yield real ones, with large damages and human casualties. *2000 Mathematics Subject Classification: Primary 97N20.