数値解析

エンジニアリングアプリケーションは数値計算に大きく依存しており、その結果は標準形式で表されます。

数値計算では、方程式は次元的に均一でなければならず、項は同じ単位で表現されなければなりません。

方程式の次元の均一性は、評価される方程式に関係なく維持されます。

数値は、結果の精度に必要な有効数字に四捨五入され、10:³ の倍数で表されます。 数値が 1 未満の場合、数値は必要な有効数字に丸められ、^10-3 の倍数で表されます。

このルールによれば、数値が5より大きい数字で終わると切り上げられ、数字が5より小さいと、有効数字まで数値は同じままです。

数値が 5 の数字で終わる場合、直前の数値が奇数の場合のみ切り上げられ、偶数の場合は有効数字まで同じままです。