Numerical precision

/ˌnjuːmərɪkəl prɪˈsɪʒən/ ニューメリカル プレシジョン

1. 数値計算や測定において、値がどれだけ細かく、正確に表現されているかを示す度合い。

計算機科学、工学、科学計算などの分野で用いられる専門用語で、数値データの桁数や、計算結果が真の値にどれだけ近いかを表す概念です。高い数値精度は、より信頼性の高い結果をもたらします。

Achieving high numerical precision is crucial in scientific simulations. (科学シミュレーションでは、高い数値精度を達成することが極めて重要です。)

• Achieving: 達成すること、獲得すること
• high numerical precision: 高い数値精度
• is crucial: 極めて重要である
• in scientific simulations: 科学シミュレーションにおいて

The sensor provides data with excellent numerical precision. (そのセンサーは、優れた数値精度でデータを提供します。)

• The sensor: そのセンサー
• provides data: データを提供する
• with excellent numerical precision: 優れた数値精度で

Floating-point numbers are used to maintain numerical precision in calculations. (計算において数値精度を保つために、浮動小数点数が使用されます。)

• Floating-point numbers: 浮動小数点数
• are used: 使用される
• to maintain numerical precision: 数値精度を保つために
• in calculations: 計算において

We need to specify the required numerical precision for the output. (出力に必要な数値精度を明記する必要があります。)

• We need to specify: 私たちは明記する必要がある
• the required numerical precision: 要求される数値精度
• for the output: 出力のために

Lack of numerical precision can lead to significant errors in complex models. (数値精度の欠如は、複雑なモデルにおいて重大な誤差を引き起こす可能性があります。)

• Lack of numerical precision: 数値精度の欠如
• can lead to: 引き起こす可能性がある
• significant errors: 重大な誤差
• in complex models: 複雑なモデルにおいて

関連

• accuracy
• resolution
• exactness
• fidelity
• significant figures
• floating-point