科学と家事とプログラミング (python を中心に)

python 温度計測 湿度計測 DS18B20 USB9097

2018-03-16から1日間の記事一覧

桁落ち誤差は、時に牙をむくのです

数値計算には誤差がつきものですが、扱いをあやまると酷い目に会うことになります。 特に桁落ち誤差には注意が必要です。 天文計算の分野で有名な例は、universal kepler 方程式を解く時に出てくる stumpff 関数の計算式でしょうか。例えば、こんな感じ。 見…