2010-01-11から1日間の記事一覧

 decimalモジュール

実数の文字列を読み込んで数値にするとき、floatで変換すると丸め誤差が発生してしまうことに気づく。精度が要求される計算はこれまでPythonでやったことはなかったので、対処方法を初めて調べた。 decimalというのがある。→ http://www.python.jp/doc/2.5/l…