2009-10-12から1日間の記事一覧

(5)桁あふれ(オーバーフロー/アンダーフロー)

これは、wikipedia:算術オーバーフローをみてもまったくわからなかったので、 Google先生にお伺いをたて調査。以下のURLのやり取りにて理解。 理解したURL。(教えてGoo) http://oshiete1.goo.ne.jp/qa366272.html ※ どうでもいいですが、こう…

(4)桁落ち

値がほぼ等しく丸め誤差をもつ数値どうしの減算を行った場合、有効数字が減少すること。 絶対値がほぼ等しく符号が異なる数値どうしの加算の場合も同様。 浮動小数点数では、上位の桁がゼロになると、正規化によってそれを詰め、 以下の桁に"0" を強制的に挿…

(3)情報落ち

コンピュータでの計算のときのように有効桁数が限られている条件下で、 絶対値の大きい数と絶対値の小さい数を加減算したとき、絶対値の小さい数が無視されてしまう現象。これもwikipediaの例でいまいち理解できなかったので、以下の例で理解。 http://rryu.…

(2)打ち切り誤差

計算処理を続ければ精度がよくなるにもかかわらず、途中で計算を止めること(打ち切り)によって生じる誤差。 wikipediaの例は自分の数学レベルでは理解できなかったので、以下の例で理解。 http://lecture.ecc.u-tokyo.ac.jp/~yamaguch/johokagaku/2008/tru…

(1)丸め誤差

数値を、どこかの桁で端数処理(切り上げ・切り捨て・四捨五入・五捨六入・丸めなど)をしたときに生じる誤差。 ※ これはわかりやすいし、覚えやすい。

計算誤差の種類

以下の5つが対象となります。 (1)丸め誤差 (2)打ち切り誤差 (3)情報落ち (4)桁落ち (5)桁あふれ(オーバーフロー/アンダーフロー) この中でも、(3)情報落ち と(4)桁落ち の区別がなんど覚えても付け焼刃のため忘れるので、 こいつを…

誤差の評価方法

誤差の評価方法は以下の二つ。『相対誤差』 ⇒ 真の値との割合で評価したもの ⇒ 「相対誤差」=誤差 ÷ 真の値 『絶対誤差』 ⇒ ⇒ 真の値との差で評価したもの ⇒ 「絶対誤差」= 誤差 − 真の値

真の値

これはwikipedilaの真の値の部分を読めば簡単にわかるのでそのまま引用します。 測定値から誤差を無くすことは不可能である。したがってわれわれが知り得るのは常に誤差付の値でしかない。しかしながら測定すべき量には測定方法とは無関係なある定まった値が…

情報処理用語としての誤差

誤差とは、論理的に正しい値との差異のこと。 wikipediaによれば、誤差の発生原因は以下の3つがあるとのこと。(1)データを測定する際に生じる測定誤差 (2)データを計算する際に生じる計算誤差 (3)標本調査による統計誤差(標準誤差) wikipedia:誤…

このペースで勉強していたら間に合わないな

前回のエントリーで週に1回はエントリーしたいと書いておきながら、 いきなりできていませんが、今週は3連休だったのでなんとか間に合ったと、 ゆるーく考えておきたいと個人的には思っております。 ※ 個人的な備忘録のため、やぶったって誰も文句は言わな…