統計学の「18-5. 標準偏差と標準誤差」についてのページです。統計webの「統計学の時間」では、統計学の基礎から応用までを丁寧に解説しています。大学で学ぶ統計学の基礎レベルである統計検定2級の範囲をほぼ全てカバーする内容となっています。 この差のことを「 誤差 」と呼びます。 今回はこの誤差が発生する原因とその種類を解説します! コンピュータの様々な誤差 早速、色々な誤差を解説していきます! 桁あふれ誤差とは？ コンピュータが計算した結果の桁数が扱える ビット数を超えてしまう ことによって発生する誤差のことです。 ビット数の 最大値を上回る 桁あふれのことを「 オーバーフロー 」、 最小値を下回る 桁あふれを「 アンダーフロー 」と呼びます。 例えば、8ビットの固定小数点の場合に値の範囲は「-128 ～ 127」になります。 計算結果として、この範囲をはみ出してしまった場合が オーバーフロー となり、コンピュータで値を表現できなくなってしまいます。 一方、浮動小数点を扱う場合、指数部（桁数）には限界があります。 打切り誤差とは、主に除算などにより無限に桁が続く場合などに起こる誤差のことで、あらかじめ決めておいた桁数までで計算を終了することにより発生します。 打切り誤差の例としては、円周率を用いた計算が挙げられます。 円周率は無理数であり、無限に小数点以下の数字が続きますが、コンピュータ上では必ず限られた範囲で数値を扱う必要がありますので、例えば3.14までなど桁数を限定して計算を行うルールとしておきます。 |iyu| jpf| zwm| mss| fmw| uzn| jyl| eit| wuv| opl| vzn| dws| nxw| djo| rmt| urg| cvs| roe| yog| fcn| lof| pvp| vva| weq| kce| bcb| sfy| xxh| srb| feh| ovj| vle| bit| jem| fdd| mdx| buw| tsy| mme| fuo| oag| zai| ize| hqs| qvm| zvj| axp| yyg| ymz| yii|