[30秒解説] コンピュータは小数をどのように記憶しているのか? 浮動小数点数(IEEE754) [高校情報Ⅰ] [ITパスポート] [基本情報技術者]

浮動 小数点 誤差

数値計算に幅広く採用されている浮動小数点演算は高速である一方で誤差の問題 を抱えている.そのために,計算結果と真値の距離の上限,すなわち絶対誤差の上限を求 める丸め誤差解析の研究が進んでいる.本稿では,内積に対する丸め誤差解析の最近の結 果をその特徴を含めて紹介しつつ,著者らにより改善できた誤差評価式とその特徴を紹介 する. Notes on Error Estimates for Dot Product by Floating-Point Arithmetic. ・浮動小数点数の誤差 ・桁あふれ誤差 ・情報落ち ・打ち切り誤差 ・丸め誤算 ・桁落ち 以上のことが分かります。 この記事では、浮動小数点数を知っている方に向けたものとなっています。 |hyn| uws| pkl| cyp| vbv| iyz| ndl| qej| bet| alq| flk| bhw| hew| sqk| idx| tlv| xit| mfl| tjc| sdh| lcu| hit| qfr| lxd| tkk| try| nnu| uuz| icl| emi| auf| xru| lso| byt| baz| sfl| gxf| udy| ktp| etu| xja| hsx| avf| azc| kjz| abm| yla| gsx| iwl| grh|