merom686
- いいね数 68,598/65,408
- フォロー 229 フォロワー 565 ツイート 24,026
- 現在地 家の中
- Web https://merom686.hatenablog.com/
- 自己紹介 プログラミング(書く)、アニメ(みる)、将棋(指す)、数学・漫画(ちょっとだけ好きだけど最近やってない)、囲碁は初級レベル、AtCoderは青、ぷよぷよはウィッチ。アイコンの羽はhttp://twitpic.com/81ssmc。好きなアニメはカスミン。
Favolog ホーム
» @merom686
» 2023年03月04日
並び順 : 新→古 | 古→新
2023年03月04日(土)

10進数にも怖さはあって、例えば10進数で有効数字5桁の環境があったとして、x=5000.3とy=5000.4の平均を(x+y)/2で計算すると、足して10000.7、有効数字5桁なので四捨五入されて10001、2で割ると5000.5と、元の数字に挟まれた区間の外に出てしまう。これは2進数では起きない。
twitter.com/KoizumiJp/stat...
タグ:
posted at 07:38:08

スポンサーリンク