« TOWERS/京急人身事故 | メイン | Suica ステーション@有楽町 »

2005年09月07日

計算誤差

出陣。昨日の宿題をやっつける。タスクは多いが根の深いものは少ない。コツコツやれば解決できるものばかりである。

数値の桁落ちで厄介な問題が発生。 例えば、300/(10x600) の答えをdoubleの領域に格納すると0.2000...となる。10.0をこの答え0.2000...で割った商をdoubleの領域に格納すると、50.0000000...となる。 ここまではよいのだが、このdoubleの50.000000...を、小数点以下切り捨てのためにunsigned intの領域へキャストして格納しても、50とならずに49となるのだ。摩訶不思議である。 識者に聞くと、よくあるとのこと。 さらに解析すると、0.20000...は実はぴったりな数字ではなく、0.200000000000111226...となっていた。

 いったいどういうことだろうか。rint()関数を使用したら50となったが、これでは四捨五入となってしまう。参ったな。

 台風14号が関東に最接近(とはいえ佐渡が島付近だが)したが、多少風が強かったものの、たいしたことはなかった模様。

 下旬のソウル遠征の宿を再度検索。北部の中級のホテルをおさえてはあるが、せっかくならもう少し上級のホテルでくつろぎたい欲もでてきた次第。


にほんブログ村 旅行ブログ 旅行ガイド・プランへ

【他の年の本日の日誌】
2016:
2016年09月06日のつぶやき 2016年09月06日のつぶやき(15件) 00:07 長引いた (@ 聖天橋交差点 in 横浜市, 神奈川県) https://t.co/L13TniUeQm 01:13 きたくす、ふろくす、ねるっくす。 08:15 もるげん 08:48...
2015:
2015年09月06日のつぶやき 2015年09月06日のつぶやき(30件) 00:34 @shien0106 BKK?(違 00:35 @mc8shi おつでした! 10:06 もるげん。あら日本がBAFに覆われとる… 10:26 久々に一眼レフ持ってお出かけ 10:35...
2014:
2014年09月06日のつぶやき 2014年09月06日のつぶやき(68件) 05:31 もるげん 05:50 @yasuhiroUENO 旅の師匠!人生の師匠! 06:27 そろそろ出かけるかの。蒸し暑い 06:28 @yasuhiroUENO 歪(笑) 06:49 @y...
2013:
2013年09月06日のつぶやき 2013年09月06日のつぶやき(19件) 00:10 @pacific_lon 乙でしたー 07:25 もるげん。D社からiPhone出る夢見たのだがo(__*)Zzz 10:07 @nomobucho ノ 10:24 @tkgr6000...
2012:
2012年09月06日のつぶやき 2012年09月06日のつぶやき(36件) 00:07 @WiLL_VS_4 @kntr2012 ヒント:おともでマイル/いっしょにマイル割 00:11 @kntr2012 マイルではないですが、正月にOKA-CTS乗る予定ですw 00:2...
2011:
2011年09月06日のつぶやき 2011年09月06日のつぶやき(29件) 09:12 もるげん 09:14 @shien0106 はい、一応PLT目標です。ドイツ帰省で猛チャージですw 09:16 RT @shinyabeer: プロレスシリーズ祭り『第1回バトルロイヤ...
2008:
ビアフェス横浜2008 昨日からビアフェス(ジャパン・ビア・フェスティバル)が横浜大桟橋ホールにて開催中。 バスにて日本大通り駅へ移動。12:00集合。監督氏、あいあい氏、Yum氏(いずれも仮名)
2007:
台風上陸  台風9号は小田原市付近に上陸。東日本縦断。 台風に弱い保守的なJRは軒並み運転見合わせ。横須賀線は間引きながら動いていたが東海道線、京浜東北線は抑止。振替輸送を受け、京急は混雑するかと思いきや、いつも出陣が遅いためか、受難することなくむし...

投稿者 onsenfan [ プログラミング, 韓国 ] : 2005年09月07日 23:32

この記事が役に立った/おもしろいと思ったら、ワンクリックで応援お願いします

トラックバック

このエントリーのトラックバックURL:
http://blog.odorokutamegoro.com/mt-tb.cgi/418_3852382783844

コメント

コメントしてください




保存しますか?



ジオターゲティング
counter
3