« TOWERS/京急人身事故 | メイン | Suica ステーション@有楽町 »

2005年09月07日

計算誤差

出陣。昨日の宿題をやっつける。タスクは多いが根の深いものは少ない。コツコツやれば解決できるものばかりである。

数値の桁落ちで厄介な問題が発生。 例えば、300/(10x600) の答えをdoubleの領域に格納すると0.2000...となる。10.0をこの答え0.2000...で割った商をdoubleの領域に格納すると、50.0000000...となる。 ここまではよいのだが、このdoubleの50.000000...を、小数点以下切り捨てのためにunsigned intの領域へキャストして格納しても、50とならずに49となるのだ。摩訶不思議である。 識者に聞くと、よくあるとのこと。 さらに解析すると、0.20000...は実はぴったりな数字ではなく、0.200000000000111226...となっていた。

 いったいどういうことだろうか。rint()関数を使用したら50となったが、これでは四捨五入となってしまう。参ったな。

 台風14号が関東に最接近(とはいえ佐渡が島付近だが)したが、多少風が強かったものの、たいしたことはなかった模様。

 下旬のソウル遠征の宿を再度検索。北部の中級のホテルをおさえてはあるが、せっかくならもう少し上級のホテルでくつろぎたい欲もでてきた次第。


にほんブログ村 旅行ブログ 旅行ガイド・プランへ

【他の年の本日の日誌】
2017:
2017年09月06日のつぶやき 2017年09月06日のつぶやき(13件) 08:32 もるげん 11:24 @haiyo_2san ノシ 11:24 @kntr2013 ぞっとしない。 13:31 あんにょんおにぎりが1室空いてたのでポチッとした。 13:32 @Cos...
2016:
2016年09月06日のつぶやき 2016年09月06日のつぶやき(15件) 00:07 長引いた (@ 聖天橋交差点 in 横浜市, 神奈川県) https://t.co/L13TniUeQm 01:13 きたくす、ふろくす、ねるっくす。 08:15 もるげん 08:48...
2015:
2015年09月06日のつぶやき 2015年09月06日のつぶやき(30件) 00:34 @shien0106 BKK?(違 00:35 @mc8shi おつでした! 10:06 もるげん。あら日本がBAFに覆われとる… 10:26 久々に一眼レフ持ってお出かけ 10:35...
2014:
2014年09月06日のつぶやき 2014年09月06日のつぶやき(68件) 05:31 もるげん 05:50 @yasuhiroUENO 旅の師匠!人生の師匠! 06:27 そろそろ出かけるかの。蒸し暑い 06:28 @yasuhiroUENO 歪(笑) 06:49 @y...
2013:
2013年09月06日のつぶやき 2013年09月06日のつぶやき(19件) 00:10 @pacific_lon 乙でしたー 07:25 もるげん。D社からiPhone出る夢見たのだがo(__*)Zzz 10:07 @nomobucho ノ 10:24 @tkgr6000...
2012:
2012年09月06日のつぶやき 2012年09月06日のつぶやき(36件) 00:07 @WiLL_VS_4 @kntr2012 ヒント:おともでマイル/いっしょにマイル割 00:11 @kntr2012 マイルではないですが、正月にOKA-CTS乗る予定ですw 00:2...
2011:
2011年09月06日のつぶやき 2011年09月06日のつぶやき(29件) 09:12 もるげん 09:14 @shien0106 はい、一応PLT目標です。ドイツ帰省で猛チャージですw 09:16 RT @shinyabeer: プロレスシリーズ祭り『第1回バトルロイヤ...
2008:
ビアフェス横浜2008 昨日からビアフェス(ジャパン・ビア・フェスティバル)が横浜大桟橋ホールにて開催中。 バスにて日本大通り駅へ移動。12:00集合。監督氏、あいあい氏、Yum氏(いずれも仮名)
2007:
台風上陸  台風9号は小田原市付近に上陸。東日本縦断。 台風に弱い保守的なJRは軒並み運転見合わせ。横須賀線は間引きながら動いていたが東海道線、京浜東北線は抑止。振替輸送を受け、京急は混雑するかと思いきや、いつも出陣が遅いためか、受難することなくむし...
2006:
NHアワードGET/モバイルSuica検討/Viewカード利用停止!? 出陣。P案件。105案件。GIFブン回し開始。その他フォント調査、M案件北方領土調査ほか。  空席待ち(キャンセル待ち)となっていたANA国際線特典航空券(アワード)のうち、ソウル(金浦)〜羽田がお取りできた旨の連絡がメールであった。連休最...
2004:
postgreSQL サーバダウン? 別のサービス向けに見栄えの調整を行った。先日機能増強したおかげで、柔軟な調整がエンジンを改修せずに行えるようになり、工数も少なくてすんだ。 16:01頃 postgreSQLサーバのひとつ、alpsが落ちたらしく、apacheのerror_...
2003:
ドイツ啓蒙第2弾  今日も在宅日。温泉地のコメント付が終了。夕方からドイツ通の友田氏(仮名)と会う。お預かりした包丁とナイフを献上することが主目的だが、前回失敗した、妻のドイツへの興味を拡大させることも大きな目的である。 キエフの試写もしておこう。 友田氏(...
2002:
自費で日帰り山口 今日は日帰りで山口遠征。目的は7月に叶わなかったクモハ42乗車。よく使う京急直通快特で5:52羽田着。今日は何か地方でイベントでもあるのかこの時間なのに混雑している。いつもの通りサクララウンジで寛ぐが、いつもあるはずの缶牛乳がこの時間でもな...
2001:
明日から関西遠征  研修は引き続き運用支援および起動ディスクの仕組みの研修。うーむ。最近研修に虚脱感を覚えるのは気のせいだろうか。それとも連日の飲みすぎのせいだろうか。 本日の昼食:ちらしずしA(\398)。昨夜もいくらだったのにまたもいくらがあった(^^;...

投稿者 onsenfan [ プログラミング, 韓国 ] : 2005年09月07日 23:32

この記事が役に立った/おもしろいと思ったら、ワンクリックで応援お願いします

トラックバック

このエントリーのトラックバックURL:
http://blog.odorokutamegoro.com/mt-tb.cgi/418_0702035162491

コメント

コメントしてください




保存しますか?



ジオターゲティング
counter
2