[前][次][番号順一覧][スレッド一覧]

mysql:12952

From: SUGAWARA Hajime <SUGAWARA Hajime <sugawara@xxxxxxxxxx>>
Date: Thu, 27 Apr 2006 23:57:05 +0900
Subject: [mysql 12952] Re: decimal型、double型に関して

 菅原です。

"MIURA, Takayuki // NetConcierge " <t.miura@xxxxxxxxxx>さん:
> decimal型、double型に関して質問させてください。
> 値の大きい数値を扱おうと予定で、下記のクエリを実行しましたが
> 正確な数値が算出されませんでした。
> これは、有効桁数を超えているからなのでしょうか。

 有効桁数を越えているからでしょう。

 MySQL5.0.3以降でDECIMAL型の扱いが変わっていて、そちらなら大丈夫だと思
います。
http://dev.mysql.com/doc/refman/5.0/en/precision-math-decimal-changes.html

 手元で確認したところ、

insert into test10 (id, cnt)  values (1, 100000000000000000000 + 1);

できちんとinsertされました。
(1E+20 + 1ではだめです)

-- 
菅原はじめ@うぃーくぽいんと
mailto:sugawara@xxxxxxxxxx

[前][次][番号順一覧][スレッド一覧]

     12949 2006-04-27 20:04 ["MIURA, Takayuki // ] decimal型、double型に関して             
     12950 2006-04-27 22:02 ┣[忠犬 KEN <ken_ken_19]                                       
     12951 2006-04-27 22:36 ┃┗["MIURA, Takayuki // ]                                     
->   12952 2006-04-27 23:57 ┗[SUGAWARA Hajime <sug]                                       
     12953 2006-04-28 15:06  ┗["MIURA, Takayuki // ]