浮点型转字符型有效位数问题
float是单精度型占4个字节(32位),只能提供7位有效数字,小数点后最多保留6位。
double是双精度型占4个字节(64位),只能提供16位有效数字,小数点后最多保留6位。
遇到的问题: 83427.746 在float类型下转成NSstring 类型 变成83427.742188产生巨大偏差,导致四舍五入,在Double类型下正常,经测试发现大于65536之后,三位小数都会失真
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。