 |
eXeL@B —› Программирование —› Странное представление числа с плавающей точкой. |
| Посл.ответ | Сообщение |
|
|
Создано: 26 января 2009 19:40 · Личное сообщение · #1 В общем наткнулся на какое то странное хранение числа с плавающей точкой. Понял что число состоит их 2 word. Тоесть первая часть это вещественная часть а в торая это целое. Например b0524400 = тут сохранено 68.322 0x0044 = 68 0x52b0 = 21168(вот кокраз с вещественной частью проблеммы) Вот привожу список на генерированных чисел. 553.8252 = 40D32902 2902 - 553 1.1 = 99190100 1.0 = 00000100 ну тут без комментариев )) 1.2 = 33330100 1.3 = CC4C0100 1.01 = 8F020100 Может кто знает? Если кто не заметил то это не float ))  |
|
|
Создано: 26 января 2009 20:14 · Личное сообщение · #2 fixed-point? |
|
|
Создано: 26 января 2009 20:31 · Личное сообщение · #3 Да скорее всего. И вроде уже поняли как декодиться и вещественная часть. там делиться или домножается на 0xFFFF. Ну в соответствии куда надо декодировать. |
|
eXeL@B —› Программирование —› Странное представление числа с плавающей точкой. |
Для печати