解决了个困扰了2天的问题,定点运算问题

摘要：解决了个困扰了2天的问题,定点运算问题

分母变小了，相当于左移了

a=1-b/c;

|b|<pow(2,23)

|c|=pow(2,26)
|a|<1

在运算个过程中，需要把该运算转换成定点运算。想了2天，都没有想出怎么可以保证a的精度，因为a可能很小，如果简单的

a<<=8;

是无法保证a的精度的。今天快要下班时，突然有灵机一动：

c>>=6;

b<<=8;

a=1<<14-b/c; //相当于 a<<14，保证了a的精度

分子不能左移太多位，分母右移，解决问题了。发散思维说起来很容易，做起来不容易呀！以上就是本文的全部内容，希望能给大家一个参考，也希望大家多多支持编程素材网。