九州算术数学论坛 » 程序与算法设计 » 单片机定点运算求助

marvelqq 发表于 2008-7-24 15:35

单片机定点运算求助

单片机定点运算速度快，但精度太差，比如2.3 *5.6*78/4.5/6.2 由于只有整数运算故结果为32而正确结果是36。请教各位如何做误差补偿能使结果更精确。现在只想到一种四舍五入的方法，但是误差还是很大，大家开动脑筋帮忙想想吧，很头疼！

查看完整版本: 单片机定点运算求助