首页 > 玄幻魔法 > 四合院:我边做科研边吃瓜 > 第602章 不建议用太多?

第602章 不建议用太多?(1/5)

目录

第一声“算错了”冒出来的时候,有人心里“咯噔”一下,糟了!

但是随着越来越多的“算对了”响起,大家的目光看向了那少数几位说“算错了”的同志,眼带戏谑。

那啥,同志,是不是你自己算错了?

几位同志面带讪然,非常不好意思。

但是此刻,大家的注意力已经不在他们算得对不对了,而是看向了这块插管插满了的电路板。

宝贝啊!

别看16位浮点数的有效数字只有3~4位,数值范围也不大,但是对于很多实际工程应用来说,其实这个精度和数值范围足够了。

用一个最典型的应用最广泛的例子来说,圆周率Pi。

由于有那首著名的“山巅一寺一壶酒”的存在,相信很多人都能将Pi轻松背到小数点后5位,有闲心的,轻松能背到20位以后,当然,“他在倒背圆周率!”这种笑话是不可能的。

但是实际使用中,哪怕背得再长,实际上相当多都是用的3.14,原因很简单,用3.14和3.14159算出来的相关结果,在工程应用中差别很小,一般来说够用了。

算一算就知道,就算把Pi用到小数点后一万位,与3.14的差别大概也就是万分之五。

这也就是高振东为什么先做16位浮点数硬件乘法器的原因——够用而且便宜。

“高总工,这个板子叫什么?”一位搞雷达的同志激动的问道。

本章未完,下一页继续

书页 目录
好书推荐: 克拉夫特异态学笔记 重生97,我在市局破悬案 什么叫破坏型中场啊 曼联王储,但不会踢球 超级妖猴闯西游 杀生道果 从缸中之脑开始 海盗王权 咒禁山海 星穹列车的诸天旅行