关于赋值计算请求指点一下

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 14:14:09

#0楼

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

【方案】e-Cart改变了电动交通的物料搬运模式

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

39156

cvlsam 版主

文章数：12663

年度积分：403

历史总积分：39156

品牌积分(台达)：48

作者的所有帖子(12663)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 15:04:24

#1楼

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】SCADA软件在台达PLC以太网络总线上的应用

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 15:26:12

#2楼

也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】台达机电产品在车用散热器的散热片串片机上的应用

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

39156

cvlsam 版主

文章数：12663

年度积分：403

历史总积分：39156

品牌积分(台达)：48

作者的所有帖子(12663)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 16:16:58

#3楼

以下是引用piyufeng在2021/3/25 15:26:12的发言：
也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

YES，因此纯小数运算请选用浮点数。

Good Luck~

【方案】“非接触、不残留” 台达推出防疫新利器——U+抑菌系列

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

台达论坛

关于赋值计算 请求指点一下

工控学堂推荐视频：