首页 > 其他分享 >避坑!MATALB与RTL数据对比

避坑!MATALB与RTL数据对比

时间:2022-09-23 11:12:30浏览次数:48  
标签:RTL eg 避坑 353 答案 ans 取整 MATALB 256

避坑笔记!
例如:如果需要计算一个数据除64。

公式
	a 
y = ————————————
	256 
由于除数是2的6次方,因此RTL实现上为了减少资源,肯定不会使用除法器,而是选择右移6位。这个时候如果是正数,例如a = 353
计算过程如下:
正数:
a = 353 = (161)H = (0_0001_0110_0001)B
计算器计算结果
353 / 256 = 1.390625
硬件计算结果
(0_0001)B = 1
负数:
a = -353 = (1_E9F)H = (1_1110_1001_1111)B
计算器计算结果
-353 / 256 = -1.37890625
硬件计算结果
 (1_1110)B 补码
=(1_0001)B + (1)B 原码
=(1_0010)B  = -2    

当使用MATALB搭建好model时,如果涉及到带符号为的除法的时候,就需要重点注意了!因为带符号位的数进行除法可能会涉及到取整的问题,MATLAB取整有多个函数。

函数 功能
round 四舍五入
fix 保留整数部分
floor 向下取整
ceil 向上取整
sign 提取符号
rem 取余数
mod 取模数

floor:向下取整
image
ceil: 向上取整
image

例子
eg:四舍五入
a = -353
round(a/256)
答案:ans = -1
a = 353
round(a/256)
答案:ans = 1

eg:保留整数部分
a = -353
fix(a/256)
答案:ans = -1
a = 353
fix(a/256)
答案:ans = 1

eg:向下取整
a = -353
floor(a/256)
答案:ans = -2
a = 353
floor(a/256)
答案:ans = 1

eg:向上取整
a = -353
ceil(a/256)
答案:ans = -1
a = 353
ceil(a/256)
答案:ans = 2

eg:提取符号
a = -353
sign(a/256)
答案:ans = -1
a = 353
sign(a/256)
答案:ans = 1

eg:取余数
a = -353
rem(a,256)
答案:ans = -1
a = 353
rem(a/256)
答案:ans = 97

eg:取模数
a = -353
mod(a,256)
答案:ans = -1
a = 353
mod(a/256)
答案:ans = 97

硬件通过移位实现的除法,往往都是向下取整,因此MATLAB使用floor取整,同步RTL的硬件除法。

标签:RTL,eg,避坑,353,答案,ans,取整,MATALB,256
From: https://www.cnblogs.com/powerforme/p/16718075.html

相关文章

  • 使用Python对ES进行操作避坑指南
    目前负责有一个数据迁移的项目,主要涉及Mysql,TiDB,ES等数据的批量迁移。除了功能方面的质量保证之外,还需要考虑到对迁移数据库中大量表的校验,包括数据量,数据正确性(暂定抽样)......
  • RTL8367/N/RB/S/SC系列千兆交换机方案选型参考
    RTL8367系列方案主要有:RTL8367-VB-CG、RTL8367N-VB-CG、RTL8367RB-VB-CG、RTL8367S-CG、RTL8367SC-CG主要体现在封装和功能上:单一功能的是RTL8367-VB-CG(封装QFP-128)和RTL......
  • RN 遍历本地图片地址,及避坑
    自定义的格式如代码中所示:require不能放在标签上ListImage=()=>{letImageDate=[{url:require('../../assets/temporaryAva......
  • 3D高级渲染器Artlantis Studio
    ArtlantisStudio2021forMac是Mac平台上一款专业的3D高级渲染器,artlantismac专为设计师和建筑师所设计,能够为您快速创建出VR全景,动画和3D等效果。artlantis202凭借着......
  • Artlantis studio 2021.2 for Mac(3D渲染工具)
    Artlantisstudio2021forMac是Mac平台上一款专业的3D高级渲染器,artlantismac版专为设计师和建筑师所设计,能够为您快速创建出VR全景,动画和3D透视图等效果。artl......
  • 【ElasticSearch】索引生命周期管理(三) 避坑指南
    背景主要是针对在使用索引生命周期的去管理索引的过程中,记录所踩到坑,避免同样的问题再次发生问题1. 索引生命周期中设置各个阶段的市场以及索引rollover的时间......
  • Nginx 安装及启动避坑流程
    系统环境:CentOS8.564位【开始安装】(此步骤引自网络教程)https://www.cnblogs.com/torchstar/p/16027538.html教程比较详细,一步步操作就没问题,不过用上面的教程尝试安装......
  • es避坑
    1,添加类型为keyword和text的字段需注意:keyword:查询的时候已有的值不会被分词;term查询keyword字段, term不会分词。而keyword字段也不分词,需要完全匹配才可。mat......
  • 避坑 | 调用feign远程get请求的接口却提示“Request method ‘POST‘ not supported”
    避坑修改前后的feign接口对比:(修改前)/***获取用户列表*@paramuser用户信息*@return列表*/@GetMapping("/user/list")R<TableDataInfo>selectUserList(......