• 2025-01-07有限位宽无限精度DDS设计
    前言:DDS的频率精度受限于\(fs/2^N\),其中,\(2^N\)为查找表深度。假设采样率12MHz,地址位宽16位,则最小频率步进为\(\Deltaf=12e6/2^{16}=183Hz\)。也就是我们只能产生\(183Hz,183*2Hz\)等频率的信号。如果由于项目需求,我们需要产生更精细的频率,比如10Hz分辨率的信号,由于存储受限,也无
  • 2025-01-07TSN便携式测试工具TESTBASE-ATT
    概述    车载以太网TSN是为满足车辆复杂数据传输而定义的一类协议族,已应用于多款新架构车型中。经纬恒润TestBaseATT(AutomotiveTSNTester)产品可用于TSN部件级和系统级测试,保证TSN相关功能实现质量及可靠性。    TestBaseATT硬件支持8路PPS信号以及4路以太
  • 2025-01-03深度学习基础理论————训练加速(单/半/混合精度训练)/显存优化(gradient-checkpoint)
    主要介绍单精度/半精度/混合精度训练,以及部分框架(DeepSpeed/Apex)不同精度训练单精度训练(single-precision)指的是用32位浮点数(FP32)表示所有的参数、激活值和梯度半精度训练(half-precision)指的是用16位浮点数(FP16或BF16)表示数据。(FP16是IEEE标准,BF16是一种更适合AI计算的
  • 2025-01-03MES 包装 称重 测试备忘
    称的功能都差不多,需要MES适配不同品牌的称。串口输出2中模式: 可以调节 精度:精度0.1g   精度是0.001kg第一种(默认):不停的串口输出。输出速度很快,容易导致程序死掉。  第二种模式:重量稳定输出。下面是重量稳定输出模式截图:  ------erwa.cn二娃测试备忘
  • 2025-01-03工业流量计选型指南:精准匹配工业需求
        ​    ​在工业生产的广袤天地里,各种物质流如同奔腾不息的河流,而流量计则是测量这些河流的“标尺”。从工厂的生产车间到大型的工业设施,流量计的身影无处不在,它在保障生产流程顺畅、提高生产效率、确保产品质量等方面发挥着关键作用。然而,面对琳琅满目的流量计种
  • 2025-01-01如何在梯度计算中处理bf16精度损失:混合精度训练中的误差分析
    如何在梯度计算中处理bf16精度损失:混合精度训练中的误差分析在现代深度学习训练中,为了加速计算并节省内存,越来越多的训练任务采用混合精度(MixedPrecision)技术,其中常见的做法是使用低精度格式(如bf16或fp16)进行前向传播和梯度计算,而使用高精度格式(如fp32)进行参数更新
  • 2024-12-30说说你对js中的数据类型BigInt的理解,它有什么应用场景?
    BigInt在JavaScript中的理解与应用场景一、BigInt的理解BigInt是JavaScript在ES2020中引入的一种新的基本数据类型,它提供了一种表示任意精度整数的能力。在JavaScript中,传统的Number类型是基于IEEE754双精度浮点数格式存储的,这意味着它只能安全地表示-(2^53-1)到(2^53-1)之
  • 2024-12-23半导体产品质量受防震基座安装精度影响的具体案例-江苏泊苏系统集成有限公司
    以下是一个半导体产品质量受防震基座安装精度影响的详细案例:一:案例背景有一家大型半导体制造企业,主要生产高端处理器芯片。芯片的制造过程涉及众多高精度的设备,其中光刻机是最为关键的设备之一。光刻机的工作原理是通过将设计好的电路图案精确地投射到硅片上,其精度达到纳
  • 2024-12-19HarmonyOS Next模型结构优化策略
    本文旨在深入探讨华为鸿蒙HarmonyOSNext系统(截止目前API12)中模型结构优化相关技术细节,基于实际开发实践进行总结。主要作为技术分享与交流载体,难免错漏,欢迎各位同仁提出宝贵意见和问题,以便共同进步。本文为原创内容,任何形式的转载必须注明出处及原作者。一、模型结构优化原理
  • 2024-12-19HarmonyOS Next模型量化技术详解
    本文旨在深入探讨华为鸿蒙HarmonyOSNext系统(截止目前API12)中模型量化相关技术细节,基于实际开发实践进行总结。主要作为技术分享与交流载体,难免错漏,欢迎各位同仁提出宝贵意见和问题,以便共同进步。本文为原创内容,任何形式的转载必须注明出处及原作者。一、模型量化基础概念与意
  • 2024-12-14误差预估意识
    最近重读了《模拟电路》,书中有一篇文章题为“误差预估”,来自罗伯特皮兹——著名的《模拟电路故障诊断》一书的作者,读完后很受启发。是的,误差预估对于一个电路甚至是一个简单电路都很重要,如果你不知道哪个元件对电路精确性的影响程度的话,那又怎么能设计出一个令人满意的电路呢?
  • 2024-12-14转载:【AI系统】低比特量化原理
    计算机里面数值有很多种表示方式,如浮点表示的FP32、FP16,整数表示的INT32、INT16、INT8,量化一般是将FP32、FP16降低为INT8甚至INT4等低比特表示。模型量化则是一种将浮点值映射到低比特离散值的技术,可以有效的减少模型的参数大小、内存消耗和推理延迟,但往往带来较大的精
  • 2024-12-13转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-13转载:【AI系统】低比特量化原理
    计算机里面数值有很多种表示方式,如浮点表示的FP32、FP16,整数表示的INT32、INT16、INT8,量化一般是将FP32、FP16降低为INT8甚至INT4等低比特表示。模型量化则是一种将浮点值映射到低比特离散值的技术,可以有效的减少模型的参数大小、内存消耗和推理延迟,但往往带来较大的精
  • 2024-12-12转载:【AI系统】低比特量化原理
    计算机里面数值有很多种表示方式,如浮点表示的FP32、FP16,整数表示的INT32、INT16、INT8,量化一般是将FP32、FP16降低为INT8甚至INT4等低比特表示。模型量化则是一种将浮点值映射到低比特离散值的技术,可以有效的减少模型的参数大小、内存消耗和推理延迟,但往往带来较大的精
  • 2024-12-11转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-11转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-11转载:【AI系统】计算之比特位宽
    在前面的深度学习计算模式里面我们提到了模型的量化操作,通过建立一种有效的数据映射关系,使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将在前面的深度学习计算模式里面我们提到了模型的量化操作,通
  • 2024-12-06大模型--数据类型FP16 BF16--29
    1.参考https://blog.csdn.net/voiiid/article/details/114825246https://blog.csdn.net/shizheng_Li/article/details/1441409122.半精度浮点fp16这两种数据类型编程是经常遇见双精度double,64位单精度float,32位FP16(Half-precisionfloating-pointformat)它提供更高的
  • 2024-12-06好消息!采用玛哈特大型整平机后,生产线的精度和稳定性大大提升
    在制造行业,精度和稳定性是生产高质量产品的基石。最近,我们迎来了一个令人振奋的消息:采用大型整平机后,我们的生产线在这两个关键领域实现了显著的飞跃。生产线的变革大型整平机的引入,不仅仅是一个简单的设备升级,它标志着我们对生产流程的全面优化。这一变革带来了以下积极影响
  • 2024-12-03js如何解决数字精度丢失的问题?
    JavaScript使用IEEE754标准的双精度浮点数来表示数字,这会导致在处理某些十进制数时出现精度丢失的问题。例如,0.1+0.2的结果不是0.3,而是0.30000000000000004。以下是一些解决JavaScript数字精度丢失问题的常用方法:1.使用整数进行计算:如果可能,尽量使用整数进行计算,
  • 2024-12-13深入解析 Transformers 框架(五):嵌入(Embedding)机制和 Word2Vec 词嵌入模型实战
    通过前面几篇关于Transformers框架的技术文章,我们探讨了大模型的配置、分词器和BPE(Byte-PairEncoding)分词算法。这些技术帮助我们将一段文本序列处理成一个Token(词元)列表,并为每个Token分配一个唯一的TokenID。然而,这仅仅是大模型输入层工作的第一步。接下来,我们将深入探
  • 2024-12-13Ubuntu下vscode cmake jlink stm32 开发环境搭建
    安装gcc-arm-none-eabiJLink或者stm32cubeide自带前面两者安装vscode扩展CMakeToolsCortex-Debug修复vscode爆红.vscode/c_cpp_properties.json{"configurations":[{"name":"Linux","includePath"
  • 2024-12-10spring-boot-starters介绍
    SpringBoot1.4.3.RELEASE版本的spring-boot-starters包含众多模块,其中常用的有:spring-boot-starter:核心启动器,包括自动配置、日志和YAML支持。spring-boot-starter-aop:支持面向切面编程(AOP),集成SpringAOP和AspectJ。spring-boot-starter-logging:提供默认的日志框架支持,
  • 2024-12-08Thread基本功能解析
    start//同步方法publicsynchronizedvoidstart(){//检查线程状态if(threadStatus!=0)thrownewIllegalThreadStateException();//添加到指定线程组,thread默认使用调用线程的线程组group.add(this);booleanstarted=fals