tdm-gcc 的下载、安装教程
一、tdm-gcc 的下载
1、下载地址：【点击跳转】
官网：https://jmeubank.github.io/tdm-gcc/
2、【此电脑】右键 ---- 【属性】，看到电脑是64位的，故可选择64位的进行下载。（如果不确定是几位的，选择第三个下载即可）
3、点这里：
4、点击下载，等待下载完成即可；
二、tdm-gcc 的安装
1、双击下载好的安装包，点击【create】，开始下载；
2、安装第二个版本，点击【next】----【next】；
3、全都勾选上，点击【install】开始安装；
三、安装完成后，如何验证安装成功
1、在搜索框中输入【cmd】，打开 命令提示符；
输入【gcc】，如出现下图中内容，说明gcc已经跑起来了；
2、如果没出现，说明gcc并没有装好，或者虽然装好了，但是环境变量没配置好；
【解决方法】：
3、输入 gcc --version，可以看到gcc的版本；
和刚刚下载的版本一直，正确√
模型量化会带来一定的性能损失，经过测试，ChatGLM-6B 在 4-bit 量化下仍然能够进行自然流畅的生成。
gcc -fPIC -pthread -fopenmp -std=c99 quantization_kernels.c -shared -o quantization_kernels.so
gcc -fPIC -pthread -fopenmp -std=c99 quantization_kernels_parallel.c -shared -o quantization_kernels_parallel.so
原文链接：https://blog.csdn.net/weixin_48820458/article/details/128069360
标签：kernels,gcc,tdm,教程,quantization,安装,下载 From： https://www.cnblogs.com/Listener-wy/p/18319567