xsimd简介
xsimd是C++的一个开源simd库,实现了对常见simd指令的封装,从而使得simd的操作更为简单。接下来先从两个简单的例子来入门xsimd。
void average(const std::vector<double>& v1, const std::vector<double>& v2, std::vector<double>& v) {
int n = v.size();
int size = xsimd::batch<double, xsimd::avx>::size;
int loop = n - n % size;
for (int i = 0; i < loop; i += size) {
auto a = xsimd::batch<double>::load_unaligned(&v1[i]);
auto b = xsimd::batch<double>::load_unaligned(&v2[i]);
auto res = a + b;
res.store_unaligned(&v[i]);
}
for (int i = loop; i < n; ++i)
v[i] = v1[i] + v2[i];
}
上述demo实现了两个向量相加的操作,由于每次都能从vector当中加载size个数据,因此对剩余的不能进行vectorize的数据进行了分别处理。比如说,有一百个数据,每次处理8个数据,到最后剩下4个数不能凑到8,所以用朴素的迭代方式进行求和。这个demo是非对齐内存的处理方式。
using vector_type = std::vector<double, xsimd::default_allocator<double>>;
std::vector<double> v1(1000000), v2(1000000), v(1000000);
vector_type s1(1000000), s2(1000000), s(1000000);
void average_aligned(const vector_type& s1, const vector_type& s2, vector_type& s) {
int n = s.size();
int size = xsimd::batch<double>::size;
int loop = n - n % size;
for (int i = 0; i < loop; i += size) {
auto a = xsimd::batch<double>::load_aligned(&s1[i]);
auto b = xsimd::batch<double>::load_aligned(&s2[i]);
auto res = a + b;
res.store_aligned(&s[i]);
}
for (int i = loop; i < n; ++i)
s[i] = s1[i] + s2[i];
}
要实现对齐内存的操作方式,我们必须对vector指定特定的分配器,不然最后运行出来的代码会出现segment fault。
总之,要记住常用的api,load_aligned, store_aligned, load_unaligned, store_unaligned,它们分别对应了内存对齐与否的处理方式。接下来我们再讲解另外一个demo,并且提供与openmp的性能对比。
auto sum(const std::vector<double>&v) {
int n = v.size();
int size = xsimd::batch<int>::size;
int loop = n - n % size;
double res{};
for (int i = 0; i < loop; ++i) {
auto tmp = xsimd::batch<int>::load_unaligned(&v[i]);
res += xsimd::hadd(tmp);
}
for (int i = loop; i < n; ++i) {
res += v[i];
}
return res;
}
auto aligned_sum(const std::vector<double, xsimd::default_allocator<double>>& v) {
int n = v.size();
int size = xsimd::batch<int>::size;
int loop = n - n % size;
double res{};
for (int i = 0; i < loop; ++i) {
auto tmp = xsimd::batch<int>::load_aligned(&v[i]);
res += xsimd::hadd(tmp);
}
for (int i = loop; i < n; ++i) {
res += v[i];
}
return res;
}
这个例子实现了对向量求和的功能。总体与前面基本一样,这里hadd是一个对向量求和的函数。
对于openmp的向量化实现,则较为简单,只需要在for循环上面加上特定指令即可。不过需要注意的是,openmp支持C语法,有一些C++的新特性可能并不支持,而且需要把花括号放到下一行,我们来看具体操作。
auto parallel_sum(const std::vector<double>& v) {
double res{};
int n = v.size();
#pragma omp simd
for (int i = 0; i < n; ++i)
res += v[i];
return res;
}
不要忘记加上编译选项-fopenmp和-march=native,为了性能测试,我开启了O2优化,以下是简单的测试结果,数据规模是一千万。
一般情况下进行了内存对齐都会比没有对齐的要快一些,同时可以看到openmp与xsimd也差了一个量级。当然不同平台的结果可能会有差异,需要用更专业的工具进行测量比较。
标签:运算,int,res,矩阵,xsimd,vector,量化,loop,size From: https://www.cnblogs.com/ChebyshevTST/p/17736015.html