C / C++ Matris Çarpma Kodu ve Basit Hızlandırma Teknikleri

Bu gece paralel algoritmalar dersine çalışırken, kendimi birden matris çarpma makalelerinin içinde buldum. İleri derecede çalışmalarda Winograd ve Strassen yöntemleri önerilmekle beraber, burada bilinen tekniğin basit yollarla hızlandırılması üzerinde duracağım.

Öncelikle standart matris çarpma kodunu verelim.

void f1(int *a, int *b, int *c)
{
for(int i=0; i<n; ++i)
for(int j=0; j<n; ++j)
for(int k=0; k<n; ++k)
c[i * n + j] += a[i * n + k] * b[k * n + j];
}

Şimdi ilginç bir iyileştirme yapalım. Burada uygulanan tekniğe, matristeki değişkenlerin yerelleştirilmesi deniyor. Böylece, matrisin ön belleğe alınan kısmı sürekli olarak değiştirilmiyor. Parçadaki tüm işlemler bittikten sonra diğer parçaya geçiliyor.

void f2(int *a, int *b, int *c)
{
for(int ii=0; ii<n/8; ++ii)
for(int jj=0; jj<n/8; ++jj)
for(int kk=0; kk<n/8; ++kk)
for(int i=8*ii; i<8*(ii+1); ++i)
for(int j=8*jj; j<8*(jj+1); ++j)
for(int k=8*kk; k<8*(kk+1); ++k)
c[i * n + j] += a[i * n + k] * b[k * n + j];
}

Ne dersiniz, sizce işe yarayacak mı? Deneyin, görün! n=512'lik bir matris için yaklaşık 6 kat hızlanma olursa sakın şaşırmayın =] Gördüğünüz üzere, burada her bir matrisin 8x8x8 = 512'er tane int elemanını işledikten sonra diğer kısımlara geçiyoruz. Bu da büyük bir performans getirisi sağlıyor. Çünkü dizinin indisinin her artışında, ön bellekteki matris parçasını değiştirmiyoruz.

Bu kadarı bana yetmez diyen arkadaşlar, sözüm size. Azıcık da dilimizin güzelliklerini kullanalım, ne dersiniz? İşaretçilerle performansı iki kat daha hızlandırabiliriz! Kodu aşağıda.

void f3(int *a, int *b, int *c)
{
for(int ii=0; ii<n/m; ++ii)
for(int jj=0; jj<n/m; ++jj)
for(int kk=0; kk<n/m; ++kk)
{
int *cc = &(c[ii*n * m + jj*m]);
int *aa = &(a[ii*n * m + kk*m]);
int *bb = &(b[kk*n * m + jj*m]);
for(int i=0; i<m; ++i)
{
for(int j=0; j<m; ++j)
{
for(int k=0; k<m; ++k, bb += n)
*cc += *aa++ * *bb;
aa -= m;
bb -= m*n;
++cc;
++bb;
}
cc -= m;
bb -= m;
aa += n;
cc += n;
}
}
}

10 kattan daha fazla hızlanma sağladık. Ama yine de yetersiz bulan arkadaşlar olabilir. Bu aşamayı kendimi çok zorlamadan aşmak istiyorum, kusuruma bakmayın. Basitçe OpenMP kütüphanesinden yararlanarak, sistemimizdeki tüm çekirdekleri kullanarak birkaç kat daha hızlanma sağlayabiliriz. f3 fonksiyonunun ilk satırına eklemeniz gereken kod aşağıda.

#pragma omp parallel for

Bu son eklemeyle beraber, benim masaüstü için (2 çekirdek) yaklaşık iki kat daha hızlandırabildim. Tüm fonksiyonların ortalama hızları aşağıda. Kolay gelsin.

f12658 ms
f2432 ms
f3231 ms
f4121 ms


22.05.2010 [02.12]


Notlar: Matris Çarpımı, Hızlı Matris Çarpımı, referansların yerelliğini iyileştirmek, Matrix Multiplication, Fast Matrix Multiplication, improving the locality of the references