AMD werkt aan matrix-instructies als antwoord op Nvidia's Tensor-cores

0 reacties

AMD werkt aan de WMMA-instructie om ondersteuning voor matrix-operaties toe te voegen aan de aankomende GFX11-architectuur. Dit is de codenaam voor rdna 3. De instructie Wave Matrix Multiply-Accumulate maakt het mogelijk vermenigvuldiging en optelling uit te voeren met driedimensionale tabellen van cijfers. Dit type data wordt sterk gebruikt door ai en machine learning-algoritmen, die op Nvidia-gpu's hardwarematig versneld worden met de Tensor-cores.

De server-gerichte cdna-architecturen hadden al ondersteuning voor matrix-instructies met MFMA, wat staat voor Matrix-Fused-Multiply-Add. De toevoeging van WMMA werd opgemerkt door Twitteraar Kepler in AMDGPU, een backend voor de LLVM-compiler die door AMD zelf wordt bijgehouden. Intel heeft eveneens ondersteuning voor  de matrix-instructies XMX en DPAS voor het versnellen van de XeSS-upscaler.


In de nieuwste release van AMD's open source compute-stack, ROCm 5.2, is de rocWMMA-library ook al toegevoegd. Deze biedt een C++-api om het programmeren van algoritmes die gebruik maken van de instructies mogelijk te maken.

Bronnen: VideoCardz, Phoronix

« Vorig bericht Volgend bericht »
0