AI en ML
Als je naar de ontwikkeling en toepassing van kunstmatige intelligentie kijkt, zie je dat een aantal stappen moet worden doorlopen voordat het model daadwerkelijk kan worden toegepast. Eerst moet de data worden verzameld, opgeruimd, geanalyseerd en getransformeerd. Daarna is hij pas geschikt om in een model te worden gegoten. Deze stap is nog niet voldoende, want het model moet ook nog worden getoetst. Uiteindelijk wordt het model uitgerold naar een datacenter en kan het worden toegepast, al moet het dan nog wel worden gemonitord. Volgens de onderzoekers van Gartner haalt net iets meer dan de helft van de AI-modellen dit eindstadium.
Er zijn tal van modellen voor kunstmatige intelligentie. Eerder haalden we al aan dat er tal van verschillende Xeon-modellen verkrijgbaar zijn. Ieder model stelt zo zijn eigen eisen aan het platform. Dat blijkt met name voor het geheugen te gelden, zoals je in onderstaande afbeelding kunt zien.
Geheugentoegang was dan ook een belangrijk thema bij de ontwikkeling van de nieuwe chips. DDR5 biedt anderhalf keer de bandbreedte van DDR4; PCI -Express 5.0 is zelfs dubbel zo snel als z'n voorganger.
Met Intel Advanced Matrix Extensions (AMX) is het mogelijk om grotere stukken data in één keer te verwerken. Hiermee is het mogelijk om 2048 INT8-operaties per cycle/core toe te passen. Met Intel AVX-512 zijn dat er 85, en met AVX-512 (VNNI) 256.
Dit levert ten opzichte van de vorige generatie veel betere prestaties op.
Intel biedt veel tools voor het versnellen van de verwerking, ontwikkeling en toepassing van AI en ML.
