AI-ordlistan ·
Modeller och teknik

Vad är NPU (neural processing unit)?

NPU står för neural processing unit och är en liten processor som är byggd för att köra AI-beräkningar snabbt och med låg strömförbrukning. Den finns numera i många mobiler, datorer och surfplattor, och det är den som ligger bakom begreppet AI-dator. En NPU kompletterar processorn (CPU) och grafikkortet (GPU) och är bäst på just det som AI behöver, nämligen enorma mängder enkla matematiska operationer. Kapaciteten anges ofta i TOPS, biljoner operationer per sekund.

Exempel

När din telefon suddar bakgrunden i ett videosamtal, översätter tal direkt eller kör en liten språkmodell utan internet är det ofta NPU:n som gör jobbet. Det sparar batteri och gör att dina data kan stanna på enheten, något som är viktigt för AI på enheten. Stora molnmodeller kräver fortfarande kraftfulla datacenter, men för vardagsuppgifter räcker det långt med en NPU i fickan.

Läs mer

Relaterade termer

Alla AI-termer →