AI-skolan

Vad är
Small language model (SLM)

En small language model (SLM) är en språkmodell med betydligt färre parametrar än de största LLM:erna — vanligtvis från några hundra miljoner upp till några miljarder. Den mindre storleken gör att SLM:er går snabbare, kostar mindre att köra och ofta kan köras direkt på en telefon eller dator i stället för i molnet, på bekostnad av bredare allmänbildning och resonemangsförmåga.

Exempel

En SLM inbyggd i en mobiltelefon kan sköta enklare uppgifter som att sammanfatta ett meddelande eller föreslå ett svar helt offline, medan mer krävande frågor fortfarande skickas vidare till en större modell i molnet.

LLM
ML
Kod & Teknik