AI-ordlistan ·
Säkerhet, etik och lagar

Vad är Explainable AI?

Explainable AI (XAI) är ett fält inom AI som syftar till att göra maskininlärningsmodellers beslut och förutsägelser förståeliga för människor. Det är särskilt viktigt i högriskapplikationer som sjukvård, kreditgivning och juridik, där det krävs att beslut kan motiveras och granskas. XAI-metoder kan förklara både individuella beslut och modellens övergripande beteende.

Exempel

En AI som beslutar om en patients cancerbehandling måste kunna förklara sin rekommendation för läkaren. Med XAI-verktyg kan systemet visa vilka faktorer — blodvärden, tumörens egenskaper, patientens ålder — som vägde tyngst i beslutet, vilket gör det möjligt för läkaren att granska och ifrågasätta rekommendationen.

Läs mer

Relaterade termer

Alla AI-termer →