AI-skolan
Explainable AI (XAI) är ett fält inom AI som syftar till att göra maskininlärningsmodellers beslut och förutsägelser förståeliga för människor. Det är särskilt viktigt i högriskapplikationer som sjukvård, kreditgivning och juridik, där det krävs att beslut kan motiveras och granskas. XAI-metoder kan förklara både individuella beslut och modellens övergripande beteende.
Exempel
En AI som beslutar om en patients cancerbehandling måste kunna förklara sin rekommendation för läkaren. Med XAI-verktyg kan systemet visa vilka faktorer — blodvärden, tumörens egenskaper, patientens ålder — som vägde tyngst i beslutet, vilket gör det möjligt för läkaren att granska och ifrågasätta rekommendationen.
ML
AI
Avancerat