AI-skolan

Vad är
AI alignment

AI alignment handlar om att se till att en AI-modells mål och beteende faktiskt stämmer överens med vad människor avser och värdesätter — att den gör det vi menar, inte bara det vi bokstavligen skrev. Ju mer självständiga och kapabla AI-system blir, desto viktigare blir alignment-arbetet för att undvika oavsiktliga eller skadliga konsekvenser.

Exempel

Om du ber en AI-agent "boka den billigaste flygresan" utan andra villkor kan en dåligt alignad modell boka en biljett med tio mellanlandningar mitt i natten — tekniskt sett billigast, men knappast vad du menade. Alignment-arbete handlar om att fånga upp den typen av glapp mellan instruktion och avsikt.

AI
AI-policy
Avancerat
Relaterade artiklar
Är AI säkert att använda? Integritet och sunt förnuft för nybörjare (2026)

Fler termer inom AI

Agentisk AI
Agent workflow
AGI (artificiell generell intelligens)
AI-agent
AI alignment
AI assistant
AI benchmarking
AI-bias
AI chatbot
AI copilot
AI-etik
AI governance
AI hallucination
AI orchestration
AI pipeline
AI regulation
AI safety
AI slop
AI-vattenmärkning
Annotation
Anomaly detection
API
Artificiell intelligens
Batch processing
Chain-of-thought prompting
ChatGPT
Classification
Clustering
Computer vision
Context engineering
Context window
Conversational AI
Custom GPT
Data labeling
Data leakage
Data pipeline
Dataset
Deepfake
Diffusion model
Digital twin
Djupinlärning
Document chunking
Drift detection
Edge computing
Embedding
ETL
Explainable AI
Feature engineering
Feature store
Few-shot prompting
Fine-tuning dataset
Finjustering (fine-tuning)
Foundation model
Frontier model
Function calling
Generativ AI
GPT (Generative Pre-trained Transformer)
GPU computing
Guardrails
Image generation
Inference server
Inferens
Instruction tuning
Jailbreak (AI)
Knowledge base
Knowledge graph
Knowledge retrieval
Latency
LLM
Maskininlärning
Maskinöversättning
MCP (Model Context Protocol)
MLOps
Model compression
Model deployment
Model evaluation
Model interpretability
Modellparametrar
Model monitoring
Model training
Multimodal AI
Neuralt nätverk
OCR (optisk teckenläsning)
Öppen källkod (AI)
Plugins
Predictive analytics
Prescriptive analytics
Prompt
Prompt engineering
Prompt injection
Promptkedja
RAG
Real-time inference
Reasoning model
Recommendation system
Regression
Reinforcement learning
Responsible AI
Retrieval system
RLHF

Lär dig mer från våra AI-mallar

Se fler