Vad är Mänsklig tillsyn?

Mänsklig tillsyn betyder att en människa alltid ska ha handen på ratten när AI fattar viktiga beslut. Tänk dig en självkörande bil som ändå har en förare redo att bromsa — AI:n får hjälpa till och göra jobbet snabbare, men människan måste kunna se vad som händer, gripa in och stänga av om något går snett.

Kravet kommer från EU:s AI-förordning (AI Act), närmare bestämt artikel 14. Det gäller framför allt så kallad högrisk-AI — system som används i känsliga sammanhang som rekrytering, kreditbeslut eller sjukvård. Där räcker det inte att AI:n "nog gör rätt". En människa måste kunna förstå beslutet, ifrågasätta det och vid behov stoppa det. Inget rent autopilot-läge alltså.

I praktiken handlar det både om teknik och om rutiner. Systemet måste vara byggt så att en människa faktiskt kan följa med i vad AI:n gör, och företaget måste ha bestämt vem som har ansvaret att ingripa.

Varför är mänsklig tillsyn viktigt för ditt företag?

Om du använder AI i beslut som påverkar människor är mänsklig tillsyn ofta ett lagkrav, inte en trevlig extrafunktion. Att bygga in det från början skyddar dig mot både böter och dåliga beslut som ingen fångade i tid.

Det bygger också förtroende. Kunder och medarbetare känner sig tryggare när de vet att det finns en människa som kan säga stopp — inte bara en svart låda som avgör deras öde.

Mänsklig tillsyn i praktiken

Säg att ett svenskt bemanningsföretag använder AI för att sortera jobbansökningar. Med mänsklig tillsyn presenterar AI:n ett förslag på topplista och motiverar varför, men en rekryterare granskar innan någon sållas bort. Rekryteraren kan skriva över AI:ns bedömning om något ser fel ut.

På ZORC bygger vi in den här typen av kontrollpunkter och tydliga "stopp-knappar" när vi utvecklar AI-lösningar, så att du både följer lagen och behåller kontrollen.