Vad är Högrisk-AI?

Högrisk-AI är AI-system som kan påverka människors viktiga rättigheter och möjligheter — och som därför omfattas av de strängaste kraven i EU:s AI-lag, AI Act. Man kan tänka på det som skillnaden mellan en leksaksdrönare och ett passagerarflygplan: båda flyger, men det ena kräver betydligt hårdare regler eftersom mer står på spel.

Det som gör ett AI-system till högrisk är alltså inte att det är avancerat, utan vad det används till. Exempel är AI som används i rekrytering, kreditbedömning, sjukvård eller viktiga myndighetsbeslut — områden där ett felaktigt beslut kan få stora konsekvenser för en enskild människa.

För sådana system ställer AI Act krav på bland annat noggrann dokumentation, mänsklig tillsyn, tydlighet och att systemet testas för att undvika orättvisa eller diskriminering.

Varför är högrisk-AI viktigt för ditt företag?

Om ni funderar på att införa AI i beslut som påverkar människor — vem som får ett jobb, ett lån eller en viss behandling — behöver ni veta om det räknas som högrisk. Då gäller nämligen betydligt mer omfattande krav.

Att ta reda på det i förväg sparar er både tid och risk. Ni undviker att bygga något som senare visar sig strida mot lagen, och ni kan visa att er AI-användning är genomtänkt och ansvarsfull.

Högrisk-AI i praktiken

Säg att ett företag vill använda AI för att automatiskt ranka jobbsökande. Eftersom det direkt påverkar människors chans till anställning räknas det troligen som högrisk. Då krävs dokumentation av hur systemet fungerar, mänsklig tillsyn över besluten och åtgärder för att undvika att vissa grupper missgynnas.

Ett företag som istället bara använder AI för att föreslå produkter i en webbshop hamnar normalt inte i högriskkategorin. Skillnaden ligger i konsekvenserna för människan — och det är därför det är så viktigt att kategorisera rätt från början.