EU AI Act i kommunal förvaltning: Hur klassificeras AI för upphandling?
Med ikraftträdandet av EU:s AI-förordning ställs strikta krav på offentliga verksamheter som implementerar AI-lösningar. Hur klassificeras verktyg för anbudsanalys och vad krävs för full regelefterlevnad?
Sammanfattning
Enligt EU AI Act (Förordning EU 2024/1689) klassificeras AI-system utifrån risk: Oacceptabel risk (förbjudna), Hög risk (bilaga III), Begränsad risk (transparensplikt) och Minimal risk. AI-system för anbudsanalys och kravgranskning som fungerar som beslutsstöd under obligatorisk mänsklig tillsyn (Human-in-the-loop) och som inte fattar autonoma tilldelningsbeslut bedöms som begränsad risk. Autonoma AI-system som fattar myndighetsbeslut utan mänsklig handläggare är oförenliga med svensk förvaltningsrätt och LOU.
1. Riskpyramiden i EU AI Act och offentlig sektor
EU AI Act syftar till att säkerställa att AI-system som används inom EU är säkra, transparenta, icke-diskriminerande och underställda mänsklig kontroll. För offentlig sektor är regleringen särskilt relevant eftersom myndigheter ofta hanterar frågor som rör enskildas och företags rättigheter.
System som används inom kritisk infrastruktur, rekrytering, tillgång till offentliga välfärdsförmåner eller rättsskipning (bilaga III). Dessa kräver omfattande riskhanteringssystem, loggning, teknisk dokumentation, CE-märkning och registrering i EU:s databas.
System som genererar text, analyserar underlag eller interagerar med människor, men där mänskliga handläggare granskar och fattar alla formella beslut. Dessa omfattas av transparens- och dokumentationskrav.
2. Människan i loopen: Varför myndighetsutövning aldrig kan automatiseras
I svensk rätt är ett tilldelningsbeslut eller ett beslut att förkasta ett anbud en formell myndighetsutövning. Enligt regeringsformen (1 kap. 9 §) och förvaltningslagen ska myndigheter iaktta saklighet och opartiskhet. Detta samverkar direkt med skyddet för anbudssekretessen enligt OSL 19 kap. 3 § och förbudet mot att acceptera dolda reservationer i anbud.
Det innebär att en AI-algoritm aldrig lagligen kan tilldelas beslutsmandat. Edlus grundarkitektur bygger därför på en strikt Human-in-the-loop-modell:
- AI-motorn fungerar som en läs- och sökassistent som lyfter fram exakta källcitat och avvikelser.
- Varje kravstatus (uppfyllt / ej uppfyllt) måste bekräftas eller korrigeras av den ansvariga upphandlaren.
- Slutrapporten och tilldelningsbeslutet undertecknas och expedieras av handläggaren.
3. Dokumentationskrav och spårbarhet för upphandlande enheter
När en kommun eller region driftsätter ett AI-verktyg för upphandling ställer EU AI Act och GDPR krav på:
Relaterade analyser och fördjupning
Läs fler fackartiklar om förvaltningsrättslig praxis, anbudsanalys och IT-säkerhet:
Dokumentera kravavvikelser i anbud: En praktisk arbetsmetod
En praktisk metod för att dokumentera avvikelser mot skall-krav med citat, källa, bedömning och spårbar motivering.
Säker AI-pilot i offentlig upphandling: Från demo till avtal
Så avgränsar du en AI-pilot med sekretess, tydliga testfall och mänsklig kontroll före skarp användning.
Behöver ni underlag inför er organisations AI-bedömning?
Vi tillhandahåller färdigt dokumentationspaket med DPIA-mall, arkitekturbeskrivning och EU AI Act-bedömning anpassat för offentlig sektor.