EU AI Act i kommunal förvaltning: Hur klassificeras AI för upphandling?
EU:s AI-förordning kan medföra olika krav beroende på systemets funktion, avsedda användning och driftsättning. Hur kan verktyg för anbudsanalys bedömas och vilka kontrollpunkter behöver organisationen verifiera?
Sammanfattning
Enligt EU AI Act (Förordning EU 2024/1689) behöver klassificeringen bedömas mot bland annat systemets avsedda användning, artikel 6 och de användningsfall som anges i bilagorna. Edlus preliminära bedömning är att den nuvarande avsedda användningen behöver analyseras som ett beslutsstöd under mänsklig tillsyn (Human-in-the-loop), men slutsatsen kan inte fastställas utan att slutlig funktionalitet och faktisk driftsättning är kända. Den ansvariga handläggaren granskar och fattar det formella beslutet.
1. Riskbaserade regler i EU AI Act och offentlig sektor
EU AI Act syftar till att säkerställa att AI-system som används inom EU är säkra, transparenta, icke-diskriminerande och underställda mänsklig kontroll. För offentlig sektor är regleringen särskilt relevant eftersom myndigheter ofta hanterar frågor som rör enskildas och företags rättigheter.
AI-system kan vara högrisk enligt de kriterier som anges i artikel 6 och bilaga III. Bedömningen gäller de konkreta användningsfallen och kan medföra krav på bland annat riskhantering, loggning och teknisk dokumentation.
Vissa system som genererar innehåll eller interagerar med människor kan omfattas av transparenskrav. Vilka krav som gäller beror på systemets funktion, användning och tillämpliga bestämmelser.
2. Människan i loopen: Varför mänsklig kontroll behöver säkras
I svensk rätt är ett tilldelningsbeslut eller ett beslut att förkasta ett anbud en formell myndighetsutövning. Enligt regeringsformen (1 kap. 9 §) och förvaltningslagen ska myndigheter iaktta saklighet och opartiskhet. Detta samverkar direkt med skyddet för anbudssekretessen enligt OSL 19 kap. 3 § och förbudet mot att acceptera dolda reservationer i anbud.
Edlus grundarkitektur bygger därför på en strikt Human-in-the-loop-modell där systemet stödjer handläggaren och inte presenteras som ensam juridisk beslutsfattare:
- AI-motorn fungerar som en läs- och sökassistent som lyfter fram exakta källcitat och avvikelser.
- Varje kravstatus (uppfyllt / ej uppfyllt) måste bekräftas eller korrigeras av den ansvariga upphandlaren.
- Slutrapporten och tilldelningsbeslutet undertecknas och expedieras av handläggaren.
3. Dokumentationskrav och spårbarhet för upphandlande enheter
När en kommun eller region driftsätter ett AI-verktyg för upphandling kan EU AI Act och GDPR aktualisera krav på bland annat:
Relaterade analyser och fördjupning
Läs fler fackartiklar om förvaltningsrättslig praxis, anbudsanalys och IT-säkerhet:
Dokumentera kravavvikelser i anbud: En praktisk arbetsmetod
En praktisk metod för att dokumentera avvikelser mot skall-krav med citat, källa, bedömning och spårbar motivering.
Säker AI-pilot i offentlig upphandling: Från demo till avtal
Så avgränsar du en AI-pilot med sekretess, tydliga testfall och mänsklig kontroll före skarp användning.
Behöver ni underlag inför er organisations AI-bedömning?
Vi kan diskutera vilket dokumentationsunderlag, vilken arkitekturbeskrivning och vilken AI Act-bedömning som behövs för er organisations faktiska användning.