Staten intensiverer i stigende grad brugen af kunstig intelligens til at overvåge sociale ydelser, og særligt pensionister er under luppen.
AI-teknologi og omfattende datasamkøring bliver nu brugt af Udbetaling Danmark til at analysere adfærden hos over en million ydelsesmodtagere i håb om at identificere og stoppe svindel og fejludbetalinger.
Men nye oplysninger, som Akademikerbladet har fået aktindsigt i, stiller spørgsmålstegn ved nødvendigheden og lovligheden af den omfattende overvågning, da resultaterne er beskedne sammenlignet med de store datamængder, der bliver gennemgået.
Hver nat gennemgår Udbetaling Danmarks afdeling for data og bedragerikontrol store mængder data om sociale ydelsesmodtagere ved hjælp af avancerede algoritmer.
Overvågningen involverer blandt andet data fra CPR- og BBR-registret samt oplysninger om indkomst og bopæl.
Formålet er at opdage svindel, som eksempelvis omhandler danskere, der modtager pensionstillæg udenfor EU/EØS, selvom de ikke har ret til det.
På en enkelt dag i april blev omkring 1,1 millioner pensionsmodtagere analyseret gennem AI-systemet.
Selvom overvågningen af næsten alle landets pensionister kunne tyde på en effektiv jagt på sociale bedragere, viser tallene noget andet. I løbet af 2023 førte denne overvågning kun til, at 36 pensionister fik stoppet eller reduceret deres ydelse, hvilket ligner niveauet fra tidligere år.
Det vækker bekymring blandt eksperter, som peger på, at de beskedne resultater ikke står mål med de omfattende indgreb i persondata.
Er det lovligt?
Professor Hanne Marie Motzfeldt, der er en førende ekspert i forvaltningsret og digitalisering, betegner mængden af data og de få påviste tilfælde af snyd som ”overvældende” og påpeger, at indsamlingen og behandlingen af persondata bør stå i et proportionalt forhold til formålet.
Ifølge hende kunne der være mere effektive og mindre indgribende måder at nå det samme mål på, for eksempel ved at målrette oplysning til udenlandsdanskere eller demente under værgemål.
Justitia, en dansk tænketank, har også tidligere udtrykt bekymring for, at denne form for AI-overvågning kan være i strid med EU’s persondataforordning (GDPR).
Hvis kontrolforanstaltningerne ikke står i forhold til målet, kan der være tale om en ulovlig indgriben i retten til privatliv og beskyttelse af persondata.
På trods af kritikken fastholder Udbetaling Danmark nødvendigheden af at analysere alle ydelsesmodtagere som led i deres kontrol.
Udbetaling Danmarks brug af AI-teknologi til overvågning af sociale ydelser har skabt en omfattende kontrolindsats, der påvirker over en million pensionister. Men med få påviste tilfælde af snyd står spørgsmålene om proportionalitet og lovlighed ubesvarede.
