Kunstig intelligens (AI) spiller en stadig større rolle i det offentlige Danmark, hvor beslutninger i stigende grad træffes ved hjælp af digitale systemer. Men trods den omfattende brug er der kun begrænset indsigt i, hvor og hvordan AI bliver anvendt.

Adjunkt Aysel Küçüksu og lektor Zuzanna Godzimirska fra Det Juridiske Fakultet på Københavns Universitet har nu lanceret databasen Offentlig AI, som giver et samlet overblik over anvendelsen af kunstig intelligens i det offentlige. Dabasen skaber gennemsigtighed og rejser vigtige etiske spørgsmål.

Projektet er støttet af Dreyers Fond.

AI’s etiske og juridiske udfordringer

AI-systemer kræver store mængder data, ofte med personfølsomme oplysninger som helbred, etnicitet og køn. Det skaber udfordringer med at beskytte borgernes privatliv og medfører også en risiko for diskrimination og stigmatisering af bestemte borgere eller befolkningsgrupper.

Ét af de mest omtalte eksempler er ETIAS (European Travel Information and Authorisation System), som anvendes til profilering og screening af tredjelandsstatsborgere ved indrejse i Schengen-området. Systemet har været genstand for kritik på grund af bekymringer om diskrimination og manglende gennemsigtighed.

Derudover kan automatiserede beslutninger udfordre menneskelig dømmekraft. Når AI træffer valg eller kommer med anbefalinger, kan det føre til blind tillid til systemerne. Det kræver en bevidst indsats at bevare den kritiske vurdering hos beslutningstagere – især i komplekse sager med konsekvenser for borgeres liv.

Endelig rejser den udbredte anvendelse af AI-systemer i det offentlige demokratiske udfordringer. AI-systemer kan være svære at forstå for både borgere og beslutningstagere.

Et værktøj til gennemsigtighed

Ideen til databasen opstod for et par år siden, da Aysel Küçüksu og Zuzanna Godzimirska ville udfordre deres studerende til at overveje, hvilken effekt offentlige myndigheders anvendelse af AI kunne have på vores menneskerettigheder.

“Vi fandt dog hurtigt ud af, at det at finde information 𝘰𝘮 de AI-systemer, som anvendes af offentlige myndigheder i Danmark, ville vise sig at være mindst lige så udfordrende som at overveje disses effekt på menneskerettighederne. Der fandtes simpelthen ingen samlet oversigt over brugen af AI i det offentlige. Databasen er et første skridt i retning af at byde offentligheden sådan en oversigt,” siger lektor Zuzanna Godzimirska.

Med bidrag fra studerende inden for jura, psykologi, filosofi, tekno-antropologi, data science og idéhistorie er over 60 konkrete AI-systemer blevet kortlagt og samlet i databasen. Brugere kan søge efter konkrete AI-systemer ud fra, hvad de bruges til, hvilken (type) myndighed de bruges af, deres geografiske anvendelsesområde m.m.

Udover de forskellige AI-systemer samler hjemmesiden også en række forsknings- og nyhedsartikler, rapporter, og andre relevante kilder, der belyser teknologiernes anvendelse og virkninger.

Et nødvendigt indblik

Offentlig AI-databasen er ikke kun et redskab for forskere, men også for borgere og beslutningstagere, der ønsker at forstå, hvordan AI påvirker deres hverdag. Med den voksende digitalisering er behovet for indsigt og kritisk refleksion om AI’s rolle i samfundet større end nogensinde. Gennemsigtighed om anvendelsen af kunstig intelligens er afgørende for at sikre demokratisk kontrol og ansvarlig anvendelse.

Databasen er ikke komplet endnu, og det skyldes flere udfordringer, forklarer Aysel Küçüksu og Zuzanna Godzimirska. For det første udvikler brugen af kunstig intelligens sig hurtigt, og nye systemer kommer hele tiden til. For det andet er det ofte svært at finde ud af, hvilke offentlige myndigheder der faktisk bruger AI, og hvordan de gør det. Oplysningerne om de konkrete systemer og de data, de bygger på, er ikke altid offentligt tilgængelige – nogle gange er de ligefrem umulige at få fat i. Derfor vil databasen løbende blive opdateret, efterhånden som nye informationer kommer frem.

Databasen Offentlig AI er ikke desto mindre en milepæl i arbejdet med at skabe en mere gennemsigtig og ansvarlig brug af kunstig intelligens i Danmark og vil fremover kunne understøtte både forskning og offentlig debat.

“Lad os udfordre offentlige myndigheder til mere åbenhed og gennemsigtighed på områder, især hvor AI bidrager til beslutninger, der direkte berører borgere og deres rettigheder. Og lad os lære af de fejl, der er begået, når vi overvejer AI i det offentlige i fremtiden,” siger Zuzanna Godzimirska.

Se databasen Offentlig AI: offentlig-ai.dk

Topfoto: hjemmesidens hovedbillede, genereret af AI