https://mastodon.social/@smarken/117304123745580295
Et nyt udkast til AI-hjemmelsloven er i høring frem til 5. oktober. Det giver offentlige myndigheder hjemmel til at bruge AI som beslutningsstøtte, men ikke til automatiske afgørelser.
Da jeg læste det, blev jeg mindet om et citat, Jacob Haugaard gav fra Folketingets talerstol i 1995: "Min personlige opfattelse er, at jeg må stå over for sådan en flok halvuvederhæftige lystløgnere."
Jeg vil ikke kalde nogen lystløgnere. Men lovforslaget hænger slet ikke sammen i praksis.
Udfordringen her er, at sagsbehandleren ifølge forslaget skal tage reel stilling til det forslag, AI-systemet kommer med.
Men ministeriet skriver selv, at kravet til den menneskelige involvering ikke er fastlagt klart. Logning og dokumentation af afvigelser nævnes i den forbindelse som gode redskaber, men de er ikke et krav.
Det er simpelthen for dårligt. Al erfaring viser at myndigheder gør det, de bliver pålagt - og ikke mere end det.
Selvfølgelig ikke. De har også en økonomi, der skal hænge sammen, og tekniske kontroller er dyre både at implementere og drifte.
Lad os antage, at lovforslaget går igennem. Hvad sker der så, når en afgørelse bliver påklaget og behandlet et halvt år senere?
Hvis der ikke er krav om logning, hvordan dokumenterer myndigheden så, at sagsbehandleren ikke bare kopierede AI-systemets forslag?
Min helt store anke er, at forslaget ser stort på al erfaring fra arbejdet med GDPR og NIS2... og den praktiske konsekvens deraf er at både kommunerne og styrelserne efterlades uden at vide, hvad der egentlig kræves af dem. Nåh ja, og at borgerne efterlades uden garantier for deres retssikkerhed. https://www.linkedin.com/feed/update/urn:li:share:7506394167342788608/