smarken blog

Digital Sovrignty, Privacy, EU Law & Legislation, IT, Linux

En filippinsk kvinde, Maria, blev offer for digital kærlighedssvindel, da hun troede, hun havde indledt et forhold med Dubais kronprins, Hamdan bin Mohammed. Svindleren brugte en AI-genereret deepfake til at narre hende via live-videosamtaler og romantiske beskeder. Maria mistede sine opsparinger (ca. 17.600 DKK) til svindleren, der blandt andet krævede betaling for en falsk vielsesattest og et "kongeligt medlemskort". Sagen er del af et større mønster, hvor svindlere misbruger kronprinsens identitet og udnytter hans store tilstedeværelse på sociale medier. Forskere advarer om, at AI-teknologi gør svindlen stadig sværere at gennemskue, og at deepfake-videoer i realtid snart kan blive umulige at skelne fra ægte samtaler. Myndighederne i Dubai har endnu ikke kommenteret sagen.


Læs resten på Tjekdet https://www.tjekdet.dk/indsigt/maria-troede-dubais-kronprins-var-forelsket-i-hende

Linkedin skriver Paul Walsh bl.a. : Anthropic kræver nu identitetsverifikation ved hjælp af et gyldigt foto-ID udstedt af myndighederne (US), før visse Claude-funktioner kan låses op. ID-verifikationen udføres gennem Persona, et af Peter Thiel s porteføljeselskaber. "Papers, please" (vis papirer, tak).

At forbyde såkaldt farlige AI-modeller i national sikkerheds navns er den hurtigere vej. Denne måned slukkede Det Hvide Hus for Anthropics mest kapable modeller for alle ikke-amerikanske statsborgere – ikke kun for personer uden for USA.

Et enkelt identitetsselskab vil nu besidde identiteten på de fleste mennesker, der bruger de to føende AI-virksomheder i USA – herunder mennesker, der er mest udsatte for overvågning, og dem, der arbejder i højrisikomiljøer.

Paul's artikel på Linkedin


Resumé

1. Nye krav til identitetsverifikation

  • Anthropic kræver nu gyldigt foto-ID (via Persona, ejet af Peter Thiel) for at låse op for avancerede Claude-funktioner.
  • Det Hvide Hus har blokkeret adgang til Anthropics mest avancerede modeller for ikke-amerikanske brugere under påskud af national sikkerhed.

2. Politisk strategi og motivation

  • Delstaterne forsøger at forbyde teenagere fra sociale medier, hvilket tvinger voksne til at verificere deres identitet.
  • Føderal lovgivning er svær at vedtage, men AI-regulering bruges som en hurtigere vej til at indføre masseovervågning.
  • Børnesikkerhed og national sikkerhed bruges som politisk dækning for at kontrollere adgang og overvåge brugere.

3. Økonomiske og magtpolitiske interesser

  • Sam Altman (OpenAI) har længe ønsket identitetskontroller (se Worldcoin, der scanner øjne for krypto-tokens).
  • OpenAI bruger allerede Persona til verifikation og drager fordel af den nye normalisering.
  • Anthropic og OpenAI ser ud som konkurrenter, men samarbejder om reguleringer, der gør identitetsverifikation obligatorisk.
  • Amazon har investeret op til 33 milliarder dollars i Anthropic og udløste nedlukningen af deres mest avancerede modeller.

4. Sikkerhedsrisici og kontroverser

  • Personas kildekode blev lækt og var tilgængelig på en offentlig server – et sikkerhedsbrist, der underminerer tilliden til deres evne til at håndtere følsomme identitetsdata.
  • Et enkelt selskab (Persona) vil nu have adgang til identiteterne på de fleste brugere af de to føende AI-virksomheder i USA.

5. Konklusion: Overvågning og kontrol

  • Regeringer og tech-giganter bruger AI-regulering som et værktøj til at tvinge identitetsverifikation igennem.
  • Mønstret gentager sig globalt: Under dækning af sikkerhed og børnebeskyttelse indføres systemer, der kontrollerer adgang og overvåger borgere.
  • Hvis AI virkelig var farligt, ville det blive forbudt – i stedet bruges det som undskyldning for at indføre overvågning.

---

Spørgsmål til refleksion: Hvordan påvirker dette privatsfæren og ytringsfriheden for AI-brugere? Er der alternative løsninger til at håndtere sikkerhedsrisici uden masseovervågning? Vil andre lande følge USA’s eksempel med at kræve identitetsverifikation for AI-adgang?


Yderligere links til omtaler af emnet på nettet Anthropic : Identity verification on Claude

Reddit Anthropic to require government IDs and face scans for users

TheNewStack : Anthropic lays down identity verification on Claude

businessinsider : Claude is requiring some of its users to verify their identity. Here's Anthropic's explanation.

X [user] https://x.com/Pirat_Nation (med screenshots)


På Linkedin:

Tuta: US government shuts down Anthropic AI model – another proof why we need European digital sovereignty!

Fabio Ciucci, https://www.linkedin.com/feed/update/urn:li:share:7474459642048401408/

Persona, due to Thiel's links, is feared by some users to be a surveillance tool when it conducts its 260+ compliance checks, including comparing user uploads against government watchlists. It's not just Anthropic or Persona, but all US companies. The CLOUD Act, 18 U.S.C. Section 2713 forces U.S. companies to give the government data> stored inside or outside the country.


Chistian M. Andersen har lavet et super skriv, som også er super langt selv i linkedin-sammenhæng. -selv Stepahn Engberg kommer med næsten begejstrede kommentarer og det sætter lidt målet for kvaliteten.

Som ikke-akademiker ville det nok lidt tage pusten fra mig at skulle skrive et resume af artiklen, så jeg bad mistral om hjælp ;-)

Her er et struktureret resume af Christian M. Andersens artikel: (via chat.mistral.ai)

"Teknologiens kejser har ingen klæder – Myten om AI's uundgåelige dominans og revalueringen af den menneskelige kapital" (3. maj 2026).

Kernetese

Artiklen dekonstruerer myten om, at AI uundgåeligt vil erstatte menneskelig arbejdskraft på stor skala. Gennem empirisk forskning (bl.a. fra MIT, Gartner, NVIDIA, Uber) og økonomiske analyser argumenteres der for, at 77% af arbejdsopgaverne fortsat er billigere og mere effektive at udføre med mennesker – og at den aktuelle AI-hype er drevet af teknologisk determinisme, markedsføring og magtkoncentration snarere end økonomisk rationalitet.

Hovedpointer

  1. Den økonomiske illusion: AI er ikke altid omkostningseffektiv

MIT-studie (2024–2026): Kun 23% af opgaverne er økonomisk rentable at automatisere med AI (f.eks. computervision). For de resterende 77% er menneskelig arbejdskraft billigere, mere agil og pålidelig.

Årsager:

Tårnhøje driftsomkostninger: Store sprogmodeller (LLM’er) kræver kontinuerlig regnekraft, energi og vedligeholdelse (f.eks. NVIDIAs compute-omkostninger overstiger lønninger). "Jagged intelligence": AI excellerer i smalle domæner, men fejler katastrofalt i tilstødende opgaver → kræver menneskelig overvågning. Aftagende marginalafkast: At forbedre AI fra "god" til "nær-perfekt" kræver eksponentielt mere regnekraft (Acemoglu, 2024: 0,66% stigning i produktivitet over 10 år).

Eksempler:

Uber (2026): AI-budget for Claude (Anthropic) "fordampede" midt på året → virksomheden må ansætte flere ingeniører. Gartner (2026): Kun 28% af AI-projekter leverer forventet ROI; 20% fejler totalt (årsager: manglende kompetencer, dårlig datakvalitet).

  1. Afmonteringen af "eksponeringsmyten"

MIT CSAIL (2024–2026): Det er irrelevant, hvad AI kan gøre i laboratorier. Det afgørende er, hvad der er økonomisk rentabelt at automatisere.

Upfront-omkostninger: Skræddersyning, datarensning, træning og vedligeholdelse gør AI dyrere end lønninger for de fleste opgaver. Gradvis udrulning: Selv med 20% årlig prisnedsættelse på AI-systemer, vil det tage årtier, før automatisering bliver bredt rentabel.

Generative AI (LLM’er):

MIT-studie (2026): De bedste modeller (GPT-5, Claude Opus) klarer 50% succesrate for opgaver, der tager mennesker 3–4 timer (2024). I 2025 forventes dette at gælde for ugelange opgaver – men fuld automatisering (80–95% succesrate) først i 2029–2030’erne. "Human-in-the-loop" er nødvendig: AI fejler 5–20% af tiden i kritiske workflows → menneskelig ekspertise skal rette op, hvilket underminerer gevinsten.

  1. AI’s produktivitetsparadoks: Mere aktivitet, færre resultater

Gartner (2026):

Traditionel AI (maskinlæring) giver 37% produktivitetsgevinst. Generativ AI (GenAI) giver kun 34% – mindre end forventet. Årsager:

"Job creep": AI sænker tærsklen for at starte opgaver → medarbejdere påtager sig flere opgaver (f.eks. produktchefer skriver kode). Eksperter belastes: Specialister (f.eks. ingeniører) skal rette AI-genereret "vibe coding" (upålidelig kode) → arbejdsbyrde fordobles. Operationel friktion: GenAI skaber kaos i arbejdsgange og mistillid (f.eks. supply chain-studie: 72% implementerede GenAI, men gevinsterne kaskaderede ikke gennem organisationen).

Løsningen (Gartner):

Succesfulde virksomheder investerer 4x mere i datakvalitet, governance og opkvalificering end i AI-software.

  1. Den moralske omkostning: Magt, etik og dehumanisering

Hegemoni og magtkoncentration:

NVIDIA, Google, Meta kontrollerer infrastruktur, data og lobbyisme → skaber digital kolonialisme (udnyttelse af billig arbejdskraft i Global Syd til træning af AI). Gramscis kulturelle hegemoni: Narrativet om AI’s "uundgåelighed" er konstrueret af tech-giganter for at sælge hardware og frygt.

Etiske risici:

Overvågning og alienation: Algorithmer bruges til at måle medarbejderes præstation sekund for sekund → faldende moral og produktivitet (UK Parliament, 2026). "Omsorg erstattet med koder": AI reducerer komplekse sociale fænomener (f.eks. kundesager) til datapunkter → tab af empati og nuanceret dømmekraft. Irreversibel implementering: Når AI er dybt integreret, er det umuligt at fjerne bias eller tilføje etik bagefter (Tirana Business University, 2026).

Ledelsens rolle:

Ledere må skifte fra supervisorer til etiske arkitekter, der sikrer transparens, retfærdighed og menneskelig agens. Fare: Hvis AI erstatter menneskelig dømmekraft i kritiske beslutninger (f.eks. lån, kundeservice), eroderer tilliden til virksomheden.

Konklusion: Teknologiens kejser er nøgen

Økonomisk realitet:

77% af opgaverne er for dyre at automatisere med nuværende AI. Menneskelig arbejdskraft er billigere, mere pålidelig og kontekstforstående.

Teknologisk realitet:

AI udvikler sig som "stigende vand" (gradvis) – ikke en styrtbølge (pludselig disruption). Fuld automatisering (80–95% succesrate) først i 2029–2030’erne – og kræver menneskelig supervision.

Ledelsesmæssig realitet:

AI er ikke en tryllestav – 28% succesrate for AI-projekter viser, at kultur og proces er afgørende. Investering i mennesker (opkvalificering, governance) giver højere afkast end investering i sorte bokse.

Moralsk realitet:

AI må forstærke – ikke erstatte – mennesker. Etik og transparens skal indbygges fra dag 1, ellers risikerer virksomheder tab af tillid og legitimitet.

Opgør med myterne

  • "AI tager alle jobs": Falsk. Kun 23% af opgaverne er rentable at automatisere.
  • "AI er billigere end mennesker": Falsk. Driftsomkostninger (compute, energi, vedligehold) overstiger lønninger.
  • "AI løser alle problemer": Falsk. 38% af projekterne fejler pga. manglende kompetencer og dårlig data.
  • "AI er uundgåeligt": Falsk. Det er et konstrueret narrativ drevet af tech-giganters magt.

Fremtidens vindere

De organisationer, der lykkes, er dem, der:

✅ Fokuserer på menneskelig kapital (opkvalificering, trivsel).

✅ Investerer i datakvalitet og governance (4x mere end i AI-software).

✅ Anvender AI til at forstærke – ikke erstatte – mennesker.

✅ Prioriterer etik og transparens fra start.

Afsluttende observation

"Teknologiens kejser har ingen klæder. Frelsen findes ikke i koden alene – den findes i det menneske, kejseren febrilsk forsøgte at fyre."

Original her

Skoleleder Jonas Fisker slår i et debatindlæg i Skolemonitor på tromme for, at »ai kan løfte undervisningen til et nyt niveau«. Jonas Fisker vil uden tvivl skolens bedste, men indlægget bygger på nogle forkerte præmisser.

Undervisningens formål er, at eleverne, i samspil med deres generelle dannelse, lærer et udvalg af fagenes viden. Spørgsmålet er, om ai kan bidrage til dette.

Teoretisk set kan man godt forestille sig, at ai i særlige tilfælde vil kunne bruges til at støtte nogle elevers læring af noget bestemt – men vi har intet empirisk belæg for det.

Og det er ret beset uansvarligt at gøre alle elever (og lærere) til forsøgskaniner for utallige mislykkede forsøg, der måske nok er ’spændende’, men som kun måske på et tidspunkt kan føre til en læringsmæssigt frugtbar anvendelse for ai.

Hvis vi gerne vil afsøge mulighederne for, at ai kan bidrage positivt til elevernes læring, må vi forlange, at professionen gennem systematisk udviklingsarbejde finder ud af, hvordan dette kan foregå.

Først da giver det mening for alvor at udbrede ai i undervisningen.

Idéen om, at ai kan »løfte undervisningen« generelt, har lige så meget gang på jord som idéen om, at ipads, elektroniske tavler, computere og fagportaler kan. Eller kunne. Eller rettere ikke kunne.

Matematik som eksempel Danmark er det land i verden, hvor eleverne (og lærerne) bruger it mest.

Med matematik som eksempel dækker dette både over generelle værktøjer som elektroniske tavler, computere og fagportaler og specifik software som regneark, geometriprogrammer og Computer Algebra Systems (CAS) mm.

Også til afgangsprøverne er anvendelsen af it taget til.

Samtidig med en konstant stigende brug af flere og flere former for it i undervisningen, steg andelen af elever, der anvendte it til at løse opgaver til afgangsprøven i matematik i årene fra 2011-2018 fra 2 procent til 95 procent. I samme periode ’steg’ gennemsnitskarakteren fra 6,6 til 6,9. I 2025 var den igen 6,6.

Heller ikke inden for konkrete emner, har it løftet undervisningen. For eksempel har matematikundervisningen længe været begunstiget med GeoGebra, der er et fantastisk (gratis og open source) geometriprogram med indbygget CAS.

Der findes utallige kurser, materialer og videoer om, hvordan GeoGebra kan bruges i undervisningen af geometri, ligninger og funktioner mm. Alligevel har vi ikke set det mindste ’løft’ af elevernes kundskaber inden for de emner.

Hverken digitale tavler, ipads, computere, kontorpakker eller fagspecifikt software har øget elevernes udbytte af undervisningen. Hvorfor skulle det blive anderledes med ai?

Men der er andre – og måske værre – problemer.

Lyngby-Taarbæk Kommune som eksempel Som henholdsvis nuværende forælder og tidligere faglig konsulent i Lyngby-Taarbæk Kommune har vi en særlig og kærlig interesse i dens skolevæsen.

Det er samtidig der, Jonas Fisker er skoleleder, så vi vil bruge et par eksempler derfra til at belyse problematikken.

Ved inspektion af en af de computere, elever får udleveret i Lyngby-Taarbæk, har it-sikkerhedsspecialist Pia Tesdorf vist, at der reelt ikke er nogen sikkerhed.

Det betyder blandt andet, at børn i 10-11-årsalderen frit kan tilgå bandt andet shopping, spil og beskedtjenester men også selvskadevideoer, online gambling og hardcore porno

Det betyder samtidig, at elevernes brug af skolecomputere er direkte associeret med dataanalytisk profilering af vores børn. Dette bruges på baggrund af økonomiske interesser til at påvirke vores børns tænkning og adfærd.

Når Jonas Fisker mener, at vi ikke skal værne børnene mod dén teknologiske udvikling, må det være udtryk for en tanketorsk.

Det har store omkostninger Ved siden af disse negative effekter står fraværet af positive udbytter i skærende kontrast til omkostningerne. Både i form af kroner og ører og i form af opportunity costs, det vil sige de alternativer, vi ikke kunne bruge de samme penge og den samme tid på.

Vi har som stat, kommuner og skoler betalt med uanede mængder penge og – går det efterhånden op for os – data, der bruges til profitskabende profilering og påvirkning af vores egne børn af kød og blod.

En aktindsigt viser, at Lyngby-Taarbæk Kommune årligt bruger over 10 millioner kroner på undervisningsrelateret hardware og software.

I kommunen arbejder 34,5 medarbejdere med it inden for grundskolen. Hvor stor en del af disses arbejde, der er direkte relateret til it-brug i undervisningen, er ligeså uklart som, hvor mange timer it-vejledere og lærere på de enkelte skoler bruger på det.

Ligesom landets øvrige kommuner bruger Lyngby-Taarbæk rigtig mange penge på at drive og udvikle it, der kan forbindes med nul positiv effekt på elevernes læring og en negativ effekt på elevernes trivsel.

Empirisk set har vi ingen grund til at tro, at ai eller anden it kan levere noget afgørende positivt til elevernes læring og trivsel i undervisningen.

Teoretisk set kan det måske lade sig gøre, men indtil vi har fundet et forsvarligt svar på hvordan, er vores og vores børns ressourcer brugt bedre analogt.