smarken blog

Digital Sovrignty, Privacy, EU Law & Legislation, IT, Linux

AI - LLM

AI - LLM

En filippinsk kvinde, Maria, blev offer for digital kærlighedssvindel, da hun troede, hun havde indledt et forhold med Dubais kronprins, Hamdan bin Mohammed. Svindleren brugte en AI-genereret deepfake til at narre hende via live-videosamtaler og romantiske beskeder. Maria mistede sine opsparinger (ca. 17.600 DKK) til svindleren, der blandt andet krævede betaling for en falsk vielsesattest og et "kongeligt medlemskort". Sagen er del af et større mønster, hvor svindlere misbruger kronprinsens identitet og udnytter hans store tilstedeværelse på sociale medier. Forskere advarer om, at AI-teknologi gør svindlen stadig sværere at gennemskue, og at deepfake-videoer i realtid snart kan blive umulige at skelne fra ægte samtaler. Myndighederne i Dubai har endnu ikke kommenteret sagen.


Læs resten på Tjekdet https://www.tjekdet.dk/indsigt/maria-troede-dubais-kronprins-var-forelsket-i-hende

Resumé: Mythos/NSA-brudpåstanden – Hvad er egentlig bekræftet?


Kilde : https://thecybersecguru.com/news/mythos-nsa-breach-claim/


🔍 Hovedpåstanden og dens oprindelse

  • Kernen i nyheden stammer fra ét citat fra Senator Mark Warner (D-VA), der den 11. juni 2026 fortalte, at NSA-chefen, General Joshua Rudd, havde sagt:

    "Anthropics Mythos-model brød ind i næsten alle vores klassificerede systemer – ikke på uger, men på få timer." Citatet blev bragt af The Economist den 14. juni 2026 i forbindelse med eksportkontrolforbuddet mod Fable 5 og Mythos 5.

  • Problem: Der findes ingen officielle rapporter, tekniske bulletins eller uafhængige bekræftelser af:

    • Metoden (hvordan bruddet skete).
    • Omfanget (hvilke systemer var involveret).
    • Konteksten (var det et reelt angreb, en red-team-test, eller noget tredje?).
  • Kontekst om Rudd: Han er karriereofficer fra specialoperationer (Army Ranger, Delta Force) – ikke en cyber- eller SIGINT-ekspert. Hans udnævnelse som NSA-chef var kontroversiel (71-29 afstemning i Senatet), og nogle senatorer (f.eks. Ron Wyden) kritiserede hans manglende erfaring inden for cyber.



🏢 Anthropics officielle udtalelse – og hvad de ikke siger

Anthropic bekræftede i en officiel udtalelse (link): - Direktivet ankom 12. juni 2026 kl. 17:21 ET og krævede øjeblikkelig nedlukning af Fable 5 og Mythos 5 for alle udenlandske statsborgere (inkl. Anthropics egne medarbejdere). - Da det var upraktisk at kontrollere nationalitet i realtid, lukkede Anthropic begge modeller ned globalt.

  • Årsagen: Et "smal, ikke-universelt jailbreak" af Fable 5, hvor modellen kunne læse kode og identificere sårbarheder – noget, som andre modeller (f.eks. GPT-5.5) også kan.

    • Anthropic understregede, at de ikke fandt nogen "universel" jailbreak (en, der fjerner alle restriktioner) under tusinder af timers red-team-testing med USA, UK og eksterne organisationer.
  • Kritik af regeringen: Anthropic kaldte forbuddet "uforholdsmæssigt" og et "misforståelse", da modellen allerede var i brug hos hundreder af millioner af brugere.

  • Mærkværdig undladelse: Anthropics udtalelse nævner slet ikke Rudds citat, NSA-bruddet eller Warners beretning. Deres egen forklaring drejer sig udelukkende om jailbreaket, ikke om et brud på NSA’s systemer.



🔄 Tre konkurrerende teorier om, hvad der udløste forbuddet

  1. Jailbreak-teorien (Anthropics version)

    • Et smal, ikke-universelt jailbreak af Fable 5, der tillod modellen at læse kode og finde sårbarheder.
  2. NSA-red-team-teorien (Warner/Rudd-versionen)

    • Mythos brød ind i NSA’s klassificerede systemer på få timer under en godkendt test (red-team-øvelse), hvor NSA testede modellen mod egne systemer – med uventet succes.
    • Ikke et reelt brud, men en overraskende kapacitet, der chokerede regeringen.
  3. Sydkorea/Kina-teorien (SK Telecom-versionen)

    • SK Telecom (Sydkorea) fik adgang til Mythos 5 via Project Glasswing, og USA var bekymret for SK Telecoms forbindelser til Kina – frygten var, at modellen kunne nå Kina indirekte.
  • Konklusion: Alle tre teorier udelukker ikke hinanden. Mediedækningen har for det meste blandet dem sammen til én historie.


📌 Baggrund: Hvad er Mythos og Project Glasswing?

  • Mythos er en frontier-model fra Anthropic med ekstraordinære offensive cybersikkerhedskapaciteter – den kan autonomt finde og udnytte sårbarheder i software.
  • Project Glasswing er et kontrolleret adgangsprogram, hvor Mythos blev udrullet til udvalgte partnere (f.eks. Amazon, Apple, Google, Microsoft, NSA) for at forbedre cybersikkerhed.
    • Startede med ~12 partnere (april 2026), voksede til ~150 organisationer i 15+ lande (juni 2026).
  • Kapaciteter:
    • Ifølge UK AI Security Institute er Mythos et betydeligt skridt fremad i ekspert-niveau hacking-opgaver.
    • Anthropic hævder, at modellen fandt sårbarheder i alle store operativsystemer og browsere, den blev testet mod.


⚔️ Forholdet til Forsvarsministeriet: Allerede anspændt

  • Juli 2025: Anthropic underskrev en $200M kontrakt med DoD, der forbød brug af Claude til masseovervågning eller autonome våben.
  • Januar 2026: DoD krævede, at Anthropic fjernede restriktionerneAnthropic afviste.
  • Februar 2026: Pentagon designerede Anthropic som en "Supply-Chain Risiko" og beordrede faseud af deres teknologi i føderale agenturer.
  • Marts 2026: Anthropic sagde DoD for ulovlig designation.
  • April 2026: NSA brugte alligevel Mythos (trods DoDs forbud) til at scanne egne systemer for sårbarheder.
  • Juni 2026: NSA beholdt adgang til Mythos Preview, selv efter Fable 5/Mythos 5 blev lukket ned for alle andre.

Paradox: NSA bruger Mythos operationelt, mens DoD har sortlistet Anthropic, og Handelsministeriet har forbudt adgang for udenlandske brugere.


enter image description here


🔎 Hvad ved vi ikke med sikkerhed?

  • Metoden bag det påståede NSA-brud (var det en red-team-test eller et reelt angreb?).
  • Omfanget (hvilke systemer var involveret?).
  • Hvorvidt SK Telecoms adgang var den primære udløser for forbuddet.
  • Præcise tal for Mythos’ kapaciteter (nogle kilder nævner 17- eller 27 år gamle zero-days, men disse er ubekræftede).

---

🎯 Kernekonklusioner

  1. Hovedpåstanden (Mythos brød ind i NSA’s systemer) stammer fra ét citat fra Senator Warner, der ikke er uafhængigt bekræftet.
  2. Anthropics officielle forklaring drejer sig om et smal jailbreak, ikke om et NSA-brud.
  3. Tre teorier om udløseren:
    • Jailbreak (Anthropic).
    • NSA-red-team-test (Warner/Rudd).
    • SK Telecom/Kina-adgang (medier).
  4. Baggrunden er kompleks:
    • NSA bruger Mythos, mens DoD har sortlistet Anthropic.
    • Eksportkontrol (normalt mod fjender) blev brugt mod en amerikansk virksomhed.
  5. Status (21. juni 2026):
    • Fable 5/Mythos 5 forbliver nedlukket for generel adgang.
    • Nogle Glasswing-partnere beholdt adgang.
    • Ingen fast dato for genoprettelse.

---

💡 Det store billede

Sagen illustrerer en strukturel konflikt i USA’s håndtering af frontier AI: - Regeringen bruger og forbuder den samme teknologi samtidigt. - Eksportkontrol (et værktøj mod fjender) bliver brugt mod egne borgere og allierede. - Uklare motiver: Er forbuddet på grund af jailbreaket, NSA’s testresultater, eller frygt for Kina-adgang?

Uanset sandheden om Rudd-citatet viser sagen, hvordan AI nu er en national sikkerhedssag – med juridiske, tekniske og politiske modstridigheder, der vil præge debatten i lang tid.


Andre kilder

https://letsdatascience.com/news/mythos-ai-demonstrates-hacking-power-raises-concerns-47bc1a80 https://www.bbc.com/news/articles/cy41zejp9pko

https://msukhareva.substack.com/p/claude-code-leaks-mythos-escapes


Claude (2025) https://www.wizcase.com/news/anthropic-reveals-hacker-used-ai-for-cyberattacks/

Om få år kan det være billigere at rense danskernes drikkevand end at beskytte det mod forurening, hævder "professor Anne Kjær Nielsen fra DTU" i Berlingske. Der er bare ét problem: Hun findes ikke

I en artikel I Berlingske citeres eksperter der ikke findes eller har udtalt sig. Information har undersøgt sagen og fundet at de ikke eksisterer eller ikke har udtalt sig til Berlingske. Personen og argumentationen er opfundet af AI og ved en fejl kommet med i artiklen.

Opslag på Linkedin

Chistian M. Andersen har lavet et super skriv, som også er super langt selv i linkedin-sammenhæng. -selv Stepahn Engberg kommer med næsten begejstrede kommentarer og det sætter lidt målet for kvaliteten.

Som ikke-akademiker ville det nok lidt tage pusten fra mig at skulle skrive et resume af artiklen, så jeg bad mistral om hjælp ;-)

Her er et struktureret resume af Christian M. Andersens artikel: (via chat.mistral.ai)

"Teknologiens kejser har ingen klæder – Myten om AI's uundgåelige dominans og revalueringen af den menneskelige kapital" (3. maj 2026).

Kernetese

Artiklen dekonstruerer myten om, at AI uundgåeligt vil erstatte menneskelig arbejdskraft på stor skala. Gennem empirisk forskning (bl.a. fra MIT, Gartner, NVIDIA, Uber) og økonomiske analyser argumenteres der for, at 77% af arbejdsopgaverne fortsat er billigere og mere effektive at udføre med mennesker – og at den aktuelle AI-hype er drevet af teknologisk determinisme, markedsføring og magtkoncentration snarere end økonomisk rationalitet.

Hovedpointer

  1. Den økonomiske illusion: AI er ikke altid omkostningseffektiv

MIT-studie (2024–2026): Kun 23% af opgaverne er økonomisk rentable at automatisere med AI (f.eks. computervision). For de resterende 77% er menneskelig arbejdskraft billigere, mere agil og pålidelig.

Årsager:

Tårnhøje driftsomkostninger: Store sprogmodeller (LLM’er) kræver kontinuerlig regnekraft, energi og vedligeholdelse (f.eks. NVIDIAs compute-omkostninger overstiger lønninger). "Jagged intelligence": AI excellerer i smalle domæner, men fejler katastrofalt i tilstødende opgaver → kræver menneskelig overvågning. Aftagende marginalafkast: At forbedre AI fra "god" til "nær-perfekt" kræver eksponentielt mere regnekraft (Acemoglu, 2024: 0,66% stigning i produktivitet over 10 år).

Eksempler:

Uber (2026): AI-budget for Claude (Anthropic) "fordampede" midt på året → virksomheden må ansætte flere ingeniører. Gartner (2026): Kun 28% af AI-projekter leverer forventet ROI; 20% fejler totalt (årsager: manglende kompetencer, dårlig datakvalitet).

  1. Afmonteringen af "eksponeringsmyten"

MIT CSAIL (2024–2026): Det er irrelevant, hvad AI kan gøre i laboratorier. Det afgørende er, hvad der er økonomisk rentabelt at automatisere.

Upfront-omkostninger: Skræddersyning, datarensning, træning og vedligeholdelse gør AI dyrere end lønninger for de fleste opgaver. Gradvis udrulning: Selv med 20% årlig prisnedsættelse på AI-systemer, vil det tage årtier, før automatisering bliver bredt rentabel.

Generative AI (LLM’er):

MIT-studie (2026): De bedste modeller (GPT-5, Claude Opus) klarer 50% succesrate for opgaver, der tager mennesker 3–4 timer (2024). I 2025 forventes dette at gælde for ugelange opgaver – men fuld automatisering (80–95% succesrate) først i 2029–2030’erne. "Human-in-the-loop" er nødvendig: AI fejler 5–20% af tiden i kritiske workflows → menneskelig ekspertise skal rette op, hvilket underminerer gevinsten.

  1. AI’s produktivitetsparadoks: Mere aktivitet, færre resultater

Gartner (2026):

Traditionel AI (maskinlæring) giver 37% produktivitetsgevinst. Generativ AI (GenAI) giver kun 34% – mindre end forventet. Årsager:

"Job creep": AI sænker tærsklen for at starte opgaver → medarbejdere påtager sig flere opgaver (f.eks. produktchefer skriver kode). Eksperter belastes: Specialister (f.eks. ingeniører) skal rette AI-genereret "vibe coding" (upålidelig kode) → arbejdsbyrde fordobles. Operationel friktion: GenAI skaber kaos i arbejdsgange og mistillid (f.eks. supply chain-studie: 72% implementerede GenAI, men gevinsterne kaskaderede ikke gennem organisationen).

Løsningen (Gartner):

Succesfulde virksomheder investerer 4x mere i datakvalitet, governance og opkvalificering end i AI-software.

  1. Den moralske omkostning: Magt, etik og dehumanisering

Hegemoni og magtkoncentration:

NVIDIA, Google, Meta kontrollerer infrastruktur, data og lobbyisme → skaber digital kolonialisme (udnyttelse af billig arbejdskraft i Global Syd til træning af AI). Gramscis kulturelle hegemoni: Narrativet om AI’s "uundgåelighed" er konstrueret af tech-giganter for at sælge hardware og frygt.

Etiske risici:

Overvågning og alienation: Algorithmer bruges til at måle medarbejderes præstation sekund for sekund → faldende moral og produktivitet (UK Parliament, 2026). "Omsorg erstattet med koder": AI reducerer komplekse sociale fænomener (f.eks. kundesager) til datapunkter → tab af empati og nuanceret dømmekraft. Irreversibel implementering: Når AI er dybt integreret, er det umuligt at fjerne bias eller tilføje etik bagefter (Tirana Business University, 2026).

Ledelsens rolle:

Ledere må skifte fra supervisorer til etiske arkitekter, der sikrer transparens, retfærdighed og menneskelig agens. Fare: Hvis AI erstatter menneskelig dømmekraft i kritiske beslutninger (f.eks. lån, kundeservice), eroderer tilliden til virksomheden.

Konklusion: Teknologiens kejser er nøgen

Økonomisk realitet:

77% af opgaverne er for dyre at automatisere med nuværende AI. Menneskelig arbejdskraft er billigere, mere pålidelig og kontekstforstående.

Teknologisk realitet:

AI udvikler sig som "stigende vand" (gradvis) – ikke en styrtbølge (pludselig disruption). Fuld automatisering (80–95% succesrate) først i 2029–2030’erne – og kræver menneskelig supervision.

Ledelsesmæssig realitet:

AI er ikke en tryllestav – 28% succesrate for AI-projekter viser, at kultur og proces er afgørende. Investering i mennesker (opkvalificering, governance) giver højere afkast end investering i sorte bokse.

Moralsk realitet:

AI må forstærke – ikke erstatte – mennesker. Etik og transparens skal indbygges fra dag 1, ellers risikerer virksomheder tab af tillid og legitimitet.

Opgør med myterne

  • "AI tager alle jobs": Falsk. Kun 23% af opgaverne er rentable at automatisere.
  • "AI er billigere end mennesker": Falsk. Driftsomkostninger (compute, energi, vedligehold) overstiger lønninger.
  • "AI løser alle problemer": Falsk. 38% af projekterne fejler pga. manglende kompetencer og dårlig data.
  • "AI er uundgåeligt": Falsk. Det er et konstrueret narrativ drevet af tech-giganters magt.

Fremtidens vindere

De organisationer, der lykkes, er dem, der:

✅ Fokuserer på menneskelig kapital (opkvalificering, trivsel).

✅ Investerer i datakvalitet og governance (4x mere end i AI-software).

✅ Anvender AI til at forstærke – ikke erstatte – mennesker.

✅ Prioriterer etik og transparens fra start.

Afsluttende observation

"Teknologiens kejser har ingen klæder. Frelsen findes ikke i koden alene – den findes i det menneske, kejseren febrilsk forsøgte at fyre."

Original her

Skoleleder Jonas Fisker slår i et debatindlæg i Skolemonitor på tromme for, at »ai kan løfte undervisningen til et nyt niveau«. Jonas Fisker vil uden tvivl skolens bedste, men indlægget bygger på nogle forkerte præmisser.

Undervisningens formål er, at eleverne, i samspil med deres generelle dannelse, lærer et udvalg af fagenes viden. Spørgsmålet er, om ai kan bidrage til dette.

Teoretisk set kan man godt forestille sig, at ai i særlige tilfælde vil kunne bruges til at støtte nogle elevers læring af noget bestemt – men vi har intet empirisk belæg for det.

Og det er ret beset uansvarligt at gøre alle elever (og lærere) til forsøgskaniner for utallige mislykkede forsøg, der måske nok er ’spændende’, men som kun måske på et tidspunkt kan føre til en læringsmæssigt frugtbar anvendelse for ai.

Hvis vi gerne vil afsøge mulighederne for, at ai kan bidrage positivt til elevernes læring, må vi forlange, at professionen gennem systematisk udviklingsarbejde finder ud af, hvordan dette kan foregå.

Først da giver det mening for alvor at udbrede ai i undervisningen.

Idéen om, at ai kan »løfte undervisningen« generelt, har lige så meget gang på jord som idéen om, at ipads, elektroniske tavler, computere og fagportaler kan. Eller kunne. Eller rettere ikke kunne.

Matematik som eksempel Danmark er det land i verden, hvor eleverne (og lærerne) bruger it mest.

Med matematik som eksempel dækker dette både over generelle værktøjer som elektroniske tavler, computere og fagportaler og specifik software som regneark, geometriprogrammer og Computer Algebra Systems (CAS) mm.

Også til afgangsprøverne er anvendelsen af it taget til.

Samtidig med en konstant stigende brug af flere og flere former for it i undervisningen, steg andelen af elever, der anvendte it til at løse opgaver til afgangsprøven i matematik i årene fra 2011-2018 fra 2 procent til 95 procent. I samme periode ’steg’ gennemsnitskarakteren fra 6,6 til 6,9. I 2025 var den igen 6,6.

Heller ikke inden for konkrete emner, har it løftet undervisningen. For eksempel har matematikundervisningen længe været begunstiget med GeoGebra, der er et fantastisk (gratis og open source) geometriprogram med indbygget CAS.

Der findes utallige kurser, materialer og videoer om, hvordan GeoGebra kan bruges i undervisningen af geometri, ligninger og funktioner mm. Alligevel har vi ikke set det mindste ’løft’ af elevernes kundskaber inden for de emner.

Hverken digitale tavler, ipads, computere, kontorpakker eller fagspecifikt software har øget elevernes udbytte af undervisningen. Hvorfor skulle det blive anderledes med ai?

Men der er andre – og måske værre – problemer.

Lyngby-Taarbæk Kommune som eksempel Som henholdsvis nuværende forælder og tidligere faglig konsulent i Lyngby-Taarbæk Kommune har vi en særlig og kærlig interesse i dens skolevæsen.

Det er samtidig der, Jonas Fisker er skoleleder, så vi vil bruge et par eksempler derfra til at belyse problematikken.

Ved inspektion af en af de computere, elever får udleveret i Lyngby-Taarbæk, har it-sikkerhedsspecialist Pia Tesdorf vist, at der reelt ikke er nogen sikkerhed.

Det betyder blandt andet, at børn i 10-11-årsalderen frit kan tilgå bandt andet shopping, spil og beskedtjenester men også selvskadevideoer, online gambling og hardcore porno

Det betyder samtidig, at elevernes brug af skolecomputere er direkte associeret med dataanalytisk profilering af vores børn. Dette bruges på baggrund af økonomiske interesser til at påvirke vores børns tænkning og adfærd.

Når Jonas Fisker mener, at vi ikke skal værne børnene mod dén teknologiske udvikling, må det være udtryk for en tanketorsk.

Det har store omkostninger Ved siden af disse negative effekter står fraværet af positive udbytter i skærende kontrast til omkostningerne. Både i form af kroner og ører og i form af opportunity costs, det vil sige de alternativer, vi ikke kunne bruge de samme penge og den samme tid på.

Vi har som stat, kommuner og skoler betalt med uanede mængder penge og – går det efterhånden op for os – data, der bruges til profitskabende profilering og påvirkning af vores egne børn af kød og blod.

En aktindsigt viser, at Lyngby-Taarbæk Kommune årligt bruger over 10 millioner kroner på undervisningsrelateret hardware og software.

I kommunen arbejder 34,5 medarbejdere med it inden for grundskolen. Hvor stor en del af disses arbejde, der er direkte relateret til it-brug i undervisningen, er ligeså uklart som, hvor mange timer it-vejledere og lærere på de enkelte skoler bruger på det.

Ligesom landets øvrige kommuner bruger Lyngby-Taarbæk rigtig mange penge på at drive og udvikle it, der kan forbindes med nul positiv effekt på elevernes læring og en negativ effekt på elevernes trivsel.

Empirisk set har vi ingen grund til at tro, at ai eller anden it kan levere noget afgørende positivt til elevernes læring og trivsel i undervisningen.

Teoretisk set kan det måske lade sig gøre, men indtil vi har fundet et forsvarligt svar på hvordan, er vores og vores børns ressourcer brugt bedre analogt.