Jeg bygger en AI-virksomhed. Jeg mener stadig, at vi bør sætte AI-udviklingen på pause.

Jeg har arbejdet med AI det meste af min karriere, først som datalog, så som en af de nordiske ledere af AI-arbejdet hos McKinsey, og nu med at bygge alice som applikation oven på de bedste sprogmodeller. Vi har medvind, fordi alice naturligt bliver bedre, i takt med at modellerne bliver bedre. Så det lyder måske mærkeligt, at jeg mener, vi bør sætte udviklingen af de underliggende sprogmodeller på pause. Men det gør jeg, fordi jeg ikke længere tror, at modellernes intelligens er det, der holder os tilbage som samfund - og hvis vi fortsætter, accepterer vi potentielt ekstremt store risici.

Vi bliver ikke længere holdt tilbage af, hvor kloge modellerne er

For to år siden, eller bare for et halvt år siden, tror jeg, man med rette kunne sige, at vi primært blev holdt tilbage af, hvor intelligente modellerne var. I dag tror jeg ikke, at det er det, der først og fremmest holder os tilbage. Det er snarere, hvor godt vi bruger dem: implementering, forandringsledelse og den tid, det tager for mennesker, organisationer og samfundet som helhed at omstille sig.

Der kan være undtagelser. En lidt bedre model kan fx give os en lidt større chance for at kurere en sygdom eller skabe et gennembrud i videnskaben. Men i de fleste tilfælde er det nok mere sandsynligt, at den intelligens, vi har brug for, allerede er der, og at vi bare ikke har haft tid til at udforske den. Og selv hvis en model kunne fortælle os præcis, hvordan man kurerer kræft, skulle vi stadig udvikle medicinen, teste den og rulle den ud. Det tager år, fordi vi er mennesker, og mennesker kan ikke gøre de fleste ting øjeblikkeligt.

Risiciene vokser hurtigere, end vi kan håndtere dem

Samtidig er risiciene reelle. Den mest umiddelbare er, at mennesker bruger AI til at gøre skade. International AI Safety Report, skrevet af mere end 100 eksperter og bakket op af over 30 lande, konkluderede, at nutidens modeller kan give laboratorieinstruktioner på ekspertniveau, der er relevante for biologiske og kemiske våben, og at kriminelle grupper og angribere med forbindelse til stater allerede bruger AI i cyberangreb (International AI Safety Report, 2026). Bill Gates sagde i september 2026, at AI “helt sikkert er kraftfuld nok til at sætte begivenheder i gang, der koster en milliard mennesker livet” (Al Jazeera, 2026).

Der er også en mere fjern bekymring for, at AI en dag selv kan vende sig mod os. Elon Musk har sat risikoen for, at noget forfærdeligt sker, til 10 til 20 procent (Deadline, 2024), og Yuval Noah Harari har advaret om, at vi kan stå over for “enden på menneskets historie” (Fortune, 2023). Jeg tror ikke, vi er tæt på det endnu - vi har stadig kontrollen som menneskehed i dag.

Det er fristende bare at fortsætte. Fremskridt er spændende, og hver ny model føles som et skridt fremad. Men hvis intelligens ikke længere er flaskehalsen, tilføjer den næste model ikke ret meget, mens selv en lille risiko for, at det går helt galt, kan være katastrofal. Det synes jeg ikke er en byttehandel, der er værd at lave.

Vi befinder os på en eksponentiel kurve, og mennesker er dårlige til at forstå eksponentiel udvikling. Det går så hurtigt, at jeg ikke tror, det er nok at sætte farten ned. Jeg mener, at vi bør sætte udviklingen af mere kraftfulde modeller på pause, indtil vi har bedre overvågning på plads og regler, der gør udviklingen kontrollerbar nok til at beskytte mennesker. Bill Gates efterlyser den første del: “Vi er nødt til at overvåge enhver avanceret model og registrere præcis, hvad der foregår” (NBC News, 2026). Jeg vil gå et skridt længere og sætte udviklingen på pause, indtil den overvågning er på plads. For at være helt klar: Jeg er ikke imod fremskridt. Jeg foreslår en pause nu, og jeg er åben for at gå videre igen, når vi har den rette overvågning og føler, at vi har kontrollen.

Det er ikke en ny idé. I 2023 skrev mere end 30.000 mennesker, heriblandt Elon Musk og Apples medstifter Steve Wozniak, under på et åbent brev, der bad AI-laboratorierne om at holde pause i seks måneder (Future of Life Institute, 2023). Det skete ikke. I stedet er kapløbet og investeringerne bag det kun vokset.

En pause skulle koordineres internationalt for at virke, og jeg ved godt, at det er ekstremt svært. Regeringer og lande har stærke incitamenter til at være dem, der fører, og ingen vil stoppe først. Da Gates blev spurgt, om USA og Kina kunne blive enige om grænser, ligesom de gjorde med atomvåben under den kolde krig, svarede han: “Det her er sværere, end det var” (NBC News, 2026). Men hvis vi kan finde en aftale og håndhæve den, tror jeg, det er den bedste løsning. Jeg tror, vi bliver nødt til at forsøge.

Sæt modellerne på pause, ikke brugen

Fordi det ikke længere er modellernes intelligens, der holder os tilbage, koster en pause mindre, end de fleste tror. Det betyder ikke, at vi stopper med at bruge AI. Virksomheder, skoler, offentlige institutioner og private individer kan blive ved med at tage den i brug, og vi kan blive ved med at bygge applikationer oven på de modeller, vi har. Vi skal bare ikke gøre de underliggende sprogmodeller mere kraftfulde, før vi er klar til de risici, der følger med. Det er bedre at sætte på pause nu end at gå ind i en katastrofe og ende med at sætte begrænsninger op som en reaktion i stedet for at være proaktive.

Kritikere kunne sige, at jeg har en interesse i det her, fordi jeg driver en AI-virksomhed. Men det her rækker ud over alice. Det handler om, hvad jeg ser, og hvad jeg mener er det rigtige valg for os som samfund. Netop fordi jeg arbejder med det her hver dag, står det også meget klart for mig, at intelligens ikke længere er flaskehalsen.

Faktisk ville en pause koste os noget af vores medvind hos alice. Men de modeller, vi har i dag, er allerede mere end gode nok til at give elever og studerende en personlig tutor. Det svære er at bygge den godt, så den forbedrer læringen, og det bliver vi ved med - med synlige fremskridt hver dag. Prøv det, vi har bygget indtil nu.

Vi er flere hos alice, der er bekymrede for, hvor AI er på vej hen. Lad os gøre noget, mens vi stadig har kontrollen som samfund.