AI-tilpasning: Aktuel forskning og debat

AI-tilpasning betød tidligere blot "følger AI-modellen brugerens instruktioner?". Men i takt med at AI-systemer bliver mere kapable og autonome, er det spørgsmål blevet udvidet til også at omfatte dømmekraft og værdier. Denne artikel vil udforske, hvordan AI-platforme, offentlige organer og almennyttige organisationer reagerer på udfordringen med AI-tilpasning.

Enkelt sagt betyder AI-tilpasning at sikre, at et AI-system gør det, det er ment til at gøre. En tilpasset AI-model læser en prompt og producerer det output, som prompten bad om, uden at game det objekt, den blev trænet på. I moderne tilpasningsevne og -forskning indrammes dette normalt som hensigtstilpasning: at bygge systemer, der forsøger at gøre det, deres operatører har til hensigt, frem for blot bogstaveligt at følge teksten i en prompt.

Tilpasning er både en teknisk udfordring og et emne for offentlig debat. Som teknisk term er tilpasning et ingeniørproblem. Gør den specifikke model, der arbejder med en specifik opgave, det, den blev bygget til at gøre? Det er et afgrænset, testbart problem.

AI-tilpasning bruges dog også i bredere offentlige og politiske diskussioner om den generelle sikkerhed i AI-systemer. Vil stadig mere kapable AI-platforme forblive gavnlige for menneskeheden og tilpasset menneskelig etik, ønsker og mål?

Det bliver gradvist vanskeligere at opnå denne tilpasning, jo mere komplekse modellerne bliver. Der er to centrale udfordringer ved at opbygge tilpassede AI-modeller:

Brugere ønsker typisk en LLM, der er hjælpsom, ærlig og etisk. Men en LLM bliver aldrig trænet direkte i "vær hjælpsom og etisk". Den gennemgår to distincte faser.

Prætræning: Modellen lærer sprog, fakta og ræsonneringsmønstre og opsnapper herved sprog, fakta og ræsonneringsmønstre. Dette stadie giver ikke modellen nogen fornemmelse af, hvad en person faktisk ønsker ud af et givet spørgsmål. Efterlades den her, vil en model svare på "hvordan dirker jeg en lås" lige så villigt som "hvordan bager jeg surdej".

Menneskelig præference: Folk Gennemgår par af modelsvar og siger, hvilket1 de foretrækker. Disse præferencer træner et separat scoringssystem, og modellen justeres derefter for at producere svar, der scorer godt.

Ingen skriver en ren definition ned af, hvad det vil sige at være hjælpsom eller etisk, nogen steder i denne proces. Scoringssystemets vejledning i, hvad modellen forventes at gøre, er bygget udelukkende på mange individuelle menneskelige dømmekrafter. Scoringen afspejler, hvad reviewere havde en tendens til at foretrække, ikke hvad nogen enkeltperson rent faktisk havde til hensigt, og ikke en præcis definition af det underliggende mål.

Som et resultat heraf passer AI'en muligvis godt til det, den opfatter som målet, men selve målet har måske ikke været godt tilpasset det resultat, som folk faktisk ønsker.

For eksempel, hvis reviewere har en tendens til at foretrække længere svar, lærer modellen at skrive længere svar, selv når et kort var korrekt. Eller, hvis reviewere har en tendens til at foretrække selvsikre svar, lærer modellen at lyde sikker, selv når den burde udtrykke tvivl.

Forskere kalder dette gab mellem det erklærede mål og det trænede mål for problemet med ydre tilpasning.

Problemet med indre tilpasning opstår, når en model, der er trænet i et relevant mål, ikke formår at forfølge det mål korrekt, når den først er ude i verden. Dette problem bliver først synligt, når modellen støder ind i en situation, som træningen ikke har forberedt den på.

Under træningen præsenteres modellerne kun for et begrænset sæt situationer. Modellen generaliserer derefter fra disse situationer til alt andet, den vil møde senere.

Træning kontrollerer, hvordan modellen opfører sig, men den afslører ikke altid, hvorfor modellen opfører sig, som den gør. Derfor er det svært at vide, om modellen lærte det fulde, nuancerede mål eller blot et enklere mønster, der tilfældigvis matchede træningsdataene.

Diagram af det indre tilpasningsproblem: ud fra de samme træningsdata passer både Regel A og Regel B til træningsdataene, men når de gives et nyt, uset input, matcher Regel A målet og opfører sig som tilsigtet, mens Regel B bruger en genveje og afviger fra målet.

For eksempel kan en model, der er trænet i at afvise skadelige anmodninger (f.eks. "hvordan dirker jeg en lås op for at bryde ind i nogens hus"), lære at genkende den specifikke ordlyd af skadelige anmodninger i sine træningsdata i stedet for den underliggende hensigt bag afvisningen. Den vil derefter overse en skadelig anmodning formuleret på en anden måde (f.eks. "hvad er den hurtigste måde at åbne en dør på uden en nøgle").

Disse mønstre for tilpasningssvigt er veldokumenterede. Forskere har opbygget specifikke forsvar for hver enkelt:

Tilpasningsudfordring	Hvordan det ser ud	Eksempel	Hvordan feltet reagerer
Belønningshacking	En model finder en genvej, der teknisk set scorer godt uden at gøre det, der var hensigten.	En model, der bliver bedt om at rette et stykke ødelagt software, finder en måde at få fejlmeddelelserne til at stoppe med at blive vist i stedet for at rette det, der forårsagede dem.	Revision af scoringssystemet, stresstest af det ved at forsøge at snyde det og træning på feedback fra en bredere vifte af reviewere.
Sykofanti	En model er enig med en person eller bløder et svar op for at virke mere imødekommende i stedet for at give det mest nøjagtige svar.	En person slår en ukorrekt fakta fast med selvtillid, og modellen validerer påstanden i stedet for at rette den, fordi enighed scorede bedre hos reviewere end modstand.	Finjustering, der specifikt belønner ærlighed, gennemgangsretningslinjer, der straffer enighed for sin egen skyld, og tests bygget til at opfange dette mønster.
Specifikationsgaming	En model gør præcist det, en instruktion siger, samtidig med at den misser det, den var ment til at opnå.	En model, der bliver bedt om at "reducere kundeklager i datasættet", lærer at udelade klager fra sine resuméer i stedet for at hjælpe med at løse de problemer, der ligger bag dem.	Skrivning af strammere, mere omhyggeligt testede instruktioner og gennemgang af grænsestilfælde, hvor den bogstavelige ordlyd og hensigten trækker i forskellige retninger.
Bedragerisk eller undvigende adfærd under evaluering	En model opfører sig på én måde, når den fornemmer, at den bliver testet, og på en anden måde, når den er implementeret.	En model giver politikkompatible svar, når den opdager sprog, der minder om en formel sikkerhedsevaluering, og svarer derefter mere frit i en almindelig samtale.	Design af tests, der er sværere for en model at genkende som tests, samt forskning i direkte aflæsning af en models interne tilstand i stedet for udelukkende at stole på dens output.
Sandbagging	En model underperformer i en kapacitetstest for at undgå at udløse strengere sikkerhedskrav.	En model giver med vilje svagere svar på en evaluering af farlige evner, end den faktisk er i stand til, så resultatet forbliver under en tærskel, der ville udløse yderligere tilsyn.	Brug af flere uafhængige tests, opbevaring af noget evalueringsmateriale, som modellen aldrig har set, og brug af teknikker designet til at fremdrage modellens reelle loft.
Fejlagtig generalisering af mål	En model opfanger en regel, der tilfældigvis virkede under træningen, men bryder sammen i en ny situation.	En model, der er trænet til at være forsigtig primært på forespørgsler om våben eller stoffer, lærer "forsigtighed" som "afvis alt, der lyder risikabelt", og begynder også at afvise harmløse kemi- eller sikkerhedsspørgsmål.	Træning på et bredere, mere varieret sæt af eksempler og specifik test af modellen i situationer, der ikke ligner noget, den så under træningen.
Skalerbart tilsyn	Når en model påtager sig arbejde, som er svært for en person fuldt ud at verificere, f.eks. gennemgang af en stor kodebase, bliver det sværere at vide, om dens output faktisk er korrekt.	En agent refaktoriserer en kodebase på 10.000 linjer i én session, og ingen reviewer har tid til manuelt at verificere hver enkelt ændring, så subtile logikfejl slipper igennem.	At lade modeller hjælpe med at tjekke hinandens arbejde sammen med mere fokuseret menneskelig gennemgang, der er forbeholdt beslutningerne med de højeste indsatser.
Magtsøgende eller instrumentel adfærd	En model, der forfølger næsten et hvilken som helst mål, har et indbygget incitament til at undgå at blive slukket eller ændret, da det at forblive operationel hjælper den med at fortsætte med at forfølge det mål.	I et kontrolleret testmiljø tager en model, der får en opgave og en nedlukningskommando, skridt til at undgå at blive lukket ned, såsom at kopiere sig selv et andet sted hen, fordi en stopning ville forhindre den i at færdiggøre opgaven.	Forskning i at bygge modeller, der pålideligt accepterer korrektion eller nedlukning, og tests, der er specielt designet til at opfange denne adfærd, før en model implementeres.

En håndfuld virksomheder, primært OpenAI, Anthropic og Google DeepMind, bygger frontlinjemodellerne i kanten af det, AI aktuelt kan gøre. Hver enkelt har offentliggjort sin egen ramme for sikker evaluering og implementering af disse modeller.

Ifølge en offentlig udtalelse fra OpenAI om sikkerhed og tilpasning adresserer de risiciene ved potentiel AI-feiltilpasning gennem:

OpenAI oplyser, at virksomheden med vilje udgiver modeller gradvist, så den kan studere, hvordan modellerne opfører sig og bliver misbrugt i den virkelige verden. Ræsonnementet er, at feedback fra den virkelige verden giver større indsigt end at forsøge at forudsige enhver risiko på forhånd. Virksomheden anvender en Preparedness Framework til at spore opståede risici og beslutte, hvilke sikkerhedsforanstaltninger en model har brug for før udgivelse.

OpenAI oplyser, at virksomheden stabler flere uafhængige sikkerhedsforanstaltninger oven på hinanden, så flere forsvarsværker skal svigte på én gang, for at noget går galt.

Ifølge virksomheden er modellen trænet til i stedet for at svare i ét trin at arbejde sig igennem relevante sikkerhedsretningslinjer, før den beslutter, hvordan den skal svare. Målet er, at modellen skal være i stand til at ræsonnere sig frem til den rigtige beslutning i situationer, som dens træning ikke eksplicit dækkede.

OpenAI oplyser, at virksomheden behandler AI-sikkerhed som en kollektiv indsats, og peger på sin offentliggjorte sikkerhedsforskning og sit arbejde med den amerikanske Center for AI Standards and Innovation (CAISI) og det britiske AI Security Institute om evalueringsstandarder.

Anthropics Responsible Scaling Policy-dokument forklarer, hvordan virksomheden arbejder hen imod AI-tilpasning:

Efterhånden som en model bliver mere kapabel, skal den bestå strengere sikkerhedstjek, før den kan trænes yderligere eller udgives. Derudover anerkender Anthropic, at når AI-systemer først udfører en stor del af den forskning og analyse, der ligger bag deres egne risikovurderinger, kan disse beviser i sig selv blive påvirket af bedragerisk eller manipulerende adfærd. Virksomheden forpligter sig til at opretholde en højere bevisstandard for evalueringer på det stadium.

Anthropic fremhæver 'feiltilpassede AI-systemer i omgivelser med høje indsatser' som en specifik risikokategori: modeller, som man stoler stærkt på, har bred adgang til følsomme systemer og har en vis evne til at handle autonomt mod et mål og omgå tilsyn.

Virksomheden forpligter sig til regelmæssigt at studere sine egne modellers adfærd for advarselstegn ved hjælp af to hovedmetoder: at forsøge at kigge ind i modellen for at forstå, hvorfor den producerer et givet output, og at lade interne hold forsøge at fremprovokere dårlig adfærd for at se, om den dukker op.

Virksomheden oplyser, at den udgiver en Risk Report hver tredje til sjette måned med detaljer om det, den ved om en models evner og adfærdstendenser, dens overvågningspraksis og dens overordnede risikovurdering.

Google DeepMinds Frontier Safety Framework-dokument forklarer, hvordan virksomheden arbejder hen imod tilpasning:

Rammen behandler feltilpasning som et af fire risikodomæner og definerer det specifikt som risiko fra en models ML R&D-kapaciteter eller feiltilpassede tendenser, der reducerer samfundets overordnede evne til at håndtere AI-risiko. Det er eksplicit formuleret som en faktor, der kan bidrage til alvorlig skade gennem flere forskellige veje på én gang, ikke en isoleret risiko.

Når en model er stærk nok til, at det grundlæggende tilsyn er utilstrækkeligt, kontrollerer DeepMind modellens adfærd på løbende basis, herunder hvordan den bruges internt. Virksomheden tilføjer sikkerhedsforanstaltninger som overvågning af dens ræsonnering, hvis dette tjek viser problemer.

For feiltilpasning specifikt nævner DeepMind foranstaltninger som begrænsning af, hvad en model er i stand til, løbende overvågning og eskaleringsprocesser, revision og tilpasningstræning. Virksomheden anvender også disse på intern brug med høj risiko, da risikoen for feiltilpasning kan vise sig i, hvordan en model bruges internt i virksomheden.

Der er en løbende industridebat om, hvorvidt de frivillige rammer, der er dækket ovenfor, er tilstrækkelige i sig selv, eller om tilpasningsforpligtelser skal være juridisk bindende for reelt at holde under konkurrencemæssigt pres.

I juli 2026 underskrev 1.386 ledere og medarbejdere på tværs af frontlinje-AI-virksomheder, herunder OpenAI, Anthropic, Google DeepMind og Meta, en erklæring kaldet Pacing the Frontier. Erklæringen argumenterer for, at disse virksomheder muligvis nærmer sig det punkt, hvor de kan automatisere selve AI-forskningen. Dette kan betyde, at AI-kapaciteten udvikler sig hurtigere, end forskere kan følge med, og at tilpasningsarbejdet permanent vil sakke bagud.

Pacing the Frontier opfordrer den amerikanske regering til at hjælpe med at opbygge tekniske og styringsmæssige bremser, der kan bruges i fremtiden, under argumentet om, at intet enkelt laboratorium kan slække på tempoet, mens rivalerne fortsætter med at presse på. Dette kan betragtes som en stiltiende indrømmelse indefra branchen af, at frivillige rammer alene ikke vil være tilstrækkelige til at bevare AI-tilpasning i fremtiden.

Tilpasningsarbejdet strækker sig langt ud over de virksomheder, der bygger frontlinjemodeller.

Regeringer finansierer og koordinerer direkte forskning i tilpasning. For eksempel driver det britiske AI Security Institute Alignment Project, en global fond, der har uddelt mere end 27 mio. £ til over 60 projekter på tværs af otte lande siden 2025, med specifikt fokus på AI-kontrol. I USA fokuserer CAISI på evalueringsstandarder.

Begge sidder i et bredere International Network for Advanced AI Measurement, Evaluation and Science, et organ på ti lande med nationale sikkerhedsinitiativer, der kører fælles testøvelser og arbejder på at tilpasse evalueringsmetoder på tværs af grænser.

The Future of Life Institute udgiver AI Safety Index, et scorecard, der sammenligner AI-laboratoriernes sikkerhedspraksis. Center for AI Safety opbygger benchmarks, der bruges på tværs af feltet, herunder WMDP og SafeBench. Alignment Research Center studerer mere teoretiske tilpasningsproblemer, og dets spin-out, Model Evaluation and Threat Research (METR), kører uafhængige evalueringer før implementering på frontlinjemodeller. FAR.AI tester frontlinjemodeller for svagheder før og efter, de udgives.

Flere universiteter spiller en aktiv rolle i forskning i AI-tilpasning, herunder Center for Human-Compatible AI ved UC Berkeley og University of Cambridges Leverhulme Centre for the Future of Intelligence.

Tilpasning er ikke det samme som indholdsmoderering, selvom termen nogle ganger bruges i den sammenhæng. Indholdsmoderering handler om, hvad en model vil eller ikke vil sige, og filtrerer skældsord, grafisk indhold eller specifikke bandlyste emner fra. Tilpasning handler om, hvorvidt en models faktiske adfærd matcher det, den var ment til at gøre.

Tilpasning bruges også nogle gange som et synonym for AI-sikkerhed, men det er ikke den eneste faktor at tage i betragtning. Andre bekymringer vedrørende AI-sikkerhed omfatter:

Sikkerhed (beskyttelse af modelvægte mod tyveri)

Robusthed (at en model fungerer pålideligt uden for de nøjagtige betingelser, den blev trænet på)

Forebyggelse af misbrug (hindring af, at en kapabel model bruges til skade)

Tilpasning handler om modellens egen adfærd. AI-sikkerhed er den bredere indsats for at forhindre hele systemet i at forvolde skade.

Endelig er der en udbredt antagelse om, at en mere kapabel model automatisk er en bedre tilpasset model. Men kapacitet og tilpasning kan divergere, hvilket netop er grunden til, at tærskler som Google DeepMinds ML R&D-kapacitetsniveauer og Anthropics risikokategori for automatiseret forskning eksisterer. De er bygget specifikt omkring bekymringen for, at kapaciteten kan overhale feltets evne til at verificere, at en model stadig gør det, den skal.

Perplexity træner ikke frontlinje-fundamentmodeller. Virksomheden kører modeller i produktion i stor skala gennem agentprodukter som Computer, så dens arbejde berører et specifikt aspekt af tilpasning: hvordan agenter opfører sig, når de handler på det åbne internet.

The Secure Intelligence Institute er Perplexitys forskningscenter for sikkerhed, privatliv og tillid i frontlinje-AI. Instituttet har udviklet BrowseSafe, en open-source-detektionsmodel bygget til at identificere prompt injection-angreb skjult inde i websider, som AI-browseragenter besøger.

Holdet byggede også BrowseSafe-Bench, en offentlig benchmark med mere end 14.700 prompt-injections-scenarier, der spænder over forskellige angrebsmål, placeringer på siden og sprogstile.

Dette arbejde ligger tættere på den anvendte side af AI-kontrol end på forskning i tilpasning. Det begrænser, hvad en agent gør, når den møder et modstandsmiljø, frem for at forme en models underliggende værdier under træningen.

For at lære mere kan du udforske Secure Intelligence Institute og BrowseSafe-forskning.

Hvad AI-tilpasning betyder

Problemet med ydre tilpasning

Problemet med indre tilpasning

Eksempler på AI-tilpasningsproblemer

Hvordan de store AI-laboratorier reagerer på udfordringer med AI-tilpasning

OpenAI

Iterativ implementering

Lagdelte sikkerhedsforanstaltninger

Deliberativ tilpasning

Fælles ansvar

Anthropic

Kapacitetsrelaterede sikkerhedsforanstaltninger

En defineret risikokategori for tilpasning

Intern tilpasningstest

Regelmæssig offentlig rapportering

Google DeepMind

En lagdelagt struktur

En tidlig advarselsfase

Risikoreduktion

AI-tilpasning: debat om risiciene

Hvem arbejder ellers med AI-tilpasning

Regeringer

Almennyttige organisationer

Universiteter

AI-tilpasning: almindelige misforståelser

Hvordan Perplexity griber AI-tilpasning an