I AI-sammenhænge taler vi om bias og misinformation, men jeg tror vi overser en mindst lige så betydningsfuld problemstilling: den syntetiske videnskrise. Leon Furze bruger begrebet Digital Plastic og bl.a. Simon Willison taler om Slop i forhold til den slags AI-genereret indhold, der på det nærmeste ikke består af indhold. Uanset hvilke ord vi bruger til at beskrive fænomenet, så er problematikken klar: vores traditionelle forståelse af, hvad der er værd at vide, og hvordan vi ved noget, udhules gradvist af AI-genereret indhold i disse år.
Men det er ikke selve eksistensen af AI-genereret indhold, der er problemet. Problemet er indhold, der fremstår som viden uden at have gennemgået de processer, der normalt giver viden sin legitimitet. Faglig substans, peer review, akademisk debat, metodisk gennemsigtighed og lignende mekanismer, der historisk set har sikret, at viden har kvalitet, er nu ved at miste betydning i et landskab, hvor overbevisende formuleringer vinder over det faktiske indhold.
Når en tekst (i bred forstand) er velformuleret, velstruktureret og selvsikkert leveret, så er vi i stigende grad tilbøjelige til at acceptere den som sandhed. Det gælder ikke kun studerende, der bruger generativ AI til at skrive opgaver, men også hele økosystemer som eksempelvis uddannelse og politik. Spørgsmålet er ikke, om vi kan opdage AI-genereret indhold, men snarere hvad der egentlig sker, når vi begynder at glemme, hvordan viden traditionelt konstrueres.
Den syntetiske overbevisning
Den største fare ved generativ AI er ikke dens fejl og bias, for fejl kan rettes. Problemet opstår, når AI producerer så sprogligt flydende tekster, at de ikke vækker mistanke. Vi bevæger os mod et vidensregime, hvor vi risikerer, at det der lyder troværdigt og forankret i viden forveksles med det, der rent faktisk er troværdigt.
Når generativ AI skaber plausibel tekst uden forståelse, udfordrer det vores videnshierarki. Vi går fra en verden, hvor viden er noget, vi typisk tilegner os med kritisk sans og faglighed til en verden, hvor "viden" passivt præsenteres ud fra statistiske sandsynligheder. Forskellen er enorm.
Når studerende eksempelvis bliver bedt om at analysere en tekst eller argumentere for et synspunkt, så leverer AI typisk en velformuleret og på overfladen afbalanceret, logisk argumentation. Men hvad sker der, når studerende begynder at forveksle overfladiske, færdige fortolkninger med selve tænkningen bag? Vi risikerer ikke kun at skabe en generation af studerende, der kæmper med dybdelæsning - vi påvirker også selve betydningen af, hvad det vil sige at læse og forstå, og implikationerne er voldsomme både fagligt og menneskeligt.
Uddannelsesinstitutionernes rolle
Universiteter og andre vidensproducerende uddannelsesinstitutioner er utilsigtede medskabere i denne problemstilling. Kravene til at producere målbar forskning i et stadig hurtigere tempo bliver stadig større, og jagten på citationer og behovet for at generere 'impact' har skabt et miljø, hvor volumen ofte trumfer dybde. I stedet for at skabe rum til erkendelse og nysgerrighed - og fejl -, så presses forskningen til at levere kvantificerbare og omsættelige resultater. Praksisnær forskning der løser konkrete problemstillinger har absolut sin berettigelse - men det går ikke, hvis produktivitet bliver vigtigere end erkendelse. Og hvis vi skal undgå at ende der, så kræver det en omstilling i både undervisning og forskning.
For det første skal vi turde tage et opgør med den publiceringskultur, hvor hastighed og volumen trumfer dybde og reelle erkendelser. Videnskabelig produktion bør ikke belønnes for mængde, men for betydning, og vi må tage en langt mere grundlæggende debat om, hvad videnskabelig kvalitet egentlig er.
For det andet må undervisningen i langt højere grad baseres på forskningsbaserede diskussioner fremfor skriftligt arbejde, der let kan AI-genereres. Hvis vi fortsætter med at vægte skriftlige afleveringer som den primære målestok for læring, så tvinger vi studerende til at spille et spil, ingen kan vinde - for maskinerne kan let producere overfladisk korrekt tekst hurtigere, end mennesker kan. Akademisk læring bør i stedet handle om processer, argumentation og fælles faglige refleksioner, hvor AI ikke kan erstatte den menneskelige tænkning.
I udlandet omfavner mange uddannelsesinstitutioner endvidere AI i effektivitetens navn med automatiserede feedbacksystemer, AI-genereret pensum, automatiserede eksamensvurderinger, m.m. Så vidt er det ikke kommet herhjemme, og det er heldigt: for når evaluering af viden overlades til en teknologi, der ikke selv forstår noget som helst, så bliver det pludselig meget uklart, hvad det er, vi rent faktisk uddanner studerende til.
Hvad gør vi nu?
De videregående uddannelser står over for et valg: Enten kan vi lade generativ AI drive os dybere ind i en verden af syntetisk viden, hvor overfladiskhed erstatter epistemisk dybde og mening, eller også kan vi tage kampen op og insistere på de processer, der giver viden sin værdi.
Løsningen er indlysende ikke at forbyde AI, men derimod at styrke de processer, der gør viden meningsfuld. Alternativet er nemlig værre: Ingen har behov for en endeløs strøm af syntetisk genereret - og ofte meningsløs - tekst. Og hvis ikke uddannelsesinstitutionerne skal værne om viden og faglighed, hvem skal så?
