Når generativ AI afkræver studerende ekspertviden

Deborah Lupton / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

I de seneste år har vi i uddannelsessektoren brugt betydelig energi på at debattere om mennesker kan opdage AI-genereret indhold, hvad vi stiller op med snyd, og hvordan fremtidens eksaminer skal se ud. Disse er vigtige emner, men de slører en anden problematik - nemlig den form for udmattelse, der indfinder sig i arbejdet med generativ AI-output. Dét at skulle finde ud af, om tekst kommer fra en maskine eller et menneske, og om teksten dernæst er troværdig, fjerner fagligt fokus og er trættende i længden - især, hvis man som studerende endnu ikke har en stærk faglighed at kunne vurdere ud fra. 

Generativ AI producerer som bekendt en uforudsigelig blanding af poleret nonsens og mere eller mindre brugbar information, hvilket tvinger brugere ind i en endeløs sorteringsproces. Denne proces medfører en grundlæggende overførsel af ansvar fra institutioner og undervisere til den enkelte studerende - studerende, vel at mærke, som er dårligst klædt på til at håndtere det, fordi brugen af generativ AI på flere måder paradoksalt nok kræver den ekspertviden, studerende er i færd med at udvikle.

Fra institutionel kvalitetssikring til individuel verifikation

Den traditionelle uddannelsesmodel har en række mere eller mindre indlysende strukturelle fejl, men den indeholder dog faglig kvalitetssikring gennem vidensformidlingsprocessen. Undervisningsmaterialer gennemgår eksempelvis peer review, undervisningen leveres af fageksperter, eksamen udprøver læringsmålene, og så videre. Studerende kan - eller kunne - med rimelighed i denne model stole på, at undervisningsmaterialet opfyldte et vist niveau for pålidelighed, hvilket betød, at de kunne fokusere energien på læring og forståelse snarere end verifikation.

Generativ AI nedbryder denne præmis. Hver interaktion bliver et minefelt, hvor fakta og fabrikation blandes uskønt sammen, hvor tilsyneladende logiske sammenhænge maskerer faktuelle fejl, og hvor overbevisende formidling skjuler fundamentale misforståelser. Som en direkte konsekvens af generativ AI i undervisningen skal studerende nu varetage en række af de funktioner, som institutionelle aktører som undervisere, vejledere, bibliotekarer og også eksterne aktører som eksempelvis undervisningsforlag tidligere varetog. Dette er ikke et aktivt tilvalg fra institutionernes side, naturligvis, og det giver næsten sig selv, at situationen kommer til at skabe læringsmæssige problemstillinger, mistrivsel og tillidskriser, da studerende ikke har - og ikke kan have - forudsætningerne. Det er ingen interesseret i, men så længe vi ikke aktivt forholder os til problemet fortsætter den negative udvikling. Og det gælder naturligvis, uanset om den generative AI er institutionelt godkendt eller ej.

I den henseende, som i mange andre, skaber generativ AI i uddannelse flere problemer end løsninger. Jeg kan ikke komme i tanke om nogen anden sammenhæng i uddannelse eller andre steder, hvor vi ville acceptere at outsource kvalitetssikring til dem, der er mindst egnede til at føre tilsynet. Men det er ikke desto mindre det, vi gør i uddannelsessektoren lige nu - ikke mindst fordi vi i flere år har savnet og i den grad efterlyst uddannelsespolitiske ambitioner på området.

Paradokset om påkrævet ekspertise

Faglige nybegyndere som fx studerende mangler den fornødne dømmekraft til effektivt at evaluere generativ AI-output, og faglige eksperter som eksempelvis undervisere har ikke brug for generativ AI til basal informationssøgning inden for deres domæne. I uddannelsesverdenen efterlader dette os med et grundlæggende spørgsmål, når vi undersøger, hvem der faktisk kan bruge disse værktøjer effektivt - og til hvad.

Hvis generativ AI konsekvent producerede bras, kunne studerende jo bare ignorere det, og hvis teknologien konsekvent producerede fremragende materiale, så kunne de studerende lære at bruge det i undervisningen efter aftale og vejledning med underviseren. Men sagen er, at hverken studerende eller andre kan forudsige, hvilke interaktioner der vil vise sig pålidelige, og det betyder, at hver interaktion kræver en verifikationsproces. Således bliver mental energi og motivation, der burde investeres i at lære en faglighed, i stedet brugt på en endeløs cyklus af bekræftelse og verifikation. Alternativt, som det jo desværre allerede er tilfældet mange steder, bliver energien brugt et helt andet sted uden for undervisningen, når AI-genereret tekst afleveres i stedet for selvstændigt arbejde.

Den svingende kvalitet af generativ AI-output forstærker disse epistemologiske vanskeligheder på måder, vi kun er begyndt at forstå. I modsætning til en dårligt skrevet Wikipedia-artikel, hvis akavede prosa udløser skepsis (sådan var det i hvert tilfælde engang), så leverer generativ AI både åbenlyse og mindre åbenlyse fejl pakket ind i autoritative retoriske markører. For den utrænede læser flyder hver sætning problemfrit ind i den næste og skaber en slags ekspertæstetik, som nybegyndere har svært ved at sætte spørgsmålstegn ved - uagtet kvaliteten af indholdet.

De traditionelle pædagogiske røde flag, der kunne gøre en underviser opmærksom på svage studerende - eksempelvis akavede formuleringer, registerskift og usammenhængende argumentation - er blevet kosmetisk elimineret, alt imens de underliggende problemer ofte forstærkes.

Om forvirring og endeløs verifikation

Disse problematikker kan umiddelbart forbindes til den UNESCO-artikel Victoria Livingstone, PhD og jeg har skrevet, hvori vi belyser, hvad der sker med studerendes tænkning i en tidsalder med øjeblikkelige svar: The Disappearance of the Unclear Question. For det tyske Goethe-Institut har jeg tidligere skrevet om den syntetiske informationskrise, hvilket også hænger sammen med problemet med at bruge tid på meningsløse verifikationsøvelser. 

Generativ AI kræver ekspertise som en forudsætning for sikker brug, og det gør teknologien upålidelig netop, når studerende har mest brug for hjælp. Den overfører en betydelig kognitiv byrde til de studerende, samtidig med at den påvirker og formindsker de processer, der faktisk opbygger forståelse.

De, der allerede besidder betydelig ekspertise, kan navigere i inkonsistens og tågesnak. Andre - hvilket vil sige de fleste studerende - får simpelthen et lag af udmattende verifikationsarbejde oven på en i forvejen krævende læringsproces med ringe eller ingen uddannelsesmæssig værdi til følge. Det bliver vi simpelthen nødt til at forholde os til uddannelsespolitisk såvel som på uddannelsesinstitutionerne, for ellers skyder vi forbi målet, når vi i bredere forstand drøfter fremtidens uddannelser.