Generativ AI

Når du bruger AI i studiesammenhæng, er der en række ting som det er vigtigt at være opmærksom på. Her kommer vi kort ind på fire af de vigtigste, nemlig bias, hallucinationer, persondata og ophavsret.

Bias og fordomme er altid en del af datagrundlaget

For det første er det åbenlyst, at den data som sprogmodellerne er trænet på, ikke er neutral, men indeholder alle de samme bias eller fordomme som ethvert andet materiale. Hvis man f.eks. trænede to udgaver af den samme sprogmodel på forskellige datasæt fra henholdsvis De Konservative og Enhedslisten er det klart, at man ville få forskellige svar hvis man efterfølgende promptede dem hver især om, hvad der ville være den optimale fordelingspolitik i Danmark. De forskellige aktører der laver chatbots prøver ihærdigt at udligne og fjerne bias, men ret beset er det en umulig opgave at skabe en helt neutral chatbot. Det er derfor meget vigtigt hele tiden at være kritisk, og vurdere om der måske er skjulte bias i form af fordomme, kulturelle forskelle eller manglende repræsentation af synspunkter.

AI chatbots er ikke sandhedsvidner

Et andet opmærksomhedspunkt er generativ AIs tendens til at generere misvisende eller decideret falske informationer – såkaldte hallucinationer. Her er der ikke tale om bias eller manglende repræsentation i datagrundlaget, men simpelthen det pure opspind. Husk på, at AI chatbots blot er sandsynlighedsmaskiner, der hele tiden genererer det mest sandsynlige næste ord i en sætning, baseret på træningsdata og prompt, uden NOGEN som helst form for refleksion, eftertjek/validering eller kritisk tænkning. Det kan virke meget overbevisende, da chatbots jo er skabt til at kreere formfuldendte tekster, men netop derfor er det ekstremt vigtigt ikke at lade sig overbevise af veltalenhed, men ALTID selv eftertjekke og verificere kilder og informationer.

Tænk over hvilken data du deler

Når det kommer til hvilke data du afgiver til en chatbot skal du altid være varsom. Afgiv i udgangspunktet aldrig persondata, da de kan blive lagret. Brug i stedet anonymiseret data, og vær særligt opmærksom på om der er ting der ikke bør deles med andre, hvis du copy/paster store mængder tekst ind, eller uploader dokumenter.

Upload ikke noget du ikke selv har skrevet

Endelig er der ophavsret som er et ret komplekst emne med mange gråzoner. Som på flere andre områder indenfor den digitale verden er det svært for lovgivningen at følge med, men som udgangspunkt er det en god tommelfingerregel ikke at uploade noget du ikke selv har skrevet.

Nettet flyder over med guides til prompting og ”sådan bliver du prompt engineer” kurser. Ordet ”prompt” har taget verden med storm, og hvad der før var et nichebegreb reserveret til kodere og datanørder er nu overalt. Det kan diskuteres hvor meget mening al den fokus og hype omkring prompts giver, både fordi der findes så mange forskellige sprogmodeller der er trænet forskelligt og løbende får ændret deres funktionalitet, men også fordi der er en vis del overtro og magisk tænkning involveret, hvor anekdotiske succeser ophøjes til metodiske sandheder. Her vil vi forsøge at holde det til et par meget korte fifs til hvordan du kan komme i gang med at prompte chatbots mere effektivt, men hold in mente, at det skal tages med et gran salt, og er under evig forandring som teknologierne udvikler sig

Man kan måske tale om to grundskoler indenfor prompting, hvor den første arbejder med såkaldte ”megaprompts”, der prøver at få alt med i én stor prompt. Forhåbningen er så, at man har konstrueret sin prompt med alle de nødvendige oplysninger som chatbotten kræver for at give et fyldestgørende svar. I teorien er en af fordelene ved at bruge megaprompts et lavere CO2 aftryk, men i praksis er det dog ret tidskrævende (og næsten umuligt) at konstruere perfekte megaprompts, hvor man tager højde for alt, og man vil som oftest alligevel ende ud med at skulle uddybe og afgrænse gennem fortsat dialog. Som oftest er det mest frugtbart at bruge en mere dialogbaseret tilgang, hvor man gennem en samtale løbende formulerer nye spørgsmål og forståelser indtil man er kommet hele vejen rundt.

Der findes desuden en række mere eller mindre faste metoder man kan tage udgangspunkt i, når man konstruerer sine prompts. Igen er det vigtigt ikke at tage dem alt for bogstaveligt, men de kan være fine som rettesnor.

Et af de mest simple prompt frameworks det såkaldte R-T-F, hvor man giver chatbotten en rolle, en opgave og et format man vil have svaret i:

• Role (R), f.eks. ”du er ekspert i projektledelse”
• Task (T), f.eks. ”du skal lave en projektplan”
• Format (F), f.eks. ”Planen skal være lavet som en liste”

Chain-of-thought (CoT)

Det kan også være en god idé at bede chatbotten om at tænke sit svar igennem trin-for-trin, eller prompte den med en rækkefølge af handlinger, såkaldt ”chain-of-thought” prompting. Det fungerer særligt godt til opgaver der indebærer problemløsning og logik eller komplekse analyser, da den bliver mere opmærksom på rækkefølge og afhængigheder.

Prøv at prompt på engelsk

Overvej også at starte med at prompte på engelsk for derefter at oversætte det til dansk, da der i de fleste modeller er langt mere data på engelsk. Der findes som nævnt en del metoder, nogle mere avancerede end andre, prøv evt. selv at google dig frem til flere og se om du kan finde noget der passer til lige præcis din situation. Helt generelt kan man sige, at jo mere specifik du er omkring opgaven og jo mere kontekst du giver, des bedre svar får du.

Husk at teknologien er under evig forandring og prompt engineering er ikke nogen eksakt videnskab, så prøv dig frem, eksperimenter, vær kreativ og gør dig dine egne erfaringer.

Læs hvordan du kan henvise til brug af AI i opgaveskrivning under referencer