Avstand fra kunstig intelligens = ekte intelligente kadetter?

ChatGPT eller KI kan ikke erstatte min kadetthjerne eller frastjele meg læringsutbyttet hvis brukt riktig, fordi det kun er et verktøy som kan hjelpe meg i hverdagen. Istedenfor å bruke timesvis på å lage 400 powerpoints, kan bruken av KI frigjøre hjernekapasitet og gi meg tid i gave. Tid som jeg kan bruke på å diskutere etiske og moralske dilemmaer, eller utforske nye løsninger.

På årets Luftmaktsseminar fikk jeg muligheten til å holde et kadettinnlegg, en tradisjon ved Luftkrigsskolen. Jeg benyttet anledningen til å diskutere hvordan jeg som kadett oppfatter holdningene Luftkrigsskolen og Luftforsvaret har til kunstig intelligens. Jeg vil derfor ta dere lesere med på en reise i min kadetthjerne.

Project Carrera

Reisen startet under min engelskeksamen like før jul, der vi ironisk nok skulle holde en «tale på luftmaktsseminaret» om den nyhetssaken fra 2023 vi syntes var viktigst for Luftforsvaret. Jeg valgte å snakke om at Lockheed Martin, produsenten av våre F-35, investerte 100 millioner dollar i droneteknologi, satellitter og kunstig intelligens. Prosjektet kalles Project Carrera, og er et Loyal Wingman-prosjekt, altså at en ubemannet drone kan linke opp og fly i formasjon med en F-35. Den ubemannede dronen kalles Speed Racer, og kan utføre farlige oppdrag på vegne av jagerflygeren, både kinetiske og ikke-kinetiske oppdrag. Den kan styres manuelt av jagerflygeren, dually (altså både jagerflygeren og kunstig intelligens), eller fullstendig autonomt ved bruk av kunstig intelligens.

Jeg antar at da du leste det avsnittet hevet du øyenbrynene og tenkte «wow, det er jo helt sykt». Det gjorde hvert fall jeg første gang jeg hørte om det. Og jo mer jeg satte meg inn i teknologien, jo flere spørsmål dukket opp. En slik teknologi har potensialet til å bli en enorm fordel - og grunnen til at jeg initielt tenkte at dette var en fordel, er nok fordi vi er allierte med de som står bak prosjektet. Men så begynte jeg å tenke: Hva om det var Russlands prosjekt? Hva hvis den asymmetriske fordelen ikke var på min side? Er egentlig jeg forberedt på det?

Kunstig intelligens som offiser

Min kadetthjerne fortsatte å spinne videre til spørsmål som hvor godt forberedt er jeg egentlig på å håndtere en slik trussel som fremtidig offiser? Hva lærer egentlig jeg som gjør at jeg kan takle kunstig intelligens som en trussel? For en drone som er styrt av kunstig intelligens og som selvstendig kan utføre kinetiske operasjoner, skaper potensielt mange utfordringer for den fremtidige offiseren som skal håndtere den trusselen. Kanskje jeg faktisk er kjempeheldig og havner i en jobb der akkurat jeg skal lære spesifikt hva jeg gjør om en Speed Racer drone blir en trussel, men jeg tviler sterkt på at KI er noe alle kadetter vil tilegne seg kunnskap om. Grunnen til at jeg tviler så sterkt er basert på egen empiri fra tiden min som kadett. For hvordan håndterer vi egentlig den hverdagslige problematikken rundt KI på Luftkrigsskolen? Vi tar avstand fra det, ubevisst og bevisst. Etter min mening er vi langt ifra å kunne kalle oss en institusjon der vi fremmer bruk av KI.

ChatGPT

Under mitt første semester på Forsvarets Høgskole ble ChatGPT lansert. Noen brukte det ikke, noen brukte det til brainstorming, og noen brukte det til å skrive deler av oppgaven sin. Og som dere kanskje skjønner, så møter vi allerede her på utfordringer. For vi går jo på en krigsskole for å bli selvstendige offiserer som selvsagt må klare å skrive en oppgave på egen hånd. Samtidig var det lærernes frykt for å ikke klare å skille mellom hva som er skrevet av en robot og hva som er skrevet av eleven, og det medførte at ChatGPT ble forbudt. Noen lærere sa man kunne bruke det til brainstorming, men det var nesten tryggere å ta totalt avstand slik at man ikke kan tas i plagiat og mister skoleplass.

Motargumentene jeg har møtt på i etterkant av foredraget mitt er som regel slik: «ja, men vi har jo gitt klare rammer rundt hva du ikke kan bruke det til, så egentlig kan du bruke det til alt annet». Og det er der jeg er uenig. For ja, når hensikten er å skrive en oppgave for å lære det grunnleggende, så bør man selvsagt ikke bruke ChatGPT. Men ved å ikke oppfordre til å bruke teknologien der man kan ta det i bruk eller ikke ufarliggjør teknologien, vil hele atmosfæren rundt teknologien virke skremmende. Konsekvensen av «forbudet» er utviklingen av en fryktkultur for KI som strekker seg forbi den opprinnelige intensjonen med retningslinjene. Frykt for en teknologi, som kalles den fjerde teknologiske revolusjon. Altså en teknologi som settes i samme kategori som hjulet. Nei, skal vi bare droppe bruken av hjul fordi du blir mye sterkere av å gå selv? Hvis vi klarer å ta avstand fra KI og gjøre alt arbeidet selv, da blir vi jo ekte intelligente kadetter. For ekte intelligens er jo bedre enn kunstig intelligens. Eller? Er konservative old school-holdninger veien å gå for å håndtere nye fremtidsrettede utfordringer?

Jeg tviler. Jeg tviler fordi KI allerede finnes. Det er derimot nytt, komplekst, abstrakt, vanskelig å avdekke, men ikke minst kommet for å bli. Det skal sies at såkalte old school- fremgangsmåter er viktig for å lære det grunnleggende, men hvor mange år av utdanningen skal vi bruke det argumentet? Ved å ikke være åpne for nye tilnærminger, går vi likevel glipp av utvikling, og vi snytes for muligheten til å heve utdanningen og dermed kampkraften vår. Og hvis vi klarer å dyrke en frykt for KI og tar avstand fra KI i en så trygg setting som oppgaveskriving, og allerede nå sliter med å skille KI fra virkelighet, da tror jeg vi vil slite betraktelig mer i komplekse krise- og krigssituasjoner.

UNAPO

Misforstå meg rett. Kvaliteten på utdanningen min er skyhøy, og teorien og øvelsene jeg lærer på skolen forbereder meg på å bli en god offiser. Vi har en luftmaktsøvelse i 2. avdeling som heter UNAPO. Øvelsen går ut på at man deles inn i små lag og representerer hvert sitt land i en multinasjonal koalisjon som sammen deltar i en konflikt eller krig. Koalisjonen håndterer oppdukkende problemer, og skal finne løsninger eller fremgangsmåter sammen. I løpet av den fire dager lange øvelsen ble kullet mitt presentert for 23 ulike problemstillinger, utfordringer og etiske dilemma vi måtte ta stilling til som utøvere av luftmakt. Mitt kull, «Kull Magnus», genererte 400 presentasjoner og løsningsforslag på disse dagene. Og ikke overraskende nok, handlet ingen av disse om kunstig intelligens. Betyr det da at KI ikke er en reell trussel i krig? Eller er det bare det at vi ikke anser det som viktig nok? Er det kanskje for komplekst til å ta stilling til, så da gjør vi bare som med ChatGPT og tar avstand?

Det som er fint med denne casen er at den belyser problemstillinger rundt ansvar, etikk og jus som vi absolutt kan møte på i en operasjon, men som vi ikke har lært å ta stilling til enda. Hvis slike diskusjoner rundt KI hadde vært et større fokus under utdanningen, hadde kanskje disse tankeprosessene hos oss kadettene begynt allerede nå? Hvis utdanningsinstitusjonene hadde ufarliggjort teknologien på en bedre måte, hadde vi kanskje klart å fjerne sperrene som hindrer oss i å se på KI som en ressurs? Så hvorfor ikke inkorporere KI på Luftkrigsskolen, den éne plassen der fremtidens luftforsvar er samlet?

Old School – New School

Det beste med casen jeg presenterte er at den er laget av ChatGPT. Det at jeg, Gud forby, har brukt KI til å lage en case, gjør det at jeg da ikke er en ekte intelligent kadett? Er læringsutbyttet mitt noe dårligere? Har jeg jukset? Tvert imot vil jeg si at casen er et resultat av at jeg har nok fagkompetanse til å bestille, vurdere og justere casen slik at jeg får et ønskelig resultat. Hedda fra videregående skole hadde ikke fått samme resultat. Det er kompetansen jeg har tilegnet meg som kadett som gjør at jeg kan vurdere rett og galt. «Old school»-metodene danner grunnsteinene og grunnkompetansen min. Ved å tillate en «New school»-tilnærming, som innføring av KI, kan læringsutbyttet mitt likevel heves mange nivå. For ChatGPT finner ikke på dette av seg selv. ChatGPT eller KI kan ikke erstatte min kadetthjerne eller frastjele meg læringsutbyttet hvis brukt riktig, fordi det kun er et verktøy som kan hjelpe meg i hverdagen. Så istedenfor å bruke timesvis på å lage 400 powerpoints, kan bruken av KI frigjøre hjernekapasitet og gi meg tid i gave. Tid som jeg kan bruke på å diskutere disse etiske og moralske dilemmaene, eller wargame løsninger. Men det går ikke når jeg låses inn i et detaljfokus der alt skal gjøres for hånd. Det er ikke KI som står i veien for læringsutbyttet mitt, det er den konservative «old school»-kulturen som nekter å åpne opp for nye løsningsforslag.

Prioriteringer og kultur

Vi kan diskutere frem og tilbake hvorvidt og hvor mye vi skal innføre KI på Luftkrigsskolen eller i Luftforsvaret, men jeg tror ikke veien å gå er å ta så avstand fra det som vi gjør i dag. Og det er flott og veldig på tide at KI er temaet på årets luftmaktsseminar og her i LUFTLED, men det hjelper ikke når det laveste nivået, der jeg er, ikke henger med. Leon Megginson sa at «det er ikke den sterkeste som overlever, heller ikke den mest intelligente. Det er den som er mest tilpasningsdyktig til endring». Og den fryktkulturen vi har skapt for KI er ikke tilpasningsdyktig. Utdanningsinstitusjonenes holdninger til KI står faktisk i direkte motsetning til Forsvarsdepartementets strategi for kunstig intelligens. Her skriver til og med Forsvarsministeren at «KI er en del av det globale kappløpet mellom stormaktene» og at økt forståelse og kompetanse knyttet til KI «fordrer en kultur for kontinuerlig forbedring, der medarbeidere utforsker og utvikler teknologiske muligheter, leter etter nye måter å løse oppgaver på og foreslår forbedringer» ¹. Her kommer vi utvilsomt til kort.  

I tillegg lurer vi oss selv hvis vi tror at vi prioriterer kunstig intelligens. For realiteten er at vi ikke gjør det. Det Luftforsvaret prioriterer er å håndtere personellflukt og hvordan vi skal løse de skal altfor mange oppdragene vi får, noe som er helt nødvendig for at vår organisasjon skal overleve. Jeg sier ikke at KI skal høyere opp på listen enn dette, men at du ikke skal la deg lures til å tro at KI er øverst på dagsagendaen bare fordi det står i alle overskrifter.

Det å snakke om kunstig intelligens er utvilsomt en veldig god start, men vi må investere i det også for å nå målene i KI-strategien til Forsvaret. Investeringen trenger ikke nødvendigvis være med penger, men med tid, kreativitet og åpenhet. Men det klarer vi ikke uten en kulturendring. Se at dette krever mer av oss enn å lese en artikkel om KI. Inkorporer KI der du kan, vær åpen for teknologien og vær tilpasningsdyktig. Og det er nok mange som synes at KI er litt lite håndgripelig og diffust, men desto viktigere er det at vi møter utfordringen «head on» og setter oss inn i teknologien fremfor å forby den. Alle bruksområdene til KI blir ikke servert på et sølvfat, så brett opp ermene og begynn å utforske selv. Og hvis du sitter og venter på at det diffuse skal bli litt tydeligere, da vil du aldri kunne bli med på det kappløpet vi står ovenfor nå. For i min kadetthjerne har den reisen allerede begynt, du må bare huske å gå på flyet. Og husk at «det er mulig å forberede seg på noe man enda ikke vet hva er»².

Ettersom denne artikkelen ble skrevet i mars, har jeg valgt å nevne noen ord om hvordan ting utviklet seg etter foredraget:

Som et direkte resultat av foredraget, ble jeg invitert ned til Forsvarssjefens Bokklubb i Oslo for å diskutere KI med flere forsvarstopper og KI-ekspert Inga Strümke. Her satt jeg som kadett i stua til Forsvarssjefen, åpenbart den i rommet med minst erfaring om emnet, men oppfattet likevel at mine bekymringer ble hørt med like stor tyngde som generalene. Det jeg likevel bet meg merke i, var at vi alle egentlig lurte på det samme - hvordan skal Forsvaret bruke KI? Det er følgelig mange store prosjekter tiltenkt KI, men hva med hverdagen? Den arenaen opplevde jeg som tilnærmet upløyd mark og det var ikke så mange gode svar å hente utenom "vi vil bruke KI til reiseregninger". 

Etter samlingen innså jeg at jeg faktisk ikke alltids må vente på initiativ eller insentiver ovenfra. Hva hvis de kommer fra bunn istedenfor? Jeg hadde jo tross alt formanet om behovet for handlekraft i foredraget mitt, så da kunne jeg jo like gjerne starte med meg selv? Jeg valgte derfor å arrangere en KI-workshop på Luftkrigsskolen for å kartlegge følgende spørsmål: Når og hvordan vil (eventuelt ikke) kadetter og ansatte ved Forsvarets Høgskole bruke KI? Workshopen startet med å samle hele skolen, samt representanter fra FHS.

Workshopen startet med et intro-foredrag om KI, deretter en paneldebatt med lærere fra Luftkrigsskolen og en representant fra NSM. Deretter ble massen fordelt i små grupper på tvers av grad og rolle for å faktisk finne ut av hvilke KI-verktøy vi kjenner til, når vi vil/ikke vil bruke KI, og ikke minst brainstorming for hvordan vi kan bruke KI i hverdagen. Jeg kan ikke beskrive hvor mange gode forslag, ideer og diskusjoner som kom ut av disse gruppesamtalene. Mengden ideer gjorde at jeg selv tok i bruk KI for å sammenfatte funnene til en rapport som ble delt på FHS sin teams-kanal. To måneder senere ble denne rapporten brukt på pensumlisten til fellesoperativt emne i tredje avdeling, KI-leksjoner ble innført, og Luftkrigsskolen har nå ansvaret for KI-utviklingen på FHS. 

Jeg nevner ikke dette for å fremme hva jeg har gjort, jeg nevner det for å vise hvor ekstremt mye kraft det ligger i disse "lavere" nivåene. Ingenting av dette hadde skjedd hvis ikke jeg hadde blitt møtt med så mye støtte fra alle kanter av Forsvaret, men det hadde heller ikke skjedd uten eget initiativ. Så min formaning er derfor: Tør å si ifra, men ikke undervurder hva du kan bidra med for å løse problemet."

Foto: Stefan Vedvik under Luftmaktsseminaret