”Artificiell intelligens kan bli historiens räddning”

ESSÄSTAFETT: Digital historieskrivning i en instabil omvärld

Hajpen kring den artificiella intelligensen ChatGPT har varit svår att missa. Ställ en fråga i fritext och få ett nästintill perfekt svar på vilken fundering som helst, få ett färdigskrivet tal att hålla på din bästa väns bröllop — i form av en limerick, om det skulle vara din grej. Den artificiella intelligensen vänder upp och ner på världen för allt från utbildningsaktörer till copywriters.

Textbaserade självlärande modeller, så kallad Natural Language Processing, NLP, är ett av områdena där artificiell intelligens gör stora framsteg och redan appliceras i vår vardag. Genom att träna ett neuralt nät — en sammankopplad grupp noder, likt det nätverk av neuroner som finns i en mänsklig hjärna — att läsa stora mängder text och förutspå vilka ord som ska följa på varandra, får man en modell som kan skriva en skoluppsats med en knapptryckning. Just den här kategorin av modeller kallas för Large Language Models, LLM.

Men för att skydda ChatGPT från att bli rasist eller konspirationsteoretiker, vilket varit ett problem med yngre NLP-modeller, valde utvecklarna på OpenAI – företaget bakom ChatGPT – att inte ge sin modell tillgång till internet för att hämta information i realtid. Ett val som gör att ChatGPT har begränsad kunskap om händelser efter 2021.

Finns risker med hur NLP tränas

Artificiell intelligens kommer att revolutionera vår relation till kunskap. När våra mänskliga hjärnor inte längre klarar av att processa all information vi har runtomkring oss har vi helt plötsligt möjlighet att låna artificiell kapacitet. En av innovationerna med ChatGPT är att den har arbetsminne, och därmed kan referera till vad man pratat om tidigare i konversationen. Men precis som tankarna i din mänskliga hjärna är en produkt av dina personliga upplevelser, tränad att förstå världen sedan du såg dagens ljus, gäller samma princip för artificiell intelligens.

Det finns självklart risker med detta. En NLP-modell kommer alltid vara färgad av reglerna som definierat den, ”miljön den vuxit upp i”. Och självklart kommer en kinesiskt tränad motsvarighet till ChatGPT ge svar som skiljer sig avsevärt från den amerikanska version som vi nu försökt knäcka med våra klurigaste frågor. Det finns också en risk för en negativ spiral — om NLP-modeller tränas på inkorrekt data och därmed genererar text som innehåller faktafel, som sedan blir träningsdata för nästa generation modeller, som då svarar ännu mer fel.

Kan minska risken för ”alternativa fakta”

Samtidigt kan det resonemanget också appliceras åt andra hållet. Det finns det goda möjligheter att applikationen av NLP i vår vardag faktiskt förbättrar möjligheten till korrekt information och minskar risken för ”alternativa fakta” och konspirationsteorier över tid.

AI-modeller är svåra, dyra och tidskrävande att träna. Under lång tid har modellerna förbättrats genom att vi gett dem mer information att lära sig av, vilket ökar antalet noder i de neurala näten. Problemet är bara att modellerna blir så stora att de blir svåra att hantera, och kräver massor av processorkraft och energi under sin träningsperiod. Energi är dyrt, och om den inte är fossilfri släpper den ut koldioxid. Det finns inga officiella beräkningar av ChatGPT:s klimatpåverkan. Uppskattningar på internet varierar mellan en 3/4-dels dansk och 93 amerikaners koldioxidutsläpp årligen, och även om det spannet är väldigt stort så är det ganska många ton koldioxid om året.

Kostnader och klimatpåverkan under träningsfasen

Det vi vet är dock att den stora delen av både kostnader och klimatpåverkan uppstår under träningsfasen. Det är bra, för det betyder att när du väl lagt pengar på att träna upp en modell vill du använda den så länge som möjligt istället för att behöva träna en ny. Det kommer därmed vara betydligt mer lönsamt att applicera en NLP-modell någon annan redan tränat upp, när du vill få tillgång till funktionaliteten NLP kan erbjuda. Microsoft investerar exempelvis miljarder i OpenAI för att kunna använda framtida versioner av ChatGPT för att förbättra sökresultaten hos sin sökmotor Bing.

Det sannolika är att vi inom överskådlig tid har en handfull NLP-modeller, precis som vi har ett litet antal programmeringsramverk som ligger till grund för en stor del av internets alla webbsidor och appar. Fördelen blir då att vi – om vi ser till att få på plats regelverk som kräver transparens — kan redogöra för de regler och antaganden som ligger bakom resultaten som genereras. Hur viktas egentligen informationen i världens alla forskningsdatabaser, jämfört med trådarna på Flashback? NLP-modeller kan bli det filter våra hjärnor behöver för att inte gå bort sig i bruset av information. För att det här ska bli verklighet behöver vi ha ordning på vår historiska data, och vilka antaganden den är gjord på.

Kommer tvinga fram en gemensam bild av historien

Samtidigt börjar antalet parametrar som används i de neurala näten nå en platå. För att få ner kostnaden och klimatpåverkan för att träna en NLP-modell börjar AI-företagen istället fokusera på att öka kvaliteten på informationen modellerna tränas på. Hos teknikföretag världen över sitter nu anställda och kodar den data som AI-modellerna sedan tränas på, en process som helt plötsligt skapat nya karriärvägar för bibliotekarier, arkivarier, arkeologer, och historiker. Att ha en utbildning i att klassificera, verifiera och utvärdera information, är nämligen en väldigt bra bakgrund för att se till att neurala nät har tillgång till träningsdata av hög kvalitet.

Den här typen av kunskapsgenererande artificiell intelligens kommer att tvinga fram en gemensam bild av historien. Om vi gör det rätt finns goda förutsättningar för att den samlade bilden är byggd på vetenskap och forskning. Det kommer sannolikt inte vara särskilt lukrativt att träna och erbjuda en AI-modell som förnekar Förintelsen. Att höja tröskeln för vem som kan generera och sprida kunskap, och ha starka finansiella incitament för att information håller hög kvalitet, känns som en paradoxal lösning på att allt fler väljer vad de vill tro på. Samtidigt kan det bli historiens räddning.

Även om vi inte ska blunda för att artificiell intelligens kommer med nya utmaningar för mänskligheten att hantera, så ser det onekligen ut som att den nya tekniken kan vara ett efterlängtat botemedel till den epidemi av faktaresistens som spridit sig de senaste åren. Att det också skapar nya jobb för humanister, är ju onekligen anledning till att vara hoppfull.

Sedan kan man ju fråga sig om dagens informationslandskap är en hälsosam miljö för en mänsklig hjärna — om vi inte ens vågar låta våra AI-modeller ha tillgång till internet med risk för att de blir konspirationsteoretiker och rasister.

—–
Anna Loverus är vd och grundare av strategi- och kommunikationsbyrån Better Odds.
Det här är del fyra i Omvärld & insikts essästafett på temat digital historieskrivning i en instabil omvärld.