Vad är semantik – och varför bråkade filosofen med sin fjäderpenna om det?

Förra gången lämnade vi vår tecknade filosofsvän mitt i en febril skrivakt, med bläck flygande och ett olöst ord i luften: semantik.

Det låter som något man borde minnas från gymnasiet men i praktiken mest nickar igenkännande åt. Ändå har semantik blivit högst användbart i en värld där vi allt oftare använder vanligt språk för att styra tekniska system. Så vad betyder det egentligen?

Det korta svaret: Semantik handlar om betydelse – vad ord och meningar betyder, inte bara hur de är konstruerade.

Syntax, semantik och pragmatik går in på en bar

För att förstå semantik behöver vi skilja mellan tre saker som gärna blandas ihop:

• Syntax handlar om hur orden sätts samman.
• Semantik handlar om vad orden och meningen betyder.
• Pragmatik handlar om vad någon avser med yttrandet i ett visst sammanhang.

Ta frågan: "Kan du skicka saltet?"

Syntaktiskt är den korrekt formulerad som en fråga. Semantiskt frågar den om personen har förmågan att skicka saltet. Pragmatiskt förstår de flesta av oss att den egentligen betyder "Skicka saltet, tack." Det är därför nästan ingen svarar "ja" och sedan fortsätter äta.

Vi människor använder situationen, relationen, tonfallet och våra tidigare erfarenheter för att förstå avsikten bakom orden – så snabbt att vi knappt märker det. Och det är precis den förståelsen som en AI varken har på riktigt, eller helt saknar – den gissar sig fram, baserat på mönster. Det fungerar ofta förbluffande bra. Men "förbluffande bra" är inte samma sak som "förstår exakt vad jag menar".

Semantikens lilla fälla

Föreställ dig att du ber en AI: "Skriv en kort och rolig sammanfattning."

Det låter tydligt. Men nästan varje viktigt ord lämnar utrymme för tolkning.

Vad betyder kort – färre än hundra ord, en minuts lästid, eller hälften så lång som originalet? Vad betyder rolig – varm och lättsam, ironisk, absurd, rolig för en programmerare eller för styrelsen? Och vad betyder sammanfattning – en neutral återgivning, de viktigaste slutsatserna, eller en säljande introduktion där alla nyanser får stryka på foten?

Problemet är inte nödvändigtvis att AI:n är dålig på att följa instruktioner. Problemet är att instruktionen innehåller luckor – och modellen fyller dem artigt med sina egna, sannolika antaganden.

Aha: Ju mindre av din avsikt du uttrycker, desto mer av resultatet överlåter du åt modellens antaganden.

Ett lån från Kahneman

I Tänka snabbt och långsamt beskriver Daniel Kahneman två sätt att tänka: System 1, snabbt, intuitivt och automatiskt – och System 2, långsammare, mer ansträngande och analytiskt.

En språkmodell har förstås inte dessa två psykologiska system. Men liknelsen är användbar: när AI:n snabbt genererar ett till synes självklart svar är det lätt för oss att behandla svaret som om någon redan tänkt igenom frågan ordentligt. I själva verket har modellen kanske bara följt den mest sannolika vägen genom en otydlig instruktion – den har inget System 2 som stannar upp och frågar sig om du verkligen menade det du skrev.

Det gör dig, paradoxalt nog, till maskinens System 2: den som ska stanna upp, tänka efter och formulera om innan svaret redan är givet.

Kahnemans forskning visar också att hur information presenteras påverkar hur vi bedömer den. "90 procent överlevnad" känns annorlunda än "10 procent dödlighet", trots att det är samma siffra. Samma sak händer när vi formulerar frågor till en AI: be modellen beskriva "riskerna" med att införa AI i verksamheten, fråga sedan om "möjligheterna" – du får sannolikt två ganska olika berättelser. Problemet uppstår när vi glömmer att perspektivet fanns inbyggt i frågan och börjar behandla svaret som en neutral beskrivning av verkligheten.

Ett bättre uppdrag kan därför vara: "Analysera både möjligheter och risker med att införa AI i verksamheten. Använd samma bedömningskriterier för båda perspektiven, synliggör viktiga antaganden och peka ut vad som kräver mer information." Ingen garanti för sanningen – men en betydligt bättre början.

Från teori till praktik: vad tycker folk egentligen?

Nog om filosofer och tankeexperiment – vad använder man semantik till på riktigt?

Ett bra exempel: du lanserar en annonskampanj och vill veta hur den togs emot på X och Instagram. Det enkla sättet är att räkna kommentarer, likes, delningar, positiva och negativa ord. Det smarta sättet är semantisk analys – att låta AI:n läsa hur folk faktiskt uttrycker sig, inte bara att de uttrycker sig.

Skillnaden är enorm. "Wow, vilken succé" kan vara genuint beröm – eller den giftigaste meningen i hela kommentarsfältet, beroende på vad som skrevs precis innan, vilken ton kontot brukar ha, och om det följs av tre skrattgråtande emoji. Ren ordräkning ser bara positiva ord. Här är det värt att skilja på några närliggande begrepp: sentimentanalys bedömer om en text är positiv, negativ eller neutral. Semantisk analys identifierar betydelser, ämnen och relationer. Pragmatisk tolkning försöker förstå avsikten i den faktiska situationen – vilket för övrigt är exakt det filosofen med fjäderpennan hela tiden hävdat är hela poängen.

Samma princip funkar utmärkt på produktrecensioner. Istället för att bara sortera efter stjärnbetyg kan man kategorisera efter hur folk skriver: en saklig, detaljerad genomgång av funktioner (köparen som gjort sin hemläxa)? Ett känsloutbrott efter en dålig leveransupplevelse (egentligen inte om produkten alls)? En jämförelse mot en konkurrent (en köpare som fortfarande vacklar)? Samma stjärnbetyg, tre helt olika insikter.

Ett litet men viktigt sidospår: ironi har länge varit AI:ns akilleshäl. "Toppenservice, väntade bara i 45 minuter" har historiskt kunnat tolkas som positivt av en modell som fastnat i orden istället för avsikten – ungefär som en alltför bokstavstrogen utbytesstudent. De senaste generationerna språkmodeller har blivit betydligt bättre på att fånga sarkasm och underdrift, just genom att väga in mer sammanhang: vad sas innan, vilken ton har kontot generellt, vilka ord brukar följas av vilka känslor. Fortfarande inte ofelbart – ironi fungerar just för att vi säger en sak och räknar med att mottagaren förstår något annat, vilket gör den till ett ganska brutalt prov på om sammanhanget verkligen följt med.

Samma ord, olika världar

Även en kristallklar formulering kan gå snett om den saknar sitt sammanhang. "Boka bordet" betyder en sak på en restaurang, något annat i en snickeriverkstad, och kanske något tredje på ett auktionshus. Orden är desamma. Syntaxen är densamma. Men betydelsen formas av var den uttalas, av vem, och av det större system av antaganden den ingår i – vilka saker som finns, vad de kallas, hur de hänger ihop, vad man får göra med dem.

Och just det systemet av begrepp och relationer har ett eget namn: ontologi.

Filosofen får sista ordet

Semantik är alltså inte bara ett akademiskt ord för människor med många böcker och starka åsikter om kommatecken. Det är ett praktiskt verktyg för att upptäcka glappet mellan det vi säger, det orden betyder, det vi avser – och det mottagaren faktiskt uppfattar.

När mottagaren är en AI blir det glappet särskilt viktigt. Att uttrycka sig precist handlar därför inte om att skriva perfekta "magiska prompts". Det handlar om att tänka tillräckligt klart för att kunna säga vad man menar – och att kontrollera om svaret faktiskt motsvarar avsikten.

Filosofen hade med andra ord en poäng. Även om han fortfarande har bläck över hela bordet.

Vill du gräva djupare: George Lakoff & Mark Johnsons Metaphors We Live By är en tillgänglig ingång till hur språkliga bilder formar tanken. Steven Pinkers The Stuff of Thought och S.I. Hayakawas Language in Thought and Action går vidare in i relationen mellan språk, tanke och handling. För den som vill gå djupare finns Alfred Korzybskis "kartan är inte terrängen" i Science and Sanity, Wittgensteins resonemang om betydelse som användning i Filosofiska undersökningar, och John Searles Speech Acts.

Nästa del

Ord får sin betydelse i ett sammanhang. Men hur beskriver vi själva sammanhanget – sakerna som finns där och relationerna mellan dem? I nästa del tar vi oss an ontologi: ordet som låter svårare än det behöver vara.