Efter Babel

Det finns något märkligt med den tid vi lever i. Under större delen av mitt liv har världen rört sig mot allt större integration. Företag har flyttat produktion dit den varit mest effektiv, länder har specialiserat sig och komponenter har färdats fram och tillbaka över kontinenter innan de blivit en färdig produkt. Internet har samtidigt knutit samman människor och marknader på ett sätt som hade varit svårt att föreställa sig bara några decennier tidigare.

Nu tycks rörelsen delvis ha vänt. Vi talar åter om tullar, handelskrig, strategiska råvaror, nationell produktion och självförsörjning. Europa vill tillverka egna halvledare, USA vill minska sitt beroende av Kina och Kina bygger sina egna tekniska ekosystem. Energi, mineraler, halvledare och datacenter har blivit säkerhetspolitik. Den fysiska världen håller, åtminstone på vissa områden, på att dra sig isär.

Samtidigt händer något i den digitala världen som går i nästan exakt motsatt riktning. För första gången håller vi på att bygga maskiner som inte bara kan översätta våra språk utan också hjälpa oss att förstå kunskap som tidigare varit svår att nå. Medan den materiella världen fragmenteras tycks informationsvärlden integreras. Det är en märklig samtidighet, och kanske säger berättelsen om Babels torn mer om vår situation än man först skulle kunna tro.

Ett mycket gammalt problem

Berättelsen om Babels torn är flera tusen år gammal. Oavsett om man läser den religiöst, historiskt eller som en filosofisk berättelse innehåller den en fascinerande tanke. Människorna talar samma språk och bestämmer sig för att bygga en stad och ett torn som når mot himlen. Det brukar beskrivas som en berättelse om människans högmod, men det finns en annan detalj som är minst lika intressant: det som gör bygget möjligt är egentligen inte tornet, utan språket.

Människorna kan förstå varandra och kan därför organisera sig, dela upp arbetet och förena många människors kunskap och arbete i ett gemensamt projekt. Det gemensamma språket blir på så sätt en sorts infrastruktur för deras civilisation. Sedan förvirras deras språk. Ingen tar ifrån dem deras intelligens, deras händer eller deras verktyg. Tegelstenarna finns fortfarande kvar. Det som försvinner är deras förmåga att koordinera sig, och därför upphör också bygget.

Läst på det sättet är Babel inte bara en berättelse om ett torn eller ens om mänskligt högmod. Det är också en berättelse om sambandet mellan språk, samarbete och mänsklig förmåga. En enskild människa kan åstadkomma mycket, men civilisation uppstår först när många människors kunskap kan kombineras.

Ingen människa kan bygga en iPhone

Titta på en modern mobiltelefon. Ingen enskild människa vet hur man bygger den från grunden. Förmodligen finns det inte ens ett företag som självständigt skulle kunna återskapa hela produktionskedjan från råmaterial till fungerande telefon. Någon utvecklar processorn, någon annan bygger maskinen som tillverkar processorn, mineraler bryts på andra platser och operativsystemet utvecklas av tusentals människor. Kommunikationsstandarderna har skapats gemensamt under årtionden och mobilnäten byggs av ytterligare företag och människor.

Det märkliga är därför egentligen att telefonen över huvud taget existerar. Den är resultatet av en civilisation som blivit oerhört skicklig på att dela upp kunskap. En människa behöver inte längre förstå helheten. Hon behöver förstå sin del och kunna lita på att andra förstår sina delar. Det är specialisering, och specialisering har varit en av civilisationens mäktigaste motorer.

Men specialisering har ett pris: vi blir beroende av varandra. Ju mer avancerade våra system blir, desto fler andra människor, företag och länder måste fungera för att helheten ska fungera. Det är denna sårbarhet som blivit allt tydligare när geopolitiken åter har flyttat in i ekonomin.

När världen börjar backa

I ett resonemang om risken för en framtida civilisationskris formulerar professor Jiang sambandet ungefär så här: Teknologiska framsteg = specialisering × globalisering. Det är förstås ingen naturlag, men som tankemodell är den intressant. Ju mer världen handlar och samarbetar, desto mer kan vi specialisera oss. Sverige behöver inte kunna tillverka allt Sverige behöver. Japan behöver inte ha alla sina råvaror inom de egna gränserna. Nederländerna kan bli exceptionellt bra på en liten men avgörande del av halvledarindustrin.

Men vad händer om världen blir mindre global? Då måste länder börja kunna mer själva. Effektivitet byts delvis mot motståndskraft och specialisering mot redundans. Fabriker och leveranskedjor börjar bedömas utifrån säkerhet snarare än enbart kostnad. Jiangs slutsats är pessimistisk: om globaliseringen minskar kommer även den tekniska utvecklingen att bromsa.

Det är långt ifrån självklart att han har rätt i hur långt den utvecklingen går. Men frågan han ställer är viktig. Vad händer med en civilisation vars tekniska förmåga bygger på extrem specialisering när den politiska världen börjar göra denna specialisering svårare? Här dyker samtidigt en motkraft upp som inte funnits tidigare: artificiell intelligens.

Ett nytt slags översättare

När vi säger att en språkmodell kan språk tänker vi lätt på översättning. Jag skriver svenska och någon annan skriver japanska, och AI översätter mellan oss. Det är användbart, men egentligen inte särskilt revolutionerande. Maskinöversättning har funnits länge. Det nya är att språkmodeller också börjar översätta mellan olika sätt att tänka.

En jurist och en programmerare kan båda tala svenska men ändå använda helt olika språk. Detsamma gäller läkaren och statistikern, ingenjören och ekonomen, forskaren och politikern. Vår specialisering har skapat tusentals små Babel. Det vetenskapliga språket har blivit så specialiserat att forskare kan ha svårt att förstå forskning utanför sitt eget område. Programvara har sitt språk, juridiken sitt och ekonomin sitt.

Mitt emellan dessa världar placerar vi nu språkmodellen. Jag kan ge den en juridisk text och fråga vad den betyder ur ett IT-arkitekturperspektiv. Jag kan läsa forskning på ett språk jag inte behärskar och diskutera innehållet på svenska. Jag kan beskriva en idé med vanliga ord och få hjälp att uttrycka samma idé som programkod. Det betyder naturligtvis inte att jag därmed blivit jurist, forskare eller programmerare. Men avståndet mellan dessa kunskapsvärldar har blivit mindre.

Det är därför språkmodellen är något mer än en översättningsmaskin. Den börjar fungera som ett semantiskt mellanlager mellan människor och mellan kunskapsområden. Den behöver inte göra oss till experter på allt för att förändra samhället. Det räcker att den gör det betydligt enklare för olika former av expertis att mötas.

Två världar rör sig åt motsatta håll

Här uppstår den paradox som jag tycker är så fascinerande. Den materiella världen verkar på flera områden röra sig mot större uppdelning samtidigt som den digitala världen rör sig mot större sammanlänkning. Länder försöker minska sina beroenden av varandra samtidigt som människor får allt enklare att använda varandras kunskap. Vi bygger fler nationella gränser runt produktion samtidigt som gränserna mellan våra kunskapsområden blir tunnare.

Geografin blir viktigare för var halvledare, energi och råvaror kommer ifrån, men samtidigt nästan irrelevant för en idé. En person i Sverige kan sitta vid köksbordet och diskutera en japansk forskningsrapport på svenska, jämföra den med europeisk lagstiftning och några minuter senare experimentera med resonemanget i programkod. Det som för bara några år sedan kunde kräva flera människor med olika språk och kompetenser kan i vissa situationer göras av en person med tillgång till en språkmodell.

Det är svårt att inte se något Babel-liknande i detta, fast baklänges. Samtidigt som den globala ekonomin riskerar att fragmenteras håller tekniken på att minska betydelsen av en annan sorts fragmentering: uppdelningen av mänsklig kunskap.

Tänk om globalisering bara var ett verktyg?

Det leder till en intressant tanke. Kanske är det inte globaliseringen i sig som drivit vår tekniska utveckling. Kanske har globaliseringen framför allt varit ett sätt att åstadkomma något ännu viktigare: koordination. I så fall skulle Jiangs tankemodell kunna skrivas om till: Teknologiska framsteg = specialisering × förmågan att koordinera kunskap.

Under några hundra år har handel, företag, universitet, standardisering, telefoni, flyg och internet gjort denna koordinering allt billigare. Nu kommer språkmodellerna och sänker kostnaden ytterligare. Om en människa med hjälp av en språkmodell lättare kan röra sig mellan flera kunskapsområden minskar friktionen kring specialisering.

Vi behöver fortfarande experter. AI gör inte trettio års erfarenhet irrelevant. Men experternas kunskap kan bli lättare för andra att hitta, förstå och kombinera med annan kunskap. Det kan göra små grupper märkligt kapabla. Små organisationer kan få tillgång till kapacitet som tidigare krävde betydligt större organisationer, och människor kan kombinera kunskapsområden som tidigare varit separerade därför att ingen enskild människa haft tid eller möjlighet att behärska språket inom dem alla.

Den digitala integrationen skulle på så sätt kunna motverka delar av den materiella fragmenteringen. Inte genom att ersätta råvaror, fabriker eller energi. En språkmodell kan inte trolla fram litium, bygga en halvledarfabrik eller transportera spannmål över ett blockerat hav. Men den kan förändra vår förmåga att organisera den kunskap som behövs för att hantera sådana problem.

Babel baklänges

Det är här den gamla berättelsen får en ny innebörd. Babel handlar om en mänsklighet som först kan förstå varandra och därför kan genomföra ett enormt gemensamt projekt. När den gemensamma förståelsen försvinner splittras människorna och projektet upphör. Vi befinner oss möjligen i början av den motsatta rörelsen.

Vi får inte tillbaka ett gemensamt språk. Svenska kommer att fortsätta vara svenska och japanska japanska. Jurister kommer att fortsätta tala juridik och programmerare kod. Men mellan alla dessa språk växer ett nytt lager fram: en maskin som kan stå mitt emellan och försöka förstå vad den ena menar och uttrycka det på ett sätt som den andra kan förstå.

Det är svårt att överblicka konsekvenserna. Vi diskuterar ofta AI utifrån frågan om när maskiner blir intelligentare än människor. Kanske är det inte ens den mest intressanta frågan. Den verkligt stora förändringen kan komma långt tidigare – inte när maskiner blir lika intelligenta som människor, utan när människor med hjälp av maskiner blir mycket bättre på att använda varandras intelligens.

Men vem äger det gemensamma språket?

Här finns också en betydligt mörkare fråga. Om språkmodeller verkligen blir ett gemensamt lager mellan människor och kunskapsområden måste vi fråga vem som kontrollerar detta lager. Babels gemensamma språk tillhörde människorna själva. Vårt nya semantiska mellanlager kan i stället komma att kontrolleras av ett litet antal företag och stater.

Om allt större delar av vår informationssökning, programmering, forskning, översättning och vårt beslutsstöd passerar genom språkmodeller får de som kontrollerar modellerna en märklig position. De behöver inte äga informationen för att få makt över hur vi når den. De kan komma att kontrollera själva gränssnittet mellan människan och den samlade kunskapen.

Då får begreppet digital suveränitet en djupare innebörd. Det handlar inte längre bara om var våra data lagras eller var våra servrar står. Det handlar också om vem som bygger det lager genom vilket vi tolkar världen och förstår varandra.

Kanske är det därför vår tid är så svår att tolka. Vi ser två till synes motsatta krafter samtidigt. Geopolitik, råvaror, säkerhet och nationella intressen drar den materiella världen isär. Samtidigt gör språkmodeller det lättare för idéer att passera mellan språk, yrken, discipliner och kulturer.

Den materiella världen kan alltså vara på väg mot mindre globalisering samtidigt som den mänskliga kunskapen går mot något som liknar hyperglobalisering. Den ena rörelsen säger att vi måste bli mindre beroende av varandra. Den andra ger oss större möjligheter än någonsin att förstå och använda varandras kunskap.

Kanske tar dessa krafter ut varandra. Kanske kommer de i stället att förstärka varandra på sätt vi ännu inte förstår. Men det finns en tanke i den gamla berättelsen om Babel som fortfarande känns märkligt aktuell: människans verkliga styrka ligger inte bara i vad en enskild människa vet, utan i vår förmåga att förstå varandra tillräckligt väl för att bygga något tillsammans.

I flera tusen år har språket både gjort detta möjligt och satt gränserna för det. Nu börjar den gränsen flytta på sig. Och kanske är därför den intressantaste frågan om AI inte hur intelligent maskinen kan bli, utan vad människan kan bli kapabel till när Babel långsamt börjar gå baklänges.