Zuckerbergs två framtider – från metaverse till personlig superintelligens

Den 10 augusti publicerade Mark Zuckerberg The Future is for Everyone — ett AI-manifest på ungefär 6 500 ord. Reaktionerna kom snabbt. Russell Brandom skrev i TechCrunch att manifestet är ett exempel på precis det som får människor att ogilla AI. Elizabeth Lopatto konstaterade i The Verge att Zuckerberg inte verkar förstå vad ett gott liv är.

Jag tycker att båda texterna är läsvärda. Men den mest intressanta jämförelsen är en annan: den mellan det här manifestet och den framtidsvision samma person drev för bara några år sedan — metaverse. Den jämförelsen säger något om båda visionerna, och den blottlägger samtidigt den fråga manifestet aldrig riktigt besvarar.

Vad manifestet faktiskt säger

Det är värt att läsa manifestet på dess egna premisser innan man värderar kritiken, för grundtesen är inte "AI ska göra allt åt oss". Den är: kapaciteten måste distribueras till individer, annars koncentreras makten till institutioner.

Ur den tesen följer några idéer som är starkare än rubrikerna antytt:

• Förstärkning framför automatisering. Zuckerberg skiljer mellan AI som automatiserar människans befintliga arbete och AI som ökar individens förmåga att göra sådant hon tidigare inte kunnat. Han förespråkar uttryckligen det senare — "invention superpowers" är hans formulering.
• Maktbalans som säkerhetsmodell. Hans tankeexperiment om advokaten fångar principen: om bara den ena parten i en rättsprocess har en superintelligent advokat får den ett enormt övertag; om båda har det återställs balansen. AI-risk blir därmed inte bara en fråga om absolut kapacitet, utan om skillnaden i kapacitet mellan aktörer.
• Pluralistisk alignment. Mänskligheten är, som han skriver, ingen monokultur. Det finns ingen enda uppsättning värderingar som en central superintelligens kan optimeras mot. Hans alternativ: min AI bör hjälpa mig efter mina värderingar och din efter dina, inom rättsliga och säkerhetsmässiga gränser — och många system får balansera varandra, ungefär som marknader och demokratiska institutioner gör.

Det sista är egentligen samma princip som mycket av den västerländska samhällsordningen vilar på. Vi försöker inte skapa den perfekta människan; vi bygger institutioner där ofullkomliga människor balanserar varandras makt. Manifestet överför den principen till AI. Det är en betydligt djupare tes än "Meta vill ge alla en AI-assistent".

Kritiken — och vad den missar

Brandoms invändning är i grunden att Zuckerberg säljer en teknikoptimistisk framtid till en allmänhet som inte bett om den, och att manifestet erkänner riskerna bara för att snabbt gå vidare till varför allt ändå blir fantastiskt. Lopattos invändning är djupare: att visionen bygger på en snäv människosyn där effektivitet och måluppfyllelse tar över allt från hobbys till relationer. Ofta är ansträngningen själva poängen — den som lär sig spela en låt vill inte ha en perfekt inspelning på tre sekunder.

Det är en viktig invändning mot en verklig tendens i AI-branschen. Men den träffar det här manifestet sämre än man kunde tro. Zuckerbergs eget exempel med sin dotter är inte att AI:n bakar åt henne — agenten planerar recept och beställer ingredienser medan de bakar tillsammans. Och manifestet säger uttryckligen att det inte finns något objektivt svar på vad ett gott liv är, och att människor själva måste få avgöra vad som är viktigt för dem.

Där kritiken däremot träffar är förtroendefrågan, och den är svårare att läsa bort: samma företag som utlovar en personlig AI, lojal mot användarens mål, är företaget vars befintliga produkter i åratal kritiserats för sina faktiska effekter på människor. Det problemet löser inga 6 500 ord.

Vi slutade aldrig sticka

En del av kritiken vilar dessutom på ett antagande som historien inte ger särskilt starkt stöd för: att om en maskin kan göra något åt oss, så slutar vi göra det.

Vi behöver inte baka bröd, odla tomater, sticka tröjor, snickra möbler eller springa en mil. Ändå gör människor allt detta — därför att aktiviteten har ett värde som är skilt från dess ekonomiska resultat. Det automatiseringen förändrar är ofta inte om vi gör något, utan varför. Före industrialiseringen var stickning produktion. Efter blev samma aktivitet hantverk, identitet, gemenskap. Symaskinen dödade inte sömnaden, och Spotify dödade inte gitarrspelandet.

Jag tror därför att "AI befriar människan från kognitivt arbete" är fel beskrivning. Det troligare är att AI befriar oss från vissa kognitiva produktionskrav. Skillnaden syns i två meningar som ytligt beskriver samma aktivitet:

Jag skriver för att jag vill tänka.

Jag skriver för att organisationen kräver en fjortonsidig månadsrapport.

Om AI tar över den andra behöver människan inte sluta tänka. Hon kan tvärtom få mer tid till den första.

Belastning är inte utveckling

Det finns en skillnad till som sällan görs i debatten: den mellan kognitiv belastning och kognitiv utveckling. Att hantera hundra mejl, flytta information mellan system och sitta i statusmöten belastar hjärnan — men det utvecklar den inte särskilt mycket. Att lära sig ett instrument, konstruera något eller förstå ett nytt område belastar också hjärnan, men med en helt annan kvalitet.

Tjänstesamhället har dessutom gjort något märkligt: vi automatiserade bort stora delar av människans fysiska arbete och byggde sedan administrativa system som håller henne stillasittande åtta timmar om dagen — varefter hon går till gymmet för att återskapa den rörelse ekonomin just effektiviserat bort. Samtidigt är det väl belagt att regelbunden fysisk aktivitet stödjer minne, uppmärksamhet och inlärning.

Det öppnar för en nästan ironisk möjlighet: om AI tar en större del av det administrativa stillasittandet, och människan rör sig mer, kan hon bli bättre på de kognitiva aktiviteter hon faktiskt vill ägna sig åt. "AI gör mer kognitivt arbete" behöver inte betyda "människan tänker mindre".

Frågan tekniken inte kan besvara

Här finns manifestets verkliga lucka, och den är inte teknisk utan ekonomisk. Antag att AI kan utföra hälften av dagens administrativa och kognitiva lönearbete. Då kan samhället i princip välja: samma arbetstid och dramatiskt ökad produktion — eller samma produktion och betydligt kortare arbetstid.

Tekniken avgör inte vilket det blir. Ägande, skattesystem, lönebildning och politik gör det. Så var det under industrialiseringen också: produktivitetsökningen togs så småningom ut både som högre levnadsstandard och som kortare arbetsvecka och längre semester. AI öppnar samma förhandling igen, och manifestet — som gärna använder jordbrukssamhället som analogi — går aldrig riktigt in i den.

Till det kommer antagandet hela konstruktionen vilar på: att distribuerad superintelligens faktiskt leder till maktbalans snarare än kapprustning. Det är inte självklart. Vissa teknologier gynnar försvararen, andra angriparen. Och när den mest kraftfulla kapaciteten kräver datacenter för hundratals miljarder blir frågan hur "superintelligens för alla" kan innebära decentraliserad makt, när den fysiska infrastrukturen ägs av ett mycket litet antal aktörer.

Ändå: ett mognare dokument än metaverse

Trots det tycker jag att manifestet är ett påtagligt mognare dokument än metaverse-visionen — och skillnaden är lärorik.

Metaverse var en destination. Det fanns en specifik bild av framtiden: vi skulle arbeta, umgås och roa oss i virtuella miljöer, och Meta skulle bygga världen vi flyttade in i. Tekniken försökte föreskriva ett mänskligt beteende som det ännu inte fanns någon stark efterfrågan på.

Manifestet börjar i andra änden. Det utgår från att ingen — inte heller Meta — vet vad människor kommer att vilja göra, och drar slutsatsen att de ska få verktygen och bestämma själva. Plattformscentrerat har blivit individcentrerat. Det är också strategiskt starkare: Meta behöver inte längre gissa rätt om nästa stora mänskliga aktivitet.

Och det finns en liten ironi här. Om den nya visionen lyckas kanske metaverse till slut också uppstår — men då som en av tusentals saker människor väljer att bygga, inte som den framtid ett företag försöker få dem att flytta in i.

Nästa fråga: digital delegation

Om den personliga AI:n blir verklighet följer en fråga som manifestet bara snuddar vid, och som jag tror blir avgörande: representation.

En AI som känner mina mål och arbetar för min räkning kommer förr eller senare att agera i mitt namn — delta i ett möte jag inte hinner med, förhandla ett förslag med någon annans AI, lämna uppgifter jag godkänt. Då räcker det inte att lösa digital identitet, frågan om vem du är. Vi behöver också lösa digital delegation:

Vad får din digitala representant göra i ditt namn — och hur bevisas det?

Min AI kanske får boka en resa men inte ingå ett avtal. Den får diskutera tekniska lösningar men inte uttala åsikter jag inte har. Det är i grunden samma problem som fullmakter, behörigheter och federation — områden där det redan finns decennier av arkitekturarbete att bygga vidare på, och där det mesta av det praktiska arbetet återstår.

Metaverse bad oss flytta in i någon annans värld. Den intressantare framtiden är nog den omvända: att var och en bär med sig sin egen — och att vi lär oss reglera vad den får göra för oss.