Fysikern Max Tegmark om möjligheter och risker med modern teknik
Tekniken ska vara vår tjänare och kan enligt fysikern Max Tegmark bidra till att lösa många av vår tids stora problem. Men för att det ska vara möjligt behöver vi formulera en gemensam, positiv framtidsvision och dra en tydlig gräns för vad som är acceptabelt.
”Teknik är inte ond eller god, utan ett verktyg som ger oss möjlighet att göra bra eller dåliga saker”, det sade fysikern och kosmologen Max Tegmark som även kallar sig aktivist i sitt uppskattade sommarprat i radions P1 förra året.
Tekniken han syftar på i programmet är främst AI eller artificiell intelligens, som ses av många som både människans frälsning och ett allvarligt hot – hur det blir beror på oss. Hur vi väljer att styra utvecklingen och vad vi vill ha den till.
”Det är något vi måste bestämma oss för nu”, säger Max, när han är på besök i Stockholm och ger en föreläsning för ett fullsatt Stockholm city conference center i Folkets hus en kylig aprilafton.
Utvecklingen går snabbt
För utvecklingen går snabbt, väldigt snabbt. Möjligheterna finns att AI ska kunna hjälpa oss att i princip leva paradiset på jorden där AI är i vår tjänst. Men Max ser också en risk för ett skräckscenario:
”Den kan användas för att bota sjukdomar och lyfta alla ur svält och fattigdom eller för att öka inkomstklyftorna, manipulera människor och starta kapprustning med mördarrobotar.”
Många anser att besluten om AIs utveckling ska överlåtas åt experter och Max Tegmark har fått kritik för att han ibland annat i sin senaste bok ”Liv 3.0: att vara människa i den artificiella intelligensens tid” utgiven på Volante förlag (2017) väcker frågan om vilka som ska få vara med och bestämma.
Max Tegmark är en svensk fysiker uppvuxen i Bromma utanför Stockholm, verksam som professor vid den prestigefyllda institutionen för fysik vid Massachusetts Institute of Technology – MIT i Boston, USA.
Han har nått nästan rockstjärnestatus här hemma i Sverige och har fått tunga namn som Teslas Elon Musk och en av Skypes grundare att finansiera den ideella satsningen ”Future of life institute” som arbetar för att undersöka och förebygga riskerna med AI, för, som Max säger, kan vi inte längre arbeta efter modellen att lära av våra misstag.
Kan AI börja tänka själv?
Med en så kraftfull teknologi som vi idag utvecklar krävs att vi ligger inte bara ett steg före, utan flera. Vi behöver vinna vad han kallar ”vishetsracet”, och bland annat skapa stabil teknologi som inte riskerar hänga sig eller krascha när till exempel en självkörande bil är ute på vägarna.
Säkerhet och kvalitet är en sak, minst lika viktigt eller kanske ännu viktigare är att säkerställa att AI har samma mål som vi, och inte utvecklar egna intressen som går i strid med mänsklighetens, det är då det kan gå riktigt illa.
Men finns det verkligen risk för det? Kan AI verkligen börja tänka själv? Ja, i det närmaste menar Max. Vi är på väg att utveckla superintelligens som är mycket smartare än vi själva är, så kallad AGI, kort för Artificial general intelligence. Enligt Max Tegmark har vi människor en lång historia av att underskatta vår förmåga att bygga kraftfull teknik – till slut blir kraften så stor att det går över en gräns.
Styra utvecklingen
Därför har han varit med att ta fram 23 principer för hur utvecklingen ska styras som över 1000 AI-forskare men även ledare för AI-företag undertecknat. Under föredraget redogör Max för några av dem:
Först och främst är det viktigt att dra en linje mellan vad som är acceptabelt och vad som inte är acceptabelt. Som exempel på en vetenskap som lyckats bra med den gränsdragningen nämner Max biologin där man tydligt sagt nej till och förbjudit biologiska vapen, något Max menar att man även behöver göra gentemot bland annat det han kallar mördarrobotar. Ett massförstörelsevapen i budgetklassen som gör att få kan ta mångas liv och som enligt Max riskerar få spridning inom en relativt snar framtid. Många länder har gått ut och tagit avstånd, bland annat Japan, Belgien och Tyskland – dock inte Sverige.
"Oavsett vad man väljer, leder utvecklingen av AI till att allt fler jobb kommer skötas av robotar eller någon form av AI, och en fråga är förstås då vad människan ska försörja sig på"
När Max var tonåring vaknade han upp för riskerna med kärnvapen, han engagerade sig i Svenska freds- och skiljedomsföreningen och skrev vid 17-års ålder för föreningens tidning Pax. Och engagemanget sitter i, som fysiker tar han hotet från kärnvapen personligt och kritiserar Sverige hårt för att inte skriva under FN:s konvention för förbjud mot kärnvapen. I Sverige har man istället noga undersökt vilka risker det skulle medföra att skriva under berättar Max – samtidigt som man blundar för riskerna med vätebomber.
”En liten detalj vi glömt”, skämtar han på föredraget och får applåder.
Yrken försvinner
I publiken sitter många killar i skolåldern med sina pappor och det känns nästan lika mycket som ett yrkesvägledningsmöte som en föreläsning om AI. Och Max Tegmark tar också upp vilka yrken man bör satsa på för att inte riskera att stå utan jobb om några år, eller kanske snarare vilka man bör undvika. Vilka som kommer bli kvar är lite svårare att sia om, men han visar en karta där yrken som programmerare som länge ansetts vara säkra kort ligger förvånansvärt illa till och snabbt riskerar att hamna under vattenytan allt eftersom AI vinner mark. Medan konst, författande, filmskapande och musik ser ut att sitta mer säkert uppe i bergstopparna.
Det är områden som yrkesvägledare knappast brukar rekommendera unga att välja, det gör å andra sidan inte Max heller. Han bara pekar på att det är de som är svårast för AI att bli bättre på än vi människor är. Oavsett vad man väljer, leder utvecklingen av AI till att allt fler jobb kommer skötas av robotar eller någon form av AI, och en fråga är förstås då vad människan ska försörja sig på när arbete för många är det enda sättet. Risken är att de ekonomiska klyftorna fortsätter öka med enorm ojämlikhet som följd.
Ökad ekonomisk ojämlikhet
Även om den solidariska tanken är det dominerande argumentet mot stora ekonomiska klyftor är ett starkare argument enligt Max att en ökad ekonomisk ojämlikhet utgör ett hot mot demokratin, då de allra rikaste helt enkelt kan köpa politiker. Som exempel nämner han hur flera amerikanska myndigheter är allierade med starka ekonomiska intressen. Och forskning visar att ju mer ojämlikt ett land är ekonomiskt, ju större är också korruptionen.
Det borde därför, enligt Max, räcka som argument att vilja ha ett land som är demokratiskt och inte korrupt för att vara mot ökande klyftor och för en rättvis fördelning av välfärden. Samtidigt som han poängterar att det inte handlar om att ta från de rika, utan att vi måste sträva efter att alla ska få det bättre, vilket är den andra principen av de 23 som Max tar upp under kvällen.
Oron för att AI ska ta våra jobb brukar ofta bemötas med att de kommer ersättas av nya sorters jobb som inte finns ännu, men historiskt sett har det visat sig inte stämma förklarar Max. Den industriella revolutionen gjorde att många utbildade sig och gick från att arbeta med sina muskler till att jobba med hjärnan – vilket dessutom var bättre betalt – något som bidrog till att driva den ekonomiska utvecklingen framåt. Utvecklingen med artificiell intelligens har istället lett till att de som förlorar jobbet på grund av AI generellt får jobb som betalar sämre, något som bidrar till den växande ojämlikheten. När man byter ut människor mot maskiner går pengarna som tidigare skulle gå till löner istället som vinst till de som äger maskinerna, vilket ökar på inkomstklyftorna förklarar Max.
”Sverige kan gå i bräschen”
Han påtalar även att vi på lång sikt behöver ändra vår syn på arbete. Argumenten för att vi ska arbeta brukar vara att vi ska ha inkomst, mening och gemenskap och även om Max aldrig tar ordet medborgarlön eller basinkomst i sin mun menar han att det inte behöver vara en katastrof om många jobb försvinner. Så länge vi har ett styre som vill allas bästa och får in skattepengar så att alla kan få en rimlig inkomst och alla känner att de har något meningsfullt att göra.
Här menar han att vi i Sverige har en möjlighet att gå i bräschen och hänvisar till hur vi tidigare lett utvecklingen inom välfärd och social trygghet. Max avlutar sin föreläsning med att skicka hem åhörarna med uppmaningen att fundera på vilken framtid vi vill ha. Han sammanfattar kvällen med att AI har stor potential att bidra till att lösa många av vår tids stora problem med både klimatet och ekonomiska orättvisor. Men för att det ska vara möjligt behöver vi formulera en positiv framtidsvision som alla kan stäva mot och dra den där gränsen för vad som är acceptabelt.
”Då kan vi skapa en fantastisk framtid, inte bara på jorden utan också i resten av universum”.
Nina Törmark för Ytterjärna Forum