AI-paradoxen – både vårt största hopp och ett potentiellt megahot

Teknisk utveckling kommer nästan alltid med två sidor – skapar nya möjligheter men för också med sig olika former av utmaningar som vi behöver hantera. Extra tydlig blir denna paradox när det kommer till AI där möjliga hot just nu ställer upp sig på rad. I den här posten tänkte jag bena ut varför jag tror att AI både är vårt största hopp och ett potentiellt megahot. Samtidigt.

Först tänkte jag dock reda ut vad som gör just AI så speciellt.

Artificiell intelligens är en så kallad “General Purpose Technology, "GPT", vilket betyder att den inte lever in något avgränsat hörn inom en avgränsad bransch. Nej! En GPT-teknologi tenderar att påverka det mesta runt omkring oss – grundkomponenterna i samhället och ekonomin inkluderat. Exempel på historiska GTP:er är ångmaskinen, elektriciteten och internet.

I och med de senaste årens genombrott inom underkategorierna maskininlärning och djupinlärning är AI nu på god väg att skriva om spelreglerna för världen runt omkring oss, där det mesta i snabb takt kommer att AI-fieras. Med stor sannolikhet på mer genomgripande sätt än vad vi kan föreställa oss. Förändringar som kommer att ske oavsett område och bransch. Och oavsett vad vi jobbar med och hur vi lever våra liv.

Sannolikt kommer den allt snabbare AI-utvecklingen att ha två sidor. Låt oss nu reda ut vad det betyder.

Teknikens paradox

Att teknisk utveckling både ger oss nya möjligheter och utmaningar har vi sett gång på gång i historien. Det var inte länge sedan vi landade i en “techlash” – teknikbaksmälla på svenska – där sociala medier med sina annonsbaserade affärsmodeller gav demokratin en rejäl smäll. Plattformar som premierat "engagerande" innehåll som missgynnat människan och samhället. Och gett plats åt falska nyheter, automatiserade botar och trollarméer som spridit dynga och listig propaganda. Vi kan den berättelsen.

Även om en teknologi utvecklas i ett ”bra-för-världen-syfte” kan det ibland slå fel, som i fallet med sociala medier. “Oj, det blev inte som vi hade tänkt oss". Eller så kan en teknologi som utvecklats för dessa goda syften användas för helt andra saker där de snarare skadar oss. För att det ska bli lite mer greppbart, låt oss titta på några konkreta exempel. Och vi börjar inom området hälsa.

Idag tränas AI-algoritmer upp inom vården för att kunna analysera röntgenplåtar och identifiera både elakartade tumörer, och godartade tumörer som riskerar att utvecklas till elaka varianter. Detta är moment som tidigare bara läkare har gjort. Att ta hjälp av teknik i analysfasen inom vården innebär dels att risken för mänskliga fel minskar, men också att kostnaderna går ner och vårdköerna kan bli kortare. Att ta hjälp av AI innebär inte att läkaren står utan jobb, snarare att en specifik del automatiseras och effektiviseras, så att läkaren får mer tid över till andra delar där hon också behövs – som att kunna ge mer tid för möte med patienter.

Analysen av röntgenplåtarna ingår i en underkategori inom AI som kallas för datorseende. Samma typ av teknologi möjliggör också för det som kallas för "deep fake" – det vill säga att bilder och filmer kan manipuleras på ett väldigt trovärdigt sätt med hjälp av AI. Computer Sweden ställde sig 2018 frågan “Vad händer när det ofrånkomligen börjar spridas videor med makthavare i prekära men fejkade situationer, med falska uttalanden från politiker, eller rentav med falska gärningsmän i terrordåd eller grova brott?" Fem år senare ser vi nu att AI-genererade bilder på makthavare, kändisar och på oss alla börjar ta fart ordentligt.

Förutom att ägna sig åt deep fake är datorseende också den teknik som gör det möjligt att utveckla autonoma vapensystem, eller mördarrobotar som de också kallas. Läskiga stridsmaskiner som kan använda dödligt våld och bekämpa mål utan mänskliga operatörer som styr. Läs mer här.

Jag tror att den har blivit tydlig nu.

Paradoxen.

Då är vi redo att dyka ner djupare i de båda sidorna.

Den hoppfulla sidan av AI

Med största sannolikhet kommer AI framåt att kunna ge oss helt nya möjligheter att lösa stora utmaningar som vi står inför – klimatutmaningen inkluderat.

Det finns ingen som har undgått att vi parallellt med den skenande tekniska utvecklingen har en lika snabbt skenande klimatkris. Vi kommer i närtid att få uppleva stigande temperaturer som i ökad grad för med sig en mix av värmeböljor, torka, bränder och extrem nederbörd. Ett läge som är så akut att det definierats som “Code red for humanity“ av FN:s generalsekreterare António Guterres.

Vi behöver drastiskt öka tempot i den gröna omställningen där ALLT omkring oss behöver bli fossilfritt, cirkulärt och verka inom planetens gränser. Och då räcker det inte med små klimatinsatser som att äta vegetariskt på måndagar, dra ner värmen några grader i huset och källsortera. Nej, vi behöver ställa om hela våra samhällen i grunden.

För det behöver vi:

• Använda all den gröna teknik som vi redan har – energi från sol och vind, batterier, el-bilar, grön vätgas till våra fabriker och så vidare.

Och

• Vi behöver satsa på nya gröna innovationer som ännu inte nått kritiska brytpunkter vad det gäller tekniska nivå och konkurrenskraft gällande pris.

I båda dessa punkter kan AI hjälpa oss framåt.

Hur då?, tänker du kanske.

Låt mig försöka bena ut.

Område 1. AI hjälper oss att öka den gröna innovationstakten rejält

De senaste årens genombrott inom maskininlärning och djupinlärning (underkategorier inom AI) har gett oss innovativa supermuskler – vilket bidragit till att innovationstakten har ökat rejält. I januari tidigare i år skrev jag en bloggpost på temat som du hittar här. Sedan dess har ytterligare banbrytande framsteg gjorts inom området, bland annat från A-lab.

A-Lab är ett nytt initiativ från Lawrence Berkeley National Laboratory (LBNL) som med hjälp av AI har identifierat 150 000 kandidater till nya icke-organiska material. Nya material som exempelvis kan hjälpa oss att ta fram mer effektiva batterier, nya sätt att lagra energi, mer effektiva solceller, nya typer av bränsleceller och termoelektriska material (material som genererar energi från temperaturskillnader).

AI har bara de senaste 1 - 2 åren i rasande fart förändrat sättet som man kan jobba med F&U. Istället för att utgå från teoretisk förståelse (hos en människa) kan AI nu dyka ner i en massa information (data) och hitta helt nya typer av samband som tidigare varit dolda för oss. I fallet A-Lab spottade de smarta algoritmerna ur sig hela 150,000 förslag på nya material som potentiellt kan användas på en massa olika sätt.

Men det stannar inte där.

När en kandidat till ett nytt material har tagits fram behöver det också testas IRL på ett laboratorium. Även denna del utförs på A-Lab av teknik. 24/7 jobbar robotarmar helt utan mänsklig inblandning med mixa ihop olika komponenter. Såhär kan det gå till:

”It guides robotic arms to select among nearly 200 different powdery starting materials, containing elements such as lithium, nickel, copper, iron, and manganese. After mixing the precursors, another robot parcels out the mix into a set of crucibles, which are loaded into furnaces where they can be mixed with gases such as nitrogen, oxygen, and hydrogen. The AI then determines how long to bake the different mixes, the temperatures, drying times, and so on.”

A-Labs testande kickades igång i början av 2023 och tros vara det första helt automatiserade labbet för forskning kring nya icke-organiska material. Gerd Ceder som är Principal Investigator på A-Lab säger så här:

“I have made more new compounds in the last 6 weeks than my whole career.”

På sajten materialsproject.org ligger information om alla nya materialkanidater samlade.

Ett annat exempel på hur AI har hjälpt oss att nå nya banbrytande genombrott kommer från DeepMind och AlphaFold som av tidningen Forbes kallats för ”The Most Important Achievement In AI Ever”. I den här bloggposten berättar jag mer om hur AlphaFold 2022 kartlade proteinstrukturen för över 200 miljoner proteiner och vad det kan betyda framåt.

Vad innebär då dessa AI-genererade genombrott? Jo, två saker. Först ska vi bara bena ut ett par grundläggande regler som gäller för teknisk utveckling generellt, utan AI i ekvationen. Nämligen:

💥 Över tid tenderar en teknisk lösning att bli bättre och mer effektiv (Moore’s law) samtidigt som kostnaderna går ner (Wright’s law).💥

Detta ser vi bland annat tydligt när det kommer till utvecklingen av energi från fossilfria källor och batteriteknik. I de hoppingivande graferna här under illustreras hur priserna kraftigt har fallit över tid.

Nu till våra två antagande kring vad som händer när vi adderar AI.

Ett: För gröna teknologier som redan är utvecklade kommer AI sannolikt att kunna hjälpa oss att göra dessa ännu bättre och mer effektiva. Men inte bara det. ”Money makes the world go round” sjöng Liza Minelli och vi vet att förändring på allvar brukar ta fart när det nya inte bara är bättre, utan också är det smartaste valet för plånboken. Redan idag är energi från solen det billigaste sättet att framställa energi på de flesta platserna på jorden. Med hjälp av AI är det inte orimligt att tänka sig att även kostnaderna för grön teknik kommer att kunna sjunka i ännu snabbare takt när vi tar hjälp av smarta algoritmer.

Två: Det andra antagandet vi kan göra är att nya gröna lösningar och viktiga framtida genombrott kan nås ännu snabbare med hjälp av AI. Ge oss de där innovativa superkrafterna som A-lab, AlphaFold med flera har visat är möjligt.

Toppen!

Då tror jag att vi är redo för nästa exempel på tillämpningsområde som handlar om att göra dåliga saker mindre dåliga.

Område 2. AI hjälper oss att få ner utsläppen i sådant som vi redan gör

Innan vi hunnit ställa om våra samhällen och fått alla fossilfria lösningar på plats behöver vi också optimera och effektivisera sådant som vi redan gör. Så att våra nuvarande processer blir mindre dåliga. AI har en unik förmåga att snabb identifiera mönster och samband som hjälper oss att just optimera olika typer av flöden. Låt oss ta några konkreta exempel:

Energiförbrukning: Energi i sig är inte dåligt. Fossilbaserad energi är dåligt och så länge som världens energi till nästan 80% kommer från fossila källor, ja då måste vi också optimera den energi som vi använder.

AI kan exempelvis användas för att optimera energiförbrukningen i våra byggnader. Google lyckades redan 2016 få ner energiförbrukningen i sina datacenter med 40% med hjälp av AI. Sedan dess har tekniken utvecklats rejält och allt fler använder liknande lösningar för just optimering av energianvändning.

Mindre dåligt cement: Cement är ett av världens mest använda material och dessvärre också en stor klimatbov som står för hela 8% av de globala utsläppen av växthusgaser. Tillsammans med University of Illinois har Meta (Facebooks moderbolag) utformat en AI-model som optimerar sättet att blanda betong på (betong = cement + grus + sand) och som ger ett både starkare och mindre klimatdåligt resultat. I siffror, 40% mindre koldioxid. Även MIT-IBM Watson AI Lab jobbar på liknande utmaning.

Givetvis behöver vi hitta helt fossilfria alternativ till cementet, men innan vi har nått dit är optimering av det dåliga ett steg på vägen.

Optimera trafik och flöden i våra städer: 70% av världens befolkning beräknas bo i städer år 2050. AI och dataanalys kan i realtid ge oss information om hur människor och fordon rör sig i städerna, så att vi kan optimera dess flöden på bästa sätt. Detta gäller också för kollektivtrafiken, vilken vi vet är viktig för att vi på ett hållbart sätt ska kunna transportera oss i städerna.

Fler exempel på hur AI kan hjälpa oss att optimera och effektivisera processer finns i oändlighet. Du hittar flera i vår SusTechable-rapport från 2021, AI och hållbarhet – 20 exempel där tekniken används redan idag, som finns gratis att ladda ner här.

Område 3. AI gör det skitsvårt att fuska

Ett tredje och sista område som jag tänkte lyfta handlar om att AI kan hjälpa oss att sätta krokben för de bolag, stater och aktörer som inte tar sitt ansvar att ställa om. Till vår hjälp har vi en framväxande "radikal transparens" som tack vare AI och ögon i rymden (aka satelliter) gör det allt svårare att ducka för ansvar. Varje dag och minut samlas en massa global data om planeten in från satelliter som svävar runt jorden och som nu kan användas som verktyg i klimatomställningen.

Med hjälp av satellitdata och mätsystem på jorden kan vi följa hur glaciärer smälter och hur golfströmmen försvagas. Vi kan få detaljerad information om bränder och översvämningar så att vi kan agera snabbare. Vi kan få hjälp att identifiera illegala saker såsom miljöbrott eller otillåtet fiske. Och vi kan övervaka känsliga naturområden.

Radikal transparens handlar sedan nyligen också om att kartlägga sådant som är osynligt för våra mänskliga ögon; utsläpp av växthusgaser.

Tidigare har information om utsläpp byggt på självrapportering och där dessa siffrorna varken varit helt tillförlitliga eller heltäckande. Dessutom har informationen generellt funnits tillgänglig först med flera års fördröjning. Sätten att rapportera utsläpp på har dessutom skilt sig åt mellan länder och företag.

Climate TRACE är en av flera organisationer som med hjälp av satellitdata, AI och landbaserade sensorer jobbar för att i detalj offentliggöra alla världens utsläpp. Organisationen är ett globalt samarbete mellan NGOs, teknikbolag, den akademiska världen och klimatkämpen / ex-vicepresidenten Al Gore. Ni lär känna igen rösten i videon här under.

Här kan du läsa mer om vad radikal transparens kan komma att innebära framåt.

Detta var tre exempel på områden där AI kan hjälpa oss i den gröna omställningen.

1. Öka den gröna innovationstakten rejält
2. Hjälper oss att få ner utsläppen i sådant som vi redan gör
3. Göra det svårare att fuska och ducka för ansvar

Vill du få en massa ytterligare exempel på hur AI hjälper oss att ställa om är mitt förslag att du vänder dig till ChatGPT. Frågan som jag själv ställde löd såhär:

"Kan du lista 100 exempel på hur AI kan hjälpa oss i den gröna omställningen? Mot en fossilfri och cirkulär framtid. Tack!"

Om du vill läsa 100-punktslistan som ChatGPT kläckte ur sig hittar du den här.

Förutom att hjälpa oss framåt i den gröna omställningen lär AI-utvecklingen också gynna oss inom en massa andra områden. Exempelvis när det kommer till hälsa, där vi allt mer går från reaktiv sjukvård till att jobba förebyggande, "skräddarsytt" och upptäcka sjukdomar innan de bryter ut. Läs mer om det här, här och här.

Nu till den mer oroande sidan av myntet.

Riskerna med AI

Bara den som levt under en sten har missat den allt livligare debatten kring de potentiella hot som AI också kommer med. Tankegångarna är inte nya. Vi har länge pratat om att vi kommer att behöva reglering när det exempelvis gäller dödligt våld utfört av robotar utan mänsklig inblandning. Att vi kommer att behöva definiera var vi drar gränser kring vad som är mänskligt. Vill vi tillåta så kallade "designer babies" där vi gör ändringar i ett embryos DNA för att korrigera sjukdomar eller för att addera vissa önskade egenskaper? Ska det vara ok att låta vuxna personer uppgradera sina hjärnor genom att addera ett chip som ger dem tillgång till AI? Och därmed uppgraderas till supermänniskor...

Martin Rees är en brittisk astrofysiker, kosmolog och författare. I boken Om Framtiden – Mänsklighetens Utmaningar (2019) skriver han bland annat:

“Mänsklighetens överlevnad i detta århundrade och in i den mer avlägsna framtiden vilar på den snabba utvecklingen av vissa teknologier, samtidigt som man begränsar andra.”

Frågorna har diskuterats ett tag på massvis av olika håll. Det som dock är nytt är att vi inte längre pratar om någon avlägsen framtid. I och med de senaste årens stora genombrott kryper de eventuella AI-hoten allt närmare inpå.

I början av 2023 gick tungviktare som Steve Wozniak (medgrundare Apple), Yaval Noah Harari (historiker och en av mina personliga favorittänkare), Andrew Yang (entreprenör och tidigare kandidat till det amerikanska presidentvalet), Elon Musk (beskrivning överflödig) och en mängd AI-forskare ut med ett öppet brev där de uppmanar alla AI-labb att omedelbart pausa sin AI-utveckling, åtminstone i sex månader. De menar att vi nu på allvar behöver ställa oss själva en rad grundläggande frågor;

• Ska vi tillåta maskiner att få våra informationskanaler att svämma över av propaganda och osanningar?
• Ska vi automatisera bort alla jobb, inklusive sådana arbetsuppgifter som vi upplever som meningsfulla och tillfredsställande?
• Ska vi låta maskinerna utveckla icke-mänskliga förmågor och sinnen som så småningom överträffar och överlistar oss? Och som riskerar att göra människan föråldrad?
• Ska vi verkligen riskera att vi, i och med den snabba AI-utvecklingen, förlorar kontrollen över civilisationen?

Budskapet i brevet är tydligt; det finns enorma eventuella risker med AI. Och dessa risker tenderar att bli större ju snabbare utvecklingen går. Man ställer sig också frågan kring vem som borde sitta i förarsätet av utvecklingen. Så som det ser ut nu är det icke folkvalda AI-experter som kan komma att avgöra vår kollektiva framtid.

I början av maj 2023 sa ”the godfather of AI” upp sig från Google för att även han skulle kunna ansluta sig till skaran som varnar för farorna. Denna gudfader heter Geoffrey Hinton och är en av nyckelpersonerna bakom den imponerande utvecklingen inom djupinlärning och det man kallar för neurala nätverk. Mer avancerade former av AI som bland annat ligger till grund för ChatGPT och Google Bard.

Hinton har bland annat varit en av många andra experter som skrivit under ett "Statement on AI Risk" som Centre for AI Safety står bakom (30 maj 2023).

I intervjun med Cade Metz från New York Times lyfter Hinton olika typer av risker som han ser framåt. Risker som varierar beroende på vilken tidshorisont vi pratar.

I perspektivet nutid/närtid flaggar Hinton för en rad utmaningar som följer kopplat till generativ AI, där maskiner skapar innehåll åt oss utifrån våra instruktioner; bilder, filmer, texter, musik osv. Här flaggar Hinton bland annat för "hallucinations” – att när en AI inte kan svaret på en fråga tenderar den att inte bara hitta på, utan också paketera sina svar på sätt som upplevs som tvärsäkra. En annan nutida utmaning hittar vi i bias, där algoritmerna riskerar att skapa innehåll och rekommendationer som är snedvridna och fulla med fördomar.

Dessa två ovan nämnda utmaningar är biprodukter av hur vi människor agerar. Människor skriver saker på nätet som inte är sant. Fördomar finns i överflöd på plattformar som Twitter & Reddit. Och så vidare. Dessa utmaningar menar dock Hinton går att lösa, även om det inte är helt enkelt.  

Det gudfadern av AI framför allt ser som det stora problemet i närtid är en kommande flodvåg av disinformation.

”I see that as a huge problem not being able to know what’s true anymore”

När vi blickar framåt lär vi se massvis av falska bilder, videos och texter som komponerats av tekniken. Och där AI dessutom hjälper till att få spridning på falsk information och förstärker all typ av propaganda, med resultatet att vi tillslut inte kommer att kunna lita på något som vi ser online. En inte alltför vild gissning (min egen) är att vi kommer att få se detta tillämpas med full kraft i det kommande amerikanska presidentvalet. Gissningsvis med stora AI-insatser från ryskt håll för att ge stöd till Donald Trump.

På medellång sikt lyfter Hinton andra typer av utmaningar som han tror att AI kommer att medföra. Dessa utmaningar menar han framför allt handlar om jobben. Idag tenderar AI-lösningar att komplettera människor i våra arbeten, men Hinton är rädd för att de allt mer kommer att ersätta oss i takt med att tekniken utvecklas ytterligare.

De orosmoln som Hinton ser på längre sikt handlar bland annat om hur AI kan komma att användas inom krigsföring, där tekniken riskerar att sänka ribban för länder att gå in i krig med varandra. Men också att AI på andra sätt kommer att användas för att uppnå makt och kontroll.

Här kan du lyssna på den uppmärksammade intervjun med Geoffrey Hinton.

Avslutningsvis skulle jag också vilja tipsa om det samtal som jag själv uppskattar mest på temat – nämligen när Ajeya Cotra, senior analytiker på Open Philanthropy, gästar en av mina favoritpoddar Hard Fork (minut 22 & framåt).

Knyta ihop AI-säcken

Hur knyter vi då ihop AI-säcken som uppenbarligen kommer med både livsviktiga nya möjligheter och megastora potentiella utmaningar? Jag väljer att återkoppla till det som Marin Rees har sagt; att vi både behöver dra nytta av den snabba tekniska utvecklingen (där AI är en av verktygen i verktygslådan) samtidigt som vi begränsar utvecklingen inom andra områden.

Som vanligt kokar det ner till oss människor av kött och blod. Trots imponerande smarta AI-modeller är det till syvende o sist vi som behöver jobba för att framtiden ska gynna oss.

När det kommer till klimatutmaningen specifikt kommer vi helt klart att behöva all teknisk innovation som finns. Vi behöver dra full nytta av AI, IoT, satelliter, bioteknik, nanoteknologi, cellulärt jordbruk med mera.

MEN!

Tekniken är bara EN komponent.

Det som också behövs är individer i egenskap av kunder och medborgare som fortsatt ställer krav på företag och på regeringar. Vi behöver journalister och engagerade individer som granskar utsläpparna. Vi behöver etablerade företag som på allvar satsar på gröna lösningar. Vi behöver startups som visar vägen för nya och mer hållbara sätt och på kuppen skriver om reglerna på marknaden. Vi behöver investerare som på allvar satsar på gröna lösningar. Och vi behöver mer än någonsin politiker som förändrar spelreglerna, exempelvis genom skatter, subventioner och stöd.

Det är vi som behöver fixa framtiden.

/ Judith Wolst