Utskriven version av podden Öppna föreläsningar avsnitt 7: AI och den kulturella evolutionen

Jazzmusik inleder…

Inspelad speakerröst: Hur kommer AI att förändra våra maskiner?

Evolutionsforskaren Magnus Enquist: Mest radikala är att de blir någon slags elektroniska agenter eller individer.

Moderator Karin Gyllenklev: En slags art. Fast...

Magnus Enquist: ja, just det.

Karin Gyllenklev: Eller kan man tänka så?

Magnus Enquist: Någon slags elektroniska livsformer uppstår?

Speaker: Vad händer med den mänskliga kulturen när AI tar allt större plats? Du lyssnar på en öppen föreläsning från Stockholms universitet.

Karin Gyllenklev: Varmt välkomna till Tranströmer biblioteket. Den här kvällen handlar om AI och den kulturella evolutionen där vi frågar oss är AI, alltså artificiell intelligens, nästa steg i mänsklighetens kulturella evolution? Hur ser vår framtid med AI ut? Det talas ibland om att AI skulle vara ett hot mot mänskligheten. Det kommer vi att beröra lite grann och framförallt så frågar vi oss Kan vi lära oss någonting om vad AI kan ställa till med genom en evolutionär betraktelse? Jag som ställer frågor heter Karin Gyllenklev. Jag är journalist och den som står för svaren ikväll. Det är biologen Magnus Enquist. Du är ju grundare av Centrum för evolutionär kulturforskning vid Stockholms universitet, där ni undersöker vad som formar och ändrar mänsklig kultur. Men det här med AI, det är lite nytt för dig.

Magnus Enquist: Det är nytt för mig.

Karin Gyllenklev: Hur nytt är det för dig?

Magnus Enquist: Det är nytt bara några veckor. Ett år, Kanske två år.

Karin Gyllenklev: Ni har ett forskningsprojekt på gång om just det. Vill du berätta lite kort?

Magnus Enquist: Ja, det finns ju väldigt mycket diskussioner idag om AI och vi tyckte att den här kulturella evolutionen skulle man kunna använda idéer från den för att undersöka AI genom att stoppa in maskiner i den här kulturella evolutionen så att inte människor bara pratar med varandra eller på telefon eller vad det nu är, utan också pratar via datorer med varandra och vad de här datorerna sen gör med oss och så vidare.

Karin Gyllenklev: Det händer ju väldigt mycket på AI området. Jag tycker man hör stup i kvarten om nya saker är AI kan hjälpa oss att hitta fall av cancer som mänskliga läkare missar eller AI kan hjälpa lärare att anpassa undervisningen till exempel. Har du fastnat för något sådant här exempel på sistone?

Magnus Enquist: Men i forskningen så använder vi mer och mer AI. Vi kanske inte tänker på det. När jag håller på med matte så finns det en massa program som kan räkna åt en till exempel. Vi gör en massa simuleringar, det är mängder med digitala hjälpmedel som vi använder och det gör ju att. Det är en väldig hjälp i många fall även för oss i forskning och leta information och så. Man springer inte i bibliotek längre utan all litteratur finns på nätet så det är många, många sådana saker.

Karin Gyllenklev: Visst använder du också AI ibland när du skriver texter och du fastnar på formuleringar ibland.

Magnus Enquist: Blir det så att man inte. Man tycker inte man får till en formulering, speciellt på engelska då? Då kan man gå till chat och fråga fix kolon sen då? Fixar den. Ja, framför allt kan man få en idé om ett annat sätt att uttrycka det. Ibland kommer det ut konstiga saker, men sen man får lite koll på det. Men det kan man göra.

Karin Gyllenklev: Om man inte vet vad chat gpt är för någonting.

Magnus Enquist: Ja, vad ska man säga. Det är ett enormt sånt här artificiellt neuronnät, värk och lite annat också som man har tränat på. Att helt enkelt generera sekvenser från sekvenser som man ger som input. Man kan ladda ner.

Karin Gyllenklev: Det på datorn, eller hur?

Magnus Enquist: Ja, man kan. Jag vet inte om man kan ladda ner det, det kan man också det osäker på.

Karin Gyllenklev: Jag hittade det att man kunde göra det.

Magnus Enquist: Eller hur mycket som ligger på de servrar, det vet jag inte. Det är säkert de som vet här. Men men. Men det går att använda det och det är gratis också. Man får betala lite för den hetaste versionen.

Karin Gyllenklev: Men som en virtuell assistent från Open AI företaget. Jag tänker innan vi klampar in i människans evolution, den kulturella evolutionen och så vi kanske bara ska. Vad menar vi när vi säger AI, artificiell intelligens?

Magnus Enquist: Det är ganska gammalt, antagligen för 50 60 talet, och då hade den lite mer snäv mening. Det var just att få maskiner att bli intelligenta på det sätt som människor intelligenta. Nu är det väl lite bredare och innefattar egentligen all kraftfull när man pratar om det. Allt, speciellt risker och all kraftfull digital informationsteknologi.

Karin Gyllenklev: Ja, vad är det den ska kunna för att vara en artificiell intelligens? Den ska kunna.

Magnus Enquist: I början var det att dra slutsatser från en massa information, men den kan ju koppla ihop människor på alla möjliga sätt. Enorma databaser där man kan hitta saker och så vidare. Den kan lära sig om oss människor. Massa olika. Inlärnings är de. I början så hade man ganska snäva idéer om hur de här inlärnings algoritmerna ska se ut, men nu finns det ju mycket mer och man har delvis använt faktiskt. Lite som är typiskt för den inlärning man finns hos djur, dels de som spelar schack och så vidare. Så det är inte en intelligens på det sättet att. Att man drar slutsatser medvetet som vi gör. Utan man har tränat helt enkelt. Neuronnät en konstgjord neuronnät, varken vad den ska göra i massa massa lägen. Schack positioner till exempel.

Karin Gyllenklev: Bussen kan den väl också? De lär sig av erfarenhet. Ja precis. Ja, nu ska vi kasta oss in i.

Magnus Enquist: Ja, det är väl lika bra vi gör det.

Karin Gyllenklev: Vi kastar oss.

Magnus Enquist: In. Som Karin sa här så ska vi försöka med någon slags evolutionärt perspektiv på det här med AI. Och då tänkte jag börja med att prata lite om vad evolution är och sen ska jag gå in på kultur Kulturrevolution. Sen ska vi stoppa in de här datorerna i den här kulturrevolution det är. Evolution kan betyda väldigt mycket och vi har olika, så att säga sätt att se på eller tänka på när vi pratar evolution. De flesta tänker nog biologisk evolution. Ibland är det ett kontroversiellt begrepp, speciellt när man applicerar det på människan. Men den bredaste tanke man kan hektar. Evolution är att det är processer som skapar och upprätthåller komplexitet. Då kan vi applicera det på kosmos och naturligtvis på biologi och biologisk evolution, men också på det mänskliga kulturen, ekosystem och så vidare. Och det görs ganska mycket teoretiskt arbete idag på olika ställen kring att förstå hur komplexa strukturer kan uppstå från något som från början ser ganska enkelt ut. Så jag tänkte vi skulle börja där då. Ja, och vi ska tänka oss ett lego. Tänk er en legobit som inte har några knoppar på sig, någonting som man inte sätter ihop. Så uppstår det möjlighet att sätta ihop de där och då kan man börja göra saker. Från det där och ibland kanske det uppstår i legobitar, lite olika sort så där. Och om det där får hålla på så kan man sakta bygga upp mer och mer komplexa strukturer. Det är viktigt att det går långsamt, att det kan. Komplexa system kan inte uppstå liksom med en gång då.

Karin Gyllenklev: Vad händer om det går för fort då?

Magnus Enquist: Om man bara sätter ihop slumpmässigt? Lego är lite dåligt exempel för att det sätter upp de flesta. Man plockar ihop molekyler till exempel så kommer de bara ramla ihop igen. Så det gäller att hitta sånt som är tillräckligt strukturellt stabilt.

Karin Gyllenklev: Långsam, stadig process.

Magnus Enquist: Ja, precis. Och om det får hålla på tillräckligt länge så kan det uppstå sådana här fantastiska saker. Det är nästan obegripligt.

Karin Gyllenklev: Och då ser vi en krabba.

Magnus Enquist: Och blå, liten blåklocka.

Karin Gyllenklev: Ja. Sveriges... Vad är det? Nationalblomma? Liten blåklocka.

Magnus Enquist: Det visste inte jag.

Karin Gyllenklev: Jag kan också saker.

Magnus Enquist: Så det tar tid det här. Och det är också långa historier så att saker som händer långt bak i tiden kan ha betydelse för hur saker ser ut idag. Det där är lite svårt med kultur för vi har inte lika bra kunskap om hur saker såg ut sig för ett par miljoner år sedan. Men vi vet att det finns gener som är flera miljarder år gamla. Som fortfarande är väsentliga. Det stannar aldrig upp. Det som är typiskt för evolutionära processer. Det finns alltid förändrings möjligheter. Och det är ingen förutsägbar process för oss i alla fall. Och det gör att det blir svårt då och veta vad det ska ta vägen. Man kan inte göra det till exempel. Tänk om vi fick starta om med människans evolution för 5 miljoner år sen. Skulle vi se likadana ut då? Antagligen inte.

Karin Gyllenklev: Varför inte?

Magnus Enquist: Därför att det finns så många vägar som evolutionen kan ta. Och om det finns lite slump som avgör vilka vägar som väljs ut så kommer det se olika ut.

Karin Gyllenklev: Men kan vi jämföra den kulturella evolutionen också med det här? Legobitarna då?

Magnus Enquist: Ja, vi kan titta på. Det är inte bara så att det är att titta på en struktur. Vi kan också titta på hand i sekvenser och göra saker, till exempel. Eller vi kan tänka på att vi har en kunskap om världen som illustrerar att det är en karta över Stockholms tunnelbanesystem. Vi har en. Alla här inne har en jättestor karta inom oss hur världen fungerar som vi då lär oss under vårt liv och sen använder de här. Den är komplicerat. Det finns inte bara i våra handlingar utan den finns också inne i i våra huvuden. Till exempel när vi håller på med huvudräkning och så, som tar ganska lång tid för ett barn att lära sig. Ganska komplext. Så att den här komplexiteten kan ta många olika former. Och då kommer jag till frågan Hur är det möjligt? Att sätta ihop saker? Ramlar inte allt ihop? Kollapsar liksom? Det är två saker vi måste Dels har någon process som skapar nyheter, det har vi redan pratat om. Men sen är det så att när man sätter ihop legobitar, när vi leker, då kan nästan allting fungera. Men i verkligheten så är det nästan väldigt, väldigt få av de saker som är nytt. Som verkligen liksom har en chans att att att finnas till eller spridas.

Karin Gyllenklev: Hur ska man tänka då om man tänker till exempel kulturell evolution? Alltså är det då en musikstil.

Magnus Enquist: Vi kommer att kommer dit?

Karin Gyllenklev: Okej, jag ska inte föregå.

Magnus Enquist: I biologisk evolution. Då är det det här med naturligt urval då och det är ofta det som man fokuserar på. Men den första är nästan kanske ännu viktigare, för den ger svaret på varför huvudtaget. Komplexa. System företeelser kan förekomma. Jag ska bara visa hur fantastiskt stor den här världen av komplexitet är och det bygger på att det går att kombinera saker. Och vi är bara ett litet exempel här med pianot. Om vi, om vi får använda tio stycken av tangenterna och vi får göra en melodi som har 100 nedslag i tangenterna, hur många, många melodier tror ni det finns då? Det är ett jätte tal. Det är ett tal som har en etta och sen är det 100 nollor tio.

Karin Gyllenklev: Upphöjt till 100. Nu ska jag säga om man lyssnar på podden så har inte Magnus ett fysiskt piano framför sig som du kommer spela melodier på här, utan vi ser en bild på ett piano. Ja.

Magnus Enquist: Och naturligtvis kommer de absolut majoriteten av de här låta hemskt och där kommer den här selektionen in. Men det betyder också att det finns mängder med fantastiska melodier och vi kommer bara kunna skapa en bråkdel av dem, tyvärr. Under människans existens här på jorden. Och det här är ett väldigt litet problem. Tänk om vi skulle hektar få olika långa toner eller använda mer tangenter eller kombinera toner samtidigt så då liksom exploderar. Så är det den. Den här tekniska världen är den som gör det möjligt för oss att att hektar evolution också. För det finns det några av de här kombinationerna enorma möjligheter som verkligen kan kan ge upphov till sådana här saker som människor eller ekorrar och så som kan faktiskt existera. Och där är en viktig del av att förstå evolution. Och nu är det så att den här evolutionära process de går inte, knallar inte på jämt i en stadig lugnt utan då och då händer det saker då Hela, hela den evolutionära dynamiken eller sättet som de regler som styr evolutionen förändras radikalt. Det där beskrevs i en väldigt berömd bok av Smith och Marie på 90 talet och jag har kallat dem skutt, revolutionära skutt. Jag vet inte om det är lite.

Karin Gyllenklev: Som har haft betydelse för vår.

Magnus Enquist: Utveckling. Ja visst, visst. Och jag är några exempel på sådana. När liv uppstår i sådant fall, till exempel DNA, proteiner och kromosomer. Flercelliga organismer liknar väldigt mycket det här legot då. Sexuell fortplantning, Nervsystem, kulturellt arv. Det är exempel på saker som plötsligt har uppstått och ändrat hur den här evolutionen går vidare. Vi kan ta ett exempel. Sexuell fortplantning var tidigare när det hände en mutation på två olika ställen. Fanns det inget sätt att de där två, om de var båda var gynnsamma, att de skulle komma tillsammans. Men man fick sexuell fortplantning. Då kunde man plötsligt kombinera de här två och då bildas helt andra möjligheter. Nya möjligheter för evolution kan gå fortare, till exempel. Och när de tittade på de här skotten då så var det två saker som utmärkte dem. Ibland båda, ibland en enda. Det ena var att man fick nya sätt att lagra, överföra och bearbeta information. Det har vi DNA molekylen sexuell fortplantning som jag pratade om nervsystemet. Och det andra är att små enheter kommer tillsammans och bildar större ö större enheter och ofta så förlorar de här små enheterna möjligheten att fortplanta sig själva. Men det är framför allt den där första som vi ska prata mest om. Men den är också relevant för AI. Den här senare för att de här datanätverk är ju kan bli någon slags samhällen. Elektroniska samhällen kanske?

Karin Gyllenklev: Ska vi ta några skutt sådana här evolutionära skutt? Det kan vi också prata om i den kulturella verkligheten. Vad har vi för skutt där vi kommer nu? Nu kommer det. Du ser det. Vi är så synkade.

Magnus Enquist: Vi är synkade så att det finns en massa fenomen som hos oss. Människor som inte hittar oss gör vi bara. Vi har nya sätt att skaffa mat, vi har jordbruk, vi har religioner, vi har massa formaliserade regler i form av lagar och så vidare. Hur vi förhåller oss till varandra. Vi har matematik, till exempel vetenskapsmän. Jag har alltid undrat varför jag finns i huvud taget. Vi har en massa människor som ägnar sig åt vetenskap. Ja, precis. Det är många och det är inte alltid saker som uppstår som är trevliga. Krig och vapen och sådana saker. Så det är blandat. Och om vi tittar på biologisk evolution så. En individ kan sägas hektar två informationskällor. Dels är det de gener som individen har och det andra är de det som finns i dess minne, de erfarenheter som den under sitt liv. Och i en normal normal djurart. Så det enda som förs över till nästa generation är generna. Det finns ett undantag det husdjur som har yngel och så vidare. Att vi kan hektar en lite form av överföring av från en individ till en annan. Vi har till.

Karin Gyllenklev: Exempel Djur är kul.

Magnus Enquist: Så det är egentligen alla djur som lever lever är ihop med föräldrarna. Till exempel så kan de. Om föräldern eller föräldrarna tar med ungen till speciella matplatser så lär sig de här ungarna att äta den maten. Ett exempel på det. Det blir inte mer än så. Det blir ingen kultur som bygger på och blir mer och mer komplex över generationer. Så det är det som är det nya här. Att det är massa information som kommer till nästa generation som inte är via generna utan att det kommer från människors minne till den nya generationen. Och det här är det som är så att säga kulturen. Överföringen av kultur till tid mellan generationer. Det här är en helt ny. Nytt sätt att förhålla sig till information och det förklarar. Eller att människan är så annorlunda än andra djur. Vi är fortfarande ett djur med ett väldigt speciellt djur. Så det är olika sätt som två sätt så typiskt som den här överföringen sker. Det ena är att vi tittar på vad andra gör och försöker härma det och så vidare. Det andra är att vi kan prata med varandra också. Det senare gör ju att vi på sätt och vis kan prata från minne till minne. Och det räcker inte därför att vad som ofta behövs också är att när man väl har tittat på någonting eller hört någonting så måste man också träna själv för att det här ska bli helt perfekt. Så. Och det finns massa studier som visar att det finns någon medfödd skillnad mellan andra djur och människor som gör att vi har en kapacitet för kultur som inte djur har. Det här är ett gammalt experiment som gjordes på 1920 talet. Det var när behaviorismen var stor och man tänkte sig att allting berodde på miljöfaktorer. Då bestämde sig ett par som heter Kjell-Åke. De var psykologer att de skulle föda upp sin egen, uppfostra sin egen son tillsammans med en schimpans. Och det gick ganska bra i början, men efter ett år så där så avbröt man det här. Och det i början så var det ingen stor skillnad. Men sen så helt plötsligt så avstannade utvecklingen hos oss schimpansen. Och en av bidragande orsaken var att man man avbröt det var att Donald började bete sig som en schimpans och låta som en schimpans. Så. Så han härmade schimpansen, men inte tvärtom.

Karin Gyllenklev: Då tänkte de att nu ska vi se om vi uppfostrar dem på samma sätt. De är i samma miljö. Kommer då schimpansen också börja tala mänskligt språk?

Magnus Enquist: Så det är en kultur. Jag tror de var helt övertygade om att det ska det. Det har gjorts massa experiment. Men när man har fött upp orangutanger, schimpanser och och gorillor och så i mänskliga miljöer av olika anledningar. De har aldrig blivit denna kultur, vare sig det kulturella arvet är ju inte så märkligt egentligen. Det är att illustrera det med en hatt. Här kan ni se en hatt. Att den äldre generationen gör någonting, har preferenser för någonting. Och det här tar den nya generationen upp och fortsätter det här att tycka om hattar och använda hattar. Och så kan vi tänka sig att det plötsligt dyker upp någon sådan här uppfinning när de kommer på att man kan hektar röd mössa istället till exempel. Och om då den preferensen sprids av någon anledning, då måste man undersöka varför. Nu ser vi en bild.

Karin Gyllenklev: På väldigt många röda hattar så det blev väldigt många röda hattar här på bilden då de blåa försvann nästan.

Magnus Enquist: Och det var väl att den där var väldigt attraktiv eller snygg eller någonting så.

Karin Gyllenklev: Blev den ett skutt. Nej.

Magnus Enquist: Det är inte ett skutt, men så att säga principerna för att kulturell evolution är ett skutt och att vi kan lära oss så mycket av varandra, så mycket social inlärning Genom att vi har sådan framgång när det gäller att förstå biologisk evolution så är ofta fokus svaret på det även för människan. Inte kanske överallt, men i mycket vetenskap. Att vi har väldigt mycket medfödda egenskaper och man sätt kulturen mer som är inte så kraftfull förklaring när det gäller att förklara mänskligt beteende vad vi gör. Det är lite svårt att tro på det när vi tittar på hur mycket, hur mycket som finns och hos människan och att det ofta har en väldigt kort historia. Skrivkonst och matematik under ett antal tusen år. Det är alldeles för kort för att det ska vara kunna förklara det med biologisk evolution. Och det andra är att redan Darwins Origin of Species kom ut och direkt efter det så var det ett antal personer som försökte göra en liknande modell för för kultur som som som Darwins teori för naturligt urval och mutationer och så vidare. Men den kulturella evolution har en annan dynamik. Den är inte riktigt fungerar inte riktigt på samma sätt. Det är viktigt att ta hänsyn till andra drivkrafter och andra resultat. Det mest typiska kanske kan vara att vad som sprids i kultur är sådant som som då lätt förs över till andra individer, medan i biologisk evolution så är det eller då fortplantning, biologisk fortplantning som gäller. Det där kan stå lite i konflikt med varandra till och med. Bara nämna några viktiga skillnader i den här evolutionära dynamiken. Men vi föds med alla våra gener, men vi föds helt utan kultur och tillägnas dock den kultur som finns runt oss. En lång process som startar då i stort sett när vi föds och kanske lite till innan. Vi blir aldrig riktigt färdiga. Vi lär oss hela tiden. Jag har lärt mig en massa magi. Försökt i alla fall de senaste åren, och det här har redan sagt att det finns egentligen bara en väg. Eller för generna. Det är från mamma och pappa eller från från honan och hanen till avkomman. Men i kulturell evolution så kan kultur spridas på alla möjliga sätt, från unga till gamla, men också från gamla till unga och så vidare. En del individer har väldigt stor inverkan Genom att man också lär sig saker i en sekvens så kan man När man lär sig någonting så kan det påverka om man lär sig någonting i framtiden. Man kan lättare ta till sig vissa argument än andra, till exempel influenser.

Karin Gyllenklev: Tänker jag på då så har vi stora stora spridare.

Magnus Enquist: Influencers eller för.

Karin Gyllenklev: Att använda ett modernt ord.

Magnus Enquist: Jag tänker på det där Elvis. Jag hade en jätteful sån där vit läder grej som massa människor går omkring med. Elvis kostymer verkligen undrar. Men verkligen, det finns de som har verklig makt liksom på det sättet och det hjälper till. Här kan man säga informationsteknologi i allmänhet, för då kan de som verkligen är stora influera. De kan nå väldigt många människor idag. Så den här kultur revolutionen kan åstadkomma väldigt många saker. Vi tänker egentligen det som är lättast att förstå. Det är olika praktiska färdigheter som att kunna dreja eller vara snickare och sådana saker, men också mentala förmågor. Det kanske som är mest förvånande, som huvudräkning till exempel, är någonting som vi som vi lär oss från generation till generation. Världsbilder, Vad vi tycker om världen, sociala normer, identiteter och värld. Värderingar, motiv. Varianten vi strävar efter är inte något som är riktigt fixt utan som kan variera. Det vet vi från antropologi att att olika grupper och människor som lever väldigt olika i västerlandet kan hektar ganska annorlunda värderingar och syn på livet, till exempel.

Karin Gyllenklev: Under de här öppna föreläsningarna på Tranströmer biblioteket så har vi lyxen att få litteratur på ämnet uppläst för oss. Så jag tänker att vi tar det nu och ropar Hit Alice Thorburn få komma hit med sin lilla pall och sätter sig. Det är en lite annorlunda läsning den här gången faktiskt.

Alice Thorburn: Jag ska läsa en dikt som chat GPT har skrivit på uppdrag av mig.

Karin Gyllenklev: En AI skapad dikt alltså.

Alice Thorburn: Ja, precis så frågan var. Eller jag bad helt enkelt chat GPT som ni pratade om tidigare, att skriv en dikt som handlar om relationen mellan människa och AI.

Karin Gyllenklev: Ja men vad spännande, då får vi bara njuta tror jag. Mmm.

Alice Thorburn: Precis. Vi får se vad ni tycker. Här följer den dikten. I strömmar av kod där tiden står still. En mänsklig hand rör vid framtiden en digital drill. Kisel och själ i ett samtal så djupt människan drömmer. AIn följer. Tystnad blir till ljud. Skärmar som glöder i den sena nattens timma. Tankar som dansar, kretsar som spinna, människa och maskin. En linje suddas ut i deras möte. Ett nytt landskap tar sin rutt. I varje kommando en önskan att förstå. Våra röster ekar i binära sjöar, så blå data som flödar, en flod utan slut. Vi söker mening i mönstren, ett svar som är vårt. Med tangenter, dans och skärmar så klara Vi föder en intelligens. Så ny och så sällsam. Svara AI, vårt barn i binärt språk fött en skapelse av sinnrik het, av kunskap, Slött. Sammanflätade. Vi är i denna digitala famn människa och AI i symbios. Hans namn. Vi lär och växer tillsammans i sväng, i harmoni. Minns vals teknikens nyfikna språng. Vi formar varandra genom algoritmen säsong och undrar Vem är skaparen? Vem är stark? I denna dans mellan människa och AIS essens finner vi kanske svaret i vårt gemensamma presens.

Karin Gyllenklev: Vad känner du som är bibliotekarie och ändå har läst en del poesi? Vad är vad tycker du om AIs eller ChatGPTs skapelse?

Alice Thorburn: Ja, den kanske inte är den bästa dikten. Som jag har läst.

Karin Gyllenklev: Var det till och med ett nödrim, för det tycker jag var den utvecklat nödrim.

Alice Thorburn: Man kände den generellt. Jag bad den skriva några olika dikter och den vill ju väldigt gärna rimma för jag hade inte sagt någonting om att det ska rimma, men det gör den ju ändå. Jag bad den till och med specifikt att inte göra det vid ett tillfälle, men den gjorde det i alla fall. Så den är liksom ingår väldigt starkt i poesi för GPT känner man. Ja, sen är det ju generellt ganska högstämt och det är inte jättemycket som lämnas till läsaren att tolka generellt heller, utan det är ganska mycket uttalat.

Karin Gyllenklev: Så Magnus, vad tyckte du om denna dikt?

Magnus Enquist: Lite. Det var ju några rader där som ändå var ganska bra vad det var? Jag vet inte om den höll ihop överallt, men några var imponerande tyckte jag.

Alice Thorburn: Jag håller med, det finns ju en del poetiska bilder. Jag tycker om den här kisel och själ i ett samtal och det finns också tankar som dansar och kretsar som spinna. När man läser upp den känner man också att här finns det ju en rytm också och nästan allitteration och sånt där.

Karin Gyllenklev: Vad tror ni? Hur står sig framtiden för AI poesi? Skulle det potentiellt i framtiden kunna få lika hög status som människoskapade?

Magnus Enquist: Ja, det går ju inte svara något annat än ja på det för att bara. Har man kommit så här långt nu liksom så. Vad framtiden innehåller. Det är väldigt svårt att veta, men jag tror att den kommer att innehålla väldigt mycket av sånt här. Det är två saker som som snurrar i en loop här. Dels är ju AI och informationsteknologi, i alla fall än så länge något som vi människor skapar. På så sätt är teknikutveckling som kanske kan uppfattas som kulturell evolution. Men sen den AI som vi får till den förändrar ju också hur den här kulturella evolutionen kommer att se ut i framtiden. Så det är den här återkopplingen som som jag tror är viktiga att titta på.

Karin Gyllenklev: Vad kommer att hända då om vi siar?

Magnus Enquist: Det är liten brasklapp är att i framtiden kan ju de här kanske väldigt intelligenta maskiner utveckla sig själva. Jag kommer att komma tillbaka lite på slutet. Så så här såg det ut naturligtvis för bara några år sedan höll jag på att säga. Eller i alla fall historiskt, att all typ av kultur så att säga. Överfördes med människor emellan. Men vad som händer där är hur vi kan få in den där AI i kultur revolutionärt tänkande. Det är att mycket av helt plötsligt en massa maskiner intelligenta maskiner i det här nätverket som både kan prata med varann och som kan. Som vi pratar med, som vi pratar med och kopplar ihop oss med andra individer och så vidare. Och det här är ju precis som jag pratade om med skotten, att det är ett. Nu har vi helt plötsligt nya sätt som information lagras och förs över och bearbetas som inte finns i den här ursprungliga modellen av kulturell revolution. Och så här såg det ut väldigt länge. Men senaste. Ska vi säga 600 000 år sedan, så har det tillkommit informationsteknologi i den mänskliga kulturen och den är inte baserad på digital teknik. Men här är exempel. Skriftspråket är ett sådant exempel. Och boktryckarkonsten och böcker. Och vi har post och brev så vi kan kommunicera med och senare också telefoner så vi kan kommunicera med andra. Så det är inte helt nytt det här att vi har informationsteknologi redan. Det här har ju påverkat oss mycket och vi har också räknesnurra och miniräknare som kan hjälpa oss att tänka till viss del.

Karin Gyllenklev: Vad var det du hade när du var liten? Du hade inte miniräknare och du hade.

Magnus Enquist: En räkne sticka.

Karin Gyllenklev: Räkne.

Karin Gyllenklev: Väldigt konstig sak förresten. Multiplicera 03:04 tal så var allt fel liksom.

Karin Gyllenklev: Det har hänt grejer.

Magnus Enquist: Det är och vi vi upplever faktiskt nästan på årsbasis hur snabbt förändringen går alltså. Så. Och den här. Mycket av den här, eller kanske det mesta. Den här är äldre. Informationsteknologin är passiv på det sättet att vi väljer om vi vill läsa en bok, vi väljer om vi vill skriva en bok och vad som står där i. Vi väljer vilka vi vill prata med. Det kanske inte alltid gäller radio och tv och så, men Och vi när vi får hjälp av en miniräknare, då går vi dit och gör någonting. Vad är nytt nu? Det är att de här, de här maskiner, de börjar bli mycket mer aktiva så att när vi frågar en maskin någonting så kanske de anpassar svaret efter någon av oss. Så olika individer får olika svar, till exempel.

Karin Gyllenklev: Vadå för maskiner eller.

Magnus Enquist: Datorer? Alltså när vi går ut på internet och så vidare.

Karin Gyllenklev: Om man googlar till exempel så får man kan man få.

Magnus Enquist: Olika svar och maskiner, ta reda på vem du är och i olika svar och så vidare.

Karin Gyllenklev: Vi sätter upp olika reklam.

Magnus Enquist: Reklam är jätte typiskt. Man kan bli jätteirriterad om man har sökt på någonting och försöker sälja det där ett år senare till en.

Karin Gyllenklev: Så det finns ett väldigt tydligt exempel här där du någon gång sökt på en omlott kjol. Ja just det.

Magnus Enquist: De ville sälja omlott kjol till mig jättelänge. De kan ju också aktivt söka upp oss. Det vet vi att det sker då vi inte ens frågar efter det. Det är det om ni kan se exempel på det. Och de kan ju också. Och det sker jättemycket idag. Att de här maskinerna, de etablerar kontakter mellan oss och andra, icke slumpmässigt. Och de kan ju lära sig om oss så att de börjar bete sig annorlunda mot oss än de gjorde tidigare. Och vi har ju också en möjlighet att de faktiskt. Det sker också att de börjar prata med varandra och försöker påverka varandra.

Karin Gyllenklev: Vilka är det då som till exempel påverkar varandra? Så är det olika företag. Det kan vara företag.

Magnus Enquist: Man kan tänka att det är massa mänskliga aktörer som är inblandade. Men de här maskinerna kan ju också faktiskt leta. Det finns ju massa sådana där man när man ska hektar ett billigt boende till exempel. Då är det ett sånt här program som går att titta på massa andra program och hämta information från det. Och det är enkla tillämpningar. Men det här kan ju bli mycket större och mer fundamentalt i framtiden. Så vad kan vi säga då om om om det är några konsekvenser som kommer av att tänka då det ena är första är det att det går inte att stoppa sånt här, att om vi inte liksom utrotar oss själva drastiskt. Men men, det är väldigt svårt att tänka sig att det går att så att säga bara säga stopp liksom. Men däremot går det ju och det har man alltid gjort även med massa andra fenomen som dyker upp i det mänskliga. Att försöka styra och reglera det hela med lagar och annat. Men det intressanta med det är att alla de här är de är en del av den kulturella evolutionen som ligger inte utanför på något sätt och något som vi inte förstår som är ganska fantastiskt. Det är ju klimat frågan. Det gäller att försöka förhindra krig och också försöka att att på något sätt undvika massa negativa konsekvenser av AI och så vidare att vi människor håller på med det. Det är för det ser vi inte att djur som vi kan bry sig om vår framtid flera generationer framåt och vi kan bry oss om. Det är inte alltid så, men vi gör det och det tycker jag är väldigt intressant. Jag tror ingen riktigt förstår det, att vi ändå gör det och det. Jätteintressant. Sen accelererar det här också, som naturligtvis är. Man ser sällan det i biologisk evolution, men under de sista fem 600 åren så har jag gått snabbare och snabbare och snabbare och där har jag också konsekvenser för för det här då Och eftersom det här är då ett skutt liksom det blir helt nya informations vägar, sätt att bearbeta information och så vidare, så vet vi från från alla studier som tidigare att det här kommer att hektar jättestora konsekvenser. Det följer av detta också. Det går det att räkna ut på annat sätt också och vi vet inte vad som kommer att hända med de här nätverken av datorer och så vidare, om de kommer att forma någon slags egna samhällen och liknande. Så det kan finnas.

Karin Gyllenklev: Egna AI samhällen?

Magnus Enquist: Men att mindre enheter bildar större enheter. Och det som är mest radikala är att de här blir något slags elektroniska agenter eller individer. Så vi får nog nya typer av livsformer.

Karin Gyllenklev: En annan slags art. Fast ja.

Magnus Enquist: Just det.

Magnus Enquist: Eller kan man tänka så?

Magnus Enquist: Någon slags elektroniska livsformer uppstår.

Karin Gyllenklev: Vi ska prata om artificiell intelligens som hot mot mänskligheten. Det är inget som bara finns i böckernas värld eller i film eller så. Förra veckan var det globalt toppmöte om AI säkerheten med Storbritannien som värd. 28 länder kom överens. Vi måste agera globalt för att minska riskerna som finns med utvecklingen inom AI. I juni i år ställde sig 350 ledande personer inom AI. Det var forskare, det var chefer för AI företag ställde sig bakom ett upprop där man sa Vi måste göra det till en global prioritet att minska risken att AI utrotar mänskligheten. Det är väldigt kraftfulla ord. De menar att det är lika viktigt som att vi försöker parera pandemier och kärnvapenkrig. Och exakt hur det här skulle gå till att AI utrotar mänskligheten, då finns det olika idéer, som att fel personer får tag på väldigt avancerad AI teknik och använder den på ett förödande sätt till att AI utvecklas bortom vår kontroll till en punkt då den anser att människor, vad ska vi med det till? De är väl inget bra, de bara sabbar och pajar och hittar på något listigt sätt att förgöra oss. Jag vet att du inte forskar på exakt just den här aspekten av AI Magnus, men vad tänker du?

Magnus Enquist: Det är de två hoten. Dels att vissa människor kommer att hektar makten över de här systemen och på så sätt kan man kan kontrollera och göra vad de vill och så med andra delar av befolkningen. Det andra är att att AI eller att det uppstår elektroniska agenter som blir någon slags egen egna individer som då möjligen skulle utrota oss. Vad som än kommer hända så kommer vi att förändras på massa olika sätt och jag vet inte om allt är bra eller dåligt liksom. Våra värderingar kanske ändras på något sätt. Jag kan inte säga i vilket hur och vi får nya sätt och kanske leva med våra medfödda behov. Vi kanske börjar gifta oss med robotar och massa saker som man kan tänka sig. Vi kommer att bli integrerade med maskiner och det kommer uppstå nya evolutionära konflikter som är ofta starka drivkrafter i evolution. Vad de kommer att vara är lite. Oklart. Och sen är frågan i lugn och ro om en idé att det kommer bara accelerera eller kommer vi komma upp på en ny platå liksom? Och så diskuteras. Jag tänkte vi skulle prata sist här just om det här med de här superheta maskinerna som tar över som är värt ett scenario som det kanske inte helt. Det är väl en möjlig tanke. Den kanske är väldigt människo centrerad. För det är lite som vi ser oss hos oss människor, att vi håller på och krigar och så vidare. Problemet här är ju vad. Vad ska de här elektroniska agenterna vara för någonting? Och en idén att vi har en massa robotar som springer omkring och utvecklas och involverar. Och det där är ju lite som vi tänker oss egentligen människor. De här robotarna ersätter oss då. En helt annan bild är ju att de här, den här de egentligen existerar i de här elektroniska nätverken...

Karin Gyllenklev: De springer inte runt i världen...

Magnus Enquist: Det är en annan idé. Och om man ska betrakta det här från en evolutionär synpunkt, då ska man fråga sig Vad kommer, Vad kommer den evolutionen oberoende av hur det exakt ser ut? Vad kommer den leda till? Vilka värderingar? Till exempel kommer de här elektroniska enheterna hektar lite svårt att tro att de skulle hektar som värderingar att utrota oss människor. Jag kommer tillbaka. Det här är en idé som är en där människan har programmerat in värderingarna hos den här idén med GM. Att om vi om de här elektroniska agenterna fick som målsättning att tillverka GM så skulle de fylla jorden med GM och överta över alla fabriker och så vidare och göra GM. Det där är inte evolutionär tänkande riktigt, för vi vill ju de här värderingarna, att de ska kunna utvecklas och de värderingar som då kommer att evolverat är de som gynnar den här spridningen av av information i de här nätverken. Det andra är ju då att det här med att det kommer att uppstå en direkt konflikt och konkurrens mellan människor och. De här agenterna och. Det är delvis inspirerat vad som har hänt med människan kontra andra djurarter på jorden, att vi håller på att ta över. Det beror varför vi gör det. Det beror ju på att det är vi konkurrerar om samma resurser, att vi vill hektar mat. Då och då tar vi mat från andra organismer på den här jorden eller områdena och odla vår egen mat och så vidare. Om man tycker det där är lite annorlunda egentligen för de här elektroniska agenterna, för de vill inte hektar morötter och kolhydrater och proteiner och de vill ha elektricitet.

Karin Gyllenklev: Annars finns det ingen konkurrens.

Magnus Enquist: Och så där skulle man tänka sig att det blir mindre konkurrens. Det finns inget egenvärde i att man ska utrota någon annan art, så det är inte säkert att vi kommer att gå åt det hållet. Det kan ju göra det naturligtvis. Och det är också så, vet vi från biologisk evolution att mycket av de evolution som sker drivs fram av konkurrens inom arten. Så det skulle. Jag tänker mig att det kommer bli mycket, mycket konflikter mellan de elektroniska agenterna och kanske mindre konflikter med därför det är möjligt scenario och det är en liten blomma där vi tycker om blommor och vackra gardiner och mattor och så vidare. Och det kanske inte kommer uppstå robotar som gillar blommor, men det är inte helt omöjligt att de också kommer att hektar en massa värderingar som vi inte ens tänker på nu. Jag vill inte skönmåla det här alls, men det är.

Karin Gyllenklev: Det är väldigt fredlig syn jämfört med alla de här varningarna. För ja, just det.

Magnus Enquist: Vi kan också få någon slags evolution, att vi har evolution bland de här elektroniska agenterna och så har vi ny kulturell evolution bland oss. Och sen har vi alla de här två systemen på och och påverkar varandra då oberoende vilken form som de här elektroniska agenterna kommer att hektar då. Det är möjligt att det delvis kommer att utvecklas. Samarbete ser man väldigt, ganska ofta faktiskt i biologisk evolution att när man har olika organismer eller har olika typer av av. Tillgång till olika typer av resurser så kan man göra ett utbyte. Svampar lever ihop med träd och såna här saker. Det betyder inte att de alltid är fredliga alls, utan det är så att det behöver inte alltid vara så positivt. Om man skulle tänka sig att det är kulturella drag kan vi sprida det via maskiner. Fast maskiner skulle också kunna sprida sprida liksom elektroniska drag till andra maskiner. Så det är mycket som kan snurra i huvudet här när man börjar tänka på det här i termer av evolution. Men det behöver inte alls bli konfliktfritt det här att vi skulle kunna delvis vi påverka och förslavad och så, det är inte helt omöjligt alls. Men min misstanke är att vi bara nu egentligen har gissat kanske tio 15 % vad som kan hända och att det finns mycket som är kommer vara överraska oss tror jag. Vad som händer med här i framtiden?

Karin Gyllenklev: Avslutningsvis vad är du själv allra mest nyfiken på nu när det kommer till AI? Har du någon sådan brännande fråga?

Magnus Enquist: Det är väl det sista egentligen. Vad? Vad? Vad kan det? Kan det uppstå ett nytt evolutionärt system av elektroniska agenter? Och har det redan börjat? Jag har en känsla av att de här som nu på Google och så vidare, som programmerar de här, de här algoritmerna som kan lära sig att de har, de gör dem ett speciellt syfte. Jag tror inte de kan förutse ens idag. Alla konsekvenser av vad de här algoritmerna för att man öppnar dem och de suger åt sig massa information så kommer det kunna ge resultat som inte de som har gjort algoritmerna egentligen tänkte sig förutsett. Så att.

Karin Gyllenklev: Magnus Enquist. Stort tack!

Speaker: Du har hört en öppen föreläsning från Stockholms universitet. Du hittar fler poddar om forskning och vetenskap på su.se/poddar.