Replik: ”Lagstiftning om ai är vägen framåt – inte öppen källkod”

Intelligens är den egenskap med vilken människan, framför andra djurarter, tagit kommandot över vår planet. Kanske är intelligensen rentav den mest potenta kraft universum skådat, men oavsett hur det står till med det bör vi inse att vi befinner oss i ett avgörande skede i mänsklighetens historia då vi nu är i färd med att automatisera och delegera denna unika resurs till maskiner.

Om vi lyckas med det som kommit att kallas ai alignment – att tämja de första riktigt intelligenta maskinerna att gå våra ärenden – så kan resultatet bli i princip hur bra som helst. Om vi däremot misslyckas med det ställer vi oss i skuggan av varelser som är intelligentare än vi själva, varvid konsekvenserna kan bli så katastrofala att de eventuellt inkluderar utrotningen av Homo sapiens. 

I takt med den rasande snabba utvecklingen inom AI de senaste åren har denna insikt börjat bli alltmer mainstream bland ai-forskare. I ett upprop i maj förra året som manade till globala krafttag för att ”hantera risken för utrotning genom ai” toppades undertecknarlistan av Geoffrey Hinton och Yoshua Bengio – två av de tre ai-forskare som tilldelades 2018 års Turingpris (datalogins motsvarighet till Nobelpriset) för att ha initierat den så kallade deep learning-revolution som i dag driver ai-utvecklingen.

De tycks inte ha uppfattat att jag förordar ett tredje alternativ: att med lagstiftning och andra medel ta de ledande teknikbolagen i örat och hejda den ryska roulette de spelar med mänsklighetens överlevnad som insats.

Vi som sysslar med framtidsfrågor kring ai trodde länge att det avgörande ai-genombrottet låg åtminstone årtionden bort, men har från cirka 2022 och framåt alltmer börjat inse att det mycket väl kan handla om några få år snarare än årtionden. En vanlig benchmark är hypotesen att avgörandet kommer i anslutning till den tidpunkt då ai nått mänsklig nivå i termer av allmänintelligens. 

De flesta bedömare anser att den tidpunkten ännu ligger framför oss, men faktum är att en jämförelse mellan människan och de bästa ai-modellerna börjar bli allt knivigare: jag är visserligen alltjämt smartare än Open AI:s flaggskepp GPT-4 på vissa områden, men GPT-4 överträffar mig på andra, och vilken av oss som har störst allmänintelligens beror därför på vilka områden vi väljer att ge störst vikt åt.

Utvecklingen ser inte ut att stanna med GPT-4. Mellan Open AI och deras konkurrenter (främst Google/Deepmind och Anthropic) pågår en rasande kapplöpning, där risken är stor att de tävlande inte tycker sig ha tid med det avgörande ai alignment-arbetet. Vi är därför många som det senaste året höjt röster för att dra i nödbromsen för denna kapplöpning.

Samtidigt finns debattörer som vägrar se denna problematik, och som hävdar att den eventuella risken för ai-katastrof är ren spekulation och inte något att bry sig om. I en replik till mig i Ny Teknik den 8 januari är Johan Magnusson och Claire Ingram Bogusz inne på denna linje. Sakliga argument för att risken skulle vara försumbar letar man dock förgäves efter i deras text. I stället går de till attack mot mig med ogrundade påståenden om att jag gör mig skyldig till ”självsuggestionsalarmism” och ”rädsla för det okända helt utan stöd i fakta”.

Här skulle man önska att det tog del av min faktaspäckade bok i detta ämne, Tänkande maskiner, som utkom i ny utökad upplaga i november, men det verkar de inte ha gjort. I stället fyller de på med ytterligare tillmälen, som att hävda att min argumentation bygger på antaganden som ”i mångt och mycket [är] tagna rakt från science fiction”. När de till slut anklagar mig för att ”ödsla tid och resurser på att utreda frågor som [är att] likställa med hur många änglar som kan få plats att dansa på ett knappnålshuvud” gör de det med sådan iver att de i hastigheten råkar utnämna Thomas av Aquino (1225-1274) till 1600-talsteolog.

Just science fiction-retoriken tycker jag är hög tid att kasta på sophögen. Någon som 1920 hade fått besked om 1960-talets Apollo-program och månlandningen hade garanterat utropat ”science fiction!”, och detsamma hade gällt den som 1980 fått höra om våra liv i dag med internet och smarttelefoner, liksom för övrigt den som 2017 hade fått chansen att samtala med GPT-4. Science fiction, science fiction! Men allt detta har besannats, så vi lever redan i en science fiction-värld.

Kanske allra underligast blir Magnussons och Ingram Bogusz text när de tillskriver mig ståndpunkten ”allt är tillräckligt bra som det är nu” och att Open AI och deras främsta konkurrenter gott kan få fortsätta sin inbördes vansinneskapplöpning ostört. 

Deras förslag är i stället en öppen källkods-praxis som öppnar upp för konkurrens från andra aktörer. De tycks inte ha uppfattat att jag förordar ett tredje alternativ: att med lagstiftning och andra medel ta de ledande teknikbolagen i örat och hejda den ryska roulette de spelar med mänsklighetens överlevnad som insats.

Olle Häggström, professor i matematisk statistik, Chalmers

Läs tidigare inlägg i debatten

Replik: ”Vi kan inte låta ai-jättar styra utvecklingen – öppenhet är det bästa”

Replik: ”Öppen källkod för ai-modeller är en samhällsrisk”

Forskare: ”Offentlig sektor behöver it och ai med öppen källkod”