Replik: ”Vi kan inte låta ai-jättar styra utvecklingen – öppenhet är det bästa”

Professor Olle Häggström lyfter på ett föredömligt sätt de potentiella samhällsfarorna associerade med ai i sin replik på vår debattartikel om behovet av öppen källkod inom ai-teknik. Olle Häggström upprepar en diskurs vi möter om och om igen, helt i linje med den populärkulturella tradition kring ai som varit tongivande under lång, lång tid. Om det är en sak som människan är rädd för är det att tappa kontrollen. Det främmande är ohemult skrämmande.

Det enda problemet med den typ av dystopisk ingång till ai som Häggström uppvisar är att vi helt enkelt inte vet. De vetenskapliga bevisen saknas, och det vi har kvar att luta oss på är antaganden i mångt och mycket tagna rakt från science fiction. Vårt argument här är att rädsla för det okända helt utan stöd i fakta utgör en bristfällig grund för handlande.

Det finns dock mycket annat som vi faktiskt vet, och som kan vara en värdefull grund för att driva policy. Vi vet till exempel hur tekniker (som ai) bäst utvecklas och hur man bäst säkerställer att de kommer till fördelaktig användning för att skapa samhällelig nytta. Därav vårt ursprungliga inlägg, där vi lyfter in öppenhet som standard. Detta är vad som bevisligen ger bäst effekt.

När det kommer till faktisk implementering av ai (och teknik mer allmänt) pekar forskning på (minst) tre mönster: förstärkning av mänskliga förmågor (augmentation), automatisering av arbetet och omställning av arbetet för att göra det mer effektivt eller bättre kunna möta tuffa utmaningar. Och samhället står inför enorma utmaningar som till exempel kompetensbrist och klimatkris, båda associerade med betydande lidande och samhällets nedmontering. 

Offentlig sektor kan inte sitta och vänta på att ett fåtal leverantörer skall portionera ut gracerna i lagom takt för att inte utmana sina egna etablerade intäktsströmmar.

Till skillnad från Häggström ser vi lösningar på dessa problem inte bara som grädden på moset, utan som absolut kritiska. Ur vårt perspektiv är inte självsuggesionsalarmism kring (eventuella) nedsidor med ai ett gott nog argument för att vänta med omställningen.

Motreaktionen till öppenhet inom ai har utformats som ett sätt att hålla ai "under kontroll", med tanke på de samhälleliga hot som många, inklusive Häggström, anar. 

Även Big Tech har efterlyst regler om ai. Men här föreligger en relativt enkel förklaring: ai har potential att göra mycket av Big Techs intellektuella tillgångar, deras tidigare investeringar och etablerade marknadsposition obsoleta. Det är enorma värden som nu kommer att gå upp i rök för dessa bolag och dess aktieägare. Värdet kommer att flytta mot nya aktörer, de som inte har lika mycket att förlora och som rör sig i en takt närmare teknikens.

Om man antar att allt är tillräckligt bra som det är nu, att det inte är någon ”ko på isen” och att teknik kan få fortsätta kontrolleras av ett fåtal med god takt och ton så är det logiskt att ödsla tid och resurser på att utreda frågor som teologen Thomas av Aquino på 1600-talet skulle likställa med ”hur många änglar som kan få plats att dansa på ett knappnålshuvud”. Man vet helt enkelt inte, och det kanske kan resultera i värdefull kunskap vid ett senare tillfälle om vi undersöker detta.

Men om man i stället antar att vi kan bättre, så har offentliga aktörer större incitament än många andra att möta de utmaningar vi nu står mitt i. Dessutom kan offentlig sektor inte sitta och vänta på att ett fåtal leverantörer skall portionera ut gracerna i lagom takt för att inte utmana sina egna etablerade intäktsströmmar. Detta vore direkt kontraproduktivt för att kunna möta samhälleliga utmaningar, och riskerar ignorera den kunskap vi redan har kring ai:s enorma och faktiska nytta.

Johan Magnusson, professor i Informatik, föreståndare SCDI, Göteborgs universitet 

Claire Ingram Bogusz, docent i Informatik, Uppsala universitet samt associerad forskare på Handelshögskolan i Stockholm 

Mer att läsa om ai och öppen källkod

Replik: ”Öppen källkod för ai-modeller är en samhällsrisk”

Forskare: ”Offentlig sektor behöver it och ai med öppen källkod”

Metas satsning på öppen AI delar forskarvärlden

Hemlighetsfulla Metas vilda chansning på AI: öppenhet