AI:s största flaskhals – och hur tekniken kan lösa den

Jonna Matthiesen, vinnare av Stora Ingenjörspriset i kategorin Årets Stjärnskott 2024, är en av de unga forskare som visar att framtiden för AI kan formas snabbare och mer effektivt än vi tidigare trott.

Människan som begränsning – kan AI designa bättre AI?

Många av dagens AI-modeller är fortfarande designade av experter, där mänsklig intuition spelar en avgörande roll i hur neurala nätverk byggs och optimeras. Denna process har möjliggjort många av AI:s största framsteg, men den har också sina begränsningar – den är resurskrävande och kan vara svår att skala upp. Här kommer Neural Architecture Search (NAS) in i bilden, en teknik som låter AI själv optimera och förbättra sin egen arkitektur genom automatiserade sökmetoder.

– Jag hörde en gång en tankeprovocerande kommentar: "Den största flaskhalsen i AI-utveckling är människan själv." Det fastnade hos mig, och det är just den utmaningen jag arbetar med – att minska beroendet av mänsklig justering och låta AI själv hitta den mest effektiva modellen, säger Jonna Matthiesen.

NAS kan utforska miljontals nätverksarkitekturer och anpassa dem till specifika krav, till exempel låg latens, minimal energiförbrukning eller optimerad prestanda för edge computing. Tekniken bygger på evolutionära algoritmer och reinforcement learning för att systematiskt söka efter de mest effektiva strukturerna. Samtidigt är NAS en resursintensiv process, då många modeller måste testas och tränas under sökningen. Att minska denna kostnad och göra NAS mer hårdvaruanpassad är en av de utmaningar som Jonna Matthiesen och hennes team på Embedl arbetar med.

Trots imponerande framsteg har NAS traditionellt stött på utmaningar. Sökningen efter optimala arkitekturer har krävt enorma beräkningsresurser, ibland månader eller år av GPU-tid. Jonnas banbrytande forskning har dock markant reducerat dessa barriärer, vilket gör tekniken mer tillgänglig och energieffektiv.

En av de mest framstående framgångarna inom NAS är utvecklingen av autonoma arkitekturer som kan konkurrera med eller överträffa manuellt designade nätverk, vilket demonstrerats i framtagningen av modeller som EfficientNet och MobileNet.

Att komprimera AI – hur gör vi modellerna mer effektiva?

En av de största utmaningarna med moderna AI-system är att de är extremt resurskrävande, särskilt under inferensfasen – det vill säga när modellen används för att göra beräkningar i realtid. Många avancerade neurala nätverk är utvecklade för att köras i kraftfulla datacenter, men för att AI ska kunna fungera på mindre, strömsnåla enheter krävs nya optimeringsmetoder.

Jonna Matthiesen arbetar med att lösa detta genom hårdvaruanpassad modellkomprimering och optimering, där AI-modeller skräddarsys för att fungera effektivt på specifik hårdvara. På Embedl fokuserar hon på att utveckla och implementera optimeringsalgoritmer, vilket har resulterat i prestandaförbättringar i AI-system inom flera industrier, särskilt inom realtidsbeslut för autonoma fordon och förarassistanssystem.

– Många av de AI-modeller vi ser idag är designade för enorma datacenter, men framtidens AI måste kunna fungera på allt från mobiltelefoner till självkörande bilar. Vi arbetar med tekniker som pruning och kvantisering för att skala ner modellerna utan att offra prestanda, förklarar hon.

Pruning innebär att onödiga neuroner och viktningar tas bort från modellen, vilket reducerar beräkningskraven. Kvantisering handlar om att sänka precisionen i numeriska beräkningar, vilket möjliggör snabbare inferens och minskad energiförbrukning utan betydande prestandaförluster. Dessa tekniker är särskilt viktiga för edge computing, där varje millisekund och watt räknas. Vidare utvecklas hardware-aware NAS, där optimeringsprocessen tar hänsyn till specifika hårdvarubegränsningar, vilket ytterligare förbättrar AI-modellernas effektivitet.

AI behöver fler unga ledare – och snabbare innovation

Trots AI:s snabba utveckling är branschen fortfarande mansdominerad och styrs ofta av seniora experter. Jonna Matthiesen är en av de unga forskare som på kort tid tagit en ledande roll i ett av teknikvärldens mest avancerade fält. Hon betonar vikten av att ge unga forskare ansvar tidigt och skapa en kultur där psykologisk trygghet och mentorskap gör att fler vågar ta steget in i AI-industrin.

– Jag har haft turen att få stort ansvar tidigt i min karriär, och det har varit avgörande för min utveckling. Om vi vill att AI ska utvecklas snabbare måste vi också våga släppa fram nästa generation av ingenjörer och forskare, säger hon.

För att AI ska nå sin fulla potential krävs inte bara tekniska framsteg, utan också en förändring i hur vi ser på ledarskap inom branschen. Fler unga röster måste få utrymme, och fler initiativ måste tas för att skapa en inkluderande och dynamisk AI-utveckling.

Framtidens AI – mot en ny era av automatiserad innovation

Jonna Matthiesens forskning handlar om att förbättra AI:s effektivitet och tillgänglighet genom automatiserad modellutveckling och optimering. NAS och modellkomprimering är viktiga verktyg som möjliggör snabbare och mer resurssnål AI, vilket gör tekniken tillgänglig för fler applikationer än någonsin tidigare.

– Det jag ser framför mig är en AI-utveckling där vi inte längre behöver manuellt finjustera varje modell. Istället låter vi AI själv anpassa sig till de behov och begränsningar vi sätter upp. Det öppnar helt nya möjligheter för innovation, avslutar hon.

Med nästa generations tekniker som NAS och hårdvaruanpassad optimering kan AI bli mer autonom i sin utveckling, från design till implementering. Men utmaningarna kvarstår – att optimera träningsprocesser, hantera energiförbrukning och säkerställa robusthet i autonoma AI-system kommer att vara avgörande för teknikens framtid. Det handlar inte bara om att skapa smartare AI, utan om att bygga hållbara system som kan stödja samhällets tekniska framsteg på lång sikt.

Känner du någon som också är en framtida stjärna inom ingenjörskonsten? Nu är nomineringen öppen till Årets Stjärnskott – priset som lyfter unga ingenjörer med idéer och driv att förändra. Nominera här