Framtidens cyberhot: Så förändrar AI spelplanen

När världen står på tröskeln till den sjätte fasen av cyberhot, med AI i centrum för såväl attack som försvar, är det viktigt att förstå de komplexa utmaningar som väntar. Idag är det avgörande för företag och organisationer att investera i nya och mer avancerade cybersäkerhetslösningar och parallellt utbilda sina anställda om de nya hoten.

Den sjätte fasen av cyberhot

Hotlandskapet på cyberarenan är föränderligt och har varit under konstant utveckling de senaste decennierna. Magnus Järnhandske beskriver de paradigmskiften som lett till påfallande förändringar i hotlandskapet. Varje fas har medfört nya utmaningar och har därmed krävt nya skyddsmetoder. För att effektivt hantera den senaste fasen krävs nu återigen anpassning av arbetssätt och skyddsåtgärder.

– I den sjätte fasen har AI en betydande roll i hotbilden genom utveckling av nya angreppssätt och effektivisering av befintliga, säger Magnus Järnhandske.

De tidigare faserna innebar i stort en iterativ utveckling av förmågan att skapa olika former av attacker och skadlig kod. En markant förändring inträffade i skiftet till den fjärde fasen (2008–2016). Magnus lyfter att denna period präglades av kriminellas inträde på cyberdomänen och av att tekniker för massproduktion av skadlig kod snabbt fick utrymme att sprida sig i samband med lansering av Tor-webbläsaren 2008, och Bitcoin 2009. Detta öppnade upp för kriminella, även de utan tekniska kunskaper, att agera ”anonymt” på Darkweb, vilket lade grunden till det hotlanskap vi ser idag.

– Under den femte fasen, mellan 2016–2023, fokuserades det främst på att förädla och effektivisera hoten från den föregående fasen samt att utveckla ”evasion”-tekniker som försvårar för skyddsmekanismer att upptäcka angrepp, säger Magnus.

En förändrad hotbild

Enligt Magnus Järnhandske representerar introduktionen av AI i cyberhotens värld uppstarten av den sjätte fasen och en betydande förändring i hur angrepp planeras och genomförs. Med AI-baserade verktyg blir det möjligt för antagonister att effektivisera befintliga angreppsstrategier och skapa nya, mer sofistikerade hot.

– Vi ser redan nu hur AI chatbottar assisterar angripare med att skapa skadlig kod och upptäcka svagheter i försvar, vilket möjliggör snabbare och mer precisa attacker, förklarar han.

Magnus menar att ett särskilt oroväckande fenomen är utvecklingen av avancerade bedrägeriattacker. Han varnar för en ökning av e-post-, samtal- och videobedrägerier där AI används för att manipulera människor genom att skapa falska och trovärdiga identiteter. Dessa metoder förväntas bli vanligare och potentiellt mer skadliga för oförberedda organisationer.

– Åt vilket håll utvecklingen går är svårt att precisera, men högst troligt är att, i stället för en människa, ger en chattbott kommandon eller scripts till ett malware som installerats på en dator eller ett nätverk. På så sätt kan angripare öka attackers hastighet och volym, göra dem mer träffsäkra och resultera i skador på en skala vi inte tidigare sett, säger Magnus.

Etiska ramverk och dess begränsningar I debatten om AI och cybersäkerhet är ett centralt tema de etiska riktlinjerna som omger generativ AI. Magnus framhåller att riktlinjerna visserligen är utformade för att förhindra missbruk, men att det förekommit fall där personer har lyckats kringgå tillverkarens etiska ramverk och "jailbreaka" AI-verktygen.

– Alla chatbottar på sökbara internet har etiska spärrar, det är min tolkning utan att ha testat alla. Det finns många lyckade försök att ”jailbreaka” chatbottar att släppa på sina spärrar och ge sig ifrån information som den inte ska. Detta var inledningsvis relativt enkelt, men nu har utvecklarna introducerat fler spärrar. I dag är det svårare att kringgå säkerhetsåtgärderna för ChatGPT till exempel, säger han.

Magnus pekar också på förekomsten av AI-modeller utan etiska begränsningar, såsom WormGPT, som specifikt utvecklats för att dela information från dark web, vilket skapar möjligheter till missbruk.

– Det finns däremot AI-bots som skapas utan inbyggda etiska hinder. Exempelvis WormGPT, som tränas på mängder med skadlig kod och som effektivt kan dela information från Darkweb. Under sommaren 2023 uppmärksammades exempelvis WormGPT som en av de första i sitt slag, och den hann tyvärr användas mycket innan utvecklarna la in fler spärrar för att förhindra sökning på riktigt hemska saker som människor med enkelhet inte bör få information om.

Strategier för försvar

Inför de nya utmaningar som tillkommit i samband med den sjätte fasen av cyberhot och det förändrade hotlandskapet betonar Magnus Järnhandske vikten av en holistisk strategi för cybersäkerhet.

– Medvetenhet är det första steget. Det andra är att bygga in skydd, försvar och beredskap i samtliga led. Allt från processer till teknologier och inte minst bland människorna.

Han poängterar att traditionella försvarsmetoder kanske inte är tillräckliga för att hantera den nya generationens AI-drivna hot, och att det kommer bli ytterst svårt för människor att hantera attacker i maskinhastighet. På försvarssidan behövs teknik som effektivt kan hantera hotbilden, men det behövs också en medvetenhet om att vågen av AI-betingade hot fortsatt kommer vara svårhanterade då det ännu inte finns tillräckligt bra försvarsmekanismer. Magnus argumenterar för att användningen av AI och maskininlärning inom cyberförsvar inte bara är nödvändigt utan avgörande för att lyckas hålla jämna steg med angriparna.

Framtida perspektiv

Det står klart att den framväxande rollen av AI inom cybersäkerhet kräver en ny nivå av vaksamhet och innovation beträffande försvarsstrategier. Med rätt förberedelser och investeringar i AI-baserade försvar förbättras förmågan att möta den nya eran av cyberhot.

– Vi är bara i början av att förstå hur AI kommer att forma framtiden för cybersäkerhet, både från ett angrepps- och försvarsperspektiv, menar Magnus.

För företag och organisationer innebär cyberarenans alltmer sofistikerade hotbild en ihållande utmaning. De behöver kontinuerligt verka för att vara uppdaterade och redo att anpassa sina försvarsstrategier.