Under det senaste året har diskussioner om AI-stödd cyberbrottslighet skiftat från spekulationer om potentiella effekter till observationer av verkliga händelser. Fientligt sinnade aktörer fortsätter att hitta sätt att utnyttja AI till sin fördel, vilket resulterar i en snabbare utveckling och fler hot vilket håller cybersäkerhetsbranschen på tårna.
Genom att utnyttja AI kan cyberkriminella skapa stora mängder nätfiskemejl med kontextmedveten personlig anpassning, skapa övertygande falska röster eller videor för att driva attacker med social ingenjörskonst samt effektivisera rekognosering. Även om allt detta representerar verkliga hotvektorer, är en av de viktigaste observationerna att AI-teknik sänker tröskeln för både nybörjare och erfarna hotaktörer.
Nedan följer fem trender kring AI-stödd cyberbrottslighet att hålla ögonen på.
- Ökningen av deepfakes och social ingenjörskonst: Deepfake-teknik var en gång utom räckhåll för oerfarna cyberkriminella men är nu mer tillgänglig. Till exempel kan skadliga aktörer klona röster med YouTube-filmer. I takt med att AI-drivna redigeringsverktyg blir allmänt tillgängliga kommer vi att se volymen av identitetsstölder öka. Dessutom förväntar vi oss att cyberkriminella kommer att erbjuda "deepfake-generering på begäran", vilket gör röst- och videoimitation till en tjänstemodell, precis som vi har sett gisslanprogram-som-en-tjänst utvecklas.
- Hyperriktat nätfiske: Nätfiske blir alltmer anpassat, personligt och övertygande. Genom att använda AI för att kartlägga potentiella mål kommer hotaktörer att kunna skapa kontextrika och kulturellt relevanta nätfiske-meddelanden som är anpassade till lokala språk och, i vissa fall, refererar till exempelvis regionspecifika helgdagar och evenemang. Som ett resultat framstår dessa meddelanden ofta som legitima och kan lura även den mest medvetna mottagaren.
- AI-agenter för skadlig kod och kartläggning av mål: Användningen av AI-agenter bland cyberkriminella kommer att utvecklas snabbt. Till exempel kan en grupp kriminella hantera flera AI-agenter, som alla fokuserar på att utföra en del av cyberattackens livscykel, och som gör det snabbare än någon människa. I framtiden förväntar vi oss att cyberkriminella använder AI-agenter för en mängd olika aktiviteter, såsom att distribuera AI-agenter i botnätverk som aktivt letar efter och upptäcker säkerhetsluckor.
- AI-drivna identiteter för att förstärka insiderhot: Ett scenario är där angripare kan skapa och använda AI-drivna identiteter för att söka distansjobb hos teknikföretag och klara standardbakgrundskontroller med fabricerade anställningshistorier. I takt med att cyberkriminella utforskar denna användning av AI kommer organisationer att behöva ompröva och uppdatera granskningsprocessen i samband med anställning.
- Automatiserad sårbarhetsskanning och utnyttjande: Medan cyberkriminella i dag främst använder AI för kartläggning av potentiella mål och för att hjälpa till med initialt intrång, förväntar vi oss att skadliga aktörer snart kommer att utnyttja AI för att upptäcka och utnyttja sårbarheter. På kort tid kan AI-drivna verktyg skanna stora mängder kod, identifiera nolldagars- och N-dagars sårbarheter och sedan automatiskt utnyttja dem.
- Källa: Fortinet